TT Malware Log

マルウェア / サイバー攻撃 / 解析技術 に関する「個人」の調査・研究・参照ログ

技術: 人工知能 / AI

生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも

【ニュース】 ◆生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも (ITmedia, 2024/03/22 08:00) https://www.itmedia.co.jp/news/articles/2403/22/news069.html

他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50%以上 イスラエルの研究者らが発表

【ニュース】 ◆他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50%以上 イスラエルの研究者らが発表 (ITmedia, 2024/03/21 08:00) https://www.itmedia.co.jp/news/articles/2403/21/news054.html 【関連まとめ記事】◆全体まとめ ◆攻撃手法 (まとめ) ◆…

“AIワーム”ついに登場──ChatGPTとGeminiの複数のセキュリティを突破する

【ニュース】 ◆“AIワーム”ついに登場──ChatGPTとGeminiの複数のセキュリティを突破する (Wired, 2024/03/11) https://wired.jp/article/here-come-the-ai-worms/

Malicious AI models on Hugging Face backdoor users’ machines

【訳】Hugging Faceの悪意あるAIモデルがユーザーのマシンをバックドアする 【図表】出典: https://www.bleepingcomputer.com/news/security/malicious-ai-models-on-hugging-face-backdoor-users-machines/ 【ニュース】 ◆Malicious AI models on Hugging F…

Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開

【ニュース】 ◆Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開 (ITmedia, 2024/02/27 07:30) https://www.itmedia.co.jp/enterprise/articles/2402/27/news077.html

LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較

【ニュース】 ◆LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較 (ITmedia, 2024/02/21 11:30) 最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバラ…

OpenAI blocks state-sponsored hackers from using ChatGPT

【訳】OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック 【ニュース】 ◆OpenAI blocks state-sponsored hackers from using ChatGPT (BleepingComputer, 2024/02/15 10:56) [OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック]…

生成AIの偽音声にだまされる サイバー詐欺最悪の脅威

【ニュース】 ◆生成AIの偽音声にだまされる サイバー詐欺最悪の脅威 (日経新聞, 2024/01/04 05:00) https://www.nikkei.com/article/DGXZQOUC145VS0U3A211C2000000/ 【関連まとめ記事】◆全体まとめ ◆詐欺 / 情報操作 (まとめ) ◆ ディープフェイク (まとめ) h…

AI algorithm detects MitM attacks on unmanned military vehicle

【訳】AIアルゴリズムが無人軍用車両のMitM攻撃を検知 【図表】出典: https://www.bleepingcomputer.com/news/security/ai-algorithm-detects-mitm-attacks-on-unmanned-military-vehicles/ 【ニュース】 ◆AI algorithm detects MitM attacks on unmanned mi…

生成AIでサイバー攻撃が「より迅速で高精度な攻撃」に進化 バラクーダがランサムウェアの攻撃パターンを調査

【ニュース】 ◆生成AIでサイバー攻撃が「より迅速で高精度な攻撃」に進化 バラクーダがランサムウェアの攻撃パターンを調査 (@IT, 2023/09/05 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2309/05/news041.html 【関連情報】 ◆生成AIでサイバー攻撃…

FraudGPT (まとめ)

tt-ai.hatenablog.com 【辞書】 ◆FraudGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/fraudgpt 【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) …

サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場

【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) https://news.mynavi.jp/techplus/article/20230727-2735373/ 【関連情報】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 202…

サイバー犯罪者向けの生成型AIツール「WormGPT」とは?

【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは? (ZDNet, 2023/07/20 12:47) https://www.security-next.com/133265 【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは? (ZDNet, 2023/07/20 12:47) https://www.securi…

サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け

【ニュース】 ◆サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け (Internet Watch, 2023/07/18 13:48) https://internet.watch.impress.co.jp/docs/yajiuma/1517000.html 【関連情報】 ◆サイバー犯罪に特化した悪意ある生…

サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を

【ニュース】 ◆サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を (マイナビニュース, 2023/07/17 12:52) https://news.mynavi.jp/techplus/article/20230717-2728686/ 【関連情報】 ◆サイバー犯罪に特化したセーフティ機能がない生…

AI / 人工知能 (まとめ)

tt-ai.hatenablog.com 【AI / 人工知能】 ◆ChatGPT (まとめ) https://malware-log.hatenablog.com/entry/ChatGPT ◆AI活用サイバー攻撃 (まとめ) https://malware-log.hatenablog.com/entry/AI-enabled_cyber_attacks 【ニュース】■2017年 ◆AI(人工知能)を…

増殖する「ChatGPTもどき」にご用心 チェック・ポイントが注意喚起

【ニュース】 ◆増殖する「ChatGPTもどき」にご用心 チェック・ポイントが注意喚起 (@IT, 2023/05/16 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2305/16/news046.html 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) https://malware-log…

ChatGPT悪用より活用 ウイルス対策ソフトしのぐ実力

【ニュース】 ◆ChatGPT悪用より活用 ウイルス対策ソフトしのぐ実力 (日経新聞, 2023/05/16 05:00) https://www.nikkei.com/article/DGXZQOUC0877T0Y3A500C2000000/ 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) https://malware-log.hatenablog.c…

「ChatGPT」便乗のサイバー犯罪の急増を確認--パロアルトネットワークス

【ニュース】 ◆「ChatGPT」便乗のサイバー犯罪の急増を確認--パロアルトネットワークス (ZDNet, 2023/04/21 16:51) https://japan.zdnet.com/article/35202942/

大半のパスワードを1分以内にクラッキングできるAI「PassGAN」が登場、どんなパスワードであればPassGANでも解析不可能なのか?

【ニュース】 ◆大半のパスワードを1分以内にクラッキングできるAI「PassGAN」が登場、どんなパスワードであればPassGANでも解析不可能なのか? (Gigazine, 2023/04/12 10:53) https://gigazine.net/news/20230412-ai-can-crack-in-1-minuites/ 【関連まとめ…

よくあるパスワード、約半数がAIツールで1分以内に解読可能

【ニュース】 ◆よくあるパスワード、約半数がAIツールで1分以内に解読可能 (ZDNet, 2023/04/11 10:57) https://japan.zdnet.com/article/35202432/ 【関連まとめ記事】◆全体まとめ ◆攻撃手法 (まとめ) ◆パスワード解読 (まとめ) https://malware-log.hatenab…

対話型AI、サイバー攻撃に悪用の恐れ 米政府が警鐘

【ニュース】 ◆対話型AI、サイバー攻撃に悪用の恐れ 米政府が警鐘 (日経新聞, 2023/02/17 18:00) https://www.nikkei.com/article/DGXZQOUC075420X00C23A2000000/ 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) ◆AI活用サイバー攻撃 (まとめ) http…

「ChatGPTを使ってマルウェアを作成するサービス」をハッカーが販売中

【ニュース】 ◆「ChatGPTを使ってマルウェアを作成するサービス」をハッカーが販売中 (Gigazine, 2023/02/09 12:00) https://gigazine.net/news/20230209-hackers-selling-chatgpt-generate-malware-service/ 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 …

ChatGPTでマルウェアを書きまくる?「ダークウェブではすでに人気」の衝撃

【ニュース】 ◆ChatGPTでマルウェアを書きまくる?「ダークウェブではすでに人気」の衝撃 (ビジネス+IT, 2023/02/09) https://www.sbbit.jp/article/cont1/106475 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) ◆ChatGPT (まとめ) https://malware…

ChatGPT (まとめ)

tt-ai.hatenablog.com 【辞書】 ◆ChatGPT (まとめ) https://ja.wikipedia.org/wiki/ChatGPT 【ニュース】 ◆「ChatGPT」、マルウェア作成に悪用される--Check Point調査 (ZDNet, 2023/01/10 11:13) https://japan.zdnet.com/article/35198366/ ⇒ https://malw…

サイバー犯罪者が早速、ChatGPTを悪用 3つの事例を紹介

【ニュース】 ◆サイバー犯罪者が早速、ChatGPTを悪用 3つの事例を紹介 (ITmedia, 2023/01/19 14:17) https://www.itmedia.co.jp/enterprise/articles/2301/19/news127.html 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) ◆ChatGPT (まとめ) https:…

OPWNAI : CYBERCRIMINALS STARTING TO USE CHATGPT

【訳】opwnai : チャットグプトを使い始めたサイバー犯罪者たち 【図表】 出典: https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/ 【ブログ】 ◆OPWNAI : CYBERCRIMINALS STARTING TO USE CHATGPT (Checkpoint, 2023/01…

「Box」がマルウェア対策を強化 - 機械学習ベースの検知に対応

【ニュース】 ◆「Box」がマルウェア対策を強化 - 機械学習ベースの検知に対応 (Security NEXT, 2021/10/27) https://www.security-next.com/131079

米軍セキュリティー専門家「AIの戦いで中国に負けた…今後15-20年は勝てない」

【ニュース】 ◆米軍セキュリティー専門家「AIの戦いで中国に負けた…今後15-20年は勝てない」 (朝鮮日報, 2021/10/12 10:31) http://www.chosunonline.com/site/data/html_dir/2021/10/12/2021101280053.html

「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象

【ニュース】 ◆「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象 (Gigazine, 2021/10/07 13:00) https://gigazine.net/news/20211007-parliament-ban-facial-recognition/ 【関連まとめ記事】◆全体まとめ ◆防御技術 (まとめ) ◆顔認証 …