【ニュース】 ◆生成ＡＩ悪用し身代金要求型ウイルス作成…警視庁が２５歳の男を容疑で逮捕 (読売新聞, 2024/05/28 05:00) https://www.yomiuri.co.jp/national/20240528-OYT1T50015/ 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成罪 (ま…

【ニュース】 ◆複数の生成AI悪用しウイルス作成 容疑の25歳無職男を逮捕、被害は確認されず (ITmedia, 2024/05/28 10:11) https://www.itmedia.co.jp/news/articles/2405/28/news092.html 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成…

【図表】 出典: https://www.nikkei.com/article/DGXZQOUE2815P0Y4A520C2000000/ 【ニュース】 ◆生成AIでウイルス作成の容疑者「楽に金稼ごうと思った」 (日経新聞, 2024/05/28 17:59) https://www.nikkei.com/article/DGXZQOUE2815P0Y4A520C2000000/ 【関連…

【ニュース】 ◆生成AIを悪用しコンピューターウイルス作成か 25歳容疑者逮捕 (NHK, 2024/05/28 14:52) https://www3.nhk.or.jp/news/html/20240528/k10014463011000.html 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成罪 (まとめ) http…

【ニュース】 ◆信頼できないAIモデルを実行するとそのAIを通してシステムに侵入される可能性があることをセキュリティ企業が警告 (Gigazine, 2024/04/08 13:00) https://gigazine.net/news/20240408-wiz-hugging-face-improve-ai-security/

【ニュース】 ◆生成AI搭載アプリを狙うマルウェア「Morris II」 Gemini ProやGPT-4搭載アプリを介して個人情報窃取に成功 (ITmedia, 2024/04/05 08:00) https://www.itmedia.co.jp/news/articles/2404/05/news049.html 【関連まとめ記事】◆全体まとめ ◆マル…

【ニュース】 ◆生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも (ITmedia, 2024/03/22 08:00) https://www.itmedia.co.jp/news/articles/2403/22/news069.html

【ニュース】 ◆他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表 (ITmedia, 2024/03/21 08:00) https://www.itmedia.co.jp/news/articles/2403/21/news054.html 【関連まとめ記事】◆全体まとめ ◆盗聴 / スパイ / 情…

【ニュース】 ◆“AIワーム”ついに登場──ChatGPTとGeminiの複数のセキュリティを突破する (Wired, 2024/03/11) https://wired.jp/article/here-come-the-ai-worms/ 【関連まとめ記事】◆全体まとめ ◆マルウェア / Malware (まとめ) ◆ワーム (まとめ) ◆Morris II…

【訳】Hugging Faceの悪意あるAIモデルがユーザーのマシンをバックドアする 【図表】出典: https://www.bleepingcomputer.com/news/security/malicious-ai-models-on-hugging-face-backdoor-users-machines/ 【ニュース】 ◆Malicious AI models on Hugging F…

【ニュース】 ◆Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開 (ITmedia, 2024/02/27 07:30) https://www.itmedia.co.jp/enterprise/articles/2402/27/news077.html

【ニュース】 ◆LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較 (ITmedia, 2024/02/21 11:30) 最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバラ…

【訳】ロシア、中国、北朝鮮、イランがGPTを「悪質なサイバー活動」に利用したとOpenAIが発表 【要約】 中国、ロシア、イラン、北朝鮮がOpenAIのAIチャットボットを悪質なサイバー活動に利用したことが発表された。これに対し、OpenAIは複数の国家に関連する…

【訳】OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック 【ニュース】 ◆OpenAI blocks state-sponsored hackers from using ChatGPT (BleepingComputer, 2024/02/15 10:56) [OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック]…

【ニュース】 ◆生成AIの偽音声にだまされる サイバー詐欺最悪の脅威 (日経新聞, 2024/01/04 05:00) https://www.nikkei.com/article/DGXZQOUC145VS0U3A211C2000000/ 【関連まとめ記事】◆全体まとめ ◆詐欺 / 情報操作 (まとめ) ◆ ディープフェイク (まとめ) h…

【訳】AIアルゴリズムが無人軍用車両のMitM攻撃を検知 【図表】出典: https://www.bleepingcomputer.com/news/security/ai-algorithm-detects-mitm-attacks-on-unmanned-military-vehicles/ 【ニュース】 ◆AI algorithm detects MitM attacks on unmanned mi…

【ニュース】 ◆生成AIでサイバー攻撃が「より迅速で高精度な攻撃」に進化 バラクーダがランサムウェアの攻撃パターンを調査 (@IT, 2023/09/05 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2309/05/news041.html 【関連情報】 ◆生成AIでサイバー攻撃…

tt-ai.hatenablog.com 【辞書】 ◆FraudGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/fraudgpt 【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) …

【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) https://news.mynavi.jp/techplus/article/20230727-2735373/ 【関連情報】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 202…

【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47) https://www.security-next.com/133265 【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47) https://www.securi…

【ニュース】 ◆サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け (Internet Watch, 2023/07/18 13:48) https://internet.watch.impress.co.jp/docs/yajiuma/1517000.html 【関連情報】 ◆サイバー犯罪に特化した悪意ある生…

【ニュース】 ◆サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を (マイナビニュース, 2023/07/17 12:52) https://news.mynavi.jp/techplus/article/20230717-2728686/ 【関連情報】 ◆サイバー犯罪に特化したセーフティ機能がない生…

tt-ai.hatenablog.com 【AI / 人工知能】 ◆ChatGPT (まとめ) https://malware-log.hatenablog.com/entry/ChatGPT ◆AI活用サイバー攻撃 (まとめ) https://malware-log.hatenablog.com/entry/AI-enabled_cyber_attacks 【ニュース】■2017年 ◆AI（人工知能）を…

【ニュース】 ◆増殖する「ChatGPTもどき」にご用心 チェック・ポイントが注意喚起 (@IT, 2023/05/16 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2305/16/news046.html 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) https://malware-log…

【ニュース】 ◆ChatGPT悪用より活用 ウイルス対策ソフトしのぐ実力 (日経新聞, 2023/05/16 05:00) https://www.nikkei.com/article/DGXZQOUC0877T0Y3A500C2000000/ 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) https://malware-log.hatenablog.c…

【ニュース】 ◆「ChatGPT」便乗のサイバー犯罪の急増を確認--パロアルトネットワークス (ZDNet, 2023/04/21 16:51) https://japan.zdnet.com/article/35202942/

【ニュース】 ◆大半のパスワードを1分以内にクラッキングできるAI「PassGAN」が登場、どんなパスワードであればPassGANでも解析不可能なのか？ (Gigazine, 2023/04/12 10:53) https://gigazine.net/news/20230412-ai-can-crack-in-1-minuites/ ⇒ https://mal…

【ニュース】 ◆大半のパスワードを1分以内にクラッキングできるAI「PassGAN」が登場、どんなパスワードであればPassGANでも解析不可能なのか？ (Gigazine, 2023/04/12 10:53) https://gigazine.net/news/20230412-ai-can-crack-in-1-minuites/ 【関連まとめ…

【ニュース】 ◆よくあるパスワード、約半数がAIツールで1分以内に解読可能 (ZDNet, 2023/04/11 10:57) https://japan.zdnet.com/article/35202432/ 【関連まとめ記事】◆全体まとめ ◆攻撃手法 (まとめ) ◆パスワード解読 (まとめ) https://malware-log.hatenab…

【ニュース】 ◆対話型AI、サイバー攻撃に悪用の恐れ 米政府が警鐘 (日経新聞, 2023/02/17 18:00) https://www.nikkei.com/article/DGXZQOUC075420X00C23A2000000/ 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) ◆AI活用サイバー攻撃 (まとめ) http…