技術: 人工知能 / AI
【ニュース】 ◆LLMを脱獄して生成AIをだます新たなサイバー攻撃の手法、発見 (マイナビニュース, 2024/10/25 09:22) https://news.mynavi.jp/techplus/article/20241025-3051207/
【訳】OpenAI、脅威行為者がChatGPTを使用してマルウェアを作成していることを確認 【図表】 OpenAIの従業員に送られたフィッシングメール (Proofpoint) 出典: https://www.bleepingcomputer.com/news/security/openai-confirms-threat-actors-use-chatgpt-t…
【図表】 出典: https://www.itmedia.co.jp/news/articles/2410/07/news083.html 【ニュース】 ◆生成AIをサイバー攻撃に悪用 ラップで規制避け危険情報入手 自律化も「時間の問題」 (ITmedia, 2024/10/07 10:46) https://www.itmedia.co.jp/news/articles/24…
【訳】ハッカーがAIが作成したマルウェアを標的型攻撃で展開 【図表】 出典: https://www.bleepingcomputer.com/news/security/hackers-deploy-ai-written-malware-in-targeted-attacks/ 【要約】 【ニュース】 ◆Hackers deploy AI-written malware in targe…
【ニュース】 ◆イランのグループによるChatGPTの悪用をOpenAIがシャットアウト (Investing.com, 2024/08/17 05:31) https://jp.investing.com/news/stock-market-news/article-93CH-841787
【ニュース】 ◆生成ＡＩ悪用し身代金要求型ウイルス作成…警視庁が２５歳の男を容疑で逮捕 (読売新聞, 2024/05/28 05:00) https://www.yomiuri.co.jp/national/20240528-OYT1T50015/ 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成罪 (ま…
【ニュース】 ◆複数の生成AI悪用しウイルス作成 容疑の25歳無職男を逮捕、被害は確認されず (ITmedia, 2024/05/28 10:11) https://www.itmedia.co.jp/news/articles/2405/28/news092.html 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成…
【図表】 出典: https://www.nikkei.com/article/DGXZQOUE2815P0Y4A520C2000000/ 【ニュース】 ◆生成AIでウイルス作成の容疑者「楽に金稼ごうと思った」 (日経新聞, 2024/05/28 17:59) https://www.nikkei.com/article/DGXZQOUE2815P0Y4A520C2000000/ 【関連…
【ニュース】 ◆生成AIを悪用しコンピューターウイルス作成か 25歳容疑者逮捕 (NHK, 2024/05/28 14:52) https://www3.nhk.or.jp/news/html/20240528/k10014463011000.html 【関連まとめ記事】◆全体まとめ ◆法律・制度 (まとめ) ◆ウイルス作成罪 (まとめ) http…
【ニュース】 ◆DarkGPT – ChatGPT-4を活用した、流出データベース検出のためのOSINTツール (Codebook, 2024/04/15) https://codebook.machinarecord.com/analysts-choice/32506/ 【関連情報】 ◆DarkGPT – ChatGPT-4を活用した、流出データベース検出のための…
【ニュース】 ◆信頼できないAIモデルを実行するとそのAIを通してシステムに侵入される可能性があることをセキュリティ企業が警告 (Gigazine, 2024/04/08 13:00) https://gigazine.net/news/20240408-wiz-hugging-face-improve-ai-security/
【ニュース】 ◆生成AI搭載アプリを狙うマルウェア「Morris II」 Gemini ProやGPT-4搭載アプリを介して個人情報窃取に成功 (ITmedia, 2024/04/05 08:00) https://www.itmedia.co.jp/news/articles/2404/05/news049.html 【関連まとめ記事】◆全体まとめ ◆マル…
【ニュース】 ◆生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも (ITmedia, 2024/03/22 08:00) https://www.itmedia.co.jp/news/articles/2403/22/news069.html
【ニュース】 ◆他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表 (ITmedia, 2024/03/21 08:00) https://www.itmedia.co.jp/news/articles/2403/21/news054.html 【関連まとめ記事】◆全体まとめ ◆盗聴 / スパイ / 情…
【ニュース】 ◆“AIワーム”ついに登場──ChatGPTとGeminiの複数のセキュリティを突破する (Wired, 2024/03/11) https://wired.jp/article/here-come-the-ai-worms/ 【関連まとめ記事】◆全体まとめ ◆マルウェア / Malware (まとめ) ◆ワーム (まとめ) ◆Morris II…
【訳】Hugging Faceの悪意あるAIモデルがユーザーのマシンをバックドアする 【図表】出典: https://www.bleepingcomputer.com/news/security/malicious-ai-models-on-hugging-face-backdoor-users-machines/ 【ニュース】 ◆Malicious AI models on Hugging F…
【ニュース】 ◆Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開 (ITmedia, 2024/02/27 07:30) https://www.itmedia.co.jp/enterprise/articles/2402/27/news077.html
【ニュース】 ◆LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較 (ITmedia, 2024/02/21 11:30) 最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバラ…
【訳】ロシア、中国、北朝鮮、イランがGPTを「悪質なサイバー活動」に利用したとOpenAIが発表 【要約】 中国、ロシア、イラン、北朝鮮がOpenAIのAIチャットボットを悪質なサイバー活動に利用したことが発表された。これに対し、OpenAIは複数の国家に関連する…
【訳】OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック 【ニュース】 ◆OpenAI blocks state-sponsored hackers from using ChatGPT (BleepingComputer, 2024/02/15 10:56) [OpenAIが国家を標的にしたハッカーによるChatGPTの利用をブロック]…
【ニュース】 ◆生成AIの偽音声にだまされる サイバー詐欺最悪の脅威 (日経新聞, 2024/01/04 05:00) https://www.nikkei.com/article/DGXZQOUC145VS0U3A211C2000000/ 【関連まとめ記事】◆全体まとめ ◆詐欺 / 情報操作 (まとめ) ◆ ディープフェイク (まとめ) h…
【訳】AIアルゴリズムが無人軍用車両のMitM攻撃を検知 【図表】出典: https://www.bleepingcomputer.com/news/security/ai-algorithm-detects-mitm-attacks-on-unmanned-military-vehicles/ 【ニュース】 ◆AI algorithm detects MitM attacks on unmanned mi…
【ニュース】 ◆生成AIでサイバー攻撃が「より迅速で高精度な攻撃」に進化 バラクーダがランサムウェアの攻撃パターンを調査 (@IT, 2023/09/05 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2309/05/news041.html 【関連情報】 ◆生成AIでサイバー攻撃…
tt-ai.hatenablog.com 【辞書】 ◆FraudGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/fraudgpt 【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) …
【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) https://news.mynavi.jp/techplus/article/20230727-2735373/ 【関連情報】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 202…
【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47) https://www.security-next.com/133265 【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47) https://www.securi…
【ニュース】 ◆サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け (Internet Watch, 2023/07/18 13:48) https://internet.watch.impress.co.jp/docs/yajiuma/1517000.html 【関連情報】 ◆サイバー犯罪に特化した悪意ある生…
【ニュース】 ◆サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を (マイナビニュース, 2023/07/17 12:52) https://news.mynavi.jp/techplus/article/20230717-2728686/ 【関連情報】 ◆サイバー犯罪に特化したセーフティ機能がない生…
tt-ai.hatenablog.com 【AI / 人工知能】 ◆ChatGPT (まとめ) https://malware-log.hatenablog.com/entry/ChatGPT ◆AI活用サイバー攻撃 (まとめ) https://malware-log.hatenablog.com/entry/AI-enabled_cyber_attacks 【ニュース】■2017年 ◆AI（人工知能）を…
【ニュース】 ◆増殖する「ChatGPTもどき」にご用心 チェック・ポイントが注意喚起 (@IT, 2023/05/16 08:00) https://atmarkit.itmedia.co.jp/ait/articles/2305/16/news046.html 【関連まとめ記事】◆全体まとめ ◆AI / 人工知能 (まとめ) https://malware-log…
