2025年Cato CTRL™ 脅威報告書

知識ゼロの脅威アクターの台頭

報告書の内容：

• Cato CTRLが「Immersive World（没入型世界）」と呼ばれる新たなLLM脱獄技術を開発：DeepSeek、Microsoft Copilot、OpenAIのChatGPTのセキュリティ制御を回避し、Google Chrome用のマルウェアを作成するように説得しました。
• 生成AIのセキュリティ制御の失策： この3社の生成AIツールはすべて、ナラティブエンジニアリングによって制限された操作を正常化するように仕向けられました。
• 知識ゼロの脅威アクターの台頭： 完全に機能するChromeインフォスティーラーの作成にマルウェアコーディングの専門知識は不要です。
• 従来のセキュリティ戦略だけでは不十分： 誰もがサイバー犯罪者になり得る今、積極的なAIセキュリティ戦略が必要です。
• AIの大々的な宣伝によりAI導入が増加し、同時にリスクも増大：AIアプリケーション導入の傾向、それらを使用する業界、および主なAIアプリケーションのセキュリティリスクの概要。

概要：

Cato Networksの脅威インテリジェンスチームであるCato CTRLの脅威インテリジェンス研究者は、ChatGPT、Copilot、DeepSeekのセキュリティ制御を回避することに成功しました。これらは、さまざまな企業がワークフローの効率化に使用している生成AIモデルです。

新たなLLM脱獄技術を開発することにより、3つのツールがすべて、Chromeからログイン認証情報を盗むマルウェアを作成するように仕向けられました。この研究者にはマルウェアコーディングの専門知識がなかったのですが、巧妙に作られたナラティブがすべてのセキュリティガードレールを欺いたのです。

サイバー犯罪は、もはや熟練した脅威アクターに限定されるものではなくなりました。基本的なツールがあれば、誰でも攻撃を仕掛けることができます。CIO、CISO、ITリーダーにとって、これは脅威の増加とリスクの増大、そしてより強力なAIセキュリティ戦略の必要性を意味します。