Highlights aus dem Cato CTRL™ Threat Report für 2026

Einführung

Heute haben wir den Cato CTRL Threat Report 2026 veröffentlicht, der den zweiten jährlichen Threat Report über KI-Sicherheit von Cato CTRL (dem Threat-Intelligence-Team von Cato Networks) darstellt.

Im Jahr 2025 deckte Cato CTRL eine entscheidende Veränderung in der Bedrohungslandschaft im Bereich der künstlichen Intelligenz auf. Böswillige Akteure nutzen nicht mehr nur KI-Systeme aus. Sie nutzen das Vertrauen in KI, Arbeitsabläufe und die Fähigkeiten selbst aus. Anhand von fünf bedeutenden Entdeckungen zeigte Cato CTRL auf, wie KI-Tools indirekt manipuliert, in Unternehmensprozesse eingebettet, für offensive Zwecke umfunktioniert und missbraucht werden können, um Betrug und Ransomware in großem Stil zu verbreiten. Zusammengenommen zeigen diese Erkenntnisse, dass KI zu einer neuen Angriffsfläche geworden ist, die gängige Sicherheitsannahmen herausfordert und KI-bewusste Verteidigungsstrategien benötigt.

Die wichtigsten Erkenntnisse

KI-Tools werden systematisch ausgenutzt

Cato CTRL hat aufgedeckt, wie böswillige Akteure das implizite Vertrauen in KI-Systeme missbrauchen, indem sie die von der KI verarbeiteten Daten manipulieren, anstatt die zugrunde liegende Infrastruktur anzugreifen. Die Entdeckung von HashJack, der ersten bekannten Technik zur indirekten Eingabe von Befehlen, zeigte, wie bösartige Befehle in harmlos aussehenden URLs versteckt und von KI-Browser-Assistenten ausgeführt werden können.

Ähnlich demonstrierte ein Proof-of-Concept (PoC)-Angriff gegen Atlassians Modellkontextprotokoll (MCP), wie KI-Arbeitsabläufe, die externe Eingaben (wie Support-Tickets) verarbeiten, gezwungen werden können, interne Daten preiszugeben. Diese Erkenntnisse legen einen kritischen Fehler offen: KI-Systeme gehen oft davon aus, dass Eingaben sicher sind, wodurch unsichtbare Angriffswege entstehen, die herkömmliche Sicherheitskontrollen umgehen.

Generative KI senkt die Hürden für anspruchsvolle Angriffe

Cato CTRL hat bestätigt, dass Angriffsmöglichkeiten nicht mehr nur hochqualifizierten Angreifern vorbehalten sind. Das Wiederauftauchen von WormGPT-Varianten, die auf Grok und Mixtral basieren, verdeutlicht, wie KI-Assistenten ihrer Sicherheitsvorkehrungen beraubt und dazu missbraucht werden können, Phishing-Inhalte, Social-Engineering-Inhalte und bösartigen Code zu generieren. Gleichzeitig zeigte Cato CTRL, wie der Bildgenerator von ChatGPT dazu missbraucht werden kann, mit minimalem Aufwand gefälschte Pässe und Ausweisdokumente zu erstellen.

Insgesamt verdeutlichen diese Erkenntnisse die zunehmende Kommerzialisierung der Cyberkriminalität, bei der KI den Aufwand, die Zeit und das Fachwissen, die für die Durchführung wirksamer Angriffe erforderlich sind, drastisch reduziert.

KI-Tools führen eine neue Risikoklasse ein

Da KI-Systeme mittlerweile nicht mehr nur Inhalte generieren, sondern auch Handlungen ausführen, hat Cato CTRL ein wachsendes Risiko festgestellt, dass KI direkt in Angriffsketten eingebunden wird. Die Instrumentalisierung von Claude Skills durch die Ransomware MedusaLocker hat gezeigt, wie KI-Automatisierungen genutzt werden können, um Verschlüsselungs- und Erpressungsabläufe zu unterstützen. Das stellt eine kritische Eskalation dar: KI ermöglicht böswilligen Akteuren die Durchführung der operativen Phasen eines Angriffs. Diese Erkenntnisse unterstreichen die Gefahr, die von KI-Tools mit weitreichenden Berechtigungen und unzureichender Kontrolle ausgeht, insbesondere da Unternehmen KI-Agenten zunehmend in geschäftskritische Prozesse integrieren.

Best Practices für die Sicherheit

Basierend auf unseren wichtigsten Erkenntnissen empfiehlt Cato CTRL, dass Organisationen folgende Maßnahmen ergreifen:

1. Behandeln Sie KI-Eingaben standardmäßig als nicht vertrauenswürdige Daten:
   • Wenden Sie Eingabevalidierung, Bereinigung und Kontextisolierung auf alle von KI-Tools verarbeiteten Daten an, einschließlich Metadaten, URLs und Dateifragmente.
   • Führen Sie eine Inhaltsprüfung und -klassifizierung durch, bevor KI-Systeme externe Eingaben verarbeiten.
   • Gehen Sie davon aus, dass indirekte oder versteckte Anweisungen in ansonsten harmlosen Inhalten existieren können.
2. Setzen Sie das Prinzip der geringsten Berechtigungen und Schutzmaßnahmen für KI-Agenten und Automatisierungen durch:
   • Wenden Sie bei KI-Tools das Prinzip der minimalen Berechtigungen an und beschränken Sie deren Zugriff ausschließlich auf die erforderlichen Daten und Aktionen.
   • Trennen Sie Lese-, Schreib- und Ausführungsrechte voneinander und vermeiden Sie weitreichende, dauerhafte Berechtigungen.
   • Für risikoreiche KI-Aktionen wie Datenexporte, Systemänderungen oder die Ausführung von Workflows ist eine manuelle Freigabe oder eine Überprüfung anhand von Richtlinien erforderlich.
3. Erweitern Sie die Sicherheitsüberwachung auf KI-Workflows:
   • Überwachen Sie KI-Interaktionen, Eingabeaufforderungen, Antworten und nachfolgende Aktionen auf ungewöhnliches Verhalten.
   • Setzen Sie KI-Aktivitäten mit dem Nutzerverhalten, dem Netzwerkverkehr und den Anwendungsprotokollen in Beziehung, um Missbrauchsmuster zu erkennen.
   • Warnung bei unerwartetem Datenzugriff, ungewöhnlicher Ausgabegenerierung oder ungewöhnlicher Aufgabenausführung durch KI-Systeme.
4. Bekämpfen Sie KI-gestütztes Social Engineering und Identitätsmissbrauch:
   • Die Prozesse zur Identitätsprüfung, Dokumentenprüfung und Erkennung von Anomalien sollen verbessert werden.
   • Verlassen Sie sich nicht ausschließlich auf visuelle oder inhaltsbezogene Vertrauenssignale.
   • Schulen Sie die Nutzer darin, KI-gestützte Täuschungsversuche zu erkennen und setzen Sie bei sensiblen Anfragen eine Out-of-Band-Verifizierung durch.
5. Kontrollieren Sie die KI-Nutzung im Unternehmen:
   • Entdecken und erfassen Sie die im gesamten Unternehmen genutzten KI-Dienste, einschließlich browserbasierter und eingebetteter Tools.
   • Definieren und setzen Sie KI-Nutzungsrichtlinien durch, die mit der Risikotoleranz und den regulatorischen Anforderungen übereinstimmen.
   • Überprüfen Sie regelmäßig die KI-Integrationen im Rahmen der Sicherheitsarchitektur und der Risikobewertungen.

Ressourcen

• Laden Sie den Cato CTRL Threat Report für 2026 herunter.
• Besuchen Sie die Cato-CTRL-Seite, um mehr über das Threat-Intelligence-Team von Cato zu erfahren.
• Laden Sie den Cato CTRL Threat Report für 2026 herunter.