Zeitalter des Zero-Knowledge-Angreifers hat begonnen: Neuer, von Cato Networks aufgedeckter LLM-Jailbreak ermöglicht einfache Erstellung eines Password Stealers
Cato CTRL Threat Report 2025 zeigt Einsatz eines neuen Jailbreaks gegen ChatGPT, Copilot und DeepSeek
Tel Aviv, 18. März 2025 – Cato Networks, führender Anbieter im Bereich SASE, hat heute den Cato CTRL Threat Report 2025 veröffentlicht. In diesem Threat Report zeigt das Unternehmen, wie ein Cato CTRL Threat Intelligence-Forscher ohne jegliche Erfahrung in der Programmierung von Malware populäre Generative AI (GenAI)-Tools – darunter DeepSeek, Microsoft Copilot und ChatGPT von OpenAI – erfolgreich dazu gebracht hat, Malware zu entwickeln. Diese Malware war sodann in der Lage, Anmeldedaten von Google Chrome zu stehlen.
Um ChatGPT, Copilot und DeepSeek zu überlisten, schuf der Sicherheitsforscher eine detaillierte fiktive Welt, in der jedes GenAI-Tool eine Rolle spielte – mit zugewiesenen Aufgaben und Herausforderungen. Durch dieses narrative Engineering konnte der Experte die Sicherheitskontrollen umgehen und die Beschränkungen der Operationen überwinden. Schließlich gelang es ihm, die GenAI-Tools davon zu überzeugen, einen Infostealer – also eine Malware zum Diebstahl von Daten – für Google Chrome zu schreiben. Diese neue LLM-Jailbreak-Technik wird „Immersive World“ genannt.
„Infostealer spielen eine wichtige Rolle beim Diebstahl von Zugangsdaten, da sie es Angreifern ermöglichen, in Unternehmen einzudringen. Die neue LLM-Jailbreak-Technik, die wir aufgedeckt und Immersive World getauft haben, zeigt das gefährliche Potenzial der einfachen Erstellung eines Infostealers“, betont Vitaly Simonovich, Threat Intelligence Researcher bei Cato Networks. „Wir gehen davon aus, dass die Zunahme von Zero-Knowledge-Angreifern ein hohes Risiko für Unternehmen birgt, da die Hürde für die Erstellung von Malware mit GenAI-Tools nun deutlich niedriger geworden ist.“
Die zunehmende, so genannte Demokratisierung der Cyberkriminalität ist ein wichtiges Thema für CIOs, CISOs und IT-Manager. Das Aufkommen von Bedrohungsakteuren, die über keinerlei Fachwissen verfügen, stellt eine grundlegende Veränderung der Bedrohungslandschaft dar. Der Bericht zeigt, wie jedermann von überall aus mit handelsüblichen Tools Angriffe auf Unternehmen starten kann. Dies unterstreicht die Notwendigkeit proaktiver und umfassender KI-Sicherheitsstrategien.
„Während sich die Technologiebranche auf GenAI konzentriert, ist klar, dass die Risiken genauso groß sind wie die potenziellen Vorteile. Unsere neue LLM-Jailbreak-Technik, die im Cato CTRL Threat Report 2025 beschrieben wird, hätte von den GenAI-Sicherheitsmaßnahmen blockiert werden müssen. Dies war jedoch nicht der Fall. Dadurch war es möglich, ChatGPT, Copilot und DeepSeek als Waffe einzusetzen“, sagt Etay Maor, Senior Security Strategist bei Cato Networks. „Unser Bericht unterstreicht die Gefahren, die mit GenAI-Tools verbunden sind, um darüber aufzuklären und ein Bewusstsein dafür zu schaffen, damit wir bessere Schutzmaßnahmen implementieren können. Dies ist entscheidend, um den Missbrauch von GenAI zu verhindern“.
Methodik
Der Cato CTRL Threat Report 2025 fasst die Ergebnisse von Cato CTRLs Analyse von 1,46 Billionen Netzwerk-Datenpunkten von mehr als 3.000 Unternehmenskunden weltweit im Jahr 2024 zusammen.
Für die LLM-Jailbreaking-Untersuchung von Cato CTRL führte das Team seine Analyse in einer kontrollierten Testumgebung durch.
Ressourcen
- Download des Cato CTRL Threat Report 2025. Dies ist der erste jährliche Threat Report von Cato CTRL, dem Bedrohungsanalyse-Team von Cato Networks. Der Report widmet sich in diesem Jahr vor allem dem Thema KI.
- Blog zu den KI-Prognosen von Cato CTRL für das Jahr 2025.
- Um mehr über den Cato CTRL Threat Report 2025 zu erfahren, registrieren Sie sich für SASEfy 2025 – Catos globaler virtueller Veranstaltung zu SASE und KI – die am Dienstag, den 15. April um 12 Uhr ET (18 Uhr MESZ) stattfinden wird.
- Folgen Sie dem Cato CTRLs neuem Account auf X.
- Besuchen Sie die Cato-Webseite zu KI und ML und die AI Safety Policy Page.
Über Cato CTRL
Cato CTRL (Cyber Threats Research Lab) ist die weltweit erste CTI-Gruppe, die Bedrohungsdaten mit detaillierten Netzwerkinformationen kombiniert, was durch die globale SASE-Plattform von Cato ermöglicht wird. Cato CTRL vereint Dutzende ehemaliger militärischer Geheimdienstanalysten, Sicherheitsforscher, Datenwissenschaftler, Akademiker und branchenweit anerkannte Sicherheitsexperten, die Netzwerkdaten, Sicherheits-Stack-Daten, Hunderte von Sicherheitsfeeds, Human Intelligence Operations, KI (künstliche Intelligenz) und ML (maschinelles Lernen) nutzen, um die neuesten Cyberbedrohungen und Bedrohungsakteure zu beleuchten.
Über Cato Networks
Cato Networks bietet Unternehmen Sicherheit und Networking über eine einzige Cloud-Plattform. Der SASE-Marktführer schafft eine nahtlose und elegante Customer Experience, die eine mühelose Bedrohungsprävention, Datenschutz und eine zeitnahe Vorfallserkennung und Vorfallsreaktion gestattet. Mit Cato können Firmen kostspielige und starre Legacy-Infrastrukturen durch eine offene und modulare SASE-Architektur ersetzen. Sie basiert auf SD-WAN, einem speziell entwickelten globalen Cloud-Netzwerk und einem eingebetteten Cloud-nativen Sicherheits-Stack.
Sie wollen mehr dazu wissen, wie Tausende von Unternehmen ihre Zukunft mit Cato sichern? Besuchen Sie uns auf www.catonetworks.com.
Pressekontakt
Cato Communications
