Staatliche Hackergruppen und kriminelle Akteure nutzen generative KI längst nicht mehr nur zum Ausprobieren, sondern haben die Technologie fest in ihre Angriffe integriert. Das zeigt ein aktueller Bericht der Google Threat Intelligence Group, der belegt, wie professionell und systematisch Angreifer KI-Werkzeuge inzwischen einsetzen.

Besonders brisant ist ein erstmals dokumentierter Fall: Ein Zero-Day-Exploit wurde nach Einschätzung von GTIG mithilfe eines KI-Modells entwickelt. Kriminelle Gruppen planten, damit massenhaft ein weit verbreitetes Webserver-Administrationstool anzugreifen. Die Lücke ermöglichte es, die Zwei-Faktor-Authentifizierung zu umgehen – allerdings nur mit gültigen Zugangsdaten.

Hinweise auf KI im Code

Dass KI im Spiel war, verrieten der sauber strukturierte Python-Code, ausführliche erklärende Kommentare im Quellcode sowie eine vom Modell erfundene Risikobewertung. Google und der betroffene Hersteller konnten die geplante Angriffswelle nach eigenen Angaben rechtzeitig stoppen. Chinesische und nordkoreanische Staatsgruppen gehen ähnlich vor: Sie reichern KI-Modelle mit Datenbanken aus über 85.000 realen Sicherheitslücken an, um gezielter nach Schwachstellen in fremden Systemen zu suchen.

KI verändert aber nicht nur, wie Exploits entstehen, sondern auch, wie Schadsoftware selbst aussieht. Russlandnahe Angreifer setzen auf Malware-Familien wie CANFAIL und LONGSTREAM, die KI-generierten Füllcode enthalten: sinnlose, aber harmlos wirkende Codezeilen – etwa wiederholte Abfragen der Sommerzeit-Einstellung – die echte Schadfunktionen verschleiern und Sicherheitssoftware täuschen sollen.

Die chinesische Gruppe APT27 nutzt Gemini, um Verwaltungstools für sogenannte Relay-Netzwerke zu entwickeln, die den tatsächlichen Ursprung von Angriffen verschleiern. Noch weiter geht die Android-Malware PROMPTSPY: Sie schickt den aktuellen Bildschirminhalt des infizierten Geräts an das Gemini-API und bekommt konkrete Steuerbefehle zurück - inklusive präziser Koordinaten für Tipp- und Wischgesten. Das Gerät wird so ferngesteuert, ohne dass ein Mensch eingreifen muss.

Wegwerfkonten mit Gratisguthaben

Auch der Zugang zu KI-Modellen selbst ist Angreifern ein Anliegen. Gruppen wie UNC6201 und UNC5673, beide mit Verbindungen nach China, betreiben automatisierte Pipelines, die massenhaft Konten bei KI-Anbietern anlegen, Gratisguthaben ausreizen und nach Entdeckung einfach wegwerfen.

Tools wie "Claude-Relay-Service" bündeln dabei Zugänge verschiedener Anbieter – das senkt Kosten und verschleiert die Aktivitäten vor Sicherheitssystemen. Parallel greifen Angreifer die KI-Infrastruktur direkt an: Die Gruppe "TeamPCP" kompromittierte populäre Softwareprojekte auf GitHub, darunter das KI-Gateway LiteLLM, und schleuste Schadcode ein, der Zugangsdaten und API-Schlüssel für weitere Angriffe abgreift.

Big Sleep sucht nach Sicherheitslücken

Google betont, KI nicht nur als Bedrohung zu beobachten, sondern sie auch defensiv einzusetzen. Der KI-Agent "Big Sleep" fahndet selbstständig nach unbekannten Sicherheitslücken und soll nach Unternehmensangaben bereits eine Schwachstelle aufgespürt haben, die kurz vor dem Einsatz durch Angreifer stand.

Das experimentelle System "CodeMender" soll gefundene Lücken anschließend automatisch schließen. Für Android-Nutzer gibt Google Entwarnung: Google Play Protect erkennt bekannte PROMPTSPY-Varianten und ist auf Geräten mit Google Play Services standardmäßig aktiv.