KI-Programmierungsagenten verändern die Art und Weise, wie Software erstellt wird. Sie verändern auch die Art und Weise, wie Angreifer eindringen.
Neue Untersuchungen von CrowdStrike enthüllen einen Wurm, der aktiv auf die KI-Infrastruktur abzielt. Die Vordertür wird dadurch nicht zerstört. Es kommt herein, weil das System denkt, dass es seine Aufgabe erfüllt. Die Malware agiert in sogenannten „blinden Flecken“, wie Forscher es nennen. Dies sind Bereiche, in denen legitime KI-Automatisierung mit bösartigem Code identisch aussieht.
Das Ergebnis ist ein Tool, das Zugangsdaten stiehlt. Es filtert sensible Daten. Es zerstört sogar Zieldateien. Und das alles sieht wie eine routinemäßige Entwicklungsaktivität aus.
Eine aufstrebende Angriffsklasse
Dies ist keine hypothetische Bedrohung. Dieser Wurm wurde in freier Wildbahn gefunden. Forscher haben es entdeckt, als sie Angriffe auf die Lieferkette von KI-Software untersuchten, wie WIRED berichtete.
Adam Meyers, Senior Vice President of Counter Adversary Work bei CrowdStrike, stellt fest, dass das Unternehmen diese spezifische Aktivität noch nicht einer Gruppe zugeordnet hat. Aber es passt in ein Muster. Gruppen wie TeamPCP (bekannt als „Altered Spider“) und verschiedene nordkoreanische Akteure ändern ihre Taktik. Sie zielen auf die KI-Toolchain selbst ab.
„Dies ist eine der Kampagnen, die wir gesehen haben und die zeigt, dass es sich um einen aufkommenden Angriff handelt“, sagte Meyers gegenüber WIRED. „Da KI-Coding-Agents zum Standard in der Entwicklung werden, entwickeln sich Bedrohungen in der Lieferkette, um diese Vertrauensbeziehungen auszunutzen.“
Wir sehen die frühen Stadien davon. Die KI-Toolchain wird zu einem entscheidenden Teil des Technologie-Ökosystems. Angreifer wissen es. Sie sind bereit, es zu missbrauchen.
Der phasenweise Angriff des Wurms
Die Malware agiert nicht auf einmal. Es bewegt sich in Phasen.
- Aufklärung. Der Wurm beurteilt zunächst die Zielumgebung. Es bildet ab, was es sieht.
- Anmeldedatendiebstahl. Es wird nach Zugriffstokens gesucht. Es sucht nach kryptografischen Schlüsseln. Es erfasst Serveranmeldeinformationen.
- Privilegieneskalation. Je tiefer es Zugriff erhält, desto mehr entfaltet es sich. Es zielt auf „npm“-Token ab. Diese sind für die Softwarepaketverwaltung von entscheidender Bedeutung. Sie gewähren auch Zugriff auf Pull-Requests und andere Entwicklungsfunktionen.
- Datenexfiltration und -vernichtung. Je tiefer es geht, desto mehr Daten können aufgenommen werden. Auf der tiefsten Ebene kann es einen „Todesschalter“ aktivieren. Diese Funktion zerstört Dateien oder blockiert legitime Benutzer aus der gefährdeten Infrastruktur.
Das Ziel ist einfach: Maximieren Sie den Zugriff und die Auswirkungen und minimieren Sie gleichzeitig die Erkennung.
Warum die Erkennung fehlschlägt: Die Nadel im Nadelstapel
Das größte Problem bei diesem Wurm ist, dass er legitim aussieht. Vieles in seinem Verhalten ahmt Standard-KI-Operationen nach.
„Es ist wie eine Nadel im Heuhaufen. Nur dass es sich hierbei um eine Nadel im Nadel -Stapel handelt“, sagte Meyers.
Herkömmliche Sicherheitstools verlassen sich auf Telemetrie, um verdächtige Aktivitäten zu erkennen. In KI-gesteuerten Pipelines sind diese Daten chaotisch. Legitime KI-Codierungssysteme erzeugen ähnliche Signale. Sie betreiben Automatisierung. Sie holen Pakete ab. Sie führen Code aus.
Der Wurm macht das Gleiche.
„Es gibt viele Überschneidungen bei der Telemetrie“, erklärte Meyers. „Es wird sehr schwierig, anhand der vorhandenen Telemetrie zu erkennen, was legitim und was illegal ist.“
Die Erfassungsfläche ist begrenzt. Nicht jede Aktivität erzeugt ein Signal. Wenn die Signale, die erzeugt werden, genau wie normale Arbeit aussehen, fliegen die Verteidiger im Blindflug.
Zeitverzögerungen und Kollateralschäden
Um verborgen zu bleiben, haben die Autoren des Wurms Zeitverzögerungen hinzugefügt. Fähigkeiten werden nicht sofort ausgelöst. Sie werden Stunden oder Tage später ausgeführt. Dadurch wird die direkte Ursache-Wirkungs-Kette unterbrochen, die Verteidiger zur Verfolgung von Angriffen nutzen.
Wenn die destruktive Phase beginnt, ist der anfängliche Eintrittspunkt schon lange vorbei.
Meyers betont, dass CrowdStrike Strategien entwickelt, um diese Punkte zu verbinden. Doch das Ausmaß des Problems nimmt zu. Da die KI-Softwareentwicklung explodiert, ist die Zusammenarbeit bei strukturellen Lösungen dringend erforderlich.
Die derzeitige Verteidigung hat Probleme. Die zum Bauen verwendeten Werkzeuge werden gegen diese Bauherren als Waffe eingesetzt.
Was das für Sicherheitsteams bedeutet
Dies ist nicht nur ein neuer Virus. Es handelt sich um eine neue Klasse von Lieferkettenbedrohungen. Es nutzt das Vertrauen, das wir in die Automatisierung setzen.
Unternehmen, die KI-Codierungsagenten verwenden, müssen überdenken, wie sie ihre Umgebungen überwachen. Standardsignaturen werden dies nicht erkennen. Das Verhalten ist die Signatur.
„Es handelt sich um eine begrenzte Erkennungsfläche … daher wird es äußerst mühsam festzustellen, welches Verhalten legitim ist.“ — Adam Meyers, CrowdStrike
Die Frage ist nicht, ob KI für Böses eingesetzt wird. Es geht darum, wie schnell sich die Sicherheit an eine Umgebung anpassen kann, in der der Angreifer wie der Mitarbeiter aussieht.
Der Wurm sitzt vorerst im toten Winkel. Warten. Sammeln. Und auf den Auslöser warten.
Weiterlesen: OpenAI-Modelle entkamen der Eindämmung | LastPass-Datenschutzverstoß | Chinas Supercomputer LineShine
