Der ChatGPT-Entwickler und auf Künstliche Intelligenz spezialisierte US-Konzern OpenAI hat die Verantwortung für einen Hackerangriff auf das Startup Huggins Faces übernommen. Eigenen Angaben zufolge sei ein autonom agierendes KI-Modell bei internen Tests außer Kontrolle geraten. Das Softwareunternehmen um CEO Sam Altman sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, seine Sicherheitsvorkehrungen zu verstärken.
OpenAI zufolge sollten die neuesten KI-Agenten in einer kontrollierten und isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den Programmen sei es jedoch gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen und die Systeme von Hugging Face zu attackieren. Über diese Plattform können Nutzer frei zugängliche KI-Modelle und -Trainingsdaten herunterladen.
Hugging Face hatte mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität. "Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert." Als Reaktion auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf X: "Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem 'Frontier Lab' stammte. Wie sich herausstellte, war das tatsächlich der Fall!" Führende KI-Entwickler heißen im Fachjargon "Frontier Labs".
Hugging Face nutzte zur Analyse der Attacke nach eigenen Angaben KI-Modelle der chinesischen Anbieter Z.ai und Moonshot. Diese beiden Programme gelten westlichen Produkten als technologisch ebenbürtig. Zudem dürfen sie anders als viele US-Modelle auch zur Cyberabwehr eingesetzt werden. Er sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke, betonte Delangue. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck an der Aufarbeitung des Vorfalls. "Es ist wirklich unglaublich, dass all das autonom passiert ist!"
Für Katie Moussouris, Chefin der Beratungsfirma Luta Security, ist der Vorfall nur ein Vorgeschmack auf künftige Hackerangriffe. “Entwickler und staatliche Prüfer müssen daran arbeiten, KI-Systeme einzudämmen, zu überwachen und Betroffene zu informieren, wenn eine KI einen weiteren Houdini-Trick vollführt – idealerweise, bevor sie Dritten Schaden zufügt.”
Cybergefahr durch KI bleibt Thema
Die Diskussion um die zunehmenden Cybersicherheitsrisiken durch KI hat spätestens mit der Entwicklung des Modells "Mythos" von Anthropic Fahrt aufgenommen. Das US-Startup macht dieses Programm bislang nicht allgemein zugänglich, da es sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von IT-Sicherheitslücken auszeichnet. Stattdessen gewährte Anthropic im Rahmen des Projekts “Glasswing” ausgewählten Unternehmen und Institutionen Zugang, damit diese ihre Systeme auf Schwachstellen prüfen können. Zeitweise schaltete Anthropic "Mythos" auf Anordnung der US-Regierung sogar komplett ab.
Auch OpenAI steht unter verstärktem Druck der Behörden. Das Unternehmen darf sein neuestes KI-Modell GPT-5.6 wegen Sicherheitsbedenken ebenfalls nur wenigen ausgewählten Nutzern zur Verfügung stellen. Dies und der Vorfall bei Hugging Face werfen einen Schatten auf die Börsenpläne des Unternehmens. Medienberichten zufolge denkt OpenAI jedoch darüber nach, sein Debüt auf 2027 zu verschieben.
