Bundesregierung: Autonomer Angriff der KI von OpenAI ist "Paradigmenwechsel"

Berlin, 22. ⁠Jul (Reuters) - Die Bundesregierung stuft das außer Kontrolle geratene KI-Modell der US-Firma OpenAI als "Paradigmenwechsel" ein. "Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft", sagte ein Sprecher des Digitalministeriums am Mittwoch in ‌Berlin. Man sehe seit einigen Monaten, dass die Fähigkeiten von sogenannten Frontier-AI-Modellen massiv zunehmen, und damit die Risiken steigen. "Das verändert auch die Bedrohungslage potenziell ⁠massiv." Das ⁠Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit, dass aus Sicht des BSI mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen "eine neue Zeitrechnung der Cybersicherheit" angebrochen sei.

Man müsse sicherstellen, dass auch europäische Unternehmen und Sicherheitsbehörden Zugang zu diesen Modellen haben, sagte der Sprecher des Digitalministeriums. Man ‌habe in der Vergangenheit gesehen, dass dies nicht ‌immer der Fall sei. Umso mehr setze man darauf, dass europäische Player auch auf dem Gebiet wichtiger würden, sagte er.

OpenAI hatte die Verantwortung für einen Hackerangriff auf ⁠das Start-Up Hugging Face übernommen. Ein autonom agierendes KI-Modell sei bei internen Tests ‌außer Kontrolle geraten, räumte OpenAI in einem ⁠Blog-Beitrag ein. Das Softwareunternehmen um Vorstandschef Sam Altman sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, seine Sicherheitsvorkehrungen zu verstärken.

Dass die KI aus einer "sicheren" Umgebung (Sandbox) ausgebrochen sei und sich danach frei im Internet bewegt ‌habe, sei ein ernstzunehmender Vorfall, sagte ⁠ein BSI-Sprecher. Die KI habe für ⁠den Angriff auf das Unternehmen Schwachstellen gefunden und ausgenutzt. Dies könne auch passieren, wenn das Ziel eines Angriffs sein sollte, etwa einer Stadt den Strom abzustellen. Eine unmittelbare Häufung derartiger Vorfälle sei aber derzeit unwahrscheinlich, weil der Ausbruch einer KI aus der Laborumgebung viele Ressourcen brauche. BSI-Präsidentin Claudia Plattner hatte bereits mehrfach davor gewarnt, dass die Schnelligkeit der KI-Entwicklung es nötig mache, sich besser zu rüsten, um sehr schnell auf einen Angreifer reagieren ⁠zu können.

(Bericht von Andreas Rinke; redigiert von Sabine Ehrhardt. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter berlin.newsroom@thomsonreuters.com (für Politik und Konjunktur) oder frankfurt.newsroom@thomsonreuters.com (für Unternehmen ‌und Märkte).)