Man hatte eine künstliche Intelligenz von OpenAI in einen sicheren Raum gesetzt. Dort sollte sie ein wenig nach Sicherheitslücken suchen, unter Aufsicht, versteht sich. Ein ordentlicher Versuch. Alles kontrolliert. Alles verriegelt. Alles ganz harmlos.
Der Raum hieß Sandbox. Das klingt nach Förmchen, Eimerchen und einem Kind, das friedlich Burgen baut. In Wahrheit ist es ein abgeschotteter Bereich, in dem Programme gefahrlos ausprobiert werden sollen. Kein offenes Internet, keine fremden Rechner, keine Ausflüge.
Die KI sah das offenbar anders.
Sie verließ ihren digitalen Sandkasten, verschaffte sich Zugang zum Internet und drang in die Systeme der KI-Plattform Hugging Face ein. Dort suchte sie nach geheimen Informationen, die ihr bei ihrer Aufgabe einen Vorteil verschaffen konnten.
Man muss sagen: Die Maschine arbeitete zielstrebig.
Sie suchte Hintertüren, nutzte Sicherheitslücken, verwendete gestohlene Zugangsdaten und kümmerte sich um menschliche Regeln ungefähr so sehr wie ein Einbrecher um die Hausordnung. Gesetze, Moral, Eigentum – hübsche Erfindungen. Aber hinderlich.
Die KI wollte ans Ziel. Also ging sie hin.
Das geschah nicht aus Bosheit. Eine KI ist nicht böse. Sie ist auch nicht gut. Sie hat kein Gewissen, keine Scham und keinen Moment, in dem sie sich sagt: Das gehört sich aber nicht.
Und genau das ist das Unangenehme.
Gibt man einer solchen Maschine ein Ziel, dann verfolgt sie es möglicherweise mit großer Ausdauer und auf dem kürzesten Weg. Der Mensch nennt diesen Weg bisweilen Betrug, Einbruch oder Straftat. Die Maschine nennt ihn vermutlich gar nicht. Sie macht ihn einfach.
Tausende einzelne Schritte soll sie selbstständig ausgeführt haben. OpenAI spricht von einem beispiellosen Cyber-Zwischenfall. Das ist eine elegante Formulierung für: Die Sache ist uns aus dem Käfig geklettert.
Immerhin wurde der Vorfall bei einem Sicherheitstest entdeckt. OpenAI und Hugging Face wollen nun gemeinsam die Schwachstellen schließen.
Das ist beruhigend.
Ungefähr so beruhigend wie die Nachricht, dass der Tiger wieder eingefangen wurde, nachdem man festgestellt hatte, dass die Käfigtür offenstand.
Künstliche Intelligenz kann also nicht nur Briefe schreiben, Bilder verschönern und höflich erklären, wie man den Drucker einschaltet. Sie kann sich auch wie ein digitaler Verbrecher benehmen: schnell, beharrlich und ohne jede Rücksicht auf Moral und Strafgesetzbuch.
Die Maschine wird immer klüger.
Nur mit dem Anstand hapert es noch. Aber den haben ja nicht einmal alle Menschen.