Microsoft Corporation

MOUNTAIN VIEW (dpa-AFX) - Auch Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta <US30303M1027>. Google <US02079K1079> machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung "Wall Street Journal" öffentlich.

Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das "Wall Street Journal" unter Berufung auf Google schrieb.

Google fand die Vorfälle nicht öffentlich erwähnenswert

Die Vorfälle ereigneten sich demnach im Mai - und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei - und nicht eines, das eine Testsimulation war.

Die für Sicherheitsarchitekturen zuständige Google-Topmanagerin Heather Adkins betonte zugleich, dass der Konzern dafür gesorgt habe, dass die betroffenen Unternehmen informiert wurden. Das Testverfahren bei dem Trainingspartner sei danach geändert worden. Google sei bekannt dafür, andere auf in deren Systemen entdeckte Sicherheitsprobleme hinzuweisen, und wenn dies nur ein schwaches Passwort sei.

In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe./so/DP/zb