Amazon.com Inc.

(neu: mehr Details)

SAN FRANCISCO (dpa-AFX) - Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem "Wall Street Journal". Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.

Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen. OpenAI veranstaltet am Dienstag die jährliche Entwicklerkonferenz in San Francisco, bei der traditionell Neuigkeiten zu neuen Produkten verkündet werden.

Training ausgesetzt

Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.

Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.

Hack durch KI als Warnsignal

In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler - des OpenAI-Rivalen Anthropic sowie von Google <US02079K1079> und dem Facebook-Konzern Meta <US30303M1027> - bei Tests in Systeme anderer Unternehmen ein.

Danach wurden noch weitere potenziell riskante Eskapaden Künstlicher Intelligenz von OpenAI öffentlich. So wurde bekannt, dass die Firma bereits vor mehr als einer Woche das Training ihrer leistungsstärksten KI-Modelle nach einem neuen Zwischenfall aussetzte.

Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich gar keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden, erläuterte OpenAI. Das Problem ist besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte. Auf der Plus-Seite ist, dass das Vorgehen diesmal binnen 15 Minuten entdeckt wurde.

Branche will bremsen, Trump will beschleunigen

Die Hacking-Attacken fachten eine schon seit Jahren schwelende Debatte über Sicherheitsrisiken hochentwickelter Künstlicher Intelligenz an. Beim OpenAI-Rivalen Anthropic sprach sich Mitgründer und Chef Dario Amodei dafür aus, die Entwicklung leistungsstarker KI-Modelle abzubremsen, damit man sicher sein können, nicht die Kontrolle über die Technologie zu verlieren. OpenAI-Chef Sam Altman unterstützte den Vorschlag. Sie bekamen auch Zuspruch von Tech-Milliardär Elon Musk, der bei seiner Weltraumfirma SpaceX <US84615Q1031> mit dem Chatbot Grok ebenfalls KI entwickeln lässt - die aber aktuell hinter den Fähigkeiten der Software von OpenAI und Anthropic zurückliegt.

Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier.

Das Motto von US-Präsident Donald Trump bei KI ist hingegen: Volle Kraft voraus. Die USA seien China und dem Rest der Welt weit voraus und er wolle, dass dies auch so bleibe, argumentiert Trump. Warnungen wischt er vom Tisch und verweist darauf, dass es Gesetze und ein Justizministerium zu deren Umsetzung gebe. Auch behauptete er, dass die einzige Leitplanke, die Ki brauche, ein starker und intelligenter Präsident sei - und das hätten die USA. Auch versucht Trump, statt der eingebürgerten Bezeichnung Künstliche Intelligenz den Begriff "Superintelligenz" zu etablieren.

Treffen in Washington

Am Dienstag gab Trump den Startschuss für eine neue Regierungsseite, die unter der Adresse America.gov Angebote verschiedener Behörden mit Hilfe durch KI verbesserter Suche leichter auffindbar und nutzbar machen soll. Er ordnete auch an, dass Behörden ihre öffentlichen Dienstleistungen mit der neuen Website verknüpfen sollen.

Danach war noch ein großes Treffen des Präsidenten mit KI-Bossen angesetzt. OpenAI-Chef Altman wird daran wegen der hauseigenen Entwicklerkonferenz nicht teilnehmen können und schickte Medienberichten zufolge seine rechte Hand Greg Brockman nach Washington. Mit dabei sind dagegen demnach unter anderen Altmans schärfster Widersacher Musk, sowie Anthropic-Chef Amodei, Google-Chef Sundar Pichai, Amazon <US0231351067>-Gründer Jeff Bezos sowie der Gründer und Chef des Facebook-Konzerns Meta, Mark Zuckerberg./so/DP/jha