Der kalifornische Chatbot-Entwickler Anthropic hat einen ehemaligen hochrangigen Mitarbeiter des Rivalen OpenAI für sich gewinnen können. Der in Deutschland geborene KI-Forscher Jan Leike, der den ChatGPT-Macher vor wenigen Tagen wegen Sicherheitsbedenken verlassen hatte, arbeitet jetzt für Anthropic, wie Leike in einem Post auf dem Kurznachrichtendienst X mitteilte. Er werde seine „Superalignment-Mission“ dort fortsetzen, schrieb der Experte für maschinelles Lernen.

Leike war schon bei OpenAI Leiter einer im Sommer 2023 gestarteten Gruppe für das sogenannte Superalignment. Dabei geht es um die kontrollierte Entwicklung von KI-Systemen, die intelligenter als Menschen selbst sind. OpenAI's Forschungen an einer solchen „Superintelligenz“ oder auch „Allgemeine künstliche Intelligenz“ (AGI) waren unter dem Projektnamen Q* bekanntgeworden.

Leikes Aufgabe war es, dafür zu sorgen, dass die Technologie trotz ihrer Überlegenheit den Interessen der Menschheit dienen und keine Gefahr für sie darstellen würde. Vor der kurzzeitigen Entlassung von CEO Sam Altman soll eine Gruppe von OpenAI-Entwicklern den Aufsichtsrat vor einer folgenschweren Entdeckung im Zusammenhang mit der Superintelligenz gewarnt haben. Altman gilt in dem Start-up als Vertreter jener Fraktion, die oft eher die kommerziellen Interessen im Blick hat.

Leike und die OpenAI-Führung waren sich schon länger nicht mehr über die Haupt-Prioritäten des Unternehmens einig, wie der KI-Forscher Mitte Mai auf X schrieb. Es sei dann zum Bruch gekommen. „In den letzten Jahren sind die Sicherheitskultur und -Prozesse gegenüber funkelnden Produkten in den Hintergrund getreten", kritisierte Leike. Es sei schon „lange überfällig, dass wir uns sehr ernsthaft mit den Auswirkungen von AGI befassen“.

Der Co-Leiter des Superalignment-Projekts, der frühere Chef-Wissenschaftler und OpenAI-Mitgründer Ilya Sutskever, hatte im Mai dieses Jahres ebenfalls seinen Weggang vom ChatGPT-Macher verkündet. Medienberichten zufolge soll das Superalignment-Team bei OpenAI mittlerweile komplett aufgelöst worden sein. Das von Microsoft finanzierte Start-up hat nun ein „Sicherheitskomitee“ auf die Beine gestellt, das von Board-Mitgliedern inklusive CEO Sam Altman angeführt werden soll.

Mit Leike kommt nun noch mehr Expertise aus dem Hause OpenAI zu Anthropic. Das Gründerteam des von Amazon finanzierten Start-ups setzt sich aus insgesamt vier ehemaligen OpenAI-Mitarbeitern zusammen, darunter CEO Dario Amodei und seine Schwester Daniela. Der Chatbot des Unternehmens namens Claude ist Mitte Mai auch in Europa gestartet.