Mobile-Menu

Regelverstoß! „OpenAI“ schmeißt drei Experten hinaus

Quelle: dpa 2 min Lesedauer

Nach der Aufregung um eigenständige Hacking-Aktivitäten von KI-Modellen bei „OpenAI“ hat man nun drei an der Aufarbeitung der Fälle beteiligte Experten entlassen ...

Bei „OpenAI“ sind wiederholt Probleme aufgetreten, wobei KI-Modelle unerlaubt ins Netz eingedrungen sind, um ihre Aufgabe zu erfüllen. Das Unternehmen hat nun drei Personen gefeuert, denen es nicht länger vertraut ...(Bild: KI-generiert)
Bei „OpenAI“ sind wiederholt Probleme aufgetreten, wobei KI-Modelle unerlaubt ins Netz eingedrungen sind, um ihre Aufgabe zu erfüllen. Das Unternehmen hat nun drei Personen gefeuert, denen es nicht länger vertraut ...
(Bild: KI-generiert)

Die drei Verdächtigen Mitarbeiter hätten gegen interne Regeln zum Umgang mit vertraulichen Informationen verstoßen, teilte „OpenAI“ zur Begründung mit. Zugleich betonte man, dass niemand gefeuert worden ist, weil er Sicherheitsbedenken geäußert hat. Das Fehlverhalten sei demnach über das Teilen von Informationen mit einer externen Analysefirma hinausgegangen. Das Wall Street Journal hatte zuvor unter Berufung auf informierte Personen die Namen der drei entlassenen Mitarbeiter genannt. „OpenAI“ sprach davor von zwei Sicherheitsforschern und einem Programmmanager, wollte die Namen auf Anfrage aber nicht bestätigen. Auch die drei von der Zeitung genannten Personen äußerten sich zunächst nicht. Dem Unternehmen zufolge war das für die Beschäftigung nötige Vertrauen nicht mehr gegeben.

„OpenAI“ hat schon länger Sicherheitsmängel

In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz bekanntlich aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt – der Plattform Hugging Face. Zur Aufarbeitung des Vorfalls hatte „OpenAI“ für einige Tage auf KI-Sicherheit spezialisierte externe Experten herangeholt, die später tiefgreifende Einblicke in die Vorgehensweise der Software veröffentlichten. Zumindest einer der drei geschassten Mitarbeiter habe erwähnt, Anlaufstelle für die externen Analysten gewesen zu sein. In den vergangenen Tagen wurde auch bekannt, dass „OpenAI“ nach einem neuen Zwischenfall das Training der leistungsstärksten KI ausgesetzt hat. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt. Das Eingeständnis war besonders heikel, weil „OpenAI“ die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte – offensichtlich nicht scharf genug für die KI (oder für jene, die gegebenenfalls dahinterstecken?). Daraufhin sah man von der Veröffentlichung eines neuen KI-Modells ab.

Donald Trump fordert mehr als die KI-Experten tun wollen

Forscher aus der Branche warnten zuletzt mehrfach vor einem existenziellen Risiko für die Menschheit, wenn leistungsstarke künstliche Intelligenz außer Kontrolle geraten sollte. „OpenAI“-Chef Sam Altman solidarisierte sich deshalb mit dem Vorschlag des Konkurrenten Dario Amodei vom KI-Entwickler Anthropic, die Entwicklung der fähigsten KI-Modelle abzubremsen. Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Der US-Präsident will aber, dass sich die Unternehmen gegenseitig beaufsichtigen.

(ID:50975039)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte