Mobile-Menu

Kein Cyberdyne-Effekt Open AI will etwaige Superintelligenz im Zaum halten

Quelle: dpa 2 min Lesedauer

Vorzeitiges Aus für den Terminator! Die Chat-GPT-Entwicklerfirma Open AI macht sich Gedanken darüber, wie wir eine potenzielle künstliche Superintelligenz kontrollieren könnten.

Die Künstliche Intelligenz schreitet voran. Einige Experten, allen voran der Chat-GPT-Entwickler Open AI, befürchten, dass wir uns mit der Zeit eine weit überlegene Superintelligenz schaffen. Daher sucht man nach Kontrollmöglichkeiten.(Bild: frei lizenziert / Pexels)
Die Künstliche Intelligenz schreitet voran. Einige Experten, allen voran der Chat-GPT-Entwickler Open AI, befürchten, dass wir uns mit der Zeit eine weit überlegene Superintelligenz schaffen. Daher sucht man nach Kontrollmöglichkeiten.
(Bild: frei lizenziert / Pexels)

Menschen, glaubt Open AI, werden nicht in der Lage sein, verlässlich Systeme mit Künstlicher Intelligenz zu beaufsichtigen, die viel klüger sind als wir. Das konstatierte der KI-Spezialist aus San Francisco kürzlich in einem seiner Blogeinträge. Deshalb soll am besten ein ebenfalls automatisiertes Verfahren dafür ausgearbeitet werden.

Potenziell gefährliche Superintelligenz noch in diesem Jahrzehnt?

Das Ziel sei es, die zentralen technischen Herausforderungen für ein solches System binnen vier Jahren zu bewältigen. Open AI will dafür ein Fünftel der zur Verfügung stehenden Rechenkapazität aufwenden. Das Entwicklerteam werde vom Chefwissenschaftler Ilya Sutskever mit angeführt. Auch wenn die mögliche „Superintelligenz“ aus dem Computer derzeit noch in weiter Ferne liegen mag, halten die Amerikaner dieses Phänomen noch in diesem Jahrzehnt für möglich.

Sie werde viele Probleme zwar lösen helfen, doch gleichzeitig auch die folgenschwerste Erfindung sein, die der Mensch je aus der Taufe heben werde. Der Vorstoß von Open AI folgt, wie man weiter erfährt, auf eine Warnung von Branchenexperten, aus deren Sicht Künstliche Intelligenz mit dem Risiko existenzieller Gefahren verbunden ist.

Kritiker befürchten Ablenkung von realen KI-Problemen

Zu den Unterzeichnern gehört auch Open-AI-Chef Sam Altman. Die angebliche Bedrohung wurde dabei aber nicht näher erläutert. Kritiker hielten den Experten vor, dass solche Warnungen mit Blick auf kommende Gefahren von bereits heute existierenden Problemen der KI ablenkt. Dazu gehört etwa Diskriminierung in Algorithmen.

Open AI entwickelte bekanntlich unter anderem den Chatbot „ChatGPT“, der einen neuen Hype rund um Künstliche Intelligenz auslöste. Das Programm kann bereits Sätze kreieren, die von denen eines Menschen kaum zu unterscheiden sind. Das KI-System wurde dafür mit gewaltigen Datenmengen trainiert und schätzt auf dieser Basis Wort für Wort ab, wie ein Satz weitergehen sollte. Dieses Prinzip führt allerdings auch dazu, dass der künstliche Gesprächspartner mitunter völlig falsche Informationen ausgibt, wie Experten anmerken.

(ID:49611767)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte