Mobile-Menu

Forschung Von wegen intelligent: 50 Prozent der KI-Systeme sollen schummeln

Von Lisa Marie Waschbusch 2 min Lesedauer

Anbieter zum Thema

TU Berlin
Fraunhofer-Institut f. Nachrichten technik, Heinrich-Hertz-Institut

Viele vermeintlich intelligente Systeme nutzen wenig intelligente Lösungsstrategien. Wie aus einer Analyse der TU Berlin, dem Fraunhofer HHI und der Singapore University of Technology and Design hervorgeht, könnten aktuell etwa 50 Prozent der modernen KI-Modelle bei ihren Entscheidungen schummeln.

Forscher wollen herausgefunden haben, dass Entscheidungen vieler KI-Systeme nicht sehr intelligent sind.(Bild: / CC0)
Forscher wollen herausgefunden haben, dass Entscheidungen vieler KI-Systeme nicht sehr intelligent sind.
(Bild: / CC0)

Handelt es sich bei Entscheidungen, die von einer Künstlichen Intelligenz getroffen werden, wirklich um intelligente Entscheidungen oder um statistisch erfolgreiche Verfahren? Dieser Frage sind Forscher der Technischen Universität Berlin (TU Berlin), des Fraunhofer Heinrich-Hertz-Instituts (HHI) und der Singapore University of Technology and Design nachgegangen und haben in einer bei Nature Communications veröffentlichten Arbeit das ganze „Intelligenz“-Spektrum bestehender KI-Systeme analysiert und quantifiziert.

Dr. Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin, und Dr. Wojciech Samek, Gruppenleiter am Fraunhofer HHI, haben mit ihren Teams einige Schwachstellen in modernen KI-Systemen entdeckt: Die tiefen neuronalen Netzwerke der KI stützen ihre Klassifikationsentscheidung zum Teil auf Artefakte, die während der Präparation von Bildern entstanden und mit dem eigentlichen Bildinhalt gar nichts zu tun haben.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte