Künstliche Intelligenz Texte von Chat GPT glaubwürdiger als Online-Inhalte von Personen

Eine Studie der Hochschule Mainz und der Johannes-Gutenberg-Universität Mainz offenbart, dass KI-generierten Inhalten eine größere Klarheit und Anziehungskraft zugesprochen wird.

In einer Zeit, in der das Internet für viele Menschen zur Hauptquelle von „Informationen“ geworden ist, hat die Glaubwürdigkeit von Online-Inhalten und deren Quellen einen kritischen Wendepunkt erreicht, wie die Mainzer Wissenschaftler glauben. Die Verbreitung von Anwendungen generativer künstlicher Intelligenz wie Chat GPT und Google Bard verstärke das Problem auch noch. Denn im Gegensatz zu traditionellen Plattformen wie Wikipedia, deren Inhalte bekanntlich noch von Menschen erstellt und betreut werden, erzeugen diese KI-gesteuerten Systeme die Inhalte eigenständig, wobei oft Fehler entstehen, wie es weiter heißt. Die kürzlich veröffentlichte Studie will die Frage beantworten, wie Nutzer die Glaubwürdigkeit von KI-generierten Inhalten und von Menschen erstellten Inhalten auf verschiedenen Benutzeroberflächen beurteilen. Die Studie hat die Aussagen von über 600 englischsprachigen Teilnehmern zur Basis.

KI-Informationen werden als anziehender betrachtet

Prof. Dr. Martin Huschens, Professor für Wirtschaftsinformatik an der Hochschule Mainz und einer der Autoren der Studie, betont mit Blick auf das Ergebnis: „Unsere Studie enthüllte einige wirklich überraschende Erkenntnisse. Es zeigte sich etwa, dass die Teilnehmer KI-generierte und von Menschen generierte Inhalte als ähnlich glaubwürdig einschätzen – und zwar unabhängig von der Benutzeroberfläche.“ Noch faszinierender sei für ihn, dass den KI-generierten Inhalten eine höhere Klarheit und Anziehungskraft zugesprochen wird, obwohl es keine signifikanten Unterschiede in Bezug auf die wahrgenommene Nachrichtenkompetenz und Vertrauenswürdigkeit gibt. Und das, obwohl KI-generierte Inhalte nach wie vor ein hohes Risiko für Fehler, Missverständnisse und halluzinatorisches Verhalten aufweisen würden.

Künstliche Intelligenz im Alltag

KI und Datenschutz: Gratwanderung zwischen Nutzen und Herausforderungen

Beim Googeln stets das Hirn einschalten

Die Studie wirft außerdem ein Schlaglicht auf den aktuellen Stand der Wahrnehmung und Nutzung KI-generierter Inhalte und die damit verbundenen Gefahren. Im digitalen Zeitalter, in dem Informationen leicht verfügbar sind, müssen die User nämlich über Unterscheidungsvermögen und kritisches Denken verfügen. Die Balance zwischen der Bequemlichkeit, sich von KI-gesteuerten Anwendungen hinreißen zu lassen und einem wirklich verantwortungsbewussten Informationsnutzung zu finden, sei entscheidend. Mit zunehmender Verbreitung von KI-generierten Inhalten müssen Nutzer sich deshalb der Grenzen und der inhärenten Vorurteile in diesen künstlichen Systemen bewusst bleiben.

Unterscheidung, ob Mensch oder Maschine, fällt schwer

Prof. Dr. Franz Rothlauf von der Johannes-Gutenberg-Universität Mainz kommentiert: „Der Beitrag macht klar, dass im Zeitalter von Chat GPT Menschen nicht mehr zwischen Mensch und Maschine unterscheiden können. Weil Maschinen allerdings nicht ‚wissen‘, sondern statistisch raten, brauchen wir zukünftig eine Kennzeichnungspflicht von maschinengeneriertem Wissen.“ Geschehe das nicht, könnten Menschen nicht mehr zwischen Fiktion und Wahrheit unterscheiden. Es bleibt außerdem eine Aufgabe der Wissenschaftskommunikation und nicht zuletzt auch eine gesellschaftliche und politische Herausforderung, die User für eine verantwortungsvolle Verwendung von KI-generierten Inhalten zu sensibilisieren.

(ID:49827897)