Mobile-Menu

Die Geister, die ich rief ... Künstliche Intelligenz rüstet Cyberkriminelle auf

Quelle: dpa 2 min Lesedauer

Online-Kriminelle haben mit künstlicher Intelligenz (KI) eine mächtige neue Waffe bekommen. So wurde der KI-Chatbot Claude der Entwicklerfirma Anthropic bereits missbraucht ..., um in Netzwerke einzudringen, Daten zu erbeuten und sie auszuwerten.

Während Cyberkriminelle vor den Zeiten der künstlichen Intelligenz (KI) ganze Teams benötigten, um ihre Machenschaften durchziehen zu können, macht ihnen die KI heut das Leben leider viel, viel leichter ...(Bild: Panopticus)
Während Cyberkriminelle vor den Zeiten der künstlichen Intelligenz (KI) ganze Teams benötigten, um ihre Machenschaften durchziehen zu können, macht ihnen die KI heut das Leben leider viel, viel leichter ...
(Bild: Panopticus)

Mithilfe der Möglichkeiten der künstlichen Intelligenz können Cybergauner heute effektiver agieren als ohne. Der KI-Chatbot Claude von Anthropic wurde etwa dadurch dafür ausgenutzt, um illegal in Netzwerke einzudringen, dort Daten zu klauen und diese auszuwerten. Auch hätten die Angreifer die Software dazu benutzt, um psychologisch zielgerichtete Erpressungsnachrichten an die Opfer zu schreiben, wie der Geschädigte Anthropic informiert. Der Angreifer hat offensichtlich damit gedroht, gestohlene Informationen zu veröffentlichen und zum Teil über 500.000 Dollar von den Betroffenen verlangt. Getroffen von der automatisierten Attacke wurden demnach allein im vergangenen Monat 17 Unternehmen und Organisationen aus den Bereichen Gesundheitswesen, Regierung und Religion, heißt es. Claude hat auch etwa nach Schwachstellen gesucht sowie bei der Entscheidung geholfen, wie ein Netzwerk am besten angegriffen werden kann und welche Daten entwendet werden sollten. Üblicherweise hätte man für eine solche Aktion ein Team aus Experten gebraucht, was aber wegen der Möglichkeiten von KI heute nur von einer Person bewerkstelligt werden kann, heißt es.

Nordkoreanische Cyberkriminelle tricksen US-Firmen aus

Anthropic listete in einem ausführlichen Papier auch weitere Fälle auf, in denen Claude für Online-Kriminalität missbraucht wurde. So sei der Chatbot zum Einsatz gekommen, als sich Nordkoreaner Homeoffice-Jobs als Programmierer in US-Unternehmen erschlichen, um Geld für die Regierung reinzuholen. Sie hätten sich dabei auf die KI-Software verlassen, um mit ihren Arbeitgebern zu kommunizieren – und auch, um ihre Aufgaben zu erledigen. Dabei hätten sie augenscheinlich nicht genug Ahnung von Software-Entwicklung gehabt, um den Job ohne Hilfe von Claude auszuüben, wie Anthropic feststellte. Früher habe Nordkorea dafür jahrelang Experten ausgebildet, aber durch KI fiel diese zeitraubende Hürde einfach weg.

Emotionale KI lockt Singles in eine teure Falle

Außerdem entwickelten Cyberkriminelle mithilfe von Claude diverse Betrugsmaschen, die sie im Netz zum Kauf anboten. Dazu gehörte laut Anthropic ein Bot für die Plattform Telegram zum Beziehungsbetrug, wobei den Opfern etwa eine romantische Verbindung vorgegaukelt wird, um Geld von ihnen zu erbeuten. Damit kann man Chats mit hoher emotionaler „Intelligenz“ in verschiedenen Sprachen führen, merken die Spezialisten an. Man habe zwar ausgeklügelte Maßnahmen gegen einen Missbrauch der KI-Software im Einsatz, betonte Anthropic, doch Online-Angreifer versuchten dennoch immer wieder, sie zu umgehen. Mit der Erfahrung aus den ausgewerteten Fällen soll der Schutz nun kontinuierlich verbessert werden.

(ID:50530301)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte