Kein Risiko! TÜV-Verband will künstliche Intelligenz sinnvoll regulieren

Die finalen Verhandlungsergebnisse zum AI Act sind da. Doch der Entwurf sollte mit Blick auf die Klassifizierung von Hochrisiko-KI-Systemen nachgebessert werden, sagt der TÜV-Verband.

Die EU-Mitgliedsstaaten haben sich bereits im Dezember letzten Jahres auf einen gemeinsamen Standpunkt mit Blick auf den AI Act geeinigt. Seit Juni laufen die sogenannten Trilogverhandlungen zwischen den EU-Institutionen, um einen Kompromiss zu finden. Anlässlich der aktuellen Verhandlungen sagt Johannes Kröhnert, Leiter Büro Brüssel des TÜV-Verbands:

„Der AI Act ist eine große Chance für Europa, zum weltweiten Vorreiter bei der vertrauenswürdigen und sicheren Nutzung künstlicher Intelligenz zu werden.“ Das Ziel muss es aber sein, die Chancen von KI-Systemen zu nutzen und gleichzeitig die damit verbundenen Risiken zu begrenzen.

Verbraucherprodukte sind meist nicht erfasst

Kröhnert weiter: „Der von den EU-Institutionen vorgesehene risikobasierte Ansatz ist richtig, allerdings greifen die darauf basierenden Klassifizierungsvorschriften zu kurz. Denn als hoch riskant sollen nur solche KI-Systeme eingestuft werden, bei denen die physischen Produkte, in die sie integriert werden, bereits einer verpflichtenden Prüfung durch unabhängige Stellen unterliegen.“ Das betreffe vor allem Industrieprodukte wie zum Beispiel Aufzüge oder Druckbehälter. Der Großteil der Verbraucherprodukte, darunter Spielzeug oder „Smart Home“-Geräte, falle jedoch nicht unter diese Prüfpflicht. Das bedeutet, dass die meisten KI-basierten Verbraucherprodukte gemäß des AI Acts nicht als Hochrisikoprodukte klassifiziert werden und damit auch nicht die strengen Sicherheitsanforderungen erfüllen müssten, so Kröhnert. Hier sehe man eine große Regelungslücke, die der EU-Gesetzgeber in den Verhandlungen noch dringend schließen müsse.

Eine Fehlerquelle heißt Risikoklassifizierung durch Anbieter

Ebenso kritisch sehen die TÜV-Leute die Klassifizierung von KI-Systemen, die nicht in bestehende Produkte integriert werden, sondern als reine Software für bestimmte Anwendungsbereiche auf den Markt gebracht werden (Stand-Alone-KI). Dazu zählen zum Beispiel KI-Systeme für Einstellungsverfahren oder Kreditwürdigkeitsprüfungen. Nach dem Vorschlag des Europäischen Parlaments sollen die Anbieter die Risikobewertung selbst durchführen und am Ende auch selbst entscheiden, ob ihr Produkt als Hochrisikoprodukt einzustufen ist oder nicht. Dadurch bestehe aber die Gefahr, dass es zu Fehleinschätzungen komme. Kröhnert: „Der EU-Gesetzgeber sollte deshalb klare und eindeutige Klassifizierungskriterien aufstellen, um die Wirksamkeit der verpflichtenden Anforderungen sicherzustellen.“

Künstliche Intelligenz

Wettkampf der Tech-Giganten: Wer wird Herrscher der KI?

So kann das nötige Vertrauen aufgebaut werden

Auch bei der Überprüfung von KI-Systemen bestehe Nachbesserungsbedarf. Hier setzt der EU-Gesetzgeber sehr stark auf das Instrument der Eigenerklärung der Anbieter. Doch besonders von Hochrisikosystemen könnten große Gefahren ausgehen, die sowohl Leib und Leben als auch die Sicherheit in der Privatsphäre und die Umwelt bedrohen, betont der Experte. Anstelle einer Selbsterklärung brauche es lieber eine umfassende Nachweispflicht, einschließlich einer Überprüfung von unabhängigen Stellen. Hochriskante KI-Systeme sollten grundsätzlich einer verpflichtenden Zertifizierung durch benannte Stellen unterliegen. Nur durch unabhängige Prüfungen werden mögliche Interessenskonflikte der Anbieter ausgeschlossen, meint Kröhnert. Zugleich werde das Vertrauen der Menschen in die Technologie gestärkt. Gemäß einer aktuellen repräsentativen Umfrage des TÜV-Verbands befürworten immerhin schon 86 Prozent der Deutschen eine verpflichtende Prüfung der Qualität und Sicherheit von KI-Systemen. „Der Slogan ‚AI Made in Europe‘ kann so zu einem echten Qualitätsstandard und globalen Wettbewerbsvorteil werden“, so Kröhnert.

(ID:49664649)