AI Act Europäische KI-Verordnung nimmt nächste Hürde

Anbieter zum Thema

Parasoft® Deutschland GmbH

Ein Gesetz für KI-Systeme könnte Unternehmen die notwendige rechtliche Sicherheit geben, um Investitionen in diesem Bereich hochzufahren. Doch das Gesetzgebungsverfahren hat trotz der Fortschritte noch einen weiten Weg vor sich.

Der Artificial Intelligence Act hat auf EU-Ebene eine weitere Hürde genommen. Abgeordnete des EU-Parlaments haben sich laut Medienberichten auf einen Entwurf der weltweit ersten gesetzlichen Regulierung von künstlicher Intelligenz geeinigt. Doch trotz dieses Fortschritts kann es noch lange dauern, bis handfeste Gesetze von den Mitgliedsstaaten eingeführt werden.

Die KI-Verordnung soll sicherstellen, dass in der EU genutzte Modelle und Anwendungen sicher und vertrauenswürdig sind. Der Entwurf sieht vor, dass KI-Systeme anhand ihres Risikoniveaus eingestuft werden müssen. Der Entwurf unterscheidet dabei zwischen einem unannehmbaren, einem hohen, einem geringen und einem minimalen Risiko. Ein unannehmbares Risiko stellen laut dem Entwurf etwa KI-Systeme oder Anwendungen dar, die menschliches Verhalten manipulieren können, um den freien Willen der Nutzer zu umgehen sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens ermöglichen. Diese Systeme sollen verboten werden. Für KI-Systeme mit einem hohen Risikoniveau gelten dagegen strenge Vorgaben, wie etwa eine Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen. Als Beispiel nennt der Entwurf Systeme für kritische Infrastruktur oder für die Sicherheitskomponenten von Produkten. EU-Bürger sollen zudem ein Recht auf Beschwerden über KI-Systeme bekommen und Erklärungen zu Entscheidungen zu erhalten, die auf risikoreichen KI-Systemen basieren und ihre Rechte erheblich beeinträchtigen.

Weiter Weg für die KI-Verordnung

Der jetzige Fortschritt wurde von Verhandlungsführern des EU-Binnenmarkt- und Innenausschusses erzielt. Dabei handelt es sich jedoch nur um einen Zwischenschritt im Gesetzgebungsverfahren. Das Thema müsse zunächst noch dem EU-Parlament vorgelegt werden. Die Abstimmung werde für die Sitzung vom 12. bis 15. Juni erwartet. Findet der Entwurf hier eine Mehrheit, kommt es zum Trilog zwischen Kommission, Rat und Parlament.

Kritik an dem Entwurf kommt unter anderem vom Branchenverband Bitkom. Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung, warnte bereits bei der ersten Veröffentlichung des Entwurfs im Dezember 2022 vor einer Überregulierung, welche der Wettbewerbsfähigkeit von europäischen Unternehmen schaden könnte. Der TÜV-Verband fordert dagegen klarere Rechtsgrundlagen und eine unabhängige Stelle, die das Risikoniveau der KI-Systeme einschätzt. Aktuell seien vor allem Selbsteinschätzung der Anbieter vorgesehen. Die Überwachung der Umsetzung des KI-Regelwerks soll laut dem aktuellen Entwurf das EU-Amt für künstliche Intelligenz übernehmen.

KI-Ethik

KIDD – oder wie sich KI ethisch gestalten lässt

(ID:49440544)