KI-Regulierung: Nationale Aufsicht muss verbraucherfreundlich sein

(Berlin) - Der Artificial Intelligence Act (AI-Act) sieht vor, dass nationale Gesetzgeber innerhalb von zwölf Monaten nach Inkrafttreten eine Aufsicht für künstliche Intelligenz (KI) etablieren müssen. Bis Frühjahr 2025 müsste somit auch in Deutschland geklärt sein, welche Behörde die zentrale Aufsichtsbehörde für die Überwachung des AI-Act wird und künftig Beschwerden von Verbraucher:innen behandelt. Damit drängt die Zeit für die Bundesregierung.

Der Verbraucherzentrale Bundesverband (vzbv) präsentiert erste Vorschläge für eine verbraucherfreundliche Aufsicht.

Der vzbv fordert:

- Verbraucher:innen sollten bei Beschwerden zu KI-Anwendungen nur einen Ansprechpartner haben. Daher sollte die künftige zentrale nationale Aufsichtsbehörde für das gesamte Verfahren zuständig sein.

- Das System zur Beschwerdeannahme muss einfach und leicht zu nutzen sein.

- Der Gesetzgeber sollte einen unabhängigen nationalen KI-Beirat einrichten, damit zivilgesellschaftliche Interessen bei der KI-Aufsicht berücksichtigt werden. Dieser KI-Beirat sollte die Aufsichtsbehörden beraten und Stellungnahmen und Empfehlungen veröffentlichen können. Als Vorbild kann der Beirat des Digital Service Coordinators nach dem Digitale-Dienste-Gesetz (DDG) dienen.

- Die Bundesregierung muss den Einsatz biometrischer Fernidentifizierungssysteme an öffentlich zugänglichen Orten wie Tankstellen und Einkaufszentren auch für private Akteure untersagen.

Hintergrund
Am 13. März 2024 wurde der AI-Act von der Europäischen Union beschlossen. Der AI-Act adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich ausgesetzt sind. Beispiele sind die Echtzeit-Analyse von Kundenemotionen an Hotlines oder die subtile Manipulation vulnerabler Verbrauchergruppen zu Verkaufszwecken.

Quelle und Kontaktadresse:
(vzbv) Verbraucherzentrale Bundesverband e.V. Rudi-Dutschke-Str. 17, 10969 Berlin Telefon: (030) 258000, Fax: (030) 25800218