Die Ergebnisse meines Berichts zu ethischen Aspekten der KI
Der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) im Europäischen Parlament hat heute alle Kompromissanträge meines Berichts mit weitreichenden Forderungen für künftige Maßstäbe an die Ethik von künstlicher Intelligenz, Robotik und verwandter Technologien bestätigt. Nun stehen alle Inhalte final fest und der Gesamttext wird morgen nochmals vom Ausschuss bestätigt. Damit werden die ersten relevanten Linien des Europäischen Parlaments für die künftige Gesetzgebung sichtbar. Sie fließen in den Bericht des JURI-Ausschusses ein, der im September zur Abstimmung gestellt wird und voraussichtlich im Oktober ins Plenum geht.
Wir haben die ethischen Anforderungen so geschärft, dass KI gerechter und sozialer im Sinne der Menschheit eingesetzt werden kann. Datensätze müssen repräsentativ sein und Aufsichtsbehörden sollen in Europa freien Zugang zum Code erhalten, um Diskriminierung, Überwachung, wirtschaftliche Ausbeutung und Meinungsmanipulation zu verhindern. Wir öffnen damit die Blackbox KI. Künftig können wir sehr viel einfacher Algorithmen durchleuchten. Die Aufsicht koordiniert ein europäischer Ausschuss. Gleichzeitig wollen wir die Verbraucher*innen mit mehr Rechten ausstatten.“
Die wichtigsten Errungenschaften des Berichts auf einen Blick:
- Nicht-Diskriminierung: Wir brauchen keine Maschinen, um Vorurteile zu bedienen oder sogar zu verstärken. Deshalb legen wir hohe Ansprüche an qualitativ hochwertige, repräsentative Trainingsdaten. Wir fordern vielfältige Teams von Entwickler*innen und Ingenieur*innen und stellen sicher, dass die Entscheidungsebenen des europäischen Kompetenzzentrums für KI vielfältig und geschlechtergerecht sind.
- Mehr Aufsicht und Kompetenz: Aufsichtsbehörden erhalten das Recht, in die Unternehmen zu gehen und den Zugang zu Dokumentation, Code und Datensätzen zu erlangen. Die Aufsicht koordiniert ein europäischer Ausschuss aus Vertreter*innen der Mitgliedsstaaten. Damit schaffen wir gleiche Wettbewerbsbedingungen. Ein Kompetenzzentrum soll Anleitung, Bewertung und Fachwissen für alle nationalen Behörden zur Verfügung stellen.
- Stärkere Rechte für Verbraucher*innen: Die Nutzer*innen von KI-Anwendungen sollen angemessen über die Existenz, die Argumentation und die möglichen Ergebnisse und Auswirkungen algorithmischer Systeme informiert. Sie sollen erfahren, wie die Entscheidungen des Systems überprüft, sinnvoll angefochten und korrigiert werden können und wie sie ihr Recht durchsetzen können. Damit schalten wir den KI-Autopiloten aus und setzen die Verbraucher*innen wieder auf den Fahrersitz. Verbraucherschutzorganisationen sollen für die Aufklärungsarbeit angemessen finanziell ausgestattet werden, und Forscher*innen sollen API-Zugang zu KI-Systemen haben, um deren Auswirkungen unabhängig analysieren zu können.
- Sensiblere Risikobewertung: Die rechtlichen Verpflichtungen für Unternehmen sollen schrittweise mit dem ermittelten Risikoniveau einer KI-Anwendung steigen. In der niedrigsten Kategorie sind keine zusätzlichen rechtlichen Verpflichtungen notwendig. Jedes algorithmische System aber, das Menschen schädigen oder potenziell die Rechte einer Einzelperson verletzen oder ihr Zugang zu öffentlichen Leistungen verwehren kann, darf in keinem Fall in die niedrigste Kategorie eingestuft werden. Das Stufenmodell muss verbindlich und einheitlich in der EU geregelt werden. Die Risikobewertung von Systemen muss einer regelmäßigen Neubewertung unterzogen werden.