Resolution zu automatisieren Entscheidungen geht in die letzte Runde

Die EU-Kommission will ihre KI-Strategie am 19. Februar 2020 öffentlich machen. Wir Grüne drängen darauf, dass künstliche Intelligenz allen Menschen dienen muss . Das Gegenteil ist bisher der Fall. In den letzten Jahren sind immer mehr Fälle ans Tageslicht gekommen die zeigten, dass viele KI-Anwendungen vor allem Frauen und marginalisierten Gruppen unverhältnismäßig an den Rand drängen. Da sie kaum an Entscheidungen zum Einsatz von KI-Anwendungen beteiligt sind, werden ihre Interessen weniger berücksichtigt – oder schlimmer noch, sie werden diskriminiert. Bestehende Ungleichheiten und Vorurteile in der Gesellschaft verfestigen sich dadurch in der digitalen Welt und können durch Maschinen sogar verstärkt werden.

Mitte November 2019 habe ich deshalb eine Anfrage an die Kommission und einen Antrag für eine Resolution des EU-Parlaments angestoßen, für die ich vier weitere Frauen aus den Fraktionen EVP, S&D, renew und GUE/NGL gewinnen konnte.

Am 23. Januar 2020 wurde die Resolution in einer Sitzung des Binnenmarkt- und Verbraucherschutzausschusses mit überwältigender Mehrheit angenommen. Nun geht sie in die letzte Runde. Die Abstimmung im Plenum ist für Mittwoch, den 12. Februar, angesetzt.

Die Resolution wird damit die erste Positionierung des Parlaments zu automatisierten Entscheidungsprozessen sein. Sie soll die Debatte um die zentrale Frage anstoßen: Dürfen wir als demokratische Gesellschaft die Systeme kontrollieren? Erhalten Aufsichtsbehörden Zugang zu den Algorithmen?

Stärkere Aufsicht
Die Resolution fordert eine unabhängige Aufsicht durch qualifizierte Fachleute, wenn legitime öffentliche Interessen auf dem Spiel stehen (Art. 10). Ziel ist auch die Erklärungsfähigkeit und angemessene Transparenz der Algorithmen gegenüber den Überwachungsbehörden und Überprüfung durch die Kommission, ob zusätzliche Vorrechte gewährt werden sollten (Art. 11).

Nichtdiskriminierende Datensätze
Wir fordern den Einsatz von nichtdiskriminierenden und qualitativ hochwertigen Datensätzen (Art12-13) sowie von nichtdiskriminierenden und erklärbaren Algorithmen (Art. 13).

Der Mensch ist verantwortlich
Wir schaffen die Möglichkeit, Entscheidungen durch Menschen überprüfen zu lassen. Der Mensch ist am Ende für die Entscheidungen der Maschinen verantwortlich (Art. 1, 5, 10).

Transparenz für die Verbraucher*innen
Europas Bürger*innen sollen wissen, wie ein Algorithmus funktioniert, wie Entscheidungen überprüft und korrigiert werden (Art. 1) und ob die Preise personalisiert angepasst wurden (Art. 2).

Risikobasierter Ansatz
Die Regulierung der KI sollte über einen risikobasierten Ansatz erfolgen (Art. 7), angelehnt an das Vorbild der Datenethikkommission.

Anwendung und Durchsetzung des bestehenden Rechts
Die Resolution fordert die konsequente Anwendung und Durchsetzung des bestehenden Rechts bei KI-Anwendungen (z.B. DSGVO) (Art. 9)

Keine Diskriminierung durch Algorithmen
Die Resolution fordert die Nicht-Diskriminierung aufgrund von Nationalität, Wohnort oder vorübergehendem Standort in Bezug auf die Geoblockierungsverordnung (Art. 3).