EU-Kommission muss KI-Regeln an entscheidenden Stellen nachdrehen
Die Europäische Kommission hat heute (Mittwoch, 21. April) ihren Vorschlag für eine Verordnung zur Regulierung künstlicher Intelligenz vorgestellt.
„Sie hat damit den guten Willen bewiesen, globale Standards zu setzen, aber an entscheidenden Stellen fehlt dem Entwurf noch der Biss. Es ist ein Schlag ins Gesicht der Zivilgesellschaft, dass ein klares Verbot von Gesichtserkennung im öffentlichen Raum fehlt. Auch die automatische Erkennung von Geschlecht oder sexueller Orientierung hat in einer demokratischen EU nichts zu suchen.
Künstliche Intelligenz soll uns in eine freie, nachhaltige Zukunft begleiten und nicht ins vorletzte Jahrhundert zurückführen. Deshalb ist es richtig, dass die EU-Kommission potenziell diskriminierende Anwendungen als Hoch-Risiko-Anwendungen einstuft. Aber die Liste ist nicht komplett: Geregelt werden müssen auch Anwendungen, die nicht nur Individuen, sondern der gesamten Gesellschaft einen Schaden zufügen, weil sie die Demokratie gefährden oder die Umwelt unverhältnismäßig belasten. Zur Durchsetzung brauchen wir personell gut ausgestattete Behörden mit starken Befugnissen, damit die Verordnung nicht zu einem zahnlosen Tiger wird.”
Hier ist der Entwurf der Kommission.
Hintergrund: Die EU-Kommission hat die Chance, mit diesem Vorschlag globale Standards für KI-Anwendungen zu setzen. Dabei unterscheidet sie zwischen verbotenen Anwendungen und Hoch-Risiko-Systemen. Zu den verbotenen Anwendungen gehört beispielsweise das Social Scoring durch Behörden sowie die Nutzung von Systemen künstlicher Intelligenz, die das Verhalten von Menschen zu deren physischen oder psychischen Schaden beeinflusst. Im Extremfall China wird mit Hilfe künstlicher Intelligenz das Verhalten der Menschen mit flächendeckenden Überwachungssystemen und Algorithmen bewertet und sanktioniert. Solche Systeme sollen in der EU zukünftig verboten sein. Künstliche Intelligenz wird in der Europäischen Union angewendet, um Menschen beispielsweise hinsichtlich ihrer Kreditwürdigkeit, Krankenversicherung und Eignung für einen Arbeitsplatz einzustufen, indem Eigenschaften und Verhalten verglichen werden, allerdings hat die Forschung ein hohes Diskriminierungspotenzial dieser Systeme erwiesen. Für solche Anwendungen schreibt die EU-Kommission Mindeststandards vor. Verstöße gegen die Verordnung sollen mit Strafen von bis zu 30 Millionen Euro belangt werden.