Konsultation gestartet: Sagt jetzt eure Meinung zu europäischen Regeln für KI

Künstliche Intelligenz (KI) wird immer stärkeren Einfluss auf unsere Gesellschaft haben. Schon jetzt treffen KI-Anwendungen viele Entscheidungen für uns: Sie bestimmen, welche Videos uns auf YouTube empfohlen werden, wie hoch unser Kreditrahmen ausfällt, ob wir in die Endrunde eines Bewerbungsverfahrens kommen oder welches Produkt aus Online-Shops uns empfohlen wird.
Es ist Zeit für eine umfassende KI-Gesetzgebung in Europa, die auch ethische Regeln festschreibt. Sie müssen auf unseren europäischen Werten und Grundrechten wie Menschenwürde und Schutz der Privatsphäre fußen und uns vor gefährlichen Auswüchsen schützen.

Die Vorbereitungen für dieses Gesetzgebungsverfahren laufen bereits. Wir bereiten derzeit Berichte in den Ausschüssen des Parlaments vor. Diese Texte werden in Entschließungen des Parlaments einfließen, der als Gesetzgebungswunsch an die Kommission geht.

Ich selbst schreibe daran mit und möchte möglichst viele Menschen beteiligen. Als so genannter „Rapporteur“ verfasse ich den Bericht für den Ausschuss für Verbraucherrechte und Binnenmarkt (IMCO). Hier  findet ihr meine Stellungnahme (pdf) für den federführenden Rechtsausschuss, zu der ich jetzt eine eigene Konsultation gestartet habe.

Macht mit!

Ich freue mich auf eure Kommentare und Vorschläge hier

Meine zentralen Vorschläge:

  • ein risikobasierter Ansatz
    KI-Systeme müssen vor ihrer Zulassung geprüft werden. In die unbedenklichste Kategorie fallen KI-Produkte, die Menschen nicht betreffe und nicht gefährden können. Ein erhöhtes Risikopotential gilt bei Systemen, die den Zugang eines Individuums zu Ressourcen, zum Arbeitsmarkt oder der Teilhabe an gesellschaftlichen Prozessen betreffen. Sie müssen mit einem höheren Grad an regulatorischen Eingriffen und Auflagen für Unternehmen versehen werden: Sie müssen die Algorithmen aller Anwendungen mit höherem Risiko transparent machen, Datensätze angemessen entzerren, ihre Produkte einer verpflichtenden Risikobewertung unterziehen (die auch bewertet, wie hoch das Diskriminierungsrisiko ist) und für Vielfalt in ihren technischen Teams sorgen.
  • keine Diskriminierung und Schutz der Grundrechte
    Bisher gibt es weltweit noch kein Gesetz, das auf die Möglichkeit von Diskriminierung bei KI hinweist und diese explizit verbietet. Ich fordere die Durchsetzung unseres Grundrechts auf Diskriminierungsfreiheit und eine Vorabprüfung für alle neuen Anwendungen.
  • eine europäische Aufsicht und starke Durchsetzung
    Jeder Mitgliedstaat sollte eine nationale Behörde benennen, die für die Aufsicht verantwortlich ist. Um eine Fragmentierung des Binnenmarkts zu vermeiden, schlage ich die Schaffung eines neuen Europäischen Ausschusses vor, der als unabhängige Einrichtung für eine einheitliche Anwendung der KI-Vorschriften in der gesamten Europäischen Union sorgen kann.

Am Montag, 18. Mai 2020, gegen 15:30 Uhr stelle ich meinen Bericht im Ausschuss vor (Livestream). Die anderen Fraktionen und ich selbst haben bis zum 19. Mai Zeit, um Änderungen am Entwurf vorzuschlagen. Durch die Konsultation könnt ihr direkt mitreden und eure Vorschläge einbringen.

  • +32 22 84 59 05
  • Alexandra.Geese@ep.europa.eu

Anmelden für den Newsletter