Europa muss Prioritäten und Grenzen setzen

Der zielgerichtete Einsatz von künstlicher Intelligenz kann unsere Wirtschaft nach vorne bringen. Wir müssen sie stärker zur Optimierung von Prozessen, für Klimaschutz und Nachhaltigkeit nutzen und uns im Gegenzug von Anwendungen zur Überwachung, Bewertung und Manipulation von Menschen abgrenzen.

Die EU-Kommission hat für die erste Jahreshälfte 2020 eine Strategie für künstliche Intelligenz „made in Europe“ angekündigt. Damit stellt Europa gemeinsam die große Frage, welche Aufgaben uns die Maschinen künftig abnehmen sollen? Viel wird darüber geklagt, Europa habe das Rennen um künstliche Intelligenz (KI) gegen die USA und China bereits verloren. Die eigentlich relevante Frage aber lautet: Wo geht das Rennen denn hin?

China ist auf dem Weg zu einer Orwellschen Totalüberwachung der Bevölkerung, bei der die Bürgerinnen und Bürger auf Schritt und Tritt kontrolliert und durch Social Scoring für jedes unerwünschte Verhalten bestraft werden. In den USA läuft alles auf die entfesselte Macht eines Konzern-Oligopols hinaus, das mit immer weniger Arbeitsplätzen immer mehr Gewinn erwirtschaftet. Die Innovationskraft der Wirtschaft wird geschwächt, indem die Giganten einerseits vielversprechende Start-ups aufkaufen, um Wettbewerb zu verhindern, andererseits unglaubliche Datenmengen sammeln und mit der damit einhergehenden Macht auch traditionsreiche Unternehmen anderer Branchen aus dem Markt drängen.  Das kann nicht der Weg der Europäischen Union sein. Keines dieser Modelle ist mit unserer Vorstellung von Demokratie und sozialer Marktwirtschaft vereinbar.

Europa muss sich klar mit eigenen Werten und Zielen behaupten. Die Herausforderungen liegen auf dem Tisch: Klimaschutz und nachhaltiges Wirtschaften, Optimierung dezentraler Energieversorgungssysteme und nachhaltige Mobilität. In der industriellen Fertigung – dort, wo europäische Unternehmen immer noch Innovationsführer sind und bleiben sollen – können Algorithmen für langlebigere Produkte, optimale Rohstoffnutzung und maßgeschneiderte Instandhaltungsintervalle den Fußabdruck der Industrie verringern. Moderne Stromnetze profitieren von KI-Systemen durch Wartungsempfehlungen, Schwachstellenerkennung, Steuerung von erneuerbaren Energien und Nachfragesteuerung. Die Mobilität der Zukunft wird dank einer optimalen Koordination von Angebot und Nachfrage effizient und ressourcenschonend zugleich sein.

Zielgerichtete KI-Forschung kann unsere Wirtschaft in Domänen nach vorn bringen, die in anderen Kontinenten nicht im Fokus stehen. Darauf müssen wir setzen. Schon jetzt investiert die EU deutlich weniger in KI als die Konkurrenz in Übersee. Diese Mittel sollten aufgestockt und zielgerichtet eingesetzt werden: für Klimaschutz, nachhaltiges Wirtschaften, Demokratie, die Wahrung der Grundrechte und soziale Gerechtigkeit.

Das bedeutet im Umkehrschluss, dass wir von Technologien Abstand nehmen, die in erster Linie der Überwachung, Bewertung und Manipulation menschlichen Verhaltens dienen. Wer die Proteste in Hongkong verfolgt hat, sieht Menschen, die nur noch mit Masken auf die Straße gehen. Eine allgegenwärtige Gesichtserkennung wie in China macht demokratische Freiheitsrechte zur Makulatur. Hierzulande vertrauen Bürgerinnen und Bürger noch darauf, dass Bilder aus Videoüberwachungen nur zur Aufklärung von Verbrechen verwendet werden. Wenn ein Algorithmus jedoch in Sekundenschnelle Millionen Bilder scannt, um ein komplettes Bewegungs- und Emotionsprofil über eine Person zu erstellen – sogar kombiniert mit Daten aus den sozialen Netzwerken – kann von Freiheit keine Rede mehr sein. Deshalb fordern wir ein Verbot der Gesichtserkennung in öffentlichen Räumen in Europa.

Im offenen Widerspruch zu unserer Rechtsauffassung stehen auch die in den USA breit eingesetzten Systeme zum sogenannten „predictive policing“. Ein Beispiel: Wenn arme Stadtviertel häufiger polizeilich kontrolliert werden als reiche, werden dort mehr Straftaten festgestellt. Dementsprechend schlägt das System genau diese Stadtviertel wieder verstärkt für Streifenfahrten vor – obwohl die an der Wall Street begangen Straftaten vermutlich der Gesamtgesellschaft deutlich mehr Schaden zufügen als die Kleinkriminalität in der Bronx.

Immer, wenn künstliche Intelligenz Menschen bewerten soll, ist die Technik riskant. Scheinbar harmlose KI-Systeme bevorzugen bei der Bewerbungsauswahl für hochdotierte Jobs mit großer Wahrscheinlichkeit Männer, die jung, gesund und weiß sind. Denn in den Datensätzen lauern historische Ungleichheiten und Diskriminierungen gegen Frauen, People of Color, LGBTI und Menschen mit Behinderungen.  Alle algorithmischen Systeme müssen nach einem Risikomodell, wie es beispielsweise die Datenethikkommission vorgeschlagen hat, auf ihre Rechtmäßigkeit und Neutralität geprüft werden. Wenn eine diskriminierende Verzerrung nicht behoben werden kann, dürfen solche grundrechtsverletzenden Systeme in Europa nicht eingesetzt werden.

Europa darf dem Sirenengesang der heilsversprechenden KI-Industrie nicht folgen, sondern muss eigene Prioritäten und Grenzen setzen. Nur so können wir Demokratie und soziale Marktwirtschaft schützen und gleichzeitig die europäische Industrie stärken.

The targeted use of artificial intelligence can propel our economy forward. We ought to use it more in the optimisation of processes, for climate protection and sustainability, and at the same time distance ourselves from applications used to monitor, rate and manipulate people.

The European Commission has announced a “made in Europe” strategy for artificial intelligence for the first half of 2020, thereby asking the question as to which tasks machines will take care of for us in the future. Many people complain that Europe has already lost the race for artificial intelligence (AI) against the USA and China. However, the more pertinent question is: where is this race heading?

China is rapidly becoming an Orwellian state of total surveillance in which citizens’ every move is monitored and undesired behaviour punished using social scoring. In the USA, everything is moving towards the unbounded power of a conglomerate oligopoly which is generating more and more profit with fewer and fewer workplaces. Industry’s power to innovate is weakened on the one hand by the giants buying up promising start-ups to destroy competition, and on the other hand by collecting incredible volumes of data and using the resulting power to oust traditional companies in other sectors from the market. The European Union should by no means follow suit. None of those models is compatible with our understanding of democracy and a social market economy.

Europe must seek to prevail with its own values and goals. The challenges are clear to see: climate protection and sustainable management, the optimisation of decentralised energy supply systems, and sustainable mobility. Algorithms can be used in industrial production, a field in which European companies are still and must remain the leading innovators, to create longer-life products whilst optimally using resources and reducing industry’s carbon footprint with customised maintenance intervals. Modern electricity grids benefit from servicing recommendations, threat detection, renewable energy control and demand management generated by AI systems. The optimum coordination of supply and demand will make future mobility efficient and resource-friendly.

Targeted AI research can advance our economy in areas that other continents do not focus on. That has to be our objective. The EU already invests considerably less in AI than its competitors abroad. This funding has to be increased and used wisely, namely for climate protection, sustainable management, democracy, safeguarding basic rights, and social justice.

By the same token, that means we have to distance ourselves from technologies which predominantly serve to monitor, rate and manipulate human behaviour. Anyone who followed the protests in Hong Kong will have noticed that people only went onto the streets wearing masks. Omnipresent facial recognition like in China turns democratic rights of freedom into a thing of the past. People in Europe still believe that images from video surveillance are only used to solve crimes. However, there is no freedom where an algorithm can scan millions of images in seconds to create a complete movement and emotional profile of a person, even in combination with data from social networks.

The broadly used ‘predictive policing’ systems in the USA also clearly contradict our understanding of justice. For instance, if poor districts are patrolled more regularly than rich areas, more crimes are registered there. Accordingly, the system then suggests that precisely those neighbourhoods be patrolled more often, even though the crimes committed on Wall Street probably cause much more damage to society as a whole than petty crime in the Bronx.

Technology will always be dangerous when artificial intelligence is used to rate people. It is highly likely that seemingly harmless AI systems used in job application selection processes will prefer young, healthy, white men for high-powered positions, because the datasets are pervaded with historical inequalities and discrimination towards women, people of colour, LGBTI and people with disabilities. As suggested by the Data Ethics Commission, for example, all algorithmic systems ought to be assessed for legality and neutrality according to a risk model. Where a discriminatory bias cannot be rectified, such systems in breach of basic rights must not be permitted in Europe.

Europe has to resist the siren songs and cure-all promises of the AI industry and instead set its own priorities and boundaries. Only then can we protect our democracy and social market economy whilst also strengthening European industry.