19. Februar 2020

EU-Kommission veröffentlicht Digital-Paket

ENGLISH VERSION BELOW

Heute hat die EU-Kommission ihre Vorhaben veröffentlicht, um Europa fit für die digitale Zukunft zu machen. Hierzu gehört eine Kommunikation zur Digital-Strategie, ein Weißbuch mit Vorschlägen für die Regulierung von Künstlicher Intelligenz (KI) und eine Datenstrategie.

Alexandra Geese zum Weißbuch:

„Das Weißbuch setzt die richtigen Impulse. Es eröffnet KI-Anwendungen mit niedrigem Sicherheits- und Diskriminierungsrisiko sofort die Chance, für Klimaschutz und Nachhaltigkeit in der industriellen Fertigung zum Einsatz zu kommen. Dagegen müssen Hoch-Risiko-Anwendungen mit Diskriminierungspotenzial geprüft werden, damit sie benachteilige Gruppen in der Bevölkerung nicht weiter diskriminieren.

Der Teufel steckt allerdings im Detail – bei der genauen Definition von hohem Risiko und bei den Möglichkeiten, sich gegen diskriminierende oder ungenaue KI-Anwendungen zu wehren. Dort brauchen wir die Mitwirkung der Zivilgesellschaft, z.B. durch Klagemöglichkeiten von Verbraucherschutz- oder Anti-Rassismus-Organisationen, und eine Umkehr der Beweislast, da einzelne Bürgerinnen und Bürger eine Diskriminierung nach derzeitigem Recht bisher nicht nachweisen können.

Im Weißbuch fehlen die sozialen Aspekte, vor allem die von KI potenziell ausgelöste Verschärfung der sozialen Ungleichheit und der Abbau der Arbeitnehmer*innenrechte. Es fehlen Vorschläge zum Umgang mit Algorithmen, die nicht den Einzelnen, sondern die Gesellschaft schädigen, z.B. bei Empfehlungsmechanismen für soziale Netzwerke. Auch bei der Aufsicht bleiben Fragen offen.

Die von der Kommission angestrebten Netzwerke von nationalen Behörden und Branchenorganisationen sind richtig, aber nur ein europäisches Gremium mit Know-how und Entscheidungsmöglichkeiten wird in der Lage sein, den großen internationalen Tech-Unternehmen die Stirn zu bieten, denen einzelne Mitgliedsstaaten oft nicht mehr gewachsen sind.

Wer ethische und rechtliche Vorgaben für die KI einer demokratischen Gesellschaft machen will, muss die Technologie beherrschen. Die Investitionslücke im Verhältnis zu den USA und China ist jedoch riesig. Viele der ehrgeizigen Ziele der Kommission benötigen Gelder aus dem Programm Digital Europe und dem Forschungsprogramm Horizon Europa. Genau diese Programme aber werden in dem aktuellen Vorschlag
der Ratspräsidentschaft von den Mitgliedsstaaten gekürzt, das Programm Digital Europe im Vorschlag von Ratspräsident Michel beispielsweise um 17,5 Prozent im Vergleich zum Kommissionsvorschlag. Der Rat und die Bundesregierung müssen bei den Haushaltsberatungen am 20. Februar einen deutlich höheren und moderneren Vorschlag für den Mehrjährigen Finanzrahmen machen, um Europa zukunftsfähig zu gestalten.“


Zur Digitalstrategie:

„Informations- und Kommunikationstechnologien sollen 10 Prozent der Gesamtsenkung der CO²-Emissionen bis 2030 in allen Sektoren bewirken, also ein Fünftel des im Green New Deals vorgesehenen Rückgangs um 50 Prozent. Das ist ein guter Anfang, aber schöpft das technische Potenzial nicht aus. Es gibt keinen Grund beim Klimaschutz zu sparen, wenn wir den bestmöglichen Nutzen aus der Technik ziehen können. Positiv zu bewerten ist dagegen das Ziel, Rechenzentren, IKT-Infrastruktur und Tech-Unternehmen CO²-neutral zu gestalten. Gleichzeitig müssen wir uns bewusst machen, dass das Training von Algorithmen durch riesige Datenmengen sehr viel Energie verbraucht. Diese Technologien sollten deshalb nur dann zum Einsatz kommen, wenn sie der Gesellschaft wirklich nützen.“

ENGLISH VERSION

Today the EU Commission published its plans to make Europe fit for the digital future. This includes a communication on the digital strategy, a White Paper with proposals for the regulation of artificial intelligence (AI) and a data strategy.

Alexandra Geese on the AI White Paper:

„The White Paper gives the right impulses. It opens up the opportunity for AI applications with low security and discrimination risks to be used for climate protection and sustainability in industrial production. In contrast, high-risk applications with discriminatory potential must be checked to ensure that they
do not exacerbate discriminate against disadvantaged groups in the population.

However, the devil is in the detail – in the precise definition of high risk and in the possibilities to defend against discriminatory or inaccurate AI applications. There we need the participation of civil society, e.g. through the possibility of legal action by consumer protection or anti-racism organisations, and a
reversal of the burden of proof, as individual citizens have so far been unable to prove discrimination under current law.

The White Paper lacks the social aspects, in particular the potential aggravation of social inequalities and the reduction of workers’* rights triggered by AI. There are no proposals for dealing with algorithms that do not harm the individual but society as a whole, e.g. recommendation mechanisms for social networks. Questions also remain open with regard to supervisory oversight.

The networks of national authorities and industry organisations envisaged by the Commission are a first step, but only a European body with know-how and decision-making powers will be able to stand up to the large international providers, which individual Member States are often unable to address.

Anyone who wants to set ethical and legal guidelines for AI in a democratic society must master the technology. However, the investment gap with the USA and China is huge. Many of the Commission’s ambitious goals require funding from the Digital Europe and the Horizon Europe research programmes It is precisely these programmes, however, that the Member States are cutting back on in the current
proposal by the Council Presidency; the Digital Europe programme in the proposal by Council President Michel, for example, is cut by 17.5% compared with the Commission proposal. The Council and the Federal Government must make a significantly higher and more modern proposal for the multi-annual financial framework at the budget discussions on 20 February in order to make Europe fit for the future.“

On the digital strategy:

„Information and communication technologies are expected to achieve 10 percent of the overall reduction in CO² emissions in all sectors by 2030, i.e. one fifth of the 50 percent reduction envisaged in the Green New Deal. This is a good start, but does not exploit the technical potential. There is no reason to save on climate protection if we can get the best possible benefit from technology. On the other hand, the goal of making data centers, ICT infrastructure and tech companies carbon neutral is positive. At the same time, we must be aware that training algorithms with huge amounts of data consumes a great deal of energy. These technologies should therefore only be used if they truly benefit society.“

Bleiben Sie auf dem Laufenden

Wenn Sie regelmäßig über meine Arbeit im Europäischen Parlament informiert werden wollen,
können Sie sich hier in meinen Newsletter eintragen: