Die EU ist sich einig. Mit großer Mehrheit stimmte das Europäische Parlament am 13. März 2024 für das weltweit erste umfassende Regelwerk für künstliche Intelligenz ab. Der sogenannte Artificial Intelligence Act (AIA) geht auf einen Vorschlag der EU-Kommission von 2021 zurück und soll ein Gleichgewicht zwischen Risikomanagement und Innovationsförderung sein.
Mit dem AI-Act sollen KI-Anwendungen in unterschiedliche Risikoklassen eingeordnet werden. Je nach Risikoklasse müssen unterschiedliche Anforderungen erfüllt werden. Systeme in kritische Infrastruktur oder Bildungs- und Gesundheitswesen gelten als besonders risikoreich und müssen entsprechend hohe Anforderungen erfüllen. Weitere Hochrisiko-Anwendungen sind Systeme, die Wahlen beeinflussen können, oder in der Personalverwaltung eingesetzt werden. In diesen Fällen muss ein Mensch die in letzter Instanz die Kontrolle über die Entscheidungen der KI haben.
Bestimmte KI-Anwendungen künftig verboten
Bestimmte KI-Anwendungen sind künftig verboten. Dazu gehören z.B. Systeme, die Menschen nach politischen und religiösen Ansichten, sexueller Orientierung oder der Hautfarbe einteilen. Grundsätzlich fallen darunter Programme, die Bürgerrechte einschränken, das menschliche Verhalten und den freien Willen beeinflussen, oder soziale Verhalten bewerten („social scoring“). Verstöße gegen die Regeln können mit hohen Geldstrafen geahndet werden. Für den Einsatz einer verbotenen Technologie drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen.
Allerdings gibt es Ausnahmen. Zwar ist z.B. die Gesichtserkennung im öffentlichen Raum, wie etwa durch Videoüberwachung an öffentlichen Plätzen, nicht erlaubt. Die Polizei und andere Sicherheitsbehörden sollen bei bestimmten Straftaten diese jedoch nutzen können.
Industrieverbände fürchten hohe Kosten
Industrieverbände gehen davon aus, dass die neuen Regelungen für zu hohe Hindernisse bei der Entwicklung von neuen KI-Anwendungen sorgen. Es wird befürchtet, dass Nachteile im Wettbewerb mit der Konkurrenz aus den USA oder China entstehen könnten. Höheren Kosten durch die Regulierung seien durch Tech-Konzerne aus den USA besser zu bewältigen, als für Start-Ups aus Deutschland.
Während Brüssel den AIA als „historisch“ feiert, bleibt die Frage, inwieweit die Risiken von AI zeitgemäß reguliert werden können. Schließlich dauerten die Verhandlungen über das Gesetz fast drei Jahre und begannen noch vor dem Hype um OpenAI und ChatGPT. Immer wieder musste das Gesetz auf Drängen des EU-Parlaments nachgeschärft werden und gilt erst ab 2026. Das Bei der rasanten Entwicklung, die im AI-Sektor stattfindet, stehen die Chancen eher schlecht, dass bis dahin die Regelungen noch aktuell sein werden.
