Die Europäische Union bekommt ein Regelwerk für den Einsatz von Künstlicher Intelligenz (KI). EU-Binnenmarktkommissar Thierry Breton gab am Freitagabend nach langwierigen Verhandlungen zwischen den Unterhändlern der Mitgliedstaaten und des Europaparlaments eine politische Vereinbarung für den neuen Rechtsrahmen bekannt. "Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt", schrieb Breton im Kurzbotschaftendienst X (früher Twitter).

EU-Kommissionspräsidentin Ursula von der Leyen erklärte zum Abschluss der am Mittwochnachmittag gestarteten Verhandlungsrunde, die rund 35 Stunden dauerte, das KI-Gesetz (AI Act) sei eine "weltweite Premiere". Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, der die Menschen "vertrauen" könnten. Außerdem würden "Sicherheit und Grundrechte von Menschen und Unternehmen" geschützt.

Wichtiger Meilenstein

Auch Österreichs Staatssekretär für Digitalisierung, Florian Tursky (ÖVP), begrüßte die Einigung. "Mit dem weltweit ersten Rechtsrahmen für KI setzen wir in der Europäischen Union einen wichtigen Meilenstein, denn durch sinnvolle Regulierung stärken wir nicht nur das Vertrauen in die neuen Technologien, sondern stärken zudem die europäischen Werte und Grundrechte im digitalen Raum", betonte er laut einer Aussendung von Samstag früh. Für Unternehmen seien "klare Regeln und Vorgaben" wichtig, um Rechtssicherheit zu haben. "Für die Bürgerinnen und Bürger ist die Transparenz und der Schutz ihrer persönlichen Daten wichtig", so Tursky.

Man müsse das Verhandlungsergebnis "natürlich noch genau prüfen, aber damit kann Europa globaler Vorreiter bei der Regulierung von KI werden", zeigte sich die ÖVP-Europaparlamentarierin Barbara Thaler überzeugt. "Das ist ein wichtiges Signal an die Mitbewerber in den USA und in Asien. Meine Devise lautet seit jeher: Keine Angst vor KI, die Risiken konsequent regulieren und den Fokus auf die Möglichkeiten und das Potenzial richten", so Thaler in einer Aussendung.

Ihre Kollegin von den NEOS, Claudia Gamon, meinte: "Mit diesem rechtlichen Rahmen können wir den Menschen die Angst vor dem vermeintlichen Schreckgespenst KI nehmen und gleichzeitig die vielen Potenziale der Künstlichen Intelligenz fördern - wie in der Krebsbekämpfung und dem Umweltschutz. Der AI Act kann nicht nur unsere Bürger:innenrechte schützen, sondern auch wirtschaftliche Innovationen beflügeln. Er wird maßgeblich unser aller Zukunft prägen."

Der SPÖ-Delegationsleiter im EU-Parlament, Andreas Schieder, hielt fest: "Besonders gefährliche KIs, die unkontrolliert Desinformation und Fake-Inhalte verbreiten, werden streng reguliert." Zugleich forderte Schieder: "Der Einsatz von KI am Arbeitsplatz wird weitreichende Veränderungen in der Arbeitswelt bringen, hier müssen die Gewerkschaften miteinbezogen werden."

Die stellvertretende Generalsekretärin der Wirtschaftskammer (WKÖ), Mariana Kühnel, sieht in dem geplanten KI-Rechtsrahmen "eine Balance zwischen Innovation und Regulierung gewährleistet. Er fördert Investitionen und Innovationen und sichert gleichzeitig bestehende Rechte durch ein hohes Schutzniveau." Nun müssten rasch die nationalen Strukturen für die Umsetzung der Verordnung geschaffen werden. Kühnel forderte "eine serviceorientierte KI-Behörde" in Österreich, die die Unternehmen hierzulande bei der Umsetzung unterstützt.

Kritik von Seiten der Wirtschaft

Aus der Wirtschaft kam aber auch Kritik an den EU-Vorgaben. Sie seien eine weitere Belastung für die Unternehmen, erklärte der Branchenverband DigitalEurope. Der Bundesverband der Deutschen Industrie bemängelte, das Ziel, durch den "AI Act" einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, sei teilweise verfehlt worden. Die Wettbewerbs- und Innovationsfähigkeit werde gefährdet und die von Unternehmen benötigte Rechtssicherheit in Form von praxisnaher und vorausschauender Regulierung sei durch unausgereifte Kriterien nicht gegeben. "Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung. "Europa riskiert auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren."

Auch die Datenschutzgruppe European Digital Rights äußerte sich kritisch. Es sei schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der EU Schritte unternehme, um die öffentliche Gesichtserkennung in der gesamten EU zu legalisieren. Das Gesamtpaket zur biometrischen Überwachung und zum Profiling sei bestenfalls mäßig.

Details müssen noch ausgearbeitet werden

Nach der politischen Einigung vom Freitagabend müssen nun noch technische Details ausgearbeitet werden. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Verschärfte Vorgaben soll es für "risikoreiche" Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

Die EU-Kommission hatte im April 2021 erstmals einen Rechtsrahmen für den Einsatz Künstlicher Intelligenz vorgeschlagen. Die Verhandlungen zogen sich aber in die Länge.

Entwicklung von KI fördern oder beschränken?

Die großen Mitgliedsländer Deutschland, Frankreich und Italien hatten zuletzt vor scharfen Auflagen gewarnt, um die Entwicklung der Zukunftstechnologie nicht zu gefährden. Der deutsche Digital- und Verkehrsminister Volker Wissing appellierte an die EU, international abgestimmt vorzugehen und "keinen Alleingang" zu wagen. So gibt es Befürchtungen, Start-up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.

Das Thema Künstliche Intelligenz hatte vor rund einem Jahr durch die Veröffentlichung des Chatbots ChatGPT durch das US-Unternehmen OpenAI an Prominenz gewonnen. Das Programm ist in der Lage, mit Hilfe von Künstlicher Intelligenz aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten der KI damit schlagartig einem großen Publikum bewusst. Zugleich wuchsen die Befürchtungen über mögliche Gefahren der Technologie.

Streit um biometrische Überwachung

Der größte Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments verbietet KI-Anwendungen wie eine automatisierte Gesichtserkennung. Kritiker sehen darin eine massive Verletzung der Bürgerrechte. Die EU-Staaten wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Die Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor. Die Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden.

Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 Millionen Euro und 35 Millionen Euro liegen.

Mit dem Gesetz setzt sich die EU weltweit an die Spitze der KI-Regulierung. Die meisten anderen Staaten haben bisher vor allem Verordnungen und Dekrete erlassen. Außerdem könnte der "AI Act" als Blaupause für diejenigen dienen, denen die Regelungen der USA zu locker und die Auflagen Chinas zu restriktiv sind.

Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen. Das gilt aber als Formsache.