Die EU-Kommission hat heute einen Gesetzesvorschlag zum Umgang mit Künstlicher Intelligenz vorgelegt. Dabei stehen KI-Technologien im Fokus, bei deren Anwendung Risiken bestehen können, etwa in Medizintechnik oder beim Einstellen von Arbeitskräften.

Tiemo Wölken, rechtspolitischer Sprecher der S&D-Fraktion:

„Künstliche Intelligenz klingt für viele Menschen zunächst bedrohlich. Gleichzeitig wird ihre Leistung oft überschätzt, weshalb Ergebnisse von Algorithmen unkritisch übernommen werden. In besonders sensiblen Bereichen können beim KI-Einsatz Grundrechte verletzt werden, etwa bei der Personalauswahl oder der Strafverfolgung. Daher muss auf EU-Ebene sichergestellt werden, dass für Ergebnisse von KI-Anwendungen, eine natürliche oder eine juristische Person verantwortlich bleibt. KI-Anwendungen dürfen keine Blackboxen bleiben, deren Ergebnisse unkritisch übernommen werden.

Auch für Soziale Medien, wird die KI-Gesetzgebung zentral sein. Schon heute entscheiden selbstlernende Algorithmen darüber, welche Beiträge und welche Werbung wem angezeigt werden. Plattformen wie Facebook oder Youtube nehmen für die Online-Kommunikation so eine Gatekeeper-Funktion ein. Sie können den Diskurs manipulieren und lenken. Gut, dass die Kommission erkannt hat, das Problem manipulativer Beiträge zu adressieren. Wir werden im parlamentarischen Verfahren sicherstellen, dass die Vorgaben eine manipulationsfreie Online-Diskussion ermöglichen.“

Evelyne Gebhardt, verbraucherschutz- und binnenmarktpolitische Sprecherin der SPD-Europaabgeordneten:

„Künstliche Intelligenz bietet großes Innovationspotenzial für Gesellschaft, Binnenmarkt und Umwelt. Doch wir dürfen als Gesetzgeber*innen auch die Risiken von KI nicht übersehen und müssen deshalb eindeutige Regeln dazu vorantreiben. Ein Schaden in einer KI-Software ist für Verbraucher*innen schwer überprüfbar. Wir müssen sicherstellen, dass die Technologien während ihres gesamten Lebenszyklus von Menschen kontrolliert werden – nicht nur, bevor sie auf den Markt kommen. Der Kommissionsvorschlag für eine KI-Verordnung setzt hier an der richtigen Stelle an, geht aber nicht weit genug.

Erfahrungsgemäß können Algorithmen diskriminierend wirken oder zur willkürlichen Massen-Überwachung eingesetzt werden. Das müssen wir entschieden verhindern. Wenn eine Software mit verzerrten oder falschen Daten gefüttert wird, kann sie tendenziöse Ergebnisse liefern. Dabei geht es nicht nur um extreme Fälle von sogenannten Sozialkredit-Systemen, wie von der EU-Kommission vorgeschlagen. Der Einsatz solcher Software, die etwa in China genutzt wird, darf in der EU selbstverständlich nicht erlaubt werden. Risiken bergen bereits Systeme, die auf der kommerziellen Überwachung von Verbraucher*innen beruhen. Ich bin zuversichtlich, dass wir Europa-Abgeordnete den Vorschlag an den notwendigen Stellen deutlich verbessern werden.“

Nach diesem Vorschlag durch die EU-Kommission verhandeln in den kommenden Monaten Europaparlament, EU-Mitgliedstaaten und EU-Kommission über die neuen Vereinbarungen.