Das Europäische Parlament hat mit überwältigender Mehrheit dem Gesetz über künstliche Intelligenz zugestimmt und damit eine neue Ära von Regelungen zum Schutz der Grundrechte, zur Förderung von Innovationen und zur Gewährleistung von Transparenz bei der Nutzung von künstlicher Intelligenz (KI) eingeläutet. Mit einer überwältigenden Mehrheit von 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen haben die Abgeordneten des Europäischen Parlaments die Weichen dafür gestellt, dass Europa bei der Regulierung von KI eine Vorreiterrolle einnehmen wird.

Die Verordnungen, die nach ausführlichen Verhandlungen zwischen Parlament und Rat im Dezember 2023 verabschiedet wurden, sollen die vielfältigen Herausforderungen der KI angehen und gleichzeitig ihr Potenzial zum Nutzen der Gesellschaft ausschöpfen. Im Mittelpunkt des Gesetzes stehen Bestimmungen zum Schutz der Grundrechte, der Demokratie und der ökologischen Nachhaltigkeit, insbesondere im Hinblick auf risikoreiche KI-Systeme.

Nach den neuen Regeln sind mehrere KI-Anwendungen, die die Rechte der Bürger gefährden, verboten. Dazu gehören laut Beschluss:

• die Verwendung biometrischer Kategorisierungen auf der Grundlage sensibler Merkmale
• die ungezielte Gesichtserkennung und der Einsatz von KI zur Erkennung von Emotionen an Arbeitsplätzen und Schulen
• Prädiktive Polizeiarbeit, die ausschließlich auf Profiling basiert
• der Einsatz von KI zur Beeinflussung von Verhalten oder zur Ausnutzung von Schwachstellen sind ebenfalls verboten.

Es gibt jedoch bestimmte Ausnahmen für Strafverfolgungsbehörden, die den begrenzten Einsatz von biometrischen Fernerkennungssystemen unter strengen Bedingungen und mit vorheriger Genehmigung erlauben. Solche Ausnahmen sind eng definiert und unterliegen einer strengen Aufsicht, um Missbrauch zu verhindern und die Freiheitsrechte des Einzelnen zu schützen. Für KI-Systeme mit hohem Risiko, die als erhebliche Bedrohung für die Gesundheit, die Sicherheit, die Grundrechte und die Demokratie gelten, gelten strenge Auflagen. Dazu gehören Risikobewertungen, Transparenzmaßnahmen, menschliche Aufsicht und Mechanismen für öffentliche Rechtsmittel. Darüber hinaus verlangen die Transparenzanforderungen die Offenlegung der Trainingsdaten von KI-Modellen und die Kennzeichnung von künstlich erzeugten Inhalten wie Deepfakes.

In Anerkennung der Bedeutung der Innovationsförderung enthält das Gesetz Maßnahmen zur Unterstützung von kleinen und mittleren Unternehmen (KMU) und Start-ups, die ihnen Zugang zu realen Testumgebungen verschaffen und die Entwicklung innovativer KI-Systeme fördern. Die Verordnung wird vor ihrer formellen Verabschiedung einer letzten Überprüfung unterzogen, wobei die Bestimmungen in den nächsten Jahren schrittweise in Kraft treten sollen. Die Verabschiedung des Gesetzes markiert einen entscheidenden Moment in Europas Ansatz zur KI-Begrenzung und spiegelt den Wunsch der Bürger nach einer sicheren, vertrauenswürdigen und menschenzentrierten digitalen Zukunft wider.