EU-Parlament beschließt Gesetz für Künstliche Intelligenz
Die neuen Regeln verbieten bestimmte KI-Anwendungen, die die Rechte der Bürger:innen bedrohen und sollen für Sicherheit und Achtung der Grundrechte sorgen. Weiters müssen künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) zukünftig eindeutig als solche gekennzeichnet werden.
Menschen dürften nicht manipuliert werden, daher müssen Inhalte, die mit KI erstellt werden, gekennzeichnet werden.
Auch der Schutz der Demokratie und Rechtsstaatlichkeit vor Hochrisiko-KI-Systemen ist ein Schwerpunkt. Die strengen Regeln gelten ab 2026.
Welche Anwendungen werden verboten?
Emotionserkennungssysteme am Arbeitsplatz und in Schulen
Ungezielte Auslesen von Gesichtsbildern aus dem Internet
Überwachungskameras für Gesichtserkennungsdatenbanken
Biometrische Kategorisierung auf der Grundlage sensibler Daten
Bewerten von sozialem Verhalten mit KI
Verbot des Einsatzes von KI, um soziales Verhalten zu bewerten, Menschen zu beeinflussen oder ihre Schwächen auszunutzen
Ende von "Big Brother" oder gibt es Ausnahmen für die Polizeiarbeit?
Grundsätzlich ist die Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden verboten. Es gibt jedoch bestimmte ausführlich beschriebene und eng abgegrenzte Ausnahmefälle. Fernidentifizierung in Echtzeit ist nur dann erlaubt, wenn strenge Sicherheitsbestimmungen eingehalten werden – unter anderem gibt es zeitliche und räumliche Beschränkungen, und es muss vorab eine spezielle behördliche oder gerichtliche Genehmigung eingeholt werden. Entsprechende Systeme dürfen beispielsweise genutzt werden, um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern. Der Einsatz von KI-Systemen zur nachträglichen Fernidentifizierung gilt als hochriskant. Hierfür ist eine gerichtliche Genehmigung nötig, die mit einer Straftat in Verbindung stehen muss.
Zukunftsfähige KI-Anwendungen aus der EU?
Brüssel feiert sich für den sogenannten "AI Act - die erste umfassende Regulierung Künstlicher Intelligenz. Es gibt jedoch auch umfassende Kritik an den hohen Hürden für Unternehmen. Weiters wird die unpräzise Abgrenzung von KI-Hochrisikosystemen kritisiert. Fällt so manches digitale Haushaltsgerät darunter oder nicht? Ob die neue Regulierung zur Innovationsbremse wird oder ein dringend notwendige Regulierung ist, wird sich noch weisen.
Zur Förderung von Innovationen und KMU müssen in den Mitgliedsstatten Reallabore eingerichtet werden und Tests unter realen Bedingungen durchgeführt werden. Diese müssen für kleine und mittlere Unternehmen sowie für Start-ups zugänglich sein, damit sie innovative KI-Systeme entwickeln und trainieren können, bevor sie auf den Markt kommen.
Quelle: Aktuelles Europäisches Parlament
