Die EU-Kommission hatte im Rahmen des sogenannten Omnibus-Pakets vorgeschlagen, Hochrisiko-KI-Systeme erst 16 Monate später, als zunächst geplant , zu regulieren. Nun hat der Europäische Rat der Änderung des AI Acts zugestimmt und seine Ansichten ausformuliert. Das ist Teil der Simplifizierungs-Agenda, bei der die EU aktuell mehrere bestehende Gesetze auf ihre Aktualität und Umsetzbarkeit betrachtet. In diesem Fall geht es vor allem um bisher fehlende Standards und Werkzeuge für Hochrisiko-KI, die noch ausgearbeitet werden müssen.
Zudem möchte der Rat verbieten, dass Inhalte generiert werden können, die Kindesmissbrauch und intime Situationen zeigen, sowie sexuelle Handlungen, die nicht einvernehmlich sind. Gemeint ist nicht nur die fehlende Erlaubnis des Aktes, sondern die fehlende Erlaubnis, solche Bilder künstlich zu erzeugen.
Auslöser für die Erweiterung waren massenhaft erstellte Bilder mit sehr fragwürdigen Inhalten, die Menschen mit dem Bildgenerator von Grok gemacht hatten. Die Bilder posteten viele bei X. Grok ist der Bildgenerator von Elon Musks xAI, dem auch X gehört. Es gibt allerdings zahlreiche Organisationen, wie etwa Hate Aid, die schon lange fordern, dass sogenannte Face-Swap-Apps verboten werden. Mit diesen ist es ein Leichtes, Köpfe und Gesichter von Personen aus pornografischen Bildern durch die Köpfe anderer Personen zu ersetzen.
Spätere Regulierung von Hochrisiko-KI
Zwei weitere Anpassungen an der KI-Verordnung betreffen Hochrisiko-KI-Systeme. Hochrisiko bedeutet, diese KI-Systeme können die Grundrechte und das Leben gefährden. Beispiele sind die biometrische Fernidentifizierung, auch bekannt als Gesichtserkennung, sowie beispielsweise der Einsatz von KI-Systemen in der kritischen Infrastruktur, Justiz und im Bildungswesen. Dabei geht es jeweils nicht generell um den Einsatz von KI, sondern um spezielle Aufgaben – so darf etwa die Auswertung von Prüfungen im Bildungswesen nicht ausschließlich von einer KI übernommen werden.
Neuer Stichtag für Hochrisiko-KI-Systeme ist der 2. August 2028. Ab dann gelten Regeln und Pflichten beim Einsatz von Hochrisiko-KI, wenn diese in andere Systeme eingebunden sind. Bereits der 2. Dezember 2027 ist nun der neue Stichtag für eigenständige Hochrisiko-KI-Systeme – solche, die nicht Teil eines umfangreicheren Produktes sind.
Wer ein Hochrisiko-KI-System betreibt, muss dieses in einer EU-Datenbank registrieren. Der Europäische Rat fordert, dass dies immer gemacht wird – auch wenn Betreiber meinen, ihr System gehöre vielleicht nicht dazu. Das stand zuletzt im Raum, inwieweit Betreiber selbst entscheiden können, wie ihre Systeme einzustufen sind. Ebenfalls bekräftigt der Rat den Grundsatz der strengen Notwendigkeit für die Verarbeitung von personenbezogenen Daten.
Dem AI Office soll weiterhin die grundlegende Überwachung von Allzweck-KI-Modellen (General Purpose AI) obliegen. Ausnahmen, bei denen nationale Behörden zuständig sind, sollen von dem EU-Amt aufgelistet werden.
Der Rat fordert die Kommission auf, Leitlinien zu entwickeln, die den Verwaltungsaufwand für Unternehmen, die KI-Systeme einsetzen, minimieren. Ausnahmen, die bisher nur für Klein- und Mittelständische Unternehmen halten, sollen auch auf kleinere Midcap-Unternehmen gelten.
Die Forderungen des Rates werden nun mit dem EU-Parlament besprochen.
(emw)
English (US) ·