19.08.2026. Mit dem AI Act, der Verordnung über Künstliche Intelligenz, gibt die Europäische Union (EU) einen rechtlichen Rahmen für die Entwicklung, den Einsatz und die Nutzung von Künstlicher Intelligenz (kurz KI) vor. Die Verbraucherzentrale fasst die wichtigsten Regelungen für Sie zusammen.
Wen betrifft die KI-Verordnung?
Spätestens seit ChatGPT sind die Möglichkeiten von Künstlicher Intelligenz (KI) in aller Munde. Dass KI einen weitreichenden Einfluss auf den Alltag aller Verbraucherinnen und Verbraucher hat, steht außer Frage. Neben vielen Vorteilen gehen mit dem Einsatz der neuen Technologie aber auch Risiken einher, welche die EU früher regulieren will.
Ziel des AI-Acts ist es, Fortschritt und Entwicklung der Technologie zu ermöglichen, gleichwohl aber bestehende Risiken zu berücksichtigen und die Interessen der Nutzenden zu wahren.
Der AI Act richtet sich an alle Anbieter, zum Beispiel Unternehmen, Forschungsinstitute oder Behörden, die KI-Systeme entwickeln, in den Verkehr bringen oder in Betrieb nehmen. Es spielt dabei keine Rolle, ob sich der Sitz der Einrichtungen in der EU befindet. Die KI-Verordnung greift, sobald das Produkt oder die Anwendung in der EU eingesetzt und zugänglich gemacht werden.
Daneben betrifft die Verordnung auch gewerbliche Nutzende von KI-Systemen. Privatpersonen, welche sich in der EU befinden, profitieren von den Regelungen zum Schutz der Gesundheit, Sicherheit und Grundrechte. Sie treffen keine gesonderten Pflichten.
Was regelt der AI Act?
Die Vorgaben der Verordnung zielen jeweils darauf ab, dass KI-Systeme sicher, transparent, zuverlässig und verantwortungsbewusst eingesetzt werden. Geregelt werden im AI Act beispielsweise Anforderungen an die Transparenz, die Qualität der Daten, Pflichten zur Dokumentation sowie die beständige Aufsicht des KI-Systems durch Menschen, um Risiken für Gesundheit, Sicherheit oder Grundrechte zu minimieren.
Welche Kategorien von KI-Systemen gibt es?
Die EU-Kommission hat die KI-Systeme in unterschiedliche Risikogruppen eingestuft, zum Beispiel in KI-Modelle mit einem unannehmbaren, hohen, begrenzten oder minimalen Risiko für die Grundrechte und Werte der Union. Für die jeweiligen Kategorien gelten unterschiedliche Anforderungen und Regelungen.
Wie geht es mit dem AI Act weiter?
Der AI Act ist am 1. August 2024 in Kraft getreten und 2 Jahre nach dem Inkrafttreten vollständig anwendbar. Seit dem 2. August 2026 gelten unter anderem die Transparenzpflichten.
Das Verbot von sexualisierten Deepfakes gilt ab dem 2. Dezember 2026.
Einige Hochrisiko-KI Systeme bekommen allerdings mehr Zeit für die Umsetzung der für sie vorgesehenen Regeln. Hier geht es um KI-Systeme, die über Menschen oder wichtige Lebensbereiche entscheiden oder diese maßgeblich beeinflussen, zum Beispiel im Personalwesen, bei der Bildung oder kritischen Dienstleistungen. Diese strengen Regeln gelten ab 2. Dezember 2027.
Ab 2. August 2028 gelten die Pflichten für KI-Systeme, die Menschen vor Gefahren schützen soll, etwa produktbezogene Hochrisiko-KI, wie z.B. Medizinprodukte.
Anbieter und Betreiber müssen nun Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen. Es muss kein bestimmtes Kompetenzniveau jeder einzelnen Person garantiert werden.
Die EU-Kommission prüft jährlich, ob künftig Anpassungen zum Beispiel an der Kategorisierung der KI-Systeme vorzunehmen sind, um auch auf technische Entwicklungen und neue Anwendungsgebiete reagieren zu können.
Ausführliche Informationen zu KI-Systemen mit unannehmbaren, hohen und begrenztem Risiko sowie weitere Details zur KI-Verordnung finden Sie im Artikel der Verbraucherzentrale: www.verbraucherzentrale.de/wissen/digitale-welt/onlinedienste/ai-act-was-regelt-die-neue-europaeische-kiverordnung-95824.