EU AI Act: Die neue KI-Verordnung der Europäischen Union einfach erklärt

Was ist der EU AI Act?

Künstliche Intelligenz entwickelt sich rasant und verändert bereits heute zahlreiche Bereiche unseres Alltags. Unternehmen nutzen KI für Kundenservice, Marketing oder Datenanalyse. Behörden setzen sie für Verwaltungsprozesse ein und immer mehr Menschen greifen auf Systeme wie ChatGPT, Microsoft Copilot oder Google Gemini zurück. Mit den neuen Möglichkeiten entstehen jedoch auch Risiken – etwa für Datenschutz, Sicherheit oder Grundrechte.

Genau aus diesem Grund hat die Europäische Union den EU AI Act verabschiedet. Dabei handelt es sich um die weltweit erste umfassende Verordnung zur Regulierung von künstlicher Intelligenz. Ziel ist es, Innovation zu fördern und gleichzeitig sicherzustellen, dass KI-Systeme verantwortungsvoll entwickelt und eingesetzt werden. Der AI Act verfolgt dabei einen risikobasierten Ansatz: Je größer das potenzielle Risiko eines KI-Systems für Menschen und Gesellschaft ist, desto strengere Anforderungen gelten für dessen Anbieter und Betreiber.

Warum wurde der AI Act eingeführt?

In den vergangenen Jahren hat sich die Leistungsfähigkeit von KI-Systemen enorm verbessert. Moderne Sprachmodelle können Texte schreiben, Bilder erstellen, programmieren oder komplexe Analysen durchführen. Gleichzeitig bestehen Risiken wie:

Diskriminierung durch fehlerhafte Algorithmen
Verletzung der Privatsphäre
Manipulation von Menschen
Desinformation durch Deepfakes
Fehlentscheidungen bei sensiblen Anwendungen

Bisher gab es innerhalb der Europäischen Union keine einheitlichen Regeln für den Umgang mit künstlicher Intelligenz. Der AI Act soll deshalb einen gemeinsamen Rechtsrahmen schaffen, der sowohl Verbraucher als auch Unternehmen schützt und gleichzeitig Innovation innerhalb Europas ermöglicht.

Der risikobasierte Ansatz des EU AI Act

Das Herzstück der Verordnung ist die Einteilung von KI-Systemen in verschiedene Risikoklassen.

1. Verbotene KI-Anwendungen

Einige Anwendungen gelten als unvertretbares Risiko und sind grundsätzlich verboten. Dazu gehören beispielsweise:

Social Scoring nach dem Vorbild sozialer Bewertungssysteme
KI, die Menschen gezielt manipuliert
Ausnutzung besonders schutzbedürftiger Personen
bestimmte Formen biometrischer Identifikation oder Emotionserkennung in sensiblen Bereichen

Diese Anwendungen dürfen innerhalb der EU grundsätzlich nicht eingesetzt werden, da sie Grundrechte verletzen können.

2. Hochrisiko-KI

Besonders streng reguliert werden sogenannte Hochrisiko-Systeme. Hierzu zählen KI-Anwendungen beispielsweise in den Bereichen:

Gesundheitswesen
Personalrekrutierung
Bildung
kritische Infrastruktur
Strafverfolgung
Kreditwürdigkeitsprüfung

Für diese Systeme gelten umfangreiche Anforderungen. Anbieter müssen unter anderem:

Risiken dokumentieren
Datenqualität sicherstellen
technische Dokumentationen erstellen
menschliche Aufsicht gewährleisten
Transparenz schaffen
ein Qualitätsmanagement etablieren

Vor dem Einsatz müssen viele dieser Systeme zusätzlich ein Konformitätsbewertungsverfahren durchlaufen.

3. KI mit begrenztem Risiko

Einige Anwendungen unterliegen lediglich Transparenzpflichten. Nutzer sollen erkennen können, dass sie mit einer künstlichen Intelligenz interagieren.

Beispiele:

Chatbots
KI-generierte Bilder
Deepfakes
automatisch erzeugte Inhalte

Dadurch sollen Verbraucher informierte Entscheidungen treffen können.

4. KI mit minimalem Risiko

Der Großteil heutiger KI-Anwendungen fällt in diese Kategorie.

Dazu gehören beispielsweise:

Spamfilter
Rechtschreibkorrekturen
Empfehlungssysteme
viele KI-Funktionen in Bürosoftware

Für diese Systeme bestehen kaum regulatorische Anforderungen. Unternehmen können freiwillig zusätzliche Verhaltenskodizes anwenden.

Welche Unternehmen sind betroffen?

Viele Unternehmen gehen fälschlicherweise davon aus, dass der AI Act nur große Technologieunternehmen betrifft. Tatsächlich richtet sich die Verordnung an zahlreiche Akteure, darunter:

Anbieter von KI-Systemen
Betreiber von KI-Lösungen
Importeure
Händler
Hersteller von Produkten mit integrierter KI

Auch Unternehmen außerhalb der Europäischen Union können betroffen sein, sofern ihre KI-Systeme innerhalb der EU genutzt oder vermarktet werden. Dadurch besitzt der AI Act eine internationale Bedeutung, ähnlich wie bereits die Datenschutz-Grundverordnung (DSGVO).

Welche Pflichten kommen auf Unternehmen zu?

Je nach Risikoklasse müssen Unternehmen unterschiedliche Anforderungen erfüllen. Dazu gehören unter anderem:

Aufbau einer KI-Governance
Dokumentation eingesetzter KI-Systeme
Risikobewertungen
Überwachung der Systeme nach Markteinführung
Schulung der Mitarbeiter
Transparenz gegenüber Nutzern
Einhaltung technischer Sicherheitsanforderungen

Gerade Unternehmen, die generative KI oder eigene KI-Anwendungen entwickeln, sollten sich frühzeitig mit den gesetzlichen Vorgaben beschäftigen.

Zeitplan des AI Act

Die Verordnung wurde im Amtsblatt der Europäischen Union veröffentlicht und trat am 1. August 2024 offiziell in Kraft. Die einzelnen Vorschriften gelten jedoch schrittweise.

Zu den wichtigsten Meilensteinen gehören:

1. August 2024: Inkrafttreten des AI Act
2. Februar 2025: Erste Verbote sowie Regelungen zur KI-Kompetenz gelten.
2. August 2025: Vorschriften für General-Purpose-AI-Modelle sowie Governance-Regeln treten in Kraft.
2. August 2026: Der Großteil der Bestimmungen wird anwendbar.
Weitere Anforderungen für bestimmte Hochrisiko-Systeme folgen schrittweise bis 2028.

Welche Auswirkungen hat der AI Act auf den Einsatz von ChatGPT?

Viele Unternehmen fragen sich, ob Werkzeuge wie ChatGPT künftig verboten werden.

Die Antwort lautet: Nein.

Generative KI ist grundsätzlich weiterhin erlaubt. Allerdings können je nach Einsatzgebiet Transparenz- und Dokumentationspflichten entstehen. Anbieter leistungsfähiger KI-Modelle müssen zusätzlich bestimmte Anforderungen erfüllen, beispielsweise hinsichtlich technischer Dokumentation, Risikomanagement oder urheberrechtlicher Transparenz.

Vorteile der neuen KI-Verordnung

Obwohl der AI Act zusätzliche Pflichten mit sich bringt, bietet er auch zahlreiche Vorteile.

Dazu zählen:

mehr Vertrauen in KI-Systeme
europaweit einheitliche Regeln
besserer Schutz der Grundrechte
höhere Rechtssicherheit für Unternehmen
Förderung verantwortungsvoller Innovation

Langfristig kann dies dazu beitragen, dass Unternehmen KI sicherer einsetzen und Verbraucher mehr Vertrauen in entsprechende Technologien entwickeln.

Herausforderungen für Unternehmen

Die Umsetzung der neuen Vorgaben ist jedoch nicht immer einfach.

Viele Unternehmen stehen vor Fragen wie:

Welche KI-Systeme nutzen wir überhaupt?
Gehören unsere Anwendungen zu den Hochrisiko-Systemen?
Welche Dokumentationen sind erforderlich?
Wer trägt intern die Verantwortung?
Welche Prozesse müssen angepasst werden?

Insbesondere kleine und mittelständische Unternehmen benötigen häufig Unterstützung bei der Einordnung ihrer KI-Anwendungen und der Umsetzung der regulatorischen Anforderungen.

Der EU AI Act markiert einen Meilenstein in der Regulierung künstlicher Intelligenz. Er schafft erstmals einen einheitlichen europäischen Rechtsrahmen für den verantwortungsvollen Einsatz von KI und verfolgt dabei einen risikobasierten Ansatz. Während Anwendungen mit geringem Risiko weitgehend frei genutzt werden können, gelten für Hochrisiko-Systeme umfangreiche Vorgaben zum Schutz von Sicherheit und Grundrechten.

Unternehmen sollten sich frühzeitig mit den neuen Regelungen befassen, ihre eingesetzten KI-Systeme identifizieren und interne Prozesse entsprechend anpassen. Wer die Anforderungen rechtzeitig umsetzt, reduziert nicht nur regulatorische Risiken, sondern schafft auch Vertrauen bei Kunden, Geschäftspartnern und Mitarbeitenden.

Weitere Informationen sowie den vollständigen Gesetzestext stellt der AI Act Explorer bereit: https://artificialintelligenceact.eu/de/. Die Europäische Kommission veröffentlicht ergänzende Leitlinien und Erläuterungen zur praktischen Umsetzung der Verordnung.