AI Act: Was er vorsieht und welche Pflichten für Unternehmen schon gelten
Verbote, AI-Kompetenz und Transparenz gelten bereits, während der Digital Omnibus die Pflichten für das hohe Risiko verschoben hat. Was ein Unternehmen, das AI nutzt, heute tun muss, auch mit Blick auf das italienische Gesetz.
Der AI Act, die Verordnung (EU) 2024/1689, stuft Systeme künstlicher Intelligenz nach ihrem Risiko ein und betrifft auch Unternehmen, die sie nutzen, nicht nur diejenigen, die sie entwickeln. Im Oktober 2026 gelten bereits die Verbote, die Maßnahmen zur AI-Kompetenz und die Transparenzpflichten. Für Hochrisikosysteme hat der Digital Omnibus die Fristen dagegen auf den 2. Dezember 2027 und den 2. August 2028 verschoben.
Was der AI Act vorsieht: ein kurzer Überblick
Der AI Act ist eine europäische Verordnung und gilt daher unmittelbar in allen Mitgliedstaaten, ohne dass er umgesetzt werden muss. Er regelt nicht die Technologie an sich, sondern ihre Verwendung: Je stärker ein System Gesundheit, Sicherheit und Rechte von Menschen beeinflussen kann, desto mehr Pflichten bringt es mit sich. Es ist derselbe risikobasierte Ansatz, den Unternehmen aus dem Risikomanagement kennen.
Es gibt vier Stufen sowie eine gesonderte Regelung für große Modelle mit allgemeinem Verwendungszweck:
- Unannehmbares Risiko: verbotene Praktiken wie Manipulation, die die Schwächen von Menschen ausnutzt, Social Scoring oder Emotionserkennung am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen).
- Hohes Risiko: Systeme, die in sensiblen Bereichen eingesetzt werden, etwa Personalauswahl, Kreditwürdigkeitsprüfung, Bildung, kritische Infrastrukturen, oder die in regulierte Produkte wie Maschinen und Medizinprodukte integriert sind.
- Transparenzrisiko: Chatbots, generierte oder manipulierte Inhalte (Deepfakes), Systeme, die mit Menschen interagieren.
- Minimales Risiko: der Großteil der betrieblichen Anwendungen, etwa Spamfilter, Übersetzungen, Datenextraktion aus Dokumenten. Keine besonderen Pflichten außer der AI-Kompetenz.
- AI-Modelle mit allgemeinem Verwendungszweck (die Modelle hinter generativen Assistenten): Pflichten für diejenigen, die sie entwickeln und in Verkehr bringen, nicht für diejenigen, die sie nutzen.
Für wen er gilt: Anbieter oder Betreiber
Die Verordnung unterscheidet Rollen. Der Anbieter entwickelt ein AI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Der Betreiber (Deployer) ist, wer ein AI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit verwendet. Hinzu kommen Einführer und Händler.
Ein KMU, das einen generativen Assistenten, eine HR-Software mit Funktionen zum Screening von Lebensläufen oder eine Unternehmenssoftware mit Prognosemodulen nutzt, ist fast immer Betreiber. Aber Vorsicht: Wenn Sie ein Hochrisikosystem mit Ihrer Marke versehen oder es wesentlich verändern, können Sie selbst zum Anbieter werden, mit deutlich schwereren Pflichten. Der AI Act gilt auch für Anbieter außerhalb der EU, wenn die Ergebnisse des Systems in Europa verwendet werden.
Der Zeitplan, Stand Oktober 2026
Der AI Act ist am 1. August 2024 in Kraft getreten und wird schrittweise anwendbar. Das sind die maßgeblichen Termine nach den Änderungen von 2026:
| Datum | Was gilt | Stand Oktober 2026 |
|---|---|---|
| 2. Februar 2025 | Verbote von Praktiken mit unannehmbarem Risiko und AI-Kompetenz | In Kraft |
| 2. August 2025 | Pflichten für Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen | In Kraft |
| 27. Juli 2026 | Änderungen durch den Digital Omnibus, einschließlich des neuen Wortlauts zur AI-Kompetenz | In Kraft |
| 2. August 2026 | Allgemeine Anwendung, einschließlich der Transparenzpflichten | In Kraft |
| 2. Dezember 2026 | Neues Verbot nicht einvernehmlicher intimer Deepfakes; Kennzeichnung generierter Inhalte für bereits auf dem Markt befindliche Systeme | Steht bevor |
| 2. Dezember 2027 | Pflichten für Hochrisikosysteme nach Anhang III (Beschäftigung, Kredit, Bildung, Biometrie) | Verschoben |
| 2. August 2028 | Pflichten für Hochrisiko-AI in regulierten Produkten (Anhang I) | Verschoben |
Was der Digital Omnibus geändert hat
Das von der Kommission im November 2025 vorgeschlagene Vereinfachungspaket wurde zur Verordnung (EU) 2026/1744, die am 24. Juli 2026 im Amtsblatt der EU veröffentlicht wurde und seit dem 27. Juli in Kraft ist, wenige Tage vor der ursprünglichen Frist für Hochrisikosysteme am 2. August 2026.
Die wichtigsten Änderungen:
- Verschiebung der Hochrisikopflichten: 2. Dezember 2027 für Systeme nach Anhang III, 2. August 2028 für in Produkte integrierte Systeme. Es ist eine Verschiebung, keine Streichung: Anforderungen und Pflichten bleiben dieselben.
- Neu justierte AI-Kompetenz: Anbieter und Betreiber müssen nicht mehr ein ausreichendes Kompetenzniveau „sicherstellen“, sondern Maßnahmen ergreifen, um es beim Personal aufzubauen. Kommission und Mitgliedstaaten sollen die Unternehmen unterstützen, insbesondere KMU.
- Neues Verbot ab dem 2. Dezember 2026 für Systeme, die ohne Einwilligung intime oder sexuell explizite Bilder erkennbarer Personen erzeugen.
- Vereinfachungen bei der Dokumentation und beim Qualitätsmanagementsystem für KMU und kleine Midcaps.
Die Transparenzpflichten wurden nicht verschoben: Sie gelten seit dem 2. August 2026. Ausgenommen ist die maschinenlesbare Kennzeichnung generierter Inhalte, die sich für bereits vor diesem Datum auf dem Markt befindliche Systeme auf den 2. Dezember 2026 verschiebt.
Die Pflichten, die schon heute gelten
Verbotene Praktiken
Prüfen Sie, dass keines der eingesetzten Tools unter die verbotenen Praktiken fällt. Der für Unternehmen naheliegendste Fall ist die Emotionserkennung bei Beschäftigten, etwa im Callcenter oder in Bewerbungsgesprächen: Sie ist verboten, außer aus medizinischen oder Sicherheitsgründen.
AI-Kompetenz
Wer AI-Systeme einsetzt, muss Maßnahmen ergreifen, um bei den Personen, die sie nutzen, angemessene Kompetenzen aufzubauen, unter Berücksichtigung ihrer Rolle und des Kontexts. Es braucht weder ein Zertifikat noch eine Mindeststundenzahl: Gezielte Schulungen, klare Nutzungsanweisungen und ein Nachweis dessen, was Sie getan haben, genügen.
Transparenz
Seit dem 2. August 2026 gilt: Wenn ein Chatbot auf Ihrer Website Kunden antwortet, müssen die Menschen wissen, dass sie mit einer Maschine sprechen. Wenn Sie realistische Bilder, Audio- oder Videoinhalte veröffentlichen, die mit AI erzeugt oder manipuliert wurden, müssen Sie das offenlegen. Dasselbe gilt für generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, sie wurden von Menschen mit redaktioneller Verantwortung geprüft.
Die in Artikel 99 vorgesehenen Sanktionen reichen bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes bei verbotenen Praktiken und bis zu 15 Millionen oder 3 % bei den übrigen Pflichten. Für KMU gilt jeweils der niedrigere der beiden Beträge.
Das italienische AI-Gesetz (Gesetz 132/2025)
Italien hat dem AI Act ein nationales Rahmengesetz an die Seite gestellt, das Gesetz Nr. 132 vom 23. September 2025, in Kraft seit dem 10. Oktober 2025. Es wiederholt die europäische Verordnung nicht, sondern ergänzt Grundsätze und Regeln für einige Bereiche. Für Unternehmen zählen vor allem diese Punkte:
- Arbeit (Art. 11): Der Arbeitgeber muss die Beschäftigten über den Einsatz von AI informieren, in den Fällen und auf die Weise, die bereits für automatisierte Entscheidungs- oder Überwachungssysteme vorgesehen sind.
- Freie Berufe (Art. 13): AI darf nur unterstützende Hilfstätigkeiten übernehmen, und die Berufsträger müssen ihren Mandanten klar und einfach mitteilen, welche Systeme sie verwenden.
- Behörden (Art. 20): AgID und ACN sind die nationalen AI-Behörden, während Banca d’Italia, CONSOB und IVASS die Aufsicht in ihren jeweiligen Sektoren ausüben.
- Minderjährige (Art. 4): Unter 14 Jahren setzt der Zugang zu AI-Systemen die Einwilligung der Sorgeberechtigten voraus.
- Straftaten (Art. 26): neuer Erschwerungsgrund für mit AI begangene Straftaten und neuer Straftatbestand der unrechtmäßigen Verbreitung generierter oder veränderter Inhalte (Deepfakes).
Das Gesetz ermächtigt die Regierung, innerhalb von zwölf Monaten die Dekrete zur Anpassung der Rechtsordnung an den AI Act zu erlassen, insbesondere zu Aufsichtsbefugnissen und Sanktionen. Der Ministerrat hat 2026 daran gearbeitet: Prüfen Sie, bevor Sie interne Verfahren aufsetzen, in der Gazzetta Ufficiale, welche Dekrete veröffentlicht wurden und ab wann sie gelten.
Was im Unternehmen zu tun ist: eine praktische Checkliste
- Erstellen Sie ein Inventar der eingesetzten AI-Tools, einschließlich derjenigen, die in bereits genutzte Software integriert sind (CRM, HR, Buchhaltung, Kundenservice).
- Stufen Sie jede Anwendung nach Risikoniveau ein und klären Sie Ihre Rolle: Betreiber oder Anbieter.
- Schreiben Sie eine interne Richtlinie dazu, welche Tools mit welchen Daten und mit welcher menschlichen Kontrolle verwendet werden dürfen.
- Organisieren Sie Schulungen nach Rolle und dokumentieren Sie die durchgeführten Maßnahmen.
- Informieren Sie die Beschäftigten, wenn AI Auswahl, Führung oder Überwachung beeinflusst, wie es das italienische Gesetz verlangt.
- Prüfen Sie die Transparenz von Chatbots und extern veröffentlichten generierten Inhalten.
- Fordern Sie von Ihren Anbietern Dokumentation, Gebrauchsanweisungen und vertragliche Zusagen an, vor allem wenn die Systeme ab 2027 unter das hohe Risiko fallen können.
Dasselbe gilt für Software, die AI nutzt, um Dokumente zu lesen und Nachhaltigkeitsdaten aufzubereiten, wie Envify: Das sind Anwendungen mit geringer Tragweite, aber es lohnt sich zu wissen, welche Daten verarbeitet werden und wer die Ergebnisse prüft. AI-Governance hält auch Einzug in die ESG-Fragebögen von Kunden und Banken (mehr dazu unter ESG-Fragebögen der Banken), und ein gutes Management von ESG-Daten beruht auf denselben Grundsätzen: wissen, woher die Informationen stammen und wer sie kontrolliert. Zum Einsatz von AI im Reporting lesen Sie auch AI und Nachhaltigkeitsberichterstattung.
Für die meisten Unternehmen, die AI nutzen, ohne sie zu entwickeln, gelten bereits drei Pflichten: verbotene Praktiken vermeiden, die Personen schulen, die AI verwenden, und Transparenz gegenüber Kunden und Öffentlichkeit gewährleisten. Das hohe Risiko ist auf 2027 und 2028 verschoben, Inventar und Einstufung der Tools sollten Sie aber jetzt angehen.
