EU AI Act 2026: Was er vorsieht und wie sich italienische Unternehmen anpassen können

Der EU AI Act, Verordnung (EU) 2024/1689, ist das erste Gesetz der Welt, das den Einsatz künstlicher Intelligenz umfassend regelt. Im März 2024 vom Europäischen Parlament verabschiedet und im August desselben Jahres in Kraft getreten, legt klare Pflichten für alle fest, die KI-Systeme in Europa entwickeln, integrieren oder nutzen. Der Ansatz basiert auf dem Risikoniveau: Je stärker ein KI-System Grundrechte, Gesundheit und Sicherheit beeinflussen kann, desto strenger sind die Compliance-Anforderungen.

In diesem Beitrag erläutern wir nicht nur, was die Verordnung vorsieht, sondern vor allem, was italienische Unternehmen, die bereits heute KI in ihren Prozessen einsetzen, konkret tun müssen - und wie sie sich vorbereiten können, bevor die folgenreichsten Fristen in Kraft treten.

Was ist der EU AI Act und warum betrifft er viele italienische Unternehmen?

Der EU AI Act richtet sich nicht nur an große Technologieanbieter wie Google, Microsoft oder OpenAI. Er betrifft jede Organisation, die innerhalb der Europäischen Union KI-Systeme in ihren Produkten oder Prozessen entwickelt, verbreitet, integriert oder nutzt.

Das bedeutet: Ein produzierendes Unternehmen, das Predictive-Maintenance-Software einsetzt, ein Dienstleister, der einen AI Chatbot in sein CRM integriert hat, oder eine Kanzlei, die auf automatische Scoring-Tools setzt - sie alle können in unterschiedlichem Maße den Pflichten der Verordnung unterliegen, abhängig vom Risikoniveau der eingesetzten Systeme.

Eine risikobasierte Verordnung: die Grundlogik

Der AI Act teilt KI-Systeme in vier Kategorien ein:

• Inakzeptables Risiko (verboten): Systeme, die Verhaltensweisen unterschwellig manipulieren, Social-Scoring-Systeme öffentlicher Stellen, biometrische Echtzeit-Gesichtserkennung im öffentlichen Raum (mit begrenzten Ausnahmen für Strafverfolgungsbehörden).
• Hohes Risiko: Systeme in kritischen Bereichen wie Infrastruktur, Bildung, Beschäftigung (z. B. CV-Screening), wesentliche Dienstleistungen, Justiz. Für diese gelten Pflichten zu Risikobewertung, technischer Dokumentation, menschlicher Aufsicht und Registrierung in einer europäischen Datenbank.
• Begrenztes Risiko: Systeme wie Chatbots, bei denen es ausreicht, dem Nutzer Transparenz zu gewährleisten (z. B. darauf hinzuweisen, dass er mit einer Maschine interagiert).
• Minimales Risiko: Für die große Mehrheit der KI-Anwendungen, wie Spam-Filter oder Inhaltsempfehlungssysteme, bestehen keine spezifischen Pflichten, die freiwillige Einhaltung von Verhaltenskodizes wird jedoch empfohlen.

Generative KI-Systeme (wie Large Language Models) fallen in eine eigene Kategorie mit Anforderungen an Transparenz, Kennzeichnung synthetischer Inhalte und - bei systemrelevanten Modellen - erweiterten Risikomanagementpflichten.

Welche KI-Systeme sind verboten oder als hohes Risiko eingestuft?

Zu den ab August 2025 verbotenen Systemen zählen Techniken zur unterschwelligen Manipulation, Profiling auf Basis sensibler Merkmale sowie biometrische Kategorisierungssysteme zur Ableitung von Ethnizität, politischen Meinungen oder sexueller Orientierung.

Zu den für KMU und Unternehmen relevantesten Hochrisiko-Systemen zählen Software für die Personalauswahl und -bewertung (ATS mit automatischem Ranking), Kredit-Scoring-Systeme, Tools für den Zugang zu öffentlichen Diensten sowie KI für das Management kritischer Infrastrukturen (Energie, Logistik, Gesundheit). Wenn ein Unternehmen eines dieser Systeme einsetzt oder integriert - auch als bloßer Kunde einer Standardsoftware - sollte es verstehen, welche Pflichten ihm als "Nutzer" bzw. Deployer im Sinne der Verordnung obliegen.

Wann tritt der AI Act in Kraft? Zeitplan und wichtigste Fristen

Der AI Act ist formell am 1. August 2024 in Kraft getreten, seine Pflichten gelten jedoch schrittweise:

• Februar 2025: Verbot der KI-Praktiken mit inakzeptablem Risiko (bereits in Kraft).
• August 2025: Anwendung der Pflichten für KI-Modelle für allgemeine Zwecke (GPAI), einschließlich großer Sprachmodelle.
• August 2026: Vollständige Anwendung der Pflichten für Hochrisiko-Systeme gemäß Anhang III (u. a. in den Bereichen HR, kritische Infrastrukturen, Sicherheit).
• August 2027: Anwendung auf bereits bestehende Hochrisiko-Systeme, die durch ältere Produktvorschriften geregelt sind (z. B. Medizinprodukte, Fahrzeuge).

Wer muss den EU AI Act einhalten? Anbieter, Integratoren und Nutzer

Die Verordnung unterscheidet verschiedene Rollen in der KI-Lieferkette:

• Provider (Anbieter): wer ein KI-System entwickelt oder auf dem Markt bereitstellt. Diese Kategorie trägt die größten Pflichten: Konformitätsbewertung, technische Dokumentation, Registrierung, CE-Kennzeichnung für Hochrisiko-Systeme.
• Deployer (Nutzer): wer ein KI-System in einem beruflichen Kontext oder zur Erbringung von Dienstleistungen für Dritte einsetzt. Er muss die menschliche Aufsicht gewährleisten, die von KI-Hochrisiko-Systemen betroffenen Personen informieren und die Protokolle des Systems ordnungsgemäß verwalten.
• Importeure und Händler: begrenztere Pflichten, aber dennoch vorhanden hinsichtlich der Überprüfung der Konformität der von ihnen vertriebenen Systeme.

Die Unterscheidung ist wichtig: Auch wenn ein Unternehmen keine KI-Software entwickelt, sondern Produkte Dritter nutzt, können ihm als Deployer Pflichten entstehen, insbesondere wenn das KI-System Auswirkungen auf Mitarbeitende, Kunden oder Entscheidungen hat, die natürliche Personen betreffen.

Sind KMU und italienische Unternehmen betroffen?

Ja, die Verordnung sieht jedoch einige Vereinfachungen für KMU und Kleinstunternehmen vor, insbesondere bei der technischen Dokumentation und den Registrierungspflichten. Die Erleichterungen sind jedoch selektiv und befreien kleinere Unternehmen nicht davon, die Risikokategorie der eingesetzten Systeme zu prüfen.

Beispiel: Ein produzierendes KMU, das ein KI-System für die Auftragsverwaltung integriert hat, oder ein Dienstleistungsunternehmen, das ein KI-gestütztes Tool für Data Analytics einsetzt, muss dennoch die Frage beantworten können: "Fällt dieses System in die Hochrisiko-Kategorie?"

Der AI Act in der Praxis: Prüfen Sie, ob Ihre Systeme unter die Pflichten fallen

Der häufigste Fehler, den Unternehmen heute machen, ist anzunehmen, der AI Act betreffe nur diejenigen, die "KI bauen". Tatsächlich sollte jeder, der digitale Tools mit automatisierten Entscheidungs- oder Predictive-Analytics-Funktionen nutzt, seine Exposition gegenüber den Pflichten der Verordnung prüfen.

In welchen Abteilungen ist KI bereits vorhanden (auch ohne dass Sie es wissen)?

Künstliche Intelligenz ist häufig in bereits genutzte Tools integriert, ohne als solche wahrgenommen zu werden:

• HR und Personalauswahl: ATS-Software mit automatischem Kandidaten-Ranking, Performance-Analyse-Systeme.
• Vertrieb und Marketing: CRM mit prädiktivem Lead-Scoring, Empfehlungsmaschinen für personalisierte Angebote.
• Operations und Supply Chain: Bedarfsprognose-Systeme, Predictive Maintenance für Anlagen.
• Finance und Risikomanagement: interne Kredit-Scoring-Tools, automatische Erkennung buchhalterischer Anomalien.
• IT und Sicherheit: Machine-Learning-basierte Bedrohungserkennungslösungen (SIEM, EDR, MDR - Managed Detection and Response).

Viele dieser Systeme fallen in die Kategorie mit begrenztem oder minimalem Risiko, einige jedoch - insbesondere jene, die Auswahl, Bewertung oder den Zugang zu Dienstleistungen betreffen - können als Hochrisiko eingestuft werden.

Risikoeinstufung Ihrer KI-Anwendungsfälle: ein operatives Schema

Ein praktischer Ansatz zur Orientierung:

• Erfassen Sie alle genutzten KI-Systeme (einschließlich jener, die in kommerzielle Software oder SaaS-Lösungen integriert sind).
• Prüfen Sie den Anwendungsbereich: Wenn das System in Bereichen wie HR, Kreditvergabe, Infrastrukturen, Bildung oder Gesundheit eingesetzt wird, vertiefen Sie die Klassifizierung.
• Bewerten Sie die Auswirkungen auf natürliche Personen: Ein System, das Entscheidungen trifft oder unterstützt, die Mitarbeitende oder Kunden betreffen, hat ein höheres Risikoprofil.
• Prüfen Sie den Vertrag mit dem Anbieter: Wer übernimmt die Compliance-Verantwortung? Hat der Anbieter angemessene technische Dokumentation bereitgestellt?

Dieser Klassifizierungsprozess ist keine theoretische Übung, sondern der obligatorische Ausgangspunkt für jeden Anpassungsplan.

Von der Compliance zur Governance: Was Unternehmen heute tun müssen

Die Anpassung an den AI Act bedeutet nicht nur "Formulare ausfüllen". Sie erfordert einen strukturellen Wandel in der Art und Weise, wie Organisationen ihre KI-Systeme verwalten – in Bezug auf Prozesse, Dokumentation, technische Kontrollen und die interne Unternehmenskultur.

KI-System-Inventar: der obligatorische Ausgangspunkt

Vor der Compliance-Bewertung muss man wissen, was man einsetzt. Viele Unternehmen, die in den letzten Jahren digitale Lösungen eingeführt haben, befinden sich in einer Situation von "Shadow AI": Systeme, die von einzelnen Abteilungen eingeführt wurden, standardmäßig aktivierte KI-Funktionen in genutzter Software, API-Integrationen mit Sprachmodellen - ohne zentrale Übersicht.

Ein strukturiertes Inventar, das Systeme, Anbieter, Anwendungsfälle, Art der verarbeiteten Daten und potenzielle Auswirkungen erfasst, ist die Voraussetzung für jeden KI-Governance-Prozess. Ohne diese Bestandsaufnahme ist es weder möglich, die Pflichten der Verordnung einzuhalten, noch die Risiken bewusst zu steuern.

Risikomanagement, Dokumentation und menschliche Aufsicht

Für Hochrisiko-Systeme verlangt der AI Act:

• Ein dokumentiertes und laufend aktualisiertes Risikomanagementsystem.
• Technische Dokumentation, die das System, seine Funktionen, die Trainingsdaten und die getroffenen Sicherheitsmaßnahmen beschreibt.
• Automatische Protokolle der Systemoperationen zur Gewährleistung von Rückverfolgbarkeit und Auditierbarkeit.
• Maßnahmen zur menschlichen Aufsicht, die qualifizierten Betreibern ermöglichen, das System zu überwachen, einzugreifen und es bei Bedarf zu deaktivieren.
• Transparente Information gegenüber den vom Systemeinsatz betroffenen Personen.

Diese Anforderungen sind nicht nur formaler Natur, sondern beeinflussen, wie Systeme konfiguriert, überwacht und langfristig gewartet werden müssen.

Sicherheit und Kontinuität: Cybersecurity und KI-Governance integrieren

Ein häufig unterschätzter Aspekt ist die Verknüpfung zwischen KI-Governance und IT-Sicherheit. Hochrisiko-KI-Systeme müssen robust gegenüber Manipulationsversuchen (Adversarial Attacks) sein, widerstandsfähig gegen Ausfälle und vor unbefugtem Zugriff geschützt. Dies erfordert die Integration zwischen dem AI-Act-Compliance-Framework und den bestehenden Cybersecurity-Richtlinien - insbesondere hinsichtlich Zugriffskontrolle (Identity Access Management - IAM), Logging, Vulnerability Assessment und Incident Response.

Für Unternehmen, die bereits über eine aktive IT-Sicherheitsinfrastruktur verfügen (z. B. über ein Security Operations Center - SOC oder MDR-Lösungen), ist dies ein Wettbewerbsvorteil: Ein erheblicher Teil der technischen Pflichten des AI Act überschneidet sich mit bewährten Sicherheitspraktiken, die bereits implementiert sind oder implementiert werden können.

AI Act und das italienische Regulierungsumfeld: das kombinierte Bild mit DSGVO und NIS2

Der AI Act operiert nicht isoliert. Unternehmen in Italien müssen ein sich verdichtendes Regulierungsumfeld berücksichtigen:

• DSGVO: Viele KI-Systeme verarbeiten personenbezogene Daten. Die bereits durch die DSGVO vorgeschriebenen Datenschutz-Folgenabschätzungen (DSFA/DPIA) überschneiden sich mit den Konformitätsbewertungen des AI Act und ergänzen diese. In einigen Fällen werden für Hochrisiko-Systeme beide erforderlich sein.
• NIS2-Richtlinie (EU-Richtlinie 2022/2555): Für Organisationen in wesentlichen und wichtigen Sektoren schreibt die NIS2 Sicherheits- und Meldepflichten bei Vorfällen vor, die auch für KI-Systeme gelten, die für die Betriebskontinuität kritisch sind.
• Sich entwickelnder nationaler Rechtsrahmen: Italien setzt den europäischen Rahmen um und passt ihn an. Operative Hinweise der nationalen KI-Aufsichtsbehörde (derzeit noch in der Ernennung) und der Agenzia per la Cybersicurezza Nazionale (ACN), die bereits Leitlinien zu diesem Thema veröffentlicht hat, werden erwartet.

Diese drei Regulierungsstränge koordiniert zu managen - anstatt sie separat anzugehen - ist der effizienteste Ansatz für Organisationen, die eine nachhaltige Compliance aufbauen wollen.

Wie ein spezialisierter IT-Partner Sie bei der Anpassung begleitet

Die Vorbereitung auf den AI Act erfordert Kompetenzen, die selten in einer einzigen Organisation gebündelt sind: Es braucht Kenntnisse des regulatorischen Rahmens, technische Analysefähigkeiten für IT-Systeme, Cybersecurity-Erfahrung und eine operative Sicht auf die Unternehmensinfrastruktur.

Ein spezialisierter IT-Partner kann diesen Prozess strukturiert unterstützen:

• AI System Discovery & Inventory: vollständige Erfassung der genutzten KI-Systeme, der beteiligten Anbieter und der verarbeiteten Daten.
• Risk Assessment: Klassifizierung der Systeme nach dem risikobasierten Ansatz des AI Act, mit Identifizierung der Bereiche, die nicht konform sind.
• Anpassungs-Roadmap: Festlegung der Interventionsprioritäten mit einem realistischen Plan basierend auf normativen Fristen und verfügbaren Ressourcen.
• Implementierung technischer Kontrollen: Konfiguration von Logs, Monitoring, Zugriffskontrollen und Robustheitsmaßnahmen, die für Hochrisiko-Systeme erforderlich sind.
• Integration mit Cybersecurity und Regulierung: Abstimmung mit bestehenden Sicherheits- und Datenschutz-Frameworks.

Wenn Ihr Unternehmen bereits KI-Tools einsetzt oder deren Einführung plant, ist jetzt der richtige Zeitpunkt für eine erste Bewertung - mit ausreichend Zeit zum Planen, anstatt reaktiv auf eine nahende Frist zu reagieren.

Um den neuen Anforderungen in den Bereichen KI und Sicherheit effektiv zu begegnen, bietet ACS einen KI-Beratungsservice für die korrekte Einführung von KI-Tools sowie eine Advisory für Governance, Risk & Compliance, um die regulatorische Komplexität in konkrete Maßnahmen zur Unterstützung des Unternehmens zu verwandeln.

FAQ

1. Was ist der EU AI Act und was ist sein Hauptziel?

Der EU AI Act (Verordnung EU 2024/1689) ist der erste Regulierungsrahmen der Welt für künstliche Intelligenz. Sein Ziel ist es sicherzustellen, dass KI-Systeme in Europa sicher, transparent und grundrechtskonform sind - durch einen abgestuften, risikobasierten Ansatz. Organisationen, die KI in der EU entwickeln, integrieren oder beruflich nutzen, unterliegen seinen Pflichten.

2. Wann tritt der AI Act in Kraft und welche Fristen gelten für Unternehmen?

Die Verordnung gilt seit August 2024. Die wichtigsten Schritte: Februar 2025 (Verbot verbotener Praktiken), August 2025 (Pflichten für GPAI-Modelle), August 2026 (vollständige Anwendung auf Hochrisiko-Systeme gemäß Anhang III). Diese letzte Frist ist für die meisten KMU und mittelständischen Unternehmen in Italien am relevantesten.

3. Was sind konkrete Beispiele für KI-Hochrisiko-Systeme gemäß AI Act?

Zur Hochrisiko-Kategorie gehören: Software für die automatische Personalauswahl und -bewertung (ATS mit Ranking), Kredit-Scoring-Systeme, KI-Tools für das Management kritischer Infrastrukturen (Energie, Logistik, Wasser), KI für den Zugang zu wesentlichen öffentlichen Diensten, biometrische Klassifizierungssysteme. Wenn Ihr Unternehmen eines dieser Systeme nutzt oder vertreibt, unterliegt es spezifischen Dokumentations-, Überwachungs- und Registrierungspflichten.

4. Wer muss den EU AI Act einhalten? Nur KI-Entwickler?

Nein. Den Pflichten unterliegen sowohl Provider (die KI-Systeme entwickeln und vertreiben) als auch Deployer (die sie in beruflichen Kontexten nutzen). Ein Unternehmen, das eine Software mit KI-Funktionen kauft und nutzt - etwa für HR-Management oder Kunden-Scoring - kann als Nutzer eigene Pflichten haben, unabhängig davon, wer das System entwickelt hat.

5. Was sieht der AI Act für generative KI vor?

KI-Modelle für allgemeine Zwecke (GPAI), wie Large Language Models, unterliegen Transparenzanforderungen und der Veröffentlichung von Zusammenfassungen zu Trainingsdaten. Für Modelle mit systemischen Auswirkungen (Rechenleistung über 10²⁵ FLOPs) gelten zusätzliche Risikomanagementpflichten. Wer GPAI-Modelle in eigene Produkte integriert, muss sicherstellen, dass der Anbieter seinen normativen Pflichten nachgekommen ist.

6. Wie wendet man den risikobasierten Ansatz des AI Act in einem konkreten Unternehmen an?

Der erste Schritt besteht darin, alle genutzten KI-Systeme zu erfassen - einschließlich jener, die in kommerzielle Software oder SaaS-Lösungen integriert sind - und zu prüfen, in welche Risikokategorie sie fallen. Systeme mit minimalem und begrenztem Risiko erfordern wenige oder keine zusätzlichen Maßnahmen. Für Hochrisiko-Systeme müssen ein Risikomanagementsystem implementiert, technische Dokumentation erstellt, menschliche Aufsicht gewährleistet und Betriebsprotokolle geführt werden. Ein spezialisierter Partner kann diese Klassifizierung unterstützen und die effizienteste Anpassungs-Roadmap definieren.

7. Wie koordinieren AI Act, DSGVO und NIS2 für Unternehmen in Italien?

Die drei Regulierungen überschneiden sich und ergänzen sich gegenseitig. Die DSGVO verlangt DSFA für risikoreiche Datenverarbeitungen, die häufig mit den Hochrisiko-KI-Systemen des AI Act übereinstimmen. Die NIS2 schreibt Sicherheits- und Resilienzpflichten für wesentliche Sektoren vor, die auch kritische KI-Systeme betreffen. Der effizienteste Ansatz ist, alle drei Regulierungsrahmen koordiniert zu managen, ausgehend von einem einheitlichen Inventar der Systeme und verarbeiteten Daten.