EU AI Act: Was Unternehmen jetzt wissen müssen

Der EU AI Act bringt klare Regeln für den Umgang mit Künstlicher Intelligenz. Unternehmen, die KI einsetzen oder entwickeln, stehen vor neuen Pflichten – und potenziell hohen Strafen. Dieser Artikel zeigt, worauf es jetzt ankommt und wie Sie Ihr Unternehmen sicher und zukunftsfähig aufstellen.

Veröffentlicht: 14.05.2025 Zuletzt aktualisiert: 14.05.2025

Fachartikel, Finance & Compliance

1 Min. Lesezeit

Künstliche Intelligenz – Chancen und neue Pflichten durch den EU AI Act

Künstliche Intelligenz ist längst Teil des wirtschaftlichen Alltags. Sie optimiert Prozesse, senkt Kosten und eröffnet neue Geschäftsmodelle. Doch mit der zunehmenden Verbreitung wachsen auch die Anforderungen an den rechtssicheren Einsatz dieser Technologie. Der EU AI Act – das neue Gesetz der Europäischen Union zur Regulierung von Künstlicher Intelligenz – stellt Unternehmen dabei vor völlig neue Herausforderungen.

Ob Entwicklende, Anwendende oder Anbieter von KI-Systemen: Der EU AI Act betrifft nahezu jedes Unternehmen, das KI in irgendeiner Form innerhalb der EU nutzt oder vertreibt. Das neue Regelwerk sieht nicht nur umfangreiche Prüf- und Dokumentationspflichten vor, sondern bei Verstößen auch empfindliche Sanktionen – mit Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Dieser Beitrag erklärt, was der EU AI Act konkret bedeutet, wer betroffen ist und wie Sie sich rechtzeitig auf die neuen Vorgaben vorbereiten können.

Was der EU AI Act regelt – und warum er so relevant ist

Mit dem EU AI Act schafft die Europäische Union einen verbindlichen Rechtsrahmen für den sicheren und ethischen Einsatz von Künstlicher Intelligenz. Ziel der Verordnung ist es, sowohl die technologische Entwicklung als auch die Grundrechte der Bürger zu schützen. Zu diesem Zweck unterteilt der Gesetzgeber KI-Systeme in vier Risikokategorien – je nach ihrem potenziellen Einfluss auf Menschen und Gesellschaft.

Einordnung von KI-Systemen nach Risikostufen im EU AI Act:

Der EU AI Act unterscheidet zwischen vier Risikostufen für KI-Systeme: Anwendungen mit unvertretbarem Risiko, wie etwa KI-basierte Systeme zur sozialen Bewertung oder solche, die Menschen unzulässig manipulieren, sollen vollständig verboten werden. Hochriskante Systeme, zum Beispiel in den Bereichen Personalrekrutierung, Kreditvergabe oder Gesundheitsversorgung, unterliegen strengen regulatorischen Anforderungen. Sie müssen unter anderem transparent dokumentiert, überwacht und bei der zuständigen Behörde registriert werden. Systeme mit begrenztem Risiko, wie interaktive KI-Chatbots, sind verpflichtet, ihre KI-Natur offenzulegen. Anwendungen mit minimalem Risiko, wie etwa Spamfilter, werden von regulatorischen Vorgaben ausgenommen. Die Risikoklassifizierung ist damit der zentrale Faktor für den Umfang der regulatorischen Pflichten.

Wen der EU AI Act betrifft – und warum fast jedes Unternehmen betroffen ist

Der Geltungsbereich des EU AI Acts ist weit gefasst. Nicht nur Unternehmen mit Sitz in der EU müssen die Vorgaben einhalten – auch Anbieter, Importeure oder Betreiber von KI-Systemen aus Drittländern sind erfasst, sofern deren Systeme in der EU genutzt werden oder dort Wirkung entfalten. Damit ist der EU AI Act nicht nur ein europäisches, sondern ein global relevantes Gesetz.

Unternehmen, die KI-Systeme entwickeln, vermarkten, importieren oder im Rahmen ihrer Produkte verwenden, sind ebenso betroffen wie Organisationen, die KI lediglich in internen Prozessen einsetzen. Auch der Einsatz von Drittanbieter-Lösungen fällt unter das Gesetz, sofern die Systeme innerhalb der EU aktiv sind. Selbst wenn Sie also kein KI-Hersteller sind, müssen Sie prüfen, ob und wie Ihre eingesetzten Technologien unter die Verordnung fallen.

Ein klassisches Beispiel: Ein deutsches Unternehmen nutzt ein KI-basiertes HR-Tool zur Bewerbervorauswahl – entwickelt von einem US-Anbieter. Auch in diesem Fall greifen die Vorgaben des EU AI Acts.

Pflichten für Unternehmen: Diese Anforderungen bringt der EU AI Act mit sich

Insbesondere bei hochriskanten KI-Systemen schreibt der EU AI Act ein umfangreiches Regelwerk vor. Unternehmen müssen ein funktionierendes Qualitäts- und Risikomanagementsystem implementieren, das sicherstellt, dass KI-Anwendungen nachvollziehbar, verlässlich und diskriminierungsfrei funktionieren. Gleichzeitig sind sie verpflichtet, eine umfassende technische Dokumentation zu erstellen, die den Aufbau und das Verhalten des Systems transparent macht.

Zu den wichtigsten Anforderungen zählen die Durchführung von Grundrechts-Folgenabschätzungen, die lückenlose Protokollierung der Systemverwendung sowie Maßnahmen zur Cybersicherheit. Es muss jederzeit möglich sein, Entscheidungen des Systems nachvollziehbar zu erklären. Auch menschliche Aufsicht während der Nutzung ist vorgeschrieben – das bedeutet, dass kritische Entscheidungen nicht vollständig automatisiert getroffen werden dürfen.

Ein weiterer zentraler Punkt ist die Konformitätsbewertung. Unternehmen, die ein KI-System auf den europäischen Markt bringen möchten, müssen vorab sicherstellen, dass dieses die gesetzlichen Anforderungen erfüllt. In vielen Fällen ist eine Registrierung des Systems in einer europäischen Datenbank notwendig. Die relevanten Nachweise sind zehn Jahre lang aufzubewahren und auf Anfrage vorzulegen.

Nicht zu unterschätzen ist außerdem die Qualifikationspflicht nach Artikel 4 des Gesetzes: Alle Mitarbeitenden, die mit Entwicklung, Einsatz oder Kontrolle von KI-Systemen befasst sind, müssen über ausreichende Kenntnisse verfügen. Schulungen und Weiterbildungen werden damit zu einer gesetzlichen Notwendigkeit.

Was Unternehmen jetzt konkret tun sollten

Auch wenn der EU AI Act erst schrittweise in Kraft tritt, ist ein frühzeitiger Einstieg in die Umsetzung entscheidend. Die Erfahrung mit der Datenschutzgrundverordnung (DSGVO) hat gezeigt, dass regulatorische Umstellungen komplex sein können – und erhebliche Ressourcen binden.

Unternehmen sollten daher jetzt damit beginnen, alle eingesetzten oder geplanten KI-Systeme systematisch zu erfassen und hinsichtlich ihres Risikoprofils zu bewerten. Auf dieser Basis lassen sich die regulatorischen Anforderungen ableiten und gezielte Maßnahmen ergreifen – von der technischen Dokumentation über die organisatorische Verankerung bis hin zur Schulung relevanter Mitarbeitender. Die Einführung eines standardisierten Dokumentationsprozesses empfiehlt sich ebenso wie die frühzeitige Vorbereitung auf mögliche Audits und externe Prüfungen.

Mit einem strukturierten Vorgehen lässt sich nicht nur die eigene Rechtssicherheit erhöhen, sondern auch das Vertrauen von Kundinnen, Partnern und Behörden nachhaltig stärken.

Fazit: Der EU AI Act als regulatorischer Rahmen für vertrauenswürdige KI

Der EU AI Act markiert einen Paradigmenwechsel im Umgang mit Künstlicher Intelligenz in Europa. Unternehmen, die sich frühzeitig auf die neuen Vorgaben einstellen, minimieren nicht nur rechtliche Risiken, sondern verschaffen sich auch einen strategischen Vorteil. Denn transparente, nachvollziehbare und ethisch vertretbare KI wird zunehmend zum Wettbewerbsfaktor – sowohl in der öffentlichen Wahrnehmung als auch in der Zusammenarbeit mit institutionellen Partnern.

Convista unterstützt Sie auf dem Weg zur EU AI Act-Konformität – mit fundierter Expertise in Governance, Risk & Compliance sowie langjähriger Erfahrung in der technologischen Praxis. Von der Klassifikation Ihrer Systeme über die Erstellung der technischen Dokumentation bis hin zur Konformitätsbewertung begleiten wir Sie zuverlässig und effizient. Nutzen Sie den EU AI Act nicht nur als regulatorische Verpflichtung, sondern als strategische Chance für nachhaltige und verantwortungsvolle Innovation. Gerne klären wir in einem persönlichen Gespräch, welche konkreten Anforderungen auf Ihr Unternehmen zukommen – und wie Sie diese effizient und rechtssicher umsetzen können. Sprechen Sie uns an.