AI-Act – jetzt wird es ernst

Unternehmen in der EU müssen aufgrund des am 2. August 2024 in Kraft getretenen EU AI Acts seit dem 2. Februar 2025 neue Anforderungen beachten, wenn sie KI-Systeme entwickeln, einsetzen oder anbieten. Ab dem 2. August 2025 treten treten zentrale Bestimmungen des AI-Acts in Kraft, die für Anbieter und Betreiber von KI-Systemen gelten.

Die wichtigsten aktuellen Pflichten umfassen:

• Risikobewertung: Unternehmen müssen alle eingesetzten oder entwickelten KI-Systeme nach dem Grad des Risikos – minimal, begrenzt, hoch oder verboten – klassifizieren. Hochrisiko-Systeme, etwa im Personalwesen, Finanzdienstleistungen, Gesundheitswesen oder der öffentlichen Verwaltung, unterliegen besonders strengen Auflagen.

• Verbotene Praktiken: Seit Februar 2025 sind bestimmte Anwendungen wie biometrische Kategorisierung auf Basis sensibler Merkmale, Social Scoring, manipulative Systeme und emotionserkennende Systeme im Arbeitsumfeld strikt verboten. Unternehmen müssen sicherstellen, dass diese Anwendungen weder entwickelt noch genutzt werden.

• Transparenz, Überwachung und Dokumentationspflicht: Unternehmen müssen für Hochrisiko-KI eine umfassende Dokumentation, kontinuierliche Überwachung und eindeutige Verantwortlichkeiten sicherstellen. Auch nicht-hochrisikobehaftete Systeme erfordern Nachweispflichten und regelmäßige Überprüfung.

• KI-Kompetenz und Schulung: Es besteht eine Pflicht zur Sicherstellung ausreichender KI-Kenntnisse der Mitarbeitenden. Diese müssen sowohl technisches Knowhow als auch regulatorisches Wissen im Umgang mit KI besitzen, was gezielte Schulungen erfordert.

• Interne Compliance-Strukturen: Bis spätestens 2. Februar 2025 muss eine unternehmensinterne Governance- und Compliance-Struktur etabliert sein. Empfohlen wird die Benennung eines verantwortlichen KI-Beauftragten, der für die Einhaltung der Vorschriften zuständig ist.

• Meldung und Sanktionen: Mit Wirkung ab August 2025 müssen bestimmte Vorgänge Behörden gemeldet und detailliert dokumentiert werden. Es drohen Bußgelder bis zu 7% des globalen Jahresumsatzes bei Verstößen.

Unternehmen sind angehalten, frühzeitig Compliance-Maßnahmen zu ergreifen, um Risiken zu vermeiden und die Detailregelungen des EU AI -Acts zu erfüllen.