Die EU KI-Verordnung (AI Act) stellt wichtige Anforderungen an Unternehmen, die KI-Systeme entwickeln, anbieten oder einsetzen. Hier sind die Hauptpunkte, die Unternehmen beachten müssen:
Die Verordnung kategorisiert KI-Systeme nach ihrem Risikopotenzial:
- KI-Anwendungen ohne oder mit minimalem Risiko
- KI-Anwendungen mit überschaubarem Risiko (z.B. Spamfilter, Chatbots)
- Hochrisiko-KI-Systeme
- Verbotene KI-Systeme (z.B. Social Scoring)
1 Anforderungen für Unternehmen
1.1 Risikobewertung und -management
Unternehmen müssen eine umfassende Risikobewertung ihrer KI-Systeme durchführen und ein Risikomanagementsystem einrichten.
1.2 Transparenz und Dokumentation
- Nutzer müssen informiert werden, wenn sie mit einem KI-System interagieren.
- Detaillierte Aufzeichnungen über Entwicklung, Training und Einsatz von KI-Systemen sind zu führen.
- Technische Dokumentation muss erstellt werden.
1.3 Spezielle Anforderungen für Hochrisiko-KI-Systeme
- Registrierung in einer EU-Datenbank
- Durchführung eines Konformitätsbewertungsverfahrens
- Implementierung von menschlicher Aufsicht und einer „Stopptaste“
- Sicherstellung von Datenqualität und -governance
1.4 KI-Kompetenz
Unternehmen müssen über ausreichende KI-Kompetenz verfügen, um die Einhaltung der Pflichten sicherzustellen[4].
2 Zeitrahmen und Durchsetzung
- Die ersten Bestimmungen werden ab Februar 2025 verpflichtend.
- Die Bundesnetzagentur soll in Deutschland als zentrale Überwachungsstelle fungieren.
3 Sanktionen bei Verstößen
Bei Nichteinhaltung drohen Bußgelder von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes.
Unternehmen sollten sich frühzeitig mit den Anforderungen der KI-Verordnung auseinandersetzen und entsprechende Maßnahmen implementieren, um Compliance sicherzustellen und mögliche Risiken zu minimieren.
Quellen
https://www.ki.nrw/blog-european-ai-act-unternehmen/
https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_de
ttps://datenschutz-generator.de/ki-verordnung/
https://www.consilium.europa.eu/de/policies/artificial-intelligence/
https://www.eylaw.de/de_de/news/2024/deep-dive-zur-eu-ki-vo-die-einzelnen-anforderungen-im-ueberblick
https://www.ihk.de/koeln/hauptnavigation/digitalisierung/digitalisierung2/ki-verordnung-6253208
https://www.e-recht24.de/datenschutz/13243-ki-verordnung.html
https://www.perplexity.com