wissen · folgen des eu ai act
Der EU AI Act ist die weltweit erste umfassende Regulierung für künstliche Intelligenz. Er schafft ein gemeinsames Rechtssystem für KI und harmonisierte Regeln für den Umgang mit KI innerhalb der 27 EU-Mitgliedstaaten.
Verabschiedet im März 2024, in Kraft seit August 2024 — 126 Artikel und Anhänge, risikobasierter Ansatz: strenge Auflagen bei hohem Risiko, minimale Vorgaben bei geringem Risiko. Mit dem „Digital Omnibus on AI" (im Juli 2026 im EU-Amtsblatt veröffentlicht) wurden die Hochrisiko-Pflichten auf Ende 2027 bzw. 2028 verschoben — Verbote, GPAI-Regeln und Transparenzpflichten laufen unverändert nach Plan.
ziele
Der AI Act verfolgt ein Bündel gesellschaftlicher und wirtschaftlicher Ziele, um vertrauenswürdige KI zu fördern und zugleich Europas Innovationskraft zu stärken.
risikoklassen
Der Act klassifiziert Anwendungen in vier Risikostufen und knüpft daran abgestufte Auflagen.
Verbotene KI-Praktiken — z. B. Social Scoring
z. B. KI im Recruiting, in medizinischen Geräten oder bei Betreibern kritischer Infrastruktur · Pflichten ab Dez 2027 / Aug 2028 (Digital Omnibus)
z. B. KI-generierte Texte oder Stimmen, KI-basierte Chatbots · Art. 50 gilt seit 2. August 2026
z. B. Spam-Filter oder KI-basierte Suche · gültig
verbotene ki-praktiken · artikel 5
Artikel 5 legt fest, welche KI-Systeme in der EU grundsätzlich verboten sind: unvereinbar mit Grundrechten, europäischen Werten und der Menschenwürde — sie dürfen weder entwickelt, vertrieben noch eingesetzt werden. Gemeint sind Systeme, die vollkommen autark agieren, ohne dass ein Mensch involviert ist.
Z. B. flächendeckende Gesichtserkennung im öffentlichen Raum, biometrische Kategorisierung, Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen.
Bewertung von Menschen nach sozialem Verhalten oder Persönlichkeitsmerkmalen — z. B. Kreditbewertung, Social Scoring, Vorhersage von Straftaten.
Schwächen ausnutzen (Alter, soziale Situation, Krankheit) — z. B. körperlicher Schaden durch KI-Spielzeug, finanzieller Betrug an alten Menschen.
Unterschwellige Verhaltensbeeinflussung, Nutzermanipulation, Täuschung durch Chatbots — z. B. Identitätsvortäuschung, Anstiftung zu Straf- und Gewalttaten.
anforderungen an hochrisiko-systeme
Anbieter von Hochrisiko-KI müssen ein lückenloses Compliance-Gerüst aufbauen und dauerhaft pflegen. Die Artikel 6 bis 49 geben allgemeine Vorgaben — sowie rollenspezifische je nach Hersteller, Anwender oder Importeur/Händler. Der Digital Omnibus hat die Fristen verschoben und den Hochrisiko-Begriff enger gefasst — die Pflichten selbst (Risikomanagement, Data Governance, Aufzeichnung, menschliche Aufsicht) bleiben vollständig bestehen. Der Rat: den gewonnenen Umsetzungszeitraum jetzt nutzen, um interne KI-Governance-Strukturen aufzubauen.
strafen
| Art des Verstoßes | Mögliche Geldbuße / Sanktion |
|---|---|
| Verbotene KI-Praktiken (z. B. Social Scoring, manipulative KI) | bis 35 Mio. € oder 7 % des weltweiten Umsatzes |
| Pflichten für Hochrisiko-KI, Transparenz, Dokumentation etc. | bis 15 Mio. € oder 3 % Umsatz (auch bis 20 Mio. € / 4 %) |
| Falsche oder unvollständige Angaben gegenüber Behörden | bis 7,5 Mio. € oder 1 % Umsatz |
| Verstöße durch Anbieter von General-Purpose-KI (z. B. fehlende Dokumentation) | bis 15 Mio. € oder 3 % Umsatz |
artikel 4 eu ai act
Der AI Act verpflichtet Unternehmen, Mitarbeitenden, die mit KI-Systemen arbeiten, grundlegende KI-Kenntnisse in Schulungen zu vermitteln. Es muss sichergestellt werden, dass die Mitarbeitenden über ausreichende KI-Kompetenz verfügen.
Weiterbildungsmaßnahmen nach AZAV werden über das Qualifizierungschancengesetz gefördert — Sellium ist AZAV-zertifizierter Bildungsträger, unsere KI-Schulungen erfüllen die Anforderungen von Artikel 4 und dokumentieren die Teilnahme. Den passenden Förderweg zeigt der Förder-Schnell-Check.
internationaler blick
Weltweit entstehen unterschiedliche, teils konkurrierende KI-Rahmen — Harmonisierung ist in Arbeit: OECD und G7 treiben gemeinsame Prinzipien voran. Unternehmen mit globalen Märkten müssen Multi-Compliance denken.
Sektorale Regeln, Executive Order 2023 legt Leitplanken — Innovation first, föderal geprägt.
Strikte Vorgaben für generative KI, starke Staatskontrolle über Daten und Algorithmen.
Pro-Innovation: Selbstregulierung, flexible Prinzipien, sektorale Aufsicht.
Risikobasiert, aber weniger detailliert als die EU — Umsetzung noch im Gesetzgebungsprozess.
unsere empfehlungen
Übersicht aller KI-Nutzungen im Unternehmen, jeden Use Case in die Risikopyramide einordnen, Schatten-KI eliminieren.
Keine KI einsetzen, die selbstständig Menschen bewertet oder unterbewusst manipuliert.
Human in the Loop etablieren, ggf. Rechtsberatung und Compliance dazuholen.
Seit 2. August 2026 gilt Art. 50: Nutzer müssen erkennen können, dass sie mit KI interagieren; KI-generierte Inhalte sind maschinenlesbar zu kennzeichnen, Deepfakes klar zu markieren. Chatbots kennzeichnen, Kennzeichnungsprozess etablieren, aufklären, was als Deepfake gilt.
Vorhandene und benötigte KI-Kompetenz dokumentieren, interne oder externe Schulungsangebote aufbauen, laufendes Lernen einplanen.
Verantwortliche für KI-Strategie und KI-Compliance benennen, Richtlinien erstellen, genutzte KI-Systeme regelmäßig überprüfen.
Eigene Rolle definieren und Pflichten kennen, Zweckerweiterung prüfen; bei Anbietern: Aussagen zum Zweck der KI, Umgang mit Trainingsdaten, Urheberrecht, Datenschutz und Haftungsregelungen kennen.
erkenntnisse
… ist ein seit 2024 gültiges Regelwerk für den Einsatz von KI. Er gilt für jedes Unternehmen, das KI einsetzt. Verbote, GPAI-Regeln, KI-Kompetenz- und Transparenzpflichten sind bereits scharf; die Hochrisiko-Pflichten folgen ab Dezember 2027 (Anhang III) bzw. August 2028 (Anhang I).
… helfen, die eigene KI-Anwendung einzuordnen. Recruiting und Medizin zählen zu streng regulierten Systemen. Drei von vier Risikoklassen gelten bereits heute.
… ist essenziell und seit Februar 2025 vorgeschrieben. Die Entwicklungsgeschwindigkeit von KI unterstreicht: Eine einmalige Schulung reicht nicht aus.
… sind bußgeldpflichtig — auch wenn noch kein konkreter Katalog vorliegt und keine Institution festgelegt wurde.
So setzen wir das um: geförderte KI-Schulungen · Sicherheit & Compliance · Technische Einbettung von KI · Fördermöglichkeiten
kontakt
Gern sind wir rund um das Thema KI für dich da. Wir melden uns umgehend bei dir.
Wir melden uns zeitnah bei dir. Wenn es eilig ist, erreichst du uns unter +49 371 524 99 140 oder contact@sellium.ai.
