Seit dem 2. Februar 2025 müssen Unternehmen in der gesamten EU eine neue Anforderung erfüllen: KI-Kompetenz für alle Mitarbeiter, die mit künstlicher Intelligenz arbeiten. Artikel 4 der EU-KI-Verordnung macht damit Schulungen oder Einstellung von qualifizierten Personal zur Pflicht – und zwar für jedes Unternehmen, das KI-Systeme anbietet oder nutzt. Die Verpflichtung gilt bereits jetzt, während die ersten Bußgelder ab August 2025 drohen. Für Entscheider bedeutet das: Wer nicht sofort handelt, riskiert erhebliche Haftungsrisiken und Wettbewerbsnachteile.
Warum ist das so wichtig? Die EU hat erkannt, dass selbst die besten KI-Regulierungen wirkungslos bleiben, wenn Menschen nicht verstehen, wie KI funktioniert und welche Risiken sie birgt. Artikel 4 schließt diese Lücke. Anders als bei Artikel 5, der bestimmte KI-Praktiken komplett verbietet, geht es bei Artikel 4 um die menschliche Seite der KI-Nutzung. Die gute Nachricht: Im Gegensatz zu den drakonischen Strafen für verbotene KI-Praktiken (bis zu 35 Millionen Euro) gibt es für Artikel 4 keine direkten Bußgelder – doch die indirekten Haftungsrisiken sind erheblich. Diese Regulierung betrifft nicht nur Tech-Konzerne, sondern jedes Unternehmen, das etwa ChatGPT, Microsoft Copilot oder andere KI-Tools verwendet.
Was schreibt Artikel 4 der KI-Verordnung konkret vor?
Der vollständige Wortlaut von Artikel 4 EU AI Act lautet:
Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen.
Diese rechtliche Verpflichtung klingt zunächst vage, hat aber konkrete Implikationen. Der Gesetzgeber verlangt ausdrücklich, dass Unternehmen dabei technische Kenntnisse, Erfahrung, Aus- und Weiterbildung sowie den Nutzungskontext berücksichtigen. Auch die Personen oder Personengruppen, die von den KI-Systemen betroffen sind, müssen in die Überlegungen einbezogen werden.
Definition: Was bedeutet KI-Kompetenz genau?
Artikel 3 Absatz 56 der KI-Verordnung definiert KI-Kompetenz als:
Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden bewusst zu werden.
Konkret müssen Mitarbeiter verstehen können:
- Wie die eingesetzten KI-Systeme grundsätzlich funktionieren
- Welche Entscheidungen die KI trifft und auf welcher Basis
- Wo die Grenzen und Fehlerquellen des Systems liegen
- Welche rechtlichen und ethischen Implikationen bestehen
- Wie die Outputs der KI richtig interpretiert werden
- Welche Dokumentations- und Meldepflichten bestehen
Die erforderliche Tiefe der KI-Kenntnisse variiert je nach Rolle: Ein Software-Entwickler benötigt tiefes technisches Verständnis, während ein Manager vor allem strategische und rechtliche Aspekte kennen muss.
Rechtliche Grundlagen und Geltungsbereich
Artikel 4 ist Teil der Verordnung (EU) 2024/1689, die am 1. August 2024 in Kraft getreten ist. Die Besonderheit: Während die meisten Vorschriften erst 2026 oder 2027 greifen, gilt Artikel 4 bereits seit dem 2. Februar 2025. Die Pflicht zur KI-Kompetenz gehört damit zu den ersten sofort anwendbaren Regelungen des AI Act.
Der Geltungsbereich ist denkbar weit: Die Anforderung betrifft alle KI-Systeme unabhängig von ihrer Risikoklasse – von minimal risikoreichen Chatbots bis zu hochriskanten medizinischen Diagnose-Systemen. Auch die Unternehmensgröße spielt keine Rolle: Start-ups mit fünf Mitarbeitern haben dieselbe grundsätzliche Verpflichtung wie Konzerne mit zehntausenden Beschäftigten.
Wer ist von Artikel 4 EU AI Act betroffen?
Anbieter von KI-Systemen
Anbieter im Sinne der Verordnung sind Unternehmen, die KI-Systeme entwickeln oder entwickeln lassen und unter eigenem Namen oder eigener Marke in Verkehr bringen. Dies betrifft nicht nur reine Software-Hersteller, sondern auch Unternehmen, die KI in ihre Produkte integrieren.
Typische Beispiele:
- Software-Unternehmen, die KI-Lösungen entwickeln
- Maschinenbauer, die intelligente Steuerungssysteme einbauen
- Medizintechnik-Hersteller mit KI-gestützten Diagnosegeräten
- Automobilhersteller mit autonomen Fahrfunktionen
Diese Unternehmen tragen die Hauptverantwortung dafür, dass ihre Entwickler-, Produktmanagement- und Vertriebsteams KI-kompetent sind.
Betreiber und Nutzer von KI-Systemen
Betreiber sind alle Personen oder Organisationen, die KI-Systeme in ihrem Namen nutzen – selbst wenn sie diese nicht selbst entwickelt haben. Diese Kategorie ist besonders relevant, da sie praktisch jedes moderne Unternehmen betrifft.
Betroffen sind beispielsweise:
- HR-Abteilungen, die KI-gestützte Bewerbermanagement-Software einsetzen
- Marketing-Teams, die generative KI wie ChatGPT oder Midjourney nutzen
- Kundenservice-Abteilungen mit KI-Chatbots
- Finanzabteilungen, die KI-basierte Risikoanalysen verwenden
- Jeder Mitarbeiter, der Microsoft Copilot oder ähnliche Tools nutzt
Selbst die Verwendung von SaaS-Lösungen mit integrierter KI macht Unternehmen zu Betreibern mit entsprechenden Schulungspflichten.
Betroffene Branchen im Überblick
Während der AI Act in allen Branchen gilt, haben einige Sektoren besonders dringenden Handlungsbedarf:
Finanzdienstleistungen nutzen KI massiv für Kreditwürdigkeitsprüfungen, Betrugserkennung und Anlageberatung. Hier besteht erhöhtes Haftungsrisiko, da falsche KI-Entscheidungen direkte finanzielle Schäden verursachen können.
Gesundheitswesen setzt zunehmend auf KI für Diagnostik, Behandlungsempfehlungen und Patientenüberwachung. Die Kombination aus hochriskanten Anwendungen und sensiblen Daten macht umfassende KI-Kompetenz unerlässlich.
E-Commerce und Marketing verwenden KI für personalisierte Werbung, dynamische Preisgestaltung und Empfehlungssysteme – Bereiche, die schnell mit den in Artikel 5 verbotenen manipulativen Praktiken kollidieren können.
Industrie und Produktion integrieren KI in Produktionssteuerung, Qualitätskontrolle und vorausschauende Wartung. Hier müssen Facharbeiter und Ingenieure die Funktionsweise verstehen, um sicher damit zu arbeiten.
Welche KI-Kompetenz ist erforderlich?
Technisches Verständnis von KI-Systemen
Mitarbeiter müssen nicht zu Data Scientists werden, aber sie sollten die grundlegenden Funktionsprinzipien der von ihnen genutzten KI verstehen. Dazu gehört das Wissen darüber, dass maschinelles Lernen auf historischen Daten basiert und daher Verzerrungen (Bias) enthalten kann, dass KI-Systeme probabilistische Vorhersagen treffen und nicht „die Wahrheit“ verkünden, und dass die Qualität der Eingabedaten die Qualität der Outputs bestimmt.
Für Entwickler und technisches Personal sind tiefere Kenntnisse erforderlich: Sie müssen Trainingsmethoden verstehen, Modellarchitekturen kennen und Limitationen verschiedener KI-Ansätze einschätzen können.
Rechtliche und ethische Kenntnisse
Die KI-Kompetenz umfasst zwingend das Verständnis der rechtlichen Rahmenbedingungen. Mitarbeiter sollten wissen, welche KI-Praktiken nach Artikel 5 verboten sind – etwa Emotionserkennung am Arbeitsplatz oder Social Scoring. Sie müssen die Anforderungen der DSGVO im Zusammenhang mit KI-Anwendungen kennen und verstehen, wann eine Datenschutz-Folgenabschätzung erforderlich ist.
Ethische Aspekte sind ebenfalls zentral: Mitarbeiter sollten Diskriminierungsrisiken erkennen können, Transparenz gegenüber Betroffenen sicherstellen und die Grundrechte-Auswirkungen von KI-Entscheidungen verstehen.
Risikobewusstsein und Datenschutz
Besonders wichtig ist das Bewusstsein für die spezifischen Risiken der eingesetzten KI-Systeme. Bei hochriskanten Anwendungen müssen Mitarbeiter verstehen, welche Fehler auftreten können und welche Konsequenzen diese haben. Sie sollten wissen, wann menschliches Eingreifen erforderlich ist und wie effektive menschliche Aufsicht (Human Oversight) funktioniert.
Der Datenschutz verdient besondere Aufmerksamkeit: Mitarbeiter müssen verstehen, welche Daten die KI verarbeitet, wie diese geschützt werden und welche Rechte Betroffene haben.
Praktische Umsetzung: So erfüllen Sie Artikel 4
Wir unterstützen als Sellium bei allen Schritten.
Schritt 1: Bestandsaufnahme Ihrer KI-Systeme
Beginnen Sie mit einem vollständigen AI-Inventar. Erfassen Sie nicht nur offensichtliche KI-Anwendungen, sondern auch versteckte KI in gekaufter Software. Viele Unternehmen nutzen mehr KI-Systeme als ihnen bewusst ist – von Spam-Filtern über CRM-Systeme mit Predictive Analytics bis zu integrierten Assistenzfunktionen in Office-Software.
Für jedes identifizierte System dokumentieren Sie:
- Zweck und Funktionsweise
- Anbieter und technische Basis
- Welche Mitarbeiter damit arbeiten
- Risikoklassifizierung nach AI Act
- Betroffene Personengruppen
Diese Bestandsaufnahme bildet die Grundlage für alle weiteren Schritte.
Schritt 2: Schulungskonzept entwickeln
Entwickeln Sie ein gestuftes Schulungskonzept, das unterschiedliche Zielgruppen berücksichtigt:
Basis-Schulung für alle Mitarbeiter (2-4 Stunden): Grundlagen der KI, AI Act Überblick, verbotene Praktiken, Datenschutz-Basics, Meldewege bei Problemen.
Anwender-Schulung (1-2 Tage): Spezifische KI-Tools im Unternehmen, richtige Nutzung und Interpretation von Outputs, Risiken und Grenzen, Dokumentationspflichten.
Experten-Schulung (3-5 Tage): Technische Tiefe, Entwicklung compliant AI, Risikomanagement-Systeme, rechtliche Detailaspekte, Zertifizierungsverfahren
Das Konzept sollte berücksichtigen, dass verschiedene Abteilungen unterschiedliche Schwerpunkte benötigen: HR-Teams brauchen Kenntnisse über Diskriminierungsrisiken, während IT-Sicherheit sich auf Cyberrisiken von KI konzentriert.
Schritt 3: Mitarbeiter schulen und zertifizieren
Setzen Sie die Schulungen zeitnah um. Die Verordnung ist seit Februar 2025 anwendbar – Verzögerungen schaffen Haftungsrisiken. Nutzen Sie verschiedene Formate: Präsenzschulungen für komplexe Themen, E-Learning für Basis-Wissen, Workshop-Formate für praktische Übungen.
Wichtig ist die Erfolgskontrolle: Führen Sie Tests durch, die nachweisen, dass Mitarbeiter die Inhalte verstanden haben. Dokumentieren Sie Teilnahme und Ergebnisse sorgfältig. Dies dient nicht nur der Compliance, sondern schützt bei Haftungsfragen.
Schritt 4: Dokumentation und Nachweispflicht
Obwohl Artikel 4 keine expliziten Dokumentationspflichten nennt, ist eine lückenlose Dokumentation dringend zu empfehlen. Halten Sie fest:
- Welche Schulungen wann für welche Mitarbeitergruppen durchgeführt wurden
- Schulungsinhalte und verwendete Materialien
- Teilnehmerlisten und Testergebnisse
- Aktualisierungen und Auffrischungskurse
- Bewertung der KI-Kompetenz-Niveaus
Diese Dokumentation beweist gegenüber Aufsichtsbehörden, dass Sie Ihrer Sorgfaltspflicht nachgekommen sind. Bei Schadensfällen kann sie haftungsmindernd wirken.
Schritt 5: Kontinuierliche Weiterbildung sicherstellen
KI-Kompetenz ist kein einmaliges Projekt, sondern ein kontinuierlicher Prozess. Die KI-Technologie entwickelt sich rasant, ebenso die rechtlichen Rahmenbedingungen. Implementieren Sie daher:
- Regelmäßige Auffrischungsschulungen (mindestens jährlich)
- Updates bei Einführung neuer KI-Systeme
- Laufende Information über regulatorische Änderungen
- Community of Practice für KI-Anwender im Unternehmen
- Externe Weiterbildungsangebote für Schlüsselpersonal
Die Europäische Kommission veröffentlicht laufend neue Guidelines und FAQs – ein Prozess zur Überwachung dieser Entwicklungen ist essenziell.
KI-Schulungen für Unternehmen
Inhouse-Schulungen haben den Vorteil, dass sie perfekt auf die spezifischen KI-Systeme und Prozesse Ihres Unternehmens zugeschnitten werden können. Sie sind oft kosteneffizienter bei größeren Teilnehmerzahlen und fördern den internen Wissensaustausch. Allerdings erfordern sie den Aufbau interner Expertise und können bei schnellen regulatorischen Änderungen veraltet sein.
Externe Schulungsanbieter bringen aktuelle Fachexpertise und standardisierte Curricula mit. Spezialisierte Akademien wie die Sellium-Academy, TÜV-Akademie, Bitkom-Akademie oder IHK bieten zertifizierte KI-Schulungen an. Diese haben besonders hohe Glaubwürdigkeit gegenüber Aufsichtsbehörden. Der Nachteil: höhere Kosten pro Teilnehmer und weniger unternehmensspezifischer Bezug.
Eine Hybrid-Lösung ist oft optimal: Externe Schulungen für Grundlagen und rechtliche Aspekte, ergänzt durch interne Trainings zu spezifischen Tools und Prozessen.
Haftung und Sanktionen bei Nichtbeachtung
Welche Strafen drohen konkret?
Artikel 4 nimmt hier eine Sonderstellung ein: Anders als für die meisten anderen Vorschriften des AI Act sind keine direkten Bußgelder für Verstöße gegen die KI-Kompetenz-Anforderung vorgesehen. Die Europäische Kommission hat dies bewusst so gestaltet, da der Begriff „ausreichende KI-Kompetenz“ schwer zu quantifizieren ist und eine Sanktionierung problematisch wäre.
Das bedeutet jedoch nicht, dass Verstöße folgenlos bleiben. Die fehlende KI-Kompetenz kann in mehrfacher Hinsicht haftungsrelevant werden:
Indirekte Haftung bei Schäden: Wenn ein Unternehmen nachweislich keine KI-Schulungen durchgeführt hat und es aufgrund von Fehlbedienung oder Fehlinterpretation der KI zu Schäden kommt, liegt Organisationsverschulden vor. Dies kann zu zivilrechtlichen Schadensersatzansprüchen führen.
Verschärfung anderer Verstöße: Bei Verstößen gegen andere AI-Act-Vorschriften (etwa gegen Artikel 26 zur menschlichen Aufsicht bei hochriskanten Systemen) wird die Aufsichtsbehörde prüfen, ob ausreichende KI-Kompetenz vorlag. Fehlende Schulungen können hier als Indiz für grobe Fahrlässigkeit gewertet werden und zu höheren Strafen führen.
Produkthaftung: Bei fehlerhaften KI-Produkten kann die AI Liability Directive (in Vorbereitung) greifen. Fehlende KI-Kompetenz der Entwickler kann als Produktionsfehler qualifiziert werden.
Haftungsrisiken für Unternehmen
Die zivilrechtlichen Risiken sind erheblich: Stellen Sie sich vor, ein Unternehmen setzt ein KI-Recruiting-Tool ein, das aufgrund mangelnder KI-Kompetenz der HR-Mitarbeiter diskriminierend genutzt wird. Abgelehnte Bewerber könnten auf Schadensersatz klagen. War keine angemessene Schulung erfolgt, haftet das Unternehmen.
Auch arbeitsrechtliche Konsequenzen sind möglich: Wenn Mitarbeiter ohne entsprechende Schulung mit hochriskanter KI arbeiten sollen, können sie die Arbeit verweigern. Kommt es zu Unfällen, greifen arbeitsschutzrechtliche Haftungsregeln.
Vertragsrechtlich vereinbaren zunehmend Geschäftspartner in B2B-Beziehungen AI-Act-Compliance als Vertragsbedingung. Fehlende KI-Kompetenz-Nachweise können zu Vertragsstrafen oder Kündigungsrechten führen.
Fazit: KI-Kompetenz als Wettbewerbsvorteil
Artikel 4 des EU AI Act ist mehr als eine lästige Regulierungspflicht – er ist eine Chance zur strategischen Weiterentwicklung. Unternehmen, die frühzeitig in KI-Kompetenz investieren, profitieren mehrfach:
Risikoreduzierung: Geschulte Mitarbeiter machen weniger Fehler im Umgang mit KI, erkennen Compliance-Probleme frühzeitig und reduzieren Haftungsrisiken dramatisch. Die Investition in Schulungen ist minimal verglichen mit den potenziellen Kosten von Fehlanwendungen oder Verstößen.
Wettbewerbsvorteile: In einem Markt, der zunehmend auf AI-Act-Compliance achtet, werden zertifizierte KI-Kompetenzen zum Differenzierungsmerkmal. B2B-Kunden fordern Compliance-Nachweise – wer diese liefern kann, sichert sich Aufträge.
Innovation und Effizienz: Mitarbeiter, die KI wirklich verstehen, nutzen sie effektiver. Sie schöpfen das Potenzial der Technologie aus, vermeiden typische Fallstricke und entwickeln kreativere Lösungen. KI-Kompetenz macht Ihre Organisation innovationsfähiger.
Unternehmenskultur: Die systematische Vermittlung von KI-Kenntnissen schafft eine Kultur des verantwortungsvollen Technologieeinsatzes. Mitarbeiter fühlen sich ermächtigt statt überfordert, Ängste vor KI werden durch Verständnis ersetzt, ethische Reflexion wird zur Selbstverständlichkeit.
Die Botschaft ist klar: Handeln Sie jetzt. Die Anforderung gilt bereits, die ersten Monate nach Inkrafttreten sind Ihre Schonfrist zur Etablierung solider Strukturen. Unternehmen, die diese Zeit nutzen, positionieren sich als verantwortungsvolle KI-Nutzer und Innovationsführer. Wer zögert, riskiert nicht nur Haftung, sondern verpasst die Chance, KI-Kompetenz als strategischen Vermögenswert aufzubauen.
Der EU AI Act Artikel 4 markiert den Beginn einer neuen Ära: KI-Technologie allein reicht nicht – KI-Verständnis wird zur Kernkompetenz des 21. Jahrhunderts.
