Mit dem AI Act treibt die Europäische Union die Regulierung von Künstlicher Intelligenz voran. Ein zentrales Thema dieser neuen Gesetzgebung ist die Verpflichtung für Unternehmen, ihre Mitarbeiter im Umgang mit KI-Technologien zu schulen. Seit dem 01.02.2025 wird dies für Arbeitgeber in der EU verpflichtend – eine Entwicklung, die laut Haufe.de und Der Standard bei Nichteinhaltung mit hohen Strafen einhergehen kann.
Warum die KI-Schulungspflicht kommt
Der Einsatz von Künstlicher Intelligenz hat in den vergangenen Jahren massiv zugenommen. Ob automatisierte Bildanalyse, Chatbots im Kundensupport oder Empfehlungssysteme im Recruiting: KI-Anwendungen sind aus vielen Unternehmen nicht mehr wegzudenken. Gleichzeitig bergen sie Risiken, etwa in Bezug auf Datenschutz, Diskriminierungsfreiheit oder Produkthaftung. Der EU AI Act soll daher klare Standards für den Einsatz von KI in Europa setzen und die Rechte und die Sicherheit der Bürgerinnen und Bürger schützen.
Die Schulungspflicht ist Teil eines ganzheitlichen Ansatzes, der sicherstellen soll, dass KI-Anwendungen kompetent, verantwortungsvoll und regelkonform eingesetzt werden. Unternehmen sind seit dem 01.02.2025 verpflichtet, ihre Mitarbeiterinnen und Mitarbeiter – insbesondere diejenigen, die direkt mit KI-Systemen arbeiten oder über deren Einsatz entscheiden – in den relevanten technischen, rechtlichen und ethischen Fragen zu schulen.
Was Arbeitgeber jetzt tun müssen
- Bedarfsanalyse durchführen: Zunächst sollten Unternehmen ermitteln, welche Beschäftigtengruppen welche Art von KI-Kompetenzen benötigen. Dabei spielen das Tätigkeitsfeld, der Verantwortungsbereich und der Umgang mit KI-Anwendungen eine entscheidende Rolle.
- Aus- und Weiterbildungskonzepte entwickeln: Auf Basis der Bedarfsanalyse sollte ein Schulungskonzept entwickelt werden. Dabei sollten neben den technischen Grundlagen auch regulatorische Anforderungen (z. B. Datenschutz, Sicherheitsbestimmungen) sowie ethische Fragestellungen (z. B. Fairness, Transparenz) im Fokus stehen.
- Externe Expertise einbeziehen: Da sich die regulatorischen Anforderungen und technologischen Entwicklungen rund um KI schnell ändern, ist es sinnvoll, spezialisierte Partner hinzuzuziehen. So sparen Sie wertvolle Ressourcen und stellen einen professionellen und stets aktuellen Wissenstransfer sicher.
- Nachweise dokumentieren: Unternehmen werden gegenüber Behörden verpflichtet sein, Schulungsinhalte und -teilnahmen nachzuweisen. Eine strukturierte Dokumentation ist daher unerlässlich – auch um bei eventuellen Kontrollen und Audits rechtlich auf der sicheren Seite zu sein.
Sanktionen bei Verstößen
Bei Nichteinhaltung der Vorschriften drohen hohe Bußgelder und strenge Auflagen. Wer die Schulungspflicht ignoriert oder nur oberflächlich umsetzt, riskiert nicht nur finanzielle Einbußen, sondern auch einen Reputationsverlust – sowohl bei den Behörden als auch bei den eigenen Mitarbeitenden. Schließlich könnte ein unqualifizierter Umgang mit KI-Systemen zu gravierenden Fehlentscheidungen, diskriminierenden Algorithmen oder Datenschutzverletzungen führen.
Klassifizierung von KI-Systemen: Vier Risikokategorien
Der AI Act verpflichtet Unternehmen nicht nur zur Schulung ihrer Mitarbeitenden, sondern auch dazu, ihre KI-Systeme zu klassifizieren und entsprechend zu handeln. Hierbei unterscheidet die Verordnung zwischen vier Risikokategorien, die von „unannehmbar“ bis „minimal“ reichen. Zusätzlich definiert der AI Act Anwendungsfälle, die nicht unter die Verordnung fallen. Ein Überblick:
Unannehmbares Risiko: KI-Anwendungen, die gegen Grundrechte verstoßen oder diese gravierend einschränken, werden als „unannehmbar“ eingestuft. Sie müssen bis zum 2. Februar 2025 vom EU-Binnenmarkt entfernt werden.
Hochrisiko-KI: Systeme mit „hohem Risiko“ erfordern besonders strenge Auflagen und Konformitätsprüfungen. Hierzu zählen u. a. KI-Lösungen für das autonome Fahren oder in der industriellen Produktion. Der AI Act unterscheidet dabei zwei Bereiche:
- Anhang I: KI-Systeme, die als Sicherheitskomponenten von Produkten verwendet werden oder selbst als Produkt eingestuft sind und einer Konformitätsprüfung durch Dritte unterliegen.
- Anhang III: Acht konkrete Anwendungsbereiche, in denen der Einsatz von KI als hochriskant für persönliche Grundrechte oder die öffentliche Sicherheit gilt.
Begrenztes Risiko: KI-Systeme mit begrenztem Risiko – etwa Chatbots, die mit Personen interagieren – müssen vor allem Transparenz- und Informationspflichten erfüllen. Nutzer müssen wissen, dass sie es mit einer KI zu tun haben oder dass Inhalte künstlich erzeugt sind. Für KI-Modelle mit besonderer Reichweite oder Wirkung kann es zudem erweiterte Vorgaben geben, damit Anbieter und Anwender die Einhaltung der Vorschriften gewährleisten können.
Minimales Risiko: Dazu gehören Anwendungen mit sehr geringem Gefährdungspotenzial, wie etwa Spamfilter. Der AI Act empfiehlt Unternehmen in diesem Bereich die freiwillige Implementierung eines KI-Verhaltenskodexes. Innerhalb von zwölf Monaten nach Inkrafttreten des AI Acts soll die EU-Kommission hierzu konkrete Leitlinien bereitstellen.
Bestimmte KI-Systeme liegen außerhalb des Geltungsbereichs der Verordnung, zum Beispiel solche, die ausschließlich für Forschungs- und Entwicklungszwecke, militärische oder nationale Sicherheitszwecke eingesetzt werden. Auch KI für rein private, nicht-kommerzielle Nutzung sowie für die internationale Zusammenarbeit zwischen Behörden (z. B. zur Strafverfolgung) unterliegt nicht den Regelungen des AI Acts.
Wer KI-Systeme einsetzt, kommt also nicht darum herum, im ersten Schritt eine Risikobewertung durchzuführen und die eigenen Anwendungen korrekt einzuordnen. Diese Klassifizierung ist die Grundlage dafür, weitere Maßnahmen zu planen – von technischen Anforderungen bis hin zu dokumentierten Mitarbeiterschulungen. Besonders relevant ist dies für Unternehmen, die Hochrisiko-KI nutzen oder Systeme mit mehr als minimalem Risiko vertreiben oder anwenden wollen.
Fazit: Jetzt handeln und NOVEDAS als Partner nutzen
Der Stichtag war der 01.02.2025. Unternehmen, die noch keine konkreten Maßnahmen zum Thema KI-Schulungen ergriffen haben, sollten jetzt aktiv werden. Gerade weil die regulatorischen Vorgaben sehr komplex sind und sich die Technologielandschaft rasant verändert, ist eine maßgeschneiderte Qualifizierung der Mitarbeiterinnen und Mitarbeiter unerlässlich.
Sie möchten die Anforderungen des AI Act rechtssicher erfüllen und gleichzeitig das volle Potenzial von KI in Ihrem Unternehmen ausschöpfen? NOVEDAS unterstützt Sie gerne bei allen Fragen rund um Schulungskonzepte, Umsetzungsstrategien und Dokumentation. Mit unserer langjährigen Erfahrung in den Bereichen IT-Consulting und Change Management begleiten wir Sie von der Bedarfsanalyse über die Trainingsplanung bis hin zum erfolgreichen Abschluss. Sichern Sie sich jetzt Ihren Wettbewerbsvorteil und kontaktieren Sie uns!