KI-Kompetenz als neue Arbeitgeberpflicht
Die Nutzung von KI am Arbeitsplatz erfährt mit dem Inkrafttreten des AI-Act ab Februar 2025 eine rechtliche Basis in Europa. Denn am 2. Februar 2025 tritt Artikel 4 der EU-Verordnung zur künstlichen Intelligenz 2024/1689 („KI-VO“) in Kraft. Diese Neuregelung begründet eine Verpflichtung für Unternehmen zur Sicherstellung der KI-Kompetenz.
Was das Gesetz vorsieht
Das Gesetz sieht vor, dass Anbieter und Betreiber von KI‑Systemen gemäß der KI-VO gewährleisten müssen, dass eigenes Personal und andere Personen, die in ihrem Auftrag KI‑Systeme nutzen, über ein ausreichendes Maß an KI‑Kompetenz verfügen. Die KI-VO definiert KI-Kompetenzen als „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ Zusammengefasst meint KI-Kompetenz die Fähigkeit, mit KI-Systemen fundiert umzugehen, ihre Potenziale und Risiken zu erkennen und auf dieser Grundlage verantwortungsvolle Entscheidungen zu treffen.
Anbieter und Betreiber
Im Rahmen der Nutzung von KI-Systemen unterscheidet man Anbieter und Betreiber. Arbeitgebende, die ein KI-System mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen oder in Betrieb nehmen, gelten als Anbieter. Verwendet ein Arbeitgeber hingegen zur Förderung arbeitstechnischer Zwecke im Unternehmen fremdentwickelte KI-Systeme in eigener Verantwortung, so gilt er als Betreiber im Sinne der KI-VO. Die Unternehmensgröße spielt dabei keine Rolle. Arbeitgebende, die KI-Systeme einsetzen, sind verpflichtet, entsprechend ihren verfügbaren Ressourcen und technologischen Möglichkeiten angemessene Maßnahmen zu ergreifen. Betroffen sind beispielsweise Unternehmen, die ChatGPT oder den Co-Pilot (von Microsoft) im Rechnungswesen, in der Personalabteilung oder im Marketing einsetzen. Aber auch, wer eigene KI-basierte Chatbots für seine Kunden entwickelt, muss ein gewisses KI-Know-how bei seinen Mitarbeitenden sicherstellen.
Vermittlung der KI-Kompetenz
Es stellt sich jedoch die Frage, wie ein zureichendes Maß an KI-Kompetenz vermittelt wird. Die KI-VO lässt dies relativ offen. Denn eine konkrete Regelung, wann ein „ausreichendes Maß“ an KI-Kompetenz zu erreicht ist, definiert sie nicht im Detail. Arbeitgebende müssen daher selbst ein geeignetes Konzept entwickeln, das es den betroffenen Mitarbeitenden erlaubt, kundige Entscheidungen im Umgang mit KI‑Systemen zu treffen. Wichtig dabei ist es, dass die Mitarbeitenden die notwendigen Fähigkeiten, Kenntnisse und das Verständnis erlangen, um den Anforderungen der KI-VO zu entsprechen. Hier gibt es keine pauschale Lösung, der Umfang hängt vom individuellen Fall ab. Maßgeblich dafür sind Kriterien wie die Branche des Arbeitgebers, der Einsatzbereich des KI-Systems im Unternehmen oder mögliche Risiken. Zudem spielen die technischen Kenntnisse der Mitarbeitenden sowie deren Ausbildung und Erfahrung eine Rolle, ebenso der Kontext, in dem KI-Systeme eingesetzt werden sollen.
KI-Beauftragter und Dokumentation
Wir kennen es vom Datenschutz: Ähnlich wie ein Datenschutzbeauftragter im Unternehmen mittlerweile unabdingbar ist, sollten nun KI-Beauftragte im Unternehmen berufen werden. Diese führen Risikobewertungen und Risikofolgenabschätzungen durch und sorgen für die Implementierung, Überwachung und Koordination der KI-Strategien. Auch obliegt ihnen die Planung und Koordination von Schulungen. Von weiterer Bedeutung ist die Dokumentation. Auch wenn die KI-VO keine konkrete Dokumentation verlangt, empfiehlt es sich für Arbeitgebende, Schulungsmaßnahmen festzuhalten. Denn eine nachvollziehbare Dokumentation schützt Unternehmen vor Haftungsrisiken und belegt die Erfüllung der Verpflichtung nach Art. 4 KI-VO. Denn bei unzureichender oder unterlassener Umsetzung drohen gewisse Konsequenzen. Artikel 4 KI-VO ist zwar nicht als konkrete Verpflichtung, sondern vielmehr als ein Appell an den Arbeitgebende formuliert. Ein Verstoß führt nicht zu Bußgeld oder anderen Strafen. Sollte jedoch durch eine fehlerhafte Bedienung eines KI-Systems oder eine unzureichende Risikobewertung ein Schaden entstehen, könnte dies als Verstoß gegen die allgemeine Sorgfaltspflicht des Arbeitgebers ausgelegt werden, hätte der Schaden durch angemessene Maßnahmen verhindert werden können.