Rechtliche Fallen in der Personalarbeit durch KI

Künstliche Intelligenz (KI) zieht in immer mehr Bereiche der Arbeitswelt ein, so auch in die unterschiedlichsten Bereiche der Personalarbeit. Um hier rechtliche Rahmenbedingungen zu schaffen, wurde der sogenannte AI-Act, das künftige europäische Gesetz zu KI, ins Leben gerufen. Der Europäische Rat und das Europäische Parlament haben am 9. Dezember 2023 eine Einigung über ein europäisches KI-Gesetz (EU-AI-Act) erzielt und damit eine europäische Regulierung von KI.

KI-Anwendungen arbeiten mit Algorithmen, die zum einen große Mengen von Daten verarbeiten und zum anderen selbstlernend sind. Darüber hinaus ist KI in der Lage, aus großen Datenmengen zu lernen, Muster zu erkennen und daraus selbstständige Entscheidungen zu treffen. Personalabteilungen arbeiten schon seit einiger Zeit mit KI-Anwendungen, so z. B. bei der Personalgewinnung oder der Dienstplanerstellung. Basis sind hier personenbezogene Daten. Daher sind bei der Anwendung von KI die Vorgaben des Allgemeinen Gleichbehandlungsgesetzes (AGG) und des Datenschutzrechts (BDSG und DSGVO) zu beachten. Darüber hinaus bestehen unterschiedliche Beteiligungsrechte des Personalrats.

Diskriminierung auch durch KI möglich

Tückisch ist es, wenn KI-Anwendungen den Eindruck erwecken, objektiver zu entscheiden, als es bei menschlichem Handeln und Entscheiden der Fall ist, so bei diskriminierenden Vorurteilen beispielsweise. Das ist aber nur auf den ersten Blick der Fall, denn auch durch KI können diskriminierende Entscheidungen getroffen werden. Zum einen kann ein Datensatz, mit dem eine KI trainiert worden ist, diskriminierende Daten enthalten haben, sodass die KI bei ihrer Entscheidung diese Diskriminierung fortschreibt. Zum anderen kann die KI als Produkt einer menschlichen Entwicklungsleistung auch von Vorurteilen des Entwicklers geprägt sein und deshalb aufgrund ihrer Programmierung diskriminierende Entscheidungen treffen. In der Folge kann es zu einer unmittelbaren oder mittelbaren Benachteiligung im Sinne von § 3 Abs. 1 bzw. Abs. 2 AGG kommen. Bei Bekanntwerden einer solchen diskriminierenden und auf KI basierten Personalpraxis droht das Risiko eines Schadens für die Reputation des Unternehmens und auch Schadensersatz- und Entschädigungsansprüche gegen den Arbeitgeber.

Datenschutz muss eingehalten werden

Besonderes Augenmerk ist gefordert, wenn es um die Verarbeitung von personenbezogenen Daten durch KI geht. Hier sind neben den allgemeinen datenschutzrechtlichen Vorgaben auch spezielle für den KI-Einsatz zu berücksichtigen. Grundlegend ist zunächst § 26 Abs. 1 Satz 1 BDSG. Danach ist eine Datenverarbeitung im Arbeitsverhältnis zulässig, wenn sie für die Entscheidung über die Begründung, Durchführung oder Beendigung eines Beschäftigungsverhältnisses erforderlich ist. Zu prüfen ist dann im Einzelfall, ob die Datenverarbeitung durch die KI-Anwendung geeignet ist, das erstrebte Ziel zu erreichen, ob kein milderes Mittel zur Verfügung steht und ob die Interessen des Unternehmens den Eingriff in die Persönlichkeitsrechte der betroffenen Beschäftigten überwiegen. Zudem besteht die Möglichkeit, die Datenverarbeitung durch KI-Anwendung auf Basis einer freiwilligen Einwilligung des betroffenen Mitarbeiters erfolgen zu lassen. Die Freiwilligkeit der Einwilligung ist allerdings jederzeit widerruflich.

Dem Einsatz von KI-Anwendungen sind zudem durch Art. 22 Abs. 1 DSGVO Grenzen gesetzt. Danach dürfen Entscheidungen, die gegenüber dem Betroffenen eine rechtliche Wirkung entfalten oder ihn erheblich beeinträchtigen, nicht allein auf Grundlage einer automatisierten Datenverarbeitung getroffen werden. Ein Beispiel ist die automatisierte Absage im Bewerbungsverfahren, durch die für den Bewerber eine nachteilige Entscheidung getroffen wird.

Mitbestimmungsrecht ist betroffen

Daneben kann bei der Einführung von KI-Anwendungen ein Mitbestimmungsrecht bestehen, wenn die KI-Anwendung objektiv dazu geeignet ist, das Verhalten oder die Leistung der Arbeitnehmenden zu überwachen. Je nach Aufgabenzuschnitt und Entscheidungsbefugnis der KI-Anwendung können darüber hinaus noch weitere Tatbestände einschlägig sein, wie etwa Beginn und Ende der Arbeitszeit, Anordnung von Überstunden oder Urlaubsgewährung. Stellt eine KI-Anwendung eigenständig Richtlinien über die Auswahl von Personal auf, stellt das Betriebsverfassungsgesetz klar, dass auch in diesem Fall die Beteiligungsrechte des Betriebsrats bestehen. Eine Auswahlrichtlinie bedarf daher auch dann der Zustimmung des Betriebsrats, wenn sie von einer Künstlichen Intelligenz aufgestellt wird.