Dieser Beitrag zeigt, welche KI-Anwendungen im Arbeitsalltag besonders kritisch sind, welche rechtlichen und organisatorischen Fragen Unternehmen vor dem Einsatz klären sollten und wie sich typische Risiken praxistauglich begrenzen lassen.
KI-Überwachung von Mitarbeitenden kann Prozesse effizienter machen, Sicherheitsvorfälle früher erkennen oder Führungskräfte bei Planung und Analyse unterstützen. Kritisch wird es jedoch, wenn Systeme Verhalten, Leistung, Kommunikation, Standortdaten oder Arbeitszeiten einzelner Beschäftigter automatisiert erfassen, bewerten und daraus Konsequenzen ableiten.
Für mittelständische Unternehmen ist die entscheidende Frage deshalb nicht, ob KI im Arbeitsalltag grundsätzlich eingesetzt werden darf. Entscheidend ist, wofür sie eingesetzt wird, welche Daten verarbeitet werden, wie stark Beschäftigte betroffen sind und wer die Ergebnisse kontrolliert. Wer diese Fragen erst nach der Einführung stellt, riskiert Datenschutzverstöße, Konflikte mit dem Betriebsrat, Akzeptanzprobleme und schlechte Personalentscheidungen.
Was zählt als KI-Überwachung von Mitarbeitenden?
Nicht jedes digitale Werkzeug ist automatisch ein Überwachungssystem. Eine Software zur Zeiterfassung oder ein Ticketsystem im Kundenservice kann zunächst einem nachvollziehbaren betrieblichen Zweck dienen. Die Schwelle zur kritischen Überwachung ist aber schnell überschritten, wenn Daten über einzelne Personen zusammengeführt, bewertet oder für Entscheidungen genutzt werden.
Typische Warnsignale sind:
- Das System erstellt Produktivitäts- oder Leistungsrankings einzelner Mitarbeitender.
- Es analysiert E-Mails, Chats, Anrufinhalte oder Videokonferenzen.
- Es misst Tastaturanschläge, Mausbewegungen, Bildschirmaktivitäten oder Leerlaufzeiten.
- Es wertet GPS- und Bewegungsdaten aus.
- Es schlägt automatisch Personalmaßnahmen vor, etwa für Schichtplanung, Boni, Beförderungen oder Abmahnungen.
- Es leitet aus Sprache, Mimik, Stimme oder Verhalten Rückschlüsse auf Stimmung, Motivation oder Belastung ab.
Die Technik kann dabei als Assistenz sinnvoll sein. Problematisch wird sie, wenn sie zu einer intransparenten Kontrollinstanz wird oder wenn ein algorithmischer Wert faktisch über die beruflichen Chancen einer Person entscheidet.
Warum KI-Überwachung im Arbeitsalltag schnell kritisch wird
KI-Systeme können große Datenmengen in kurzer Zeit verarbeiten. Genau das macht sie für Unternehmen attraktiv – und für Beschäftigte besonders eingriffsintensiv. Aus einzelnen, zunächst harmlosen Datenpunkten kann ein umfassendes Leistungs- oder Verhaltensprofil entstehen.
Ein Beispiel: Ein Vertriebssystem misst Gesprächsdauer, Anzahl der Kundenkontakte, Abschlussquote und Reaktionszeit auf E-Mails. Für die Vertriebssteuerung können solche Kennzahlen nützlich sein. Werden daraus aber automatisch individuelle Rankings erzeugt und ohne Kontext für Zielvereinbarungen oder Bonusentscheidungen verwendet, besteht ein erhebliches Fehlbewertungsrisiko. Komplexe Kundentermine, Einarbeitung neuer Kolleginnen und Kollegen oder die Bearbeitung schwieriger Reklamationen erscheinen in solchen Auswertungen oft als vermeintlich geringe Produktivität.
Hinzu kommt ein kultureller Effekt: Wenn Beschäftigte davon ausgehen müssen, laufend bewertet zu werden, leidet Vertrauen. Mitarbeitende orientieren sich dann unter Umständen an leicht messbaren Kennzahlen statt an Qualität, Zusammenarbeit oder nachhaltiger Problemlösung.
KI-Überwachung von Mitarbeitenden: Datenschutz und Verhältnismäßigkeit
Personenbezogene Daten von Beschäftigten dürfen nicht einfach verarbeitet werden, weil eine technische Möglichkeit besteht. Unternehmen brauchen einen klar definierten Zweck, eine passende Rechtsgrundlage und ein Verarbeitungskonzept, das auf das notwendige Maß begrenzt ist.
Für die Praxis bedeutet das: Vor der Einführung sollte eindeutig festgelegt sein, welches Problem gelöst werden soll. „Mehr Transparenz über Leistung“ ist dafür zu unbestimmt. Konkreter und besser prüfbar wäre beispielsweise: „Auslastung von Serviceteams anonymisiert erkennen, um Schichten bedarfsgerecht zu planen.“
Zweckbindung statt Datensammeln auf Vorrat
Eine gute Prüfung beginnt mit vier Fragen:
- Welches betriebliche Ziel verfolgen wir?
Etwa Arbeitssicherheit, Qualitätssicherung, Schutz vor IT-Sicherheitsvorfällen oder Kapazitätsplanung. - Sind personenbezogene Daten wirklich erforderlich?
Häufig reichen aggregierte, pseudonymisierte oder anonymisierte Daten aus. - Gibt es ein milderes Mittel?
Lässt sich derselbe Zweck durch Stichproben, Teamdaten oder manuelle Qualitätsgespräche erreichen? - Wer darf die Daten und Auswertungen sehen?
Der Zugriff sollte rollenbasiert, dokumentiert und auf das Notwendige begrenzt sein.
Besonders kritisch sind verdeckte, dauerhafte oder anlasslose Kontrollen. Sie lassen sich regelmäßig schwer mit dem Grundsatz der Verhältnismäßigkeit vereinbaren. Auch eine Einwilligung der Beschäftigten ist im Arbeitsverhältnis nicht automatisch eine tragfähige Lösung: Wegen des Abhängigkeitsverhältnisses muss ihre Freiwilligkeit besonders sorgfältig bewertet werden.
Automatisierte Entscheidungen nicht ungeprüft übernehmen
Wenn KI-Auswertungen maßgeblich über Einstellungen, Beförderungen, Schichtzuweisungen, Vergütung, Abmahnungen oder Kündigungen entscheiden, steigt das Risiko deutlich. Die Ergebnisse dürfen nicht wie objektive Tatsachen behandelt werden. Ein Score ist immer nur das Resultat von Daten, Annahmen und festgelegten Bewertungskriterien.
Unternehmen sollten deshalb verbindlich festlegen: Personalrelevante Entscheidungen werden von verantwortlichen Menschen getroffen, nachvollziehbar begründet und nicht allein aus einem KI-Ergebnis abgeleitet. Beschäftigte brauchen außerdem einen klaren Ansprechpartner, wenn sie eine Bewertung erklären lassen oder korrigieren möchten.
Arbeitsrecht und Betriebsrat: Frühzeitig einbinden
Besteht ein Betriebsrat, ist seine Beteiligung kein nachgelagerter Formalismus. Bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung von Beschäftigten zu überwachen, hat der Betriebsrat ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG.
In der Praxis ist es klug, Betriebsrat, Datenschutzbeauftragte, HR, IT-Sicherheit und Fachbereich bereits in der Auswahlphase einzubeziehen. So lassen sich Anforderungen an Datenumfang, Auswertungen, Löschfristen, Zugriffsrechte und menschliche Kontrollschritte früh vereinbaren.
Eine Betriebsvereinbarung kann dabei wichtige Fragen verbindlich regeln:
- Welche Daten dürfen verarbeitet werden – und welche ausdrücklich nicht?
- Welches System wird für welchen Zweck genutzt?
- Welche Auswertungen sind zulässig?
- Wer erhält Zugriff auf Rohdaten, Berichte und KI-Empfehlungen?
- Welche Entscheidungen dürfen keinesfalls automatisiert erfolgen?
- Wie lange werden Daten gespeichert?
- Wie können Beschäftigte Auskunft, Korrektur oder eine Überprüfung verlangen?
Eine solche Regelung schafft nicht nur Rechtssicherheit. Sie reduziert auch Widerstände, weil Beschäftigte nachvollziehen können, welche Grenzen das Unternehmen dem System setzt.
EU AI Act: Verbotene und besonders risikoreiche Anwendungen
Der EU AI Act verfolgt einen risikobasierten Ansatz. Zu den bereits geltenden Verboten zählen unter anderem Social Scoring sowie Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen; für die Emotionserkennung bestehen eng begrenzte Ausnahmen etwa für medizinische oder sicherheitsbezogene Zwecke.
Für Arbeitgeber ist besonders wichtig: Ein System, das Emotionen oder Absichten aus biometrischen Daten wie Gesicht, Stimme oder Körpermerkmalen ableiten soll, ist keine harmlose Innovation für Mitarbeitergespräche oder Callcenter-Steuerung. Solche Einsatzszenarien müssen nicht nur datenschutzrechtlich, sondern ausdrücklich auch im Hinblick auf die Verbote und Risikoklassen des AI Acts geprüft werden. Die Europäische Kommission hat hierzu Leitlinien mit rechtlichen Erläuterungen und Praxisbeispielen veröffentlicht.
Auch Anwendungen in Beschäftigung und Personalmanagement können je nach Zweck als Hochrisiko-KI einzuordnen sein. Für Hochrisiko-Systeme im Arbeitsumfeld sieht der AI Act unter anderem vor, dass betroffene Beschäftigte und ihre Vertretungen vor der Nutzung informiert werden.
Die praktische Konsequenz: Prüfe vor der Beschaffung nicht nur den Funktionsumfang eines Tools. Kläre auch, ob der konkrete Anwendungsfall unter den AI Act fällt, welche Rolle Dein Unternehmen einnimmt und welche organisatorischen Pflichten daraus entstehen.
Diskriminierung und Fehlbewertungen: Das unterschätzte Risiko
KI ist nicht automatisch neutral. Sie lernt aus historischen Daten oder arbeitet mit Kriterien, die menschlich definiert wurden. Wenn diese Daten oder Kriterien Verzerrungen enthalten, kann das System bestehende Ungleichheiten fortschreiben oder sogar verstärken.
Das kann sich zum Beispiel bei der Schichtplanung zeigen: Ein Algorithmus bewertet Mitarbeitende anhand vergangener Verfügbarkeiten. Wer wegen Care-Arbeit nur zu bestimmten Zeiten arbeiten kann, erhält dadurch möglicherweise schlechtere Einsatzzeiten oder wird seltener für attraktive Schichten vorgeschlagen. Das Problem liegt dann nicht zwingend in einer offen diskriminierenden Regel, sondern in der Art, wie das System vermeintlich neutrale Daten bewertet.
Unternehmen sollten KI-Ergebnisse deshalb regelmäßig auf Auffälligkeiten prüfen. Dazu gehören Unterschiede nach Abteilungen, Beschäftigungsmodellen, Betriebszugehörigkeit oder – soweit rechtlich und organisatorisch angemessen prüfbar – geschützten Merkmalen. Wichtig ist außerdem eine fachliche Plausibilitätskontrolle: Ist die Empfehlung wirklich sinnvoll, oder bewertet das System nur, was leicht messbar ist?
Informationssicherheit und Anbietersteuerung mitdenken
KI-Anwendungen verarbeiten häufig sensible Informationen: Personalakten, Gesprächsnotizen, Bewerbungsunterlagen, interne Chats, Leistungsdaten oder Produktionskennzahlen. Damit wird die Auswahl des Anbieters zu einer Frage der Informationssicherheit und Compliance.
Prüfe vor dem Einsatz insbesondere:
- Wo werden Daten gespeichert und verarbeitet?
- Werden Daten für das Training von Modellen verwendet?
- Welche Unterauftragnehmer sind eingebunden?
- Gibt es ein belastbares Berechtigungs- und Rollenmodell?
- Wie werden Zugriffe protokolliert?
- Welche Lösch- und Rückgaberegeln gelten nach Vertragsende?
- Lassen sich Datenexporte und Schnittstellen kontrollieren?
Eine leistungsfähige KI-Lösung ist kein Ersatz für ein sauberes Berechtigungs-, Datenschutz- und Sicherheitskonzept. Im Gegenteil: Je mehr sensible Beschäftigtendaten ein System verarbeitet, desto wichtiger werden diese Grundlagen.
Sieben Maßnahmen für einen kontrollierten KI-Einsatz
- Anwendungsfall präzise beschreiben:
Definiere den konkreten Nutzen, die betroffenen Personengruppen und den Prozess, den die KI unterstützen soll. - Datenminimierung konsequent umsetzen:
Verarbeite nur Daten, die für den Zweck tatsächlich erforderlich sind. Prüfe stets, ob Team- oder anonymisierte Daten ausreichen. - Verhältnismäßigkeit vor Einführung bewerten:
Stelle dem betrieblichen Nutzen die Eingriffsintensität für Beschäftigte gegenüber. Suche nach milderen Alternativen. - Keine automatisierten Personalentscheidungen zulassen:
KI darf Hinweise liefern. Die Entscheidung über Einstellung, Bewertung, Vergütung oder arbeitsrechtliche Maßnahmen braucht eine verantwortliche menschliche Prüfung. - Betriebsrat und Fachstellen früh einbeziehen:
Datenschutz, HR, IT-Sicherheit, Compliance und Betriebsrat sollten Anforderungen gemeinsam definieren – nicht erst ein fertiges Tool abnehmen. - Transparenz und Dokumentation schaffen:
Dokumentiere Datenquellen, Funktionsweise, Zugriffsrechte, Prüfungen, Löschfristen und Eskalationswege. Beschäftigte müssen verstehen können, ob und wie sie betroffen sind. - Regelmäßig kontrollieren und nachsteuern:
Überprüfe Fehlerraten, Diskriminierungsrisiken, Zugriffe, Datenflüsse und tatsächlichen Nutzen. Was in der Pilotphase plausibel wirkt, kann im laufenden Betrieb problematisch werden.
Beispiele aus dem Unternehmensalltag
Die folgenden Szenarien zeigen, wo KI-Überwachung von Mitarbeitenden häufig unbemerkt beginnt oder besonders sorgfältig gestaltet werden muss:
1. Produktivitätsanalyse im Homeoffice
Ein Tool misst Log-in-Zeiten, genutzte Anwendungen, Mausbewegungen und inaktive Bildschirmzeit. Es erstellt daraus einen Produktivitätsscore pro Person.
Kritisch ist: Bildschirmaktivität ist kein zuverlässiger Leistungsnachweis. Konzeption, Telefonate, Kundengespräche oder konzentriertes Arbeiten abseits des Bildschirms werden falsch bewertet. Eine dauerhafte, personenbezogene Überwachung ist zudem besonders eingriffsintensiv.
2. KI-Auswertung von Kundenservice-Gesprächen
Ein Callcenter-System transkribiert Telefonate und bewertet Gesprächsdauer, Stimmung, Wortwahl, Lösungsquote oder Gesprächsunterbrechungen.
Sinnvoll möglich: Qualitätsmuster auf Teamebene erkennen, Schulungsbedarfe ableiten und Mitarbeitenden konkrete Unterstützung anbieten.
Kritisch wird es: Wenn das System Emotionen ableitet, individuelle Rankings erstellt oder die Ergebnisse unmittelbar in Leistungsbeurteilungen und Bonusentscheidungen einfließen lässt.
3. Algorithmische Schichtplanung in Produktion oder Logistik
Eine Software plant Schichten auf Basis von Verfügbarkeit, Qualifikation, bisherigen Einsatzzeiten und Produktivitätsdaten.
Kritisch ist: Die Planung kann bestimmte Beschäftigtengruppen systematisch benachteiligen, etwa Teilzeitkräfte oder Mitarbeitende mit festen Betreuungspflichten. Auch muss transparent sein, warum eine Person einer bestimmten Schicht zugeteilt wurde.
4. Videoanalyse im Lager oder in der Produktion
Kameras sollen Sicherheitsverstöße, das Tragen von Schutzausrüstung oder gefährliche Bewegungen erkennen. KI markiert Auffälligkeiten automatisch.
Sinnvoll möglich: Konkrete Sicherheitsrisiken früh erkennen und Arbeitsunfälle vermeiden.
Kritisch wird es: Wenn die Videoanalyse faktisch zur dauerhaften Leistungskontrolle wird, etwa durch Auswertungen zu Arbeitsgeschwindigkeit, Pausenzeiten oder individuellen Bewegungsprofilen.
5. Recruiting-Software mit Bewerber-Score
Ein Tool bewertet Lebensläufe, Antworten in Online-Interviews oder Eignungstests und erstellt eine Rangfolge der Bewerbenden.
Kritisch ist: Historische Einstellungsdaten können alte Auswahlmuster fortschreiben. Ein niedriger Score darf nicht dazu führen, dass Kandidaten ohne nachvollziehbare menschliche Prüfung aussortiert werden.
6. KI-gestützte Analyse interner Kommunikation
Ein System durchsucht E-Mails, Chats oder Kollaborationsplattformen nach Risiken, Tonalitäten oder möglichen Konflikten.
Sinnvoll möglich: Erkennung konkreter IT-Sicherheitsrisiken, etwa Phishing, Schadsoftware oder versehentlich geteilte Zugangsdaten.
Kritisch wird es: Wenn Kommunikationsinhalte zur individuellen Verhaltens-, Loyalitäts- oder Stimmungsbewertung verwendet werden. Dann stehen Persönlichkeitsrechte, Vertraulichkeit und Datenschutz besonders stark im Fokus.
7. GPS-Tracking im Außendienst
Eine Anwendung zeichnet Fahrten, Aufenthaltsorte und Besuchszeiten von Service- oder Vertriebsteams auf und schlägt Tourenoptimierungen vor.
Sinnvoll möglich: Touren effizienter planen oder bei Notfällen schnell disponieren.
Kritisch wird es: Wenn Standortdaten außerhalb notwendiger Arbeitszeiten erfasst oder genutzt werden, um Arbeitsleistung lückenlos zu kontrollieren.
Fazit: KI als Assistenz statt als intransparente Kontrollinstanz
KI kann Arbeit sicherer, strukturierter und effizienter machen. Sie sollte jedoch nicht dazu führen, dass Beschäftigte fortlaufend beobachtet, auf Kennzahlen reduziert oder durch schwer nachvollziehbare Bewertungen gesteuert werden.
Ein tragfähiger Einsatz entsteht dort, wo Unternehmen den konkreten Zweck begrenzen, Daten sparsam verarbeiten, Entscheidungen nachvollziehbar gestalten und Menschen in der Verantwortung lassen. Wer Datenschutz, Arbeitsrecht, Mitbestimmung, Informationssicherheit und Diskriminierungsrisiken von Beginn an zusammen denkt, schafft nicht nur mehr Compliance – sondern auch mehr Akzeptanz für sinnvolle KI-Anwendungen.
