"Mit den Betroffenen reden, ist die goldene Regel"

"Glück auf!": Sie sind Mitherausgeberin des Handbuchs zur verantwortungsvollen Einbindung von KI-Assistenzsystemen am Arbeitsplatz, das vor zwei Jahren erschienen ist. Was ist Ihrer Meinung nach das Um und Auf, um diese Einbindung erfolgreich zu gestalten?

Dr.in Anita Thaler: Was wir in der Zusammenarbeit mit Personen aus der Gewerkschafts- und Betriebsratsarbeit gelernt haben, ist, dass es sich für Unternehmen lohnt, ihre Belegschaft so früh als möglich einzubinden. Das heißt: Bereits wenn es darum geht, eine technische Lösung für eine betriebliche Herausforderung zu suchen, werden idealerweise Betroffene und Betriebsrät:innen hinzugezogen. Es ist entscheidend, mit Mitarbeiter:innen zu reden, die konkret mit den Systemen arbeiten bzw. deren unmittelbaren Belegschaftsvertretungen, sonst werden Lösungen am echten Bedarf vorbeientwickelt. Die Zeit, die so vor der tatsächlichen Implementierung investiert wird, rechnet sich später, wenn technische Systeme besser akzeptiert sind und bedarfsorientiert eingesetzt werden.

Seit 2022 hat sich wahnsinnig viel bei der Entwicklung im KI-Sektor getan. Sind Ihre Feststellungen von damals noch gültig? 

In den letzten zwei Jahren haben sich vor allem viele Applikationen der sogenannten generativen KI einen Namen gemacht und diese KI-basierten Systeme, die Bilder und Texte erzeugen, wirken sehr überzeugend. Plötzlich gab es auch zahlreiche Medienberichte, welche Jobs durch KI ersetzt werden; und zum Beispiel die Auswirkungen im Bildungsbereich wurden tatsächlich schnell sichtbar. Mittlerweile sehen wir aber, dass diese generativen KI-Systeme auch halluzinieren können und nicht-existierende Daten dazuerfinden, das können Literaturverweise in einem wissenschaftlichen Artikel sein oder personenbezogene Daten von realen Menschen. Und da wird es dann problematisch.

Wir haben unser Handbuch mit einem Fokus auf KI-Assistenzsysteme im Produktionsbereich geschrieben, aber auch bereits da darauf verwiesen, wie wichtig ethische Überlegungen, rechtliche Rahmenbedingungen und ein verantwortungsvoller Umgang sind. Durch den „AI Act“ – also den rechtlichen Rahmen der Europäischen Kommission zur Einbindung von Künstlicher Intelligenz – sind unsere Überlegungen hier zum Teil weitergeführt worden. Unsere Forderungen nach Transparenz und Fairness sowie Mitbestimmung der Betroffenen und Belegschaftsvertretungen sind und bleiben nach wie vor gültig. Und wir denken, sie werden sogar wichtiger und dringender.

Wer sollte bei der Einführung solcher Systeme unbedingt eingebunden/gefragt werden?

Die goldene Faustregel für technische Unternehmen und Abteilungen lautet: Reden Sie mit den Menschen, die tatsächlich mit dem System arbeiten sollen. Wir haben in Interviews mit Belegschaftsvertretungen gehört, dass etliche technische Systeme nicht richtig verwendet, vermieden oder zum Teil auch torpediert werden, weil die Einführung der Technologie nicht gut kommuniziert wurde. Und von technischen Entwicklungsteams haben wir gehört, dass zum Teil teuer entwickelte technische Lösungen nie implementiert wurden, weil die Systeme ausschließlich mit der Managementebene entwickelt wurden und die realen Probleme und Umstände in der Produktion gar nicht berücksichtigt wurden. Beides kann vermieden werden, wenn am Beginn ein „Stakeholder Mapping“ gemacht wird. Dabei wird geschaut, wer hat potenziell welche Rolle und welches Interesse und dann wird aufgrund von Ressourcen, Kompetenzen und Interessen entschieden, wer wie eingebunden wird. In größeren Unternehmen gibt es auch oft Betriebsrät:innen, die sich auf technologische Themen spezialisiert haben. Die sind genauso wie Datenschutzbeauftragte, Sicherheitsbeauftragte, Arbeitspsycholog:innen oder etwa Behindertenvertrauenspersonen wichtige Ansprechpersonen, die punktuell hinzugezogen werden sollen.

So viele Leute einzubinden ist ein erheblicher Aufwand. Was haben Betriebe davon? 

Zum einen ein technisches System, das tatsächlich verwendet wird und effizient funktioniert. Das ist die finanzielle Seite, die nicht unterschätzt werden sollte. Zum anderen eine zufriedene Belegschaft. Sich einbringen können, gehört werden und mitbestimmen können, sind Aspekte der Mitarbeiterzufriedenheit, die nachhaltig das Arbeitsklima im Betrieb positiv beeinflussen. Dies wirkt sich letztendlich auch positiv auf die Unternehmensleistung und damit das Budget aus. Ich persönlich denke aber, dass Mitarbeiterzufriedenheit auch ein wichtiger Wert für sich ist.

Die Angst vor Überwachung und die Unsicherheit, ob und wie personenbezogene Daten erhoben und verarbeitet werden, sind oft Thema. Sind diese Sorgen berechtigt? Wo sehen Sie die größten Risiken für Beschäftigte bei der Einführung von KI-Assistenzsystemen?

Da würde ich gerne kurz erwähnen, dass in unserem Buch auch Susanne Haslinger von der PRO-GE ein Kapitel zu den rechtlichen Rahmenbedingungen geschrieben hat. Ich lade alle Interessierten ein, im Handbuch weitere Erkenntnisse und Erfahrungen von Expert:innen nachzuschlagen. Wir haben das Buch ja für und mit Betriebsrät:innen geschrieben, als möglichst praxisnahes Nachschlagewerk.

Aber nun zur Frage: Ja, eine gewisse Sorge und Skepsis ist berechtigt, denn es ist heute technisch sehr leicht, jederzeit viele Daten zu erheben, auch wenn nicht immer klar ist, ob diese Fülle an Daten überhaupt gebraucht wird. Wann immer personenbezogene Daten erhoben werden, ist besondere Vorsicht geboten. Deshalb ist die Datenschutzgrundverordnung ja so wichtig und unserer Ansicht nach die Einbeziehung von Datenschutzbeauftragten essenziell. Darüber hinaus plädieren wir dafür, Rahmenbetriebsvereinbarungen abzuschließen, die die Einführung von KI-Systemen am Arbeitsplatz regeln. Auch dazu haben wir ein eigenes Kapitel, das konkrete Tipps gibt, von einer Informationspflicht der Unternehmen, dem Recht einer KI-Ansprechperson bis hin zur Idee eines Rückbaukonzeptes.