A12: Einrichtung des PdV

Handreichung zur Zusammensetzung und Besetzung des PdV

Das „Panel der Vielfalt“ (PdV) hat zentrale Bedeutung für den KIDD-Prozess. Das PdV ist ein primär innerbetriebliches Gremium, das den Anschaffungs- bzw. Entwicklungs- und Einführungsprozess eines KI/AE-Systems in einem Unternehmen kritisch begleitet. Es unternimmt eine Folgenabschätzung, in der es Hoffnungen und Befürchtungen bezüglich des KI/AE-Systems formuliert, und entwickelt allgemeine und spezifische Anforderungen, die mit dem softwareentwickelnden Unternehmen oder der eigenen Entwicklungsabteilung abgestimmt werden. Um möglichst umfassend Folgen der KI/AES für die unterschiedlichen internen und externen Stakeholder und Unternehmensbereiche abschätzen zu können, sollte es in seiner Zusammensetzung möglichst heterogen sein. Das PdV sollte deshalb möglichst alle relevanten betrieblichen und ggf. externen Stakeholder in einem Gremium versammeln.

Ziel des PdV ist es, Qualität der und Vertrauen in die Software und ihrer Anwendung zu erhöhen und damit die ethischen Anforderungen an eine KI/AES sicherzustellen. Eine hohe Diversität des Gremiums dient zunächst dazu, durch unterschiedliche Präferenzen und Perspektiven der Mitglieder des Gremiums, mögliche kognitive Verzerrungen aufzudecken, die bei der Entwicklung der Software nicht beachtet wurden. Dies steigert die Qualität der Software. Möglichst verschiedene Präferenzen und Perspektiven abzubilden, gelingt (hilfsweise) durch eine diverse Zusammensetzung in Bezug auf innere Vielfaltsdimensionen (z.B. Geschlecht, Alter, Herkunft), äußere Vielfaltsdimensionen (z.B. Berufserfahrung, Qualifikation) und organisationale Vielfaltsdimensionen (z.B. Funktion, Arbeitsfeld). Maßgeblich ist dabei die Annahme, dass in einem divers zusammengesetzten Gremium auch die sozialen Erfahrungen der Teilnehmenden divers sind, welche deren Perspektiven, Präferenzen und (politischen) Forderungen beeinflussen. Darin erschöpft sich aber die Aufgabe des PdVs nicht, denn gerade bei Systemen mit algorithmischen Entscheidungsfindungen müssen in der KI/AES Einstellungen vorgenommen werden, die so oder so Folgen für die Betroffenen haben (z.B. sollen bei der Personalauswahl Männer und Frauen gleichberechtigt sein oder soll bis zu einer allgemeinen Gleichstellung eine Gruppe bevorzugt werden?“). Damit diese „fair“ sind, ist es wichtig, dass zunächst einmal Klarheit über diese Einstellungen herrscht (Transparenz und Verständlichkeit der KI), aber auch dass unterschiedliche Werte gegeneinander abgewogen werden müssen und Entscheidungen für alle im Unternehmen nachvollziehbar sind. Dies wird durch einen transparenten und gut dokumentierten Diskussions- und Entscheidungsprozess sichergestellt. Fairness in einer Demokratie bedeutet, Werte, Güter und Ziele gegeneinander abzuwägen und gleichzeitig Minderheiten zu schützen. Fairness heißt dabei nicht, dass die Mehrheit entscheidet, sondern dass Entscheidungen im klaren Wissen über die Folgen für unterschiedliche Gruppen und Personen getroffen werden. Offene, gut dokumentierte und nachvollziehbare Diskussionen in einem divers zusammengesetzten Gremium ermöglichen ein umfassendes Abwägen unterschiedlicher Perspektiven und Präferenzen und erhöhen damit Fairness und Vertrauen, da verschiedene Positionen mitgedacht und in die Entscheidung einbezogen wurden und dies von allen nachvollzogen werden kann. Deshalb sind auch die Berufung, Zusammensetzung und die Befugnisse des PdV transparent im Unternehmen zu kommunizieren. Dies sollte möglichst frühzeitig nach der Entscheidung für einen KIDD-Prozess vorgenommen werden.

Diese Handreichung begleitet Prozess-Schritt A12: Einrichtung des PdV. In diesem Schritt richtet die Projektleitung und die KIDD-Moderator:in das Panel der Vielfalt als innerbetriebliches Beteiligungsgremium für die Einführung von KI-Anwendungen auf Basis der zuvor getroffenen Entscheidungen bzgl. der Zusammensetzung des Gremiums ein. In dieser Unterlage werden die Anforderungen und Diversitätskriterien für das PdV vorgestellt, die zur Besetzung des Gremiums als Vorlage dienen sollen.

Diversitätskriterien für das Panel der Vielfalt (PdV)

Die Diversitätskriterien für das PdV orientieren sich an den allgemeinen KIDD Diversitäts-kategorien, die sich auf eine zentrale, eine externe sowie eine organisationale Ebene verteilen (siehe Präambel zur Erläuterung der Bedeutung von Diversity und Ethik im Kontext des KIDD-Prozesses).

Es ist jedoch wichtig zu beachten, dass diese Diversitätskategorien nur im Rahmen des betrieblich möglichen im PdV abgebildet werden können. Hierbei muss sich das Unternehmen zwingend die Frage stellen: Welche Kategorien dürfen erfragt werden? Es sind hier arbeits- und datenschutzrechtliche Grenzen einzuhalten sowie ein besonderes Augenmerk auf die Wahrung der Privatsphäre der Mitarbeitenden zu legen. Demnach sind die vorgegebenen Kriterien für die Zusammensetzung des PdV zunächst auf solche beschränkt, die grundsätzlich zugänglich sind (z.B. über die Personalakte).

Die PdV-Kernkriterien liegen auf zwei Ebenen und sind als Matrix zu betrachten:

a) Auswahl nach Funktion im Unternehmen

• gewählte Instanzen, die die Interessen der Mitarbeitenden vertreten (z. B. Betriebsrat)

• Diversity-, Gleichstellungs-, Behinderten- und Datenschutzbeauftragte (wenn vorhanden)

• Nutzer*innen (Personen, die mit der Anwendung interagieren)

• Personalabteilung

• Betroffene (Dies können Interne und Nutzer*innen sein, unterscheiden sich von diesen aber insofern, als sie von der Anwendung zusätzlich als Datensubjekt verarbeitet werden. Die Einbeziehung externer in ein PdV ist im Einzelfall auch hinsichtlich der Praktikabilität zu diskutieren.)

Hinweis: es ist hier zwingend erforderlich, unterschiedliche Hierarchieebenen abzubilden aus den genannten Bereichen. Im Falle des Weglassens oder einer Nichtberücksichtigung einzelner Gruppen muss darüber Transparenz hergestellt werden und diese Entscheidung erläutert werden.

b) Auswahl nach relevanten Vielfalts- und potentiellen Diskriminierungskriterien

• Alter

• Geschlecht / geschlechtliche Identität

Weiterführende Vielfaltskriterien können vom Unternehmen individuell ergänzt werden, wie z.B. die Dauer der Beschäftigung, körperliche und geistige Fähigkeiten, sexuelle Orientierung uvm. Dabei sollte neben der Relevanz und Anwendbarkeit im konkreten betrieblichen Kontext auch die Komplexität der Besetzung im Blick behalten werden, da zu viele Dimensionen die Besetzung des PdV erschweren.

Das PdV besteht aus mind. 5 Personen. Die Festlegung der Zahl der Mitglieder im PdV berücksichtigt die Arbeitsfähigkeit des Gremiums auf der einen, und die Abbildung vielfältiger Perspektiven entlang der zuvor festgelegten Besetzungskriterien auf der anderen Seite.

Hinweis: Das PdV muss mindestens die drei Standard-Vielfaltskategorien abbilden (Alter, Geschlecht, Herkunft), weitere zu ergänzen ist ratsam im Bereich des Möglichen. Bei Weglassen einer Standardkategorie, muss dies in der Unternehmenskommunikation transparent gemacht, die Gründe dafür genannt, sowie erläutert werden, wie sichergestellt wird, dass diese Perspektive trotzdem berücksichtigt wird.

Die Wertschätzung der Arbeit der Mitglieder des PdV drückt sich auch darin aus, dass die Mitarbeit Teil der allgemeinen Arbeitszeit der Mitglieder ist. Dies ist ein Kostenfaktor, der vor Beginn der Arbeit des PdV geklärt werden muss.

Im Verlauf des KIDD-Prozesses wird dem PdV außerdem ein Nachbenennungsrecht eingeräumt. Eine fehlende Perspektive kann also ggf. ergänzt werden, indem Vertreter*innen innerhalb des Unternehmens oder von extern nachnominiert werden. Dies unterstreicht erneut den partizipativen und prozeduralen Ansatz der Ethik in KIDD.

Im Rahmen der PdV-Zusammensetzung ist es ratsam, dem Gremium bei der ersten Sitzung Raum zu geben für eine allgemeine Reflexion zur Diversität in der Gesellschaft und in welchem Umfang sich diese in der innerbetrieblichen Diversität widerspiegelt (-> Konstituierungsworkshop). Eine starke Unterrepräsentanz einzelner Vielfaltskategorien (z.B. Geschlecht oder Herkunftsvielfalt) sollte die Auseinandersetzung mit den Maßnahmen des betrieblichen Diversity-Managements zur Folge haben.

Diversitätskriterien-Matrix für die Besetzung des PdV

Diversitätskriterien PdV	b) Vielfalts- und potentielle Diskriminierungskriterien
a) Funktion im Unternehmen	Alter	Geschlecht/ geschl. Identität	Ethnische Herkunft / Nationalität	Dauer der Beschäfti-gung	Körperliche und geistige Fähigkeiten	Religion und Welt-anschauung	Sexuelle Orientie-rung	Soziale Herkunft	…
	Standard Kriterien			Optionale Kriterien
Führungskraft
Gewählte Mitarbeitenden-vertretung (z.B. Betriebs- oder Personalrat)
Diversitybeauftragte*r
Gleichstellungsbeauftragte*r
Behindertenbeauftragte*r
HR-Abteilung
Betroffene Mitarbeitende
Nutzer:innen
…

Das PdV kann Hoffnungen und Befürchtungen in Bezug auf Diversität- und Ethik-Konformität der digitalen Anwendung entlang der in diesem Abschnitt folgenden Leitfragen formulieren.

Die Fragen dienen hierbei als Handreichung, um die Diskussion im PdV anzuregen, gelten aber keineswegs als eine erschöpfende Auswahl. Fragen sollten ebenso im Verlauf der Diskussion eigenständig formuliert werden.

Zur diskursiven Beantwortung der Fragen innerhalb des PdV wird außerdem ein einfaches Verständnis der digitalen Anwendung vorausgesetzt. Dieses beschränkt sich auf die Absicht und/oder Zielstellung, einer simplen Funktionsweise und dem Einsatzgebiet der Anwendung im Unternehmen. Es wird keine fundierte technische Expertise vorausgesetzt.