KIDD-Präambel
Zur Erläuterung der Bedeutung von Diversity und Ethik im Kontext des KIDD-Prozesses
Einleitung
Das vorliegende Dokument dient als Einführung in die Themen, „Diversität“ und „Ethik“, die im Projekt Künstliche Intelligenz im Dienste der Diversität (KIDD) die zentrale Rolle einnehmen. Dieses KIDD Verständnis von Diversität und Ethik liegt der Ausarbeitung des KIDD-Prozesses, und hier insbesondere den Anforderungen und Guidelines an das Panel der Vielfalt (PdV), zugrunde.
Hierzu nehmen wir im Folgenden zunächst eine Definition der Begrifflichkeit „Diversität“ und die Einordnung in den sozialen Kontext vor und stellen relevante Kategorien vor. Außerdem folgt die Auseinandersetzung mit diesen Themen: Vielfalt als betrieblicher Erfolgsfaktor, Herausforderungen in Bezug auf Diversität und die Ursachen von Diskriminierung. Abschließend soll das KIDD Verständnis einer „diversitätssensiblen Ethik“ in Bezug auf digitale Anwendungen, wie z.B. Künstliche Intelligenz (KI), vorgestellt werden.
Hinweis zur Begrifflichkeit: Im Rahmen des KIDD Projektes werden die Begriffe „Diversität“, „Diversity“ (eng.) und „Vielfalt“ synonym verwendet. Gemeint sind hierbei die Gemeinsamkeiten und Unterschiedlichkeit von Personen innerhalb einer Gesellschaft.
Quelle: Charta der Vielfalt e.V. (2022)
Zum Begriff der Diversität
Als soziologisches Konstrukt bezieht sich der Begriff der Diversität auf „jede Form von zwischenmenschlichen Unterschieden, die dazu führen können, dass Menschen sich gegenseitig als anders wahrnehmen“ []
In den Gemeinsamkeiten und Unterschieden zwischen einzelnen Menschen liegt die Vielfalt innerhalb einer Gesellschaft, die sich in verschiedenen Kategorien zeigt. Es ist wichtig zu betonen, dass Vielfaltsmerkmale sowohl sichtbar als auch weniger sichtbar oder gar unsichtbar in unserer Gesellschaft vorkommen, wobei die Grenzen hierbei häufig verschwimmen können. Vielfalt lässt sich demnach nicht zwingend von außen erkennen und beurteilen.
Die Charta der Vielfalt unterscheidet zwischen „sieben Diversity-Kern-Dimensionen“, die eng mit der Persönlichkeit eines Menschen verbunden sind []. Diese Merkmale spielen insofern in KIDD eine Rolle, als dass sie sowohl explizit als auch implizit von menschenzentrierten Anwendungen aufgegriffen werden.
Im Projekt KIDD werden folgende Kategorien gemäß der Charta der Vielfalt als zentrale Vielfaltsmerkmale definiert:
Alter
Geschlecht und geschlechtliche Identität
Ethnische Herkunft und Nationalität
Körperliche und geistige Fähigkeiten
Religion und Weltanschauung
Sexuelle Orientierung und Identität
Soziale Herkunft
Eine Betrachtung dieser Kategorien kann dabei nicht getrennt voneinander stattfinden, da mehrere gleichzeitig in einer Person miteinander verzahnt sind.
Da mehrere Diversitätskategorien in einer Person vereint sind, kann auch die Gleichzeitigkeit verschiedener Formen von Diskriminierung gegenüber einer Person vorliegen, was mit dem Begriff Intersektionalität beschrieben wird. Demnach können die einzelnen Kategorien nicht auch isoliert voneinander betrachtet werden.
Hinweis zu Vielfaltskategorien zur Besetzung des Panels der Vielfalt (PdV):
Bei den sieben zentralen Vielfaltkategorien ist zu beachten, dass die ersten drei Vielfaltskategorien als Standard im betrieblichen Kontext gelten, weshalb sie auch für die Besetzung des PdV zentral sind.
Die übrigen Kategorien (4-7) sind ggf. aus Datenschutzgründen für die PdV-Besetzung auszuschließen, da diese nicht zwingend vom Arbeitgeber bei den Arbeitnehmenden abzufragen sind.
Betrachtet man nun Individuen als soziale Wesen, die in Relation zu äußeren Bedingungen handeln und sich entwickeln, so lässt sich Diversität auf eine weitere Ebene der externen Vielfaltsmerkmale erweitern. Im KIDD Kontext spielt außerdem die organisationale Ebene eine zentrale Rolle, sodass auch die organisationalen Vielfaltsmerkmale zu betrachten sind.
Die untenstehende Abbildung 1 zeigt diese erweiterten Vielfaltsdimensionen, die von der Charta der Vielfalt veröffentlicht wurden, in Anlehnung an die wissenschaftliche Arbeit von Gardenswartz und Rowe []. Hierbei ist zu beachten, dass im jeweiligen organisationalen Kontext weiterführende Merkmale relevant sein könnten, die hier nicht aufgeführt werden.
Bedeutung von Diversität in der Arbeitswelt
Unsere Gesellschaft und damit auch die Arbeitswelt sind zunehmend (sichtbar) geprägt von der Vielfalt der Menschen die in Deutschland leben und arbeiten. Daraus entstehen neue Anforderungen an die Arbeitswelt und Ansprüche an Organisationen. In Deutschland sind es vor allem vier Faktoren, die steigende Vielfalt zur Realität (in Unternehmen) machen:
Demographischer Wandel: Aktuell arbeiten Menschen aus bis zu 5 Generationen in einem Unternehmen, was sich u.a. in unterschiedlichen Einstellungen zu Arbeit (Arbeitszeit, Arbeitsort, Work-Life-Balance, etc.) bemerkbar macht. Hinzu kommt, dass während weniger junge Menschen in den Arbeitsmarkt eintreten, die große Gruppe der sogenannten „Babyboomer“ vor dem Ausstieg steht. Mit den „Babyboomern“ wechseln ab 2025 erfahrene Mitarbeitende in den Ruhestand.
Fachkräftemangel: angetrieben durch den demographischen Wandel entsteht für Unternehmen ein Mangel an Fachkräften. Besonders eklatant ist dieser Mangel in sozialen Berufsfeldern, wie der Pflege und Kinderbetreuung, massive Lücken gibt es aber auch im Handwerk und bei IT-Fachkräften []. Diesem Mangel wird u.a. durch verstärkte Erwerbsbeteiligung diverser Bevölkerungsgruppen, wie z.B. Frauen, sowie gewollte Migration von Fachkräften aus dem Ausland entgegengesteuert [].
Migration: Im Jahr 2021 hatten 27,2 % der deutschen Bevölkerung, also jede*r Vierte einen Migrationshintergrund – Tendenz steigend []. Dadurch nimmt die sprachliche und kulturelle Vielfalt weiter zu. Gewollte Migration, bspw. als Mittel gegen den Fachkräftemangel, sowie ungewollte Migration machen Diversität in Deutschland sichtbarer und erfordern einen aktiven Umgang mit dieser Thematik. Arbeitgeber*innen leisten hier einen wichtigen Beitrag zu erfolgreicher Integration.
Gleichberechtigte Teilhabe: Resultat einer zunehmend vielfältigen Gesellschaft ist ebenso der soziale Druck zur Verwirklichung von gleichberechtigter Teilhabe aller am Berufsleben. Auf rechtlicher und politischer Ebene postuliert sich dies in Gesetzgebungen, wie z.B. dem Grundgesetz (GG), dem Allgemeinen Gleichbehandlungsgesetz (AGG), aber auch konkreten Maßnahmen zur Stärkung gezielter Gruppen in Unternehmen, wie durch das Zweite Führungspositionengesetz (FüPoGII).
Die beschriebenen Faktoren machen deutlich, dass Diversität in unserer Gesellschaft ein fester Bestandteil des Zusammenlebens und -arbeitens ist und auch in Organisationen fundiert betrachtet werden muss. Dazu gehört die Sichtweise, dass mit Vielfalt großes Potential für den Erfolg von Organisationen einhergeht, wenn Diversität entlang der Arbeitnehmenden gefördert und wertgeschätzt wird.
Diversität als Erfolgsfaktor
Studien zeigen, dass eine erhöhte Diversität von Mitarbeitenden einen positiven Effekt auf den Geschäftserfolg von Unternehmen hat []. Hierbei sind es vor allem eine Steigerung der Offenheit und Lernfähigkeit der Organisation, die aus einer aktiven Auseinandersetzung mit der Mitarbeiter*innen-Vielfalt resultieren []. In Digitalunternehmen, beispielsweise, liefern divers zusammengesetzte Teams nachweislich bessere Arbeitsergebnisse [].
Aus Arbeitgeber*innen-Perspektive lässt sich Diversität als Erfolgsfaktor anhand folgender vier Punkte konkretisieren:
Zufriedenheit der Mitarbeitenden: Werden Mitarbeitende als Individuum wertgeschätzt und werden das Bedürfnis der Mitarbeitenden nach Entfaltung ihres Potenzials im beruflichen Kontext erfüllt, steigt die Zufriedenheit und damit auch die Motivation und Loyalität gegenüber dem Arbeitgeber. Das wiederum sind wichtige Treiber, die der Fluktuation im Unternehmen entgegenwirken und damit gerade vor dem Hintergrund des Fachkräftemangels von nicht zu unterschätzender Bedeutung sind.
Arbeitgeberimage: Nicht nur ein sichtbares Diversity Management, sondern vor allem auch zufriedene Mitarbeitende, die positiv über ihr Unternehmen sprechen, haben eine erhebliche Auswirkung auf Attraktivität und Image als Arbeitgeber*in. Insbesondere im Kampf um Nachwuchstalente spielt dies eine große Rolle, da junge Generationen eine hohe Erwartungshaltung an Unternehmen haben, dass diese ihrer gesellschaftlichen Verantwortung gerecht werden.
Erschließung von Kund*innen und Märkten: Eine vielfältige Belegschaft sichert den Zugang zu vielfältigen Kunden und internationalen Märkten durch ein wertschätzendes und vorurteilsfreies Handeln der Mitarbeiter*innen. Besonders in umkämpften Märkte ist es demnach ein klarer Wettbewerbsvorteil, Vielfalt im Unternehmen zu fördern [].
Glaubwürdigkeit: Unternehmen, die in einer diversen Gesellschaft agieren, den aktiven Umgang mit Vielfalt aber weder in ihren Werten, noch ihren Regeln oder ihrer (Nachhaltigkeits-) Strategie verankert haben, machen sich unglaubwürdig. Hierzu gehört die unternehmerische Sozialverantwortung, die auch unter ESG (eng. Environmental Social Governance) bekannt ist. Dazu gehört eine ethische Auseinandersetzung mit den eigenen Unternehmenswerten und wie sich diese im Handeln und dem Umgang mit Mitarbeitenden äußern. Eine solche gelebte Sozialverantwortung hat zunehmend Bedeutung im Rahmen von Ausschreibungen potentieller Auftraggeber und einer Nachhaltigkeitsberichterstattung die sich an den weltweit anerkannten Standards der Global Reporting Initiative (GRI) ausrichtet.
Herausforderungen in Bezug auf Diversität
Wenngleich die vielfältige Zusammensetzung von Unternehmen und Teams voller Potential und Erfolgschancen steckt, bringt diese Vielfalt auch implizite Herausforderungen mit sich. So entsteht beispielsweise eine erhöhte Komplexität in der Zusammenarbeit von diversen Teams, je mehr Diversitätskategorien diese umfassen.
Ebenso wirken gesellschaftlich zugrundeliegende Denkmuster gegenüber den jeweiligen Diversitätskategorien als Bewertungsmuster für die Auseinandersetzung mit „Anderen“. Gleichzeitig steckt in diesen Denkmustern das Potential für Diskriminierung einzelner Gruppen auf Basis dieser Bewertung.
Diskriminierung ist hierbei auf zwei soziologische Phänomene zurückzuführen:
Stereotype: geteilte Meinungen über Persönlichkeitsmerkmale und Verhaltensweisen von Mitgliedern einer sozialen Kategorie, die Individualität außer Acht lassen.
Stereotype beeinflussen Erwartungen darüber, a) wie sich eine Person verhalten wird (deskriptive Stereotype) und b) wie sie sich verhalten soll (präskriptive Stereotype).
Vorurteile/Bias: negative Einstellungen gegenüber einer Person aufgrund ihrer Zugehörigkeit zu einer sozialen Gruppe/Kategorie.
Ein Beispiel für Bias ist der sogenannte „Gender Bias“, nach dem man den Geschlechtern und jeweils typisch „weibliche“ und „männliche“ Charaktereigenschaften zuweist, die sich dann in das Vorurteil übertragen, alle Frauen seien empathisch, während alle Männer durchsetzungsfähig seien.
Vorurteile beinhalten ein Stereotyp, die Akzeptanz des Stereotyps und ein resultierendes Diskriminierungs-verhalten. Dadurch kann eine Wahrnehmungsverzerrung entstehen, in der der subjektive Eindruck einer Situation oder Person von der objektiven Realität abweichen kann.
Diskriminierungsverhalten kommt bewusst oder unbewusst vor, da diese Denkmuster in gesellschaftliche Strukturen tief verankert sind und nur durch einen Kulturwandel verändert werden können.
Vielfalt braucht Führung
Es ist demnach wichtig, Diskriminierung in der Gesellschaft aktiv entgegenzuwirken. Vor diesem Hintergrund leitet sich die Prämisse ab: „Vielfalt braucht Führung“. Denn, damit Diversität ein Erfolgsfaktor ist und bleibt, braucht es den richtigen Umgang damit.
In der analogen Welt äußert sich diese Auseinandersetzung mit Vielfalt in einem Diversity Management, das im Unternehmen aktiv wird. Ziel ist es die Vielfalt der Belegschaft als Erfolgsfaktor zu erkennen, zu fördern und wertzuschätzen und dadurch wirtschaftliche Erfolge zu steigern. Dies kann beinhalten (Personal-)Prozesse und Strukturen von Organisationen so auszurichten, dass alle Beschäftigten gehört und gesehen werden und dadurch motiviert sind, ihr Potenzial zum Nutzen der Organisation einzubringen [].
Im digitalen Raum leistet hier der KIDD Prozess einen Beitrag zu aktivem und nachhaltigem Diversity Management im Kontext digitaler Anwendungen. Denn die beschriebenen diskriminierenden Denkmuster können in digitalen Anwendungen ebenso vertreten sein und müssen vor allem bei algorithmischen Systemen, wie z.B. einer KI, mitgedacht werden.
Dazu bietet KIDD eine konkrete Hilfestellung für die Einführung von menschenzentrierten digitalen Anwendungen in Unternehmen, indem diverse Mitarbeitende am diskursiven Aushandlungsprozess teilnehmen, um Diskriminierungs-potenziale aufzudecken.
Zum Ethikbegriff in KIDD
Im Rahmen von KIDD sollen die Teilnehmenden partizipativ und selbständig über Fragen zu ethischen und organisatorischen Konsequenzen aus der Softwareeinführung und ihrer Wirkung auf Vielfalt und Fairness beraten.
KIDD baut dabei auf drei zentralen Konzepten auf:
(1) an den Habermasschen Überlegungen zu einer informierten Öffentlichkeit, die im freien Diskurs Meinungen austauscht und so zu gemeinsamen Deliberationen und Entschlüssen kommt – ausgedrückt in dem partizipativen Deliberationsprozess des PdV
(2) Subsidiarität als einem Grundprinzip unserer gesellschaftlichen und staatlichen Ordnung – ausgedrückt in dem Gremium auf unterster möglicher Ebene, dem Betrieb
(3) einer Idee von Repräsentation, in der durch die Vielfalt der Perspektiven (Diversity as Input) eine Berücksichtigung und Fairness für alle (Diversity as Output) angestrebt wird – ausgedrückt in der Zusammensetzung des PdV.
Der Begriff (algorithmische) Fairness beschreibt die Idee, dass sich algorithmische Systeme fair verhalten oder Menschen fair behandeln sollten, d. h. ohne Diskriminierung aufgrund von sensiblen Merkmalen wie Alter, Geschlecht, Behinderung, ethnischer Herkunft, Religion, Weltanschauung oder sexueller Orientierung (Definition angelehnt an [, S. 16]). Fairness in diesem Sinne umfasst also, inwieweit das AES/KI-System dieser Idee Rechnung trägt oder ihr entgegensteht.
Diese findet sich verwirklicht einerseits organisatorisch und auf der Prozessebene: hier wird in einem nach Diversity-Kriterien und Aspekten der Repräsentanz am konkreten Fall das Panel der Vielfalt als selbstbestimmtes Gremium im Betrieb etabliert. Dort sollen die Mitglieder über potenzielle Risiken für Fairness und Diversity im und außerhalb des Unternehmens und andere ethische Aspekte frei beraten und deliberieren.
Dabei grenzt sich KIDD bewusst ab von rechtlichen Erwägungen auf der einen Seite, die in Gesetzen festgehalten und durch Experten wie Anwälten und Richtern ausgelegt werden und der philosophischen Ethik, wie sie im akademischen Bereich beforscht wird, und die ebenfalls durch die dortigen Expert*innen ausgelegt wird.
Dabei setzen wir das Vorhandensein geteilter Wertvorstellungen voraus, wie sie in der Charta der Menschenrechte und dem Grundgesetz auch explizit gemacht werden. An diese Werte wird in den Qualitätskriterien verwiesen und sie werden aktiv in den Beratungen des PdV in Erinnerung gerufen. Als besonders wichtige Aspekte sind dabei hervorzuheben:
Menschenwürde
Gleichheit und Nichtdiskriminierung
Freiheit und Selbstbestimmtheit
Teilhabe
Dem partizipativen und demokratischen Ansatz liegt auch inne, dass nicht nach vorgesehenen Checklisten und Standardfragen Ethik ‚abgehakt‘ werden kann. Vielmehr erfordert er, dass die Mitwirkenden frei beraten und dabei ihre eigenen Wertvorstellungen einbringen können.
Das KIDD Verständnis von „Diversitätssensibler Ethik“
Auf Grundlage der bisherigen Herleitung von Diversität lässt sich feststellen: Vielfalt existiert zunächst einmal im Unternehmen. Doch, erst, wenn wir uns fragen, „wie gehen wir mit der Vielfalt um?“, nehmen wir eine ethische Auseinandersetzung damit vor. Ethik beinhaltet also die Bewertung der eigenen Entscheidungs- und Handlungskriterien entlang eines subjektiven Wertesystems.
Gemäß einer vielfaltsfördernden Unternehmenskultur muss sich ein Betrieb bei der Einführung digitaler Anwendungen auch die Frage stellen: Gibt es Diskriminierungspotential im digitalen Raum aufgrund von Stereotypen, Vorurteilen und Biases aus der realen Welt?
Der KIDD Prozess ermöglicht hier die ethische Auseinandersetzung mit diesen Fragen anhand eines Wertesystems, das zur Vermeidung von Diskriminierung ausgerichtet ist – einer diversitätssensiblen Ethik.
Neben den zuvor genannten Vielfaltsdimensionen wurden vier zentrale ethische Anforderungen an Softwarelösungen übersetzt, die dem PdV als erste Richtschnur bei seinen Beratungen dienen sollen:
Partizipativ und menschenzentriert: Der Mensch muss im Mittelpunkt des Systems stehen, seine Würde und Selbstbestimmtheit darf nicht verletzt werden. Dies kann nur geschehen, wenn die Entwicklung und Überwachung des Systems mit und durch die Betroffenen erfolgt. (Partizipation)
Transparent und verständlich: das System und sein Wirken sind für alle Betroffenen verständlich und kann damit auch hinterfragt und diskutiert werden.
Divers und Diversity-sensitiv: das System führt nicht zu neuer Diskriminierung, sondern mindert sie bzw.
Fair (und menschenwürdig): der Einsatz des Systems führt nicht zu neuen Ungerechtigkeiten, sondern schützt Würde und Selbstbestimmtheit aller Beteiligten. Man kann dieses Kriterium auch als die Summe alles oben Genannten sehen.
KIDD zielt auf eine Sensibilisierung für Diskriminierungspotenzial in digitalen Systemen auf Grundlage von kognitiven Verzerrungen ab, die sich erstens in der Programmierung des Algorithmus durch einen Menschen explizit oder implizit wiederfinden können. Zweitens, können sich diskriminierende Annahmen unbeabsichtigt in Auswertungen einschreiben, etwa, wenn bei lernenden Systemen Trainingsdaten verwendet werden, in denen gesellschaftliche Ungleichbehandlungen abgebildet sind. So lassen sich Benachteiligungen möglicherweise sogar systematisieren und vervielfachen, wodurch verzerrte Entscheidungen algorithmischer Systeme deutlich mehr Personen betreffen können, als verzerrte Entscheidungen, die durch eine einzelne Person getroffen werden [].
Das Potenzial für Diskriminierung kann auf unterschiedliche Weise in das System gelangen: vorrangig über die Daten, z.B. durch Datenverzerrung, Unvollständigkeit oder die Art der Kontrolle über den Dateninput [].
Zur Veranschaulichung möglicher Diskriminierungsrisiken durch menschenzentrierte Anwendungen, sind folgende Beispiele anzuführen:
Falscherkennung einer Personengruppe (z.B. Afroamerikanerinnen bzw. Afroamerikaner) durch eine Sicherheitstechnologie (z.B. Gesichtserkennungssoftware)
Diskriminierung weiblicher Bewerbungen aufgrund einer Überrepräsentanz männlicher Dateninputs in den Trainingsdaten
Diskriminierung von Akzenten oder Dialekten (z.B. Irisch oder Walisisch) bei der Spracherkennung aufgrund fehlender Testdaten mit dieser Sprachfärbung
Im KIDD Prozess ist das Panel der Vielfalt (PdV) Ausdruck der zentralen Bedeutung von Diversität. Das PdV ist somit das Herzstück für einen wahren betrieblichen Diskurs rund um Diskriminierungsrisiken von digitalen Anwendungen. Die vielfältigen Erfahrungen und Perspektiven der PdV Mitglieder sind aus Sicht von KIDD Voraussetzung für eine transparente, partizipative und inklusive Einführung menschenzentrierter digitaler Anwendungen in Unternehmen. Siehe Handreichung zur Besetzung des PdV für mehr.
Literatur
[1] bitkom research, (2022), Drei von vier Digitalunternehmen sind erfolgreicher dank Diversität. (Link, 16.03.2023)
[2] Bundesministerium für Wirtschaft und Klimaschutz, (2022), Artikel: Fachkräftesicherung. (Link, 16.03.2023)
[3] Charta der Vielfalt e.V., (2020), Diversity Trends. Die Diversity Studie 2020. (Link, 16.03.2023)
[4] Charta der Vielfalt e.V., (2022a), Vielfaltsdimensionen. Für Diversity in der Arbeitswelt. (Link, 16.03.2023)
[5] Charta der Vielfalt e.V., (2022b), Factbook Diversity. (PDF, 16.03.2023)
[6] Hickmann, H. & Koneberg, F., (2022), Die Berufe mit den aktuell größten Fachkräftelücken, IW-Kurzbericht, Nr. 67, Köln (PDF, 16.03.2023)
[7] Kolleck, A. und Orwat, C., (2020), TAB-Hintergrundpapier Nr. 24: Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen – ein Überblick. (Link, 16.03.2023)
[8] McKinsey & Company, (2020), Diversity wins: How inclusion matters. (Link, 16.03.2023)
[9] Statistisches Bundesamt, (2022), Pressemitteilung Nr. 162 vom 12. April 2022. (Link, 16.12.2023)
[10] Van Knippenberg, D., De Dreu, C. K. W. and Homan, A. C., (2004). Work Group Diversity and Group Performance: An Integrative Model and Research Agenda. Journal of Applied Psychology, 89(6) 1008-1022, doi: 10.1037/0021-9010.89.6.1008
[11] Zweig, K., (2019), Ein Algorithmus hat kein Taktgefühl: Warum Künstliche Intelligenz oft irrt, weshalb uns das betrifft und was wir dagegen tun können. Kapitel 8, S. 205 ff. München: Heyne. ISBN: 978-3-453-20730-1
[12] Weerts, Hilde J. P. (2021): An Introduction to Algorithmic Fairness. (Link, 10.07.2023)
Last updated
