Was ist KIDD?

Wofür steht KIDD und worum geht es dabei?

Digitalisierungsprozesse haben einen stetig wachsenden Einfluss auf die Arbeitswelt. Insbesondere die Einführung von KI-Anwendungen und algorithmischen Entscheidungssystemen (AES), die personenbezogene Daten automatisiert erfassen, analysieren und auf Basis der Ergebnisse eine Entscheidung(-sempfehlung) ableiten, birgt für Unternehmen Chancen und Risiken. Auf der einen Seite können mithilfe solcher Anwendungen Arbeitsprozesse optimiert oder neue Geschäftsmodelle erschlossen werden. Auf der anderen Seite kann die Einführung und Anwendung solcher Systeme auch zu unerwünschten Konsequenzen führen, wie beispielsweise zur nicht intendierten Diskriminierung bestimmter Personengruppen. So können sowohl in regelbasierten als auch in lernenden Softwareanwendungen soziale Vorannahmen und Strukturen explizit eingeschrieben sein oder sich implizit reproduzieren und so möglicherweise problematische und diskriminierende Handlungsanweisungen und Ergebnisse produziert werden. D. h., bewusste oder unbewusste Verzerrungen können in den Regeln, die man dem Algorithmus vorgibt, oder in den Daten, die man verwendet, angelegt sein. Diese Verzerrungen werden anschließend durch die Softwaresysteme übernommen und verstetigt.

Um strukturelle Benachteiligung von Personengruppen zu minimieren, müssen mögliche Auswirkungen solcher Anwendungen schon während des Design-Prozesses reflektiert und Risiken abgewogen werden. Um eine Analyse dieser Systeme in Bezug auf Verzerrungsrisiken und Diskriminierung in der notwendigen Breite und Tiefe durchführen zu können, ist es wichtig, dass Menschen mit vielfältigen Hintergründen und Perspektiven aktiv in diesen Prozess eingebunden sind und gehört werden. An dieser Stelle setzt das Projekt „KIDD – KI im Dienste der Diversität“ an, das vom Bundesministerium für Arbeit und Soziales (BMAS) unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) gefördert wird. Im Projekt wird in vier Experimentierräumen ein Prozess zur partizipativen Ausgestaltung und Einführung von KI-Anwendungen und AES in Betrieben erprobt, bei dem die Berücksichtigung der Diskriminierungsfreiheit und Sicherstellung von Diversität im Fokus steht. Ziel ist die Entwicklung eines standardisierten „KIDD-Prozesses“, mithilfe dessen Unternehmen in die Lage versetzt werden, faire, transparente und verständliche Softwareanwendungen anzuschaffen oder zu entwickeln und einzuführen. Im Zentrum des Projekts stehen dabei Pilotprojekte, die von Unternehmenspartnern eingebracht werden.

Begleitend zum KIDD-Prozess wurden im Projekt Schulungen entwickelt, durch die die am Prozess beteiligten Akteur:innen befähigt werden sollen, die Einführung von diskriminierungsfreier und diversitätssensibler KI und AES in Unternehmen sicherzustellen und zu begleiten. In Pdv Schulungen wurden alle im Prozess beteiligten Akteur:innen zur kritischen Mitarbeit befähigt. Zusätzlich wurden im Projekt KIM Schulungen entwickelt, die zukünftig KIDD-Moderator:innen (KIM) zur Planung und Durchführung des KIDD-Prozesses qualifizieren sollen. Darüber hinaus wurden Qualitätskriterien formuliert, mithilfe derer die Umsetzung des KIDD-Prozesses in unterschiedlichen betrieblichen Kontexten anhand praxisrelevanter Indikatoren erfolgreich durchgeführt, bewertet und verbessert werden kann, um die Entwicklung und Einführung einer möglichst diskriminierungsfreien KI-Anwendung oder eines AES sicherzustellen.