Künstliche Intelligenz im Dienste der Diversität
  • Einführung
    • Was ist KIDD?
    • Was sind KI und AES?
    • Warum KIDD?
  • KIDD-Strukturen und Grundlagen
    • KIDD-Präambel
    • Rollen im KIDD-Prozess
      • Panel der Vielfalt (PdV)
      • KI-Modertator:in (KIM)
      • KI-Expert:in (KIX)
  • Der KIDD-Prozess
    • Was ist der KIDD-Prozess?
    • Ebene 1 - Strukturübersicht
    • Ebene 2 - Allgemeine Prozessübersicht
    • Ebene 3 - KIDD-Prozess im Detail
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • ✅A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A3: Entscheidungsfindung KIDD
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A5: Konkretisierung der Projektidee
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • ✅A7: Kritikalitätsbewertung
        • ✅A8: Aufgabenklärung PdV
        • A9: Überprüfung der internen Regelkonformität
        • A10: Projektplanung KIDD-Prozess
        • A11: Information der Belegschaft
        • ✅A12: Einrichtung des PdV
        • ✅A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • ✅B1: Konstituierung und Sensibilisierung des PdV
        • ✅B2: Partizipative Folgenabschätzung
        • ✅B3: Allgemeine PdV-Anforderungsklärung
        • B4: Austausch zu strategischen/organisationalen Anforderungen
        • ✅B5: Erstellung Ausschreibung (nur bei Einkauf)
        • ✅B6: Suche und Auswahl Software-Anbieter (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • ✅B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • ✅C1: Vorstellung der Software für das PdV
        • ✅C2: Spezifische PdV-Anforderungsklärung
        • ✅C3: Testfall Definition
        • ✅C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • ✅D1: Ausführung der Testfälle
        • ✅D2: Software-Demo (Review)
        • ✅D3: Bewertung der Software durch das PdV
        • ✅D4: Abnahme der Software durch das PdV und Absprache zum kontinuierlichen Monitoring
        • D5: Abnahme der Software durch weitere unternehmensinterne Akteur:innen
        • D6: Transparenzherstellung
        • D7: Inbetriebnahme der Software (Release)
        • ✅D8: Monitoring/Betriebsüberwachung
        • ✅D9: Fehlerbehebung/Change Request
  • KIDD in KMU
    • Was ist INQA-Coaching?
    • KIDD im INQA Coaching
      • Workshop KIDD im INQA Coaching
    • Diversity im INQA-Coaching
    • Die KI-Verordnung der EU - Handreichung für KMU
  • Schulungen
    • PdV Schulungen
      • Schulung - Partizipation
      • Schulung - Diversity und Ethik
      • Schulung - Algorithmen und KI
    • KIM Schulung
  • Qualitätskriterien und Selbstauditierung
    • Wozu Qualitätkriterien?
    • Selbstauditierung anhand der Qualitätskriterien
      • Qualitätskriterien zum Strukturaufbau (QS)
      • Qualitätskriterien zur Durchführung des KIDD-Prozesses (QP)
      • Ergebnisorientierte Qualitätskriterien (QE)
      • Rechtliche und ethische Qualitätskriterien (QRE)
  • Anhänge
    • Darstellung der Experimentierräume
      • Q_Perior und Chemistree
      • Heraeus Medical
      • msg Group
    • Tools und Handreichungen
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • A7: Kritikalitätsprüfung
        • A8: Aufgabenklärung PdV
        • A11: Information der Belegschaft
        • A12: Einrichtung des PdV
        • A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • B1: Konstituierung und Sensibilisierung des PdV
        • B2: Partizipative Folgenabschätzung
        • B3: Allgemeine PdV-Anforderungsklärung
        • B5: Erstellung Ausschreibung (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • C1: Vorstellung der Software für das PdV
        • C2: Spezifische PdV-Anforderungsklärung
        • C3: Testfall Definition
        • C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • D1: Ausführung der Testfälle
        • D3: Bewertung der Software durch das PdV
        • D8: Monitoring/Betriebsüberwachung
        • D9: Fehlerbehebung/Change Request
Powered by GitBook
On this page
Edit on GitHub
  1. Einführung

Was ist KIDD?

Wofür steht KIDD und worum geht es dabei?

NextWas sind KI und AES?

Last updated 10 months ago

Digitalisierungsprozesse haben einen stetig wachsenden Einfluss auf die Arbeitswelt. Insbesondere die Einführung von , die personenbezogene Daten automatisiert erfassen, analysieren und auf Basis der Ergebnisse eine Entscheidung(-sempfehlung) ableiten, birgt für Unternehmen Chancen und Risiken. Auf der einen Seite können mithilfe solcher Anwendungen Arbeitsprozesse optimiert oder neue Geschäftsmodelle erschlossen werden. Auf der anderen Seite kann die Einführung und Anwendung solcher Systeme auch zu unerwünschten Konsequenzen führen, wie beispielsweise zur nicht intendierten Diskriminierung bestimmter Personengruppen. So können sowohl in regelbasierten als auch in lernenden Softwareanwendungen soziale Vorannahmen und Strukturen explizit eingeschrieben sein oder sich implizit reproduzieren und so möglicherweise problematische und diskriminierende Handlungsanweisungen und Ergebnisse produziert werden. D. h., bewusste oder unbewusste Verzerrungen können in den Regeln, die man dem Algorithmus vorgibt, oder in den Daten, die man verwendet, angelegt sein. Diese Verzerrungen werden anschließend durch die Softwaresysteme übernommen und verstetigt.

Um strukturelle Benachteiligung von Personengruppen zu minimieren, müssen mögliche Auswirkungen solcher Anwendungen schon während des Design-Prozesses reflektiert und Risiken abgewogen werden. Um eine Analyse dieser Systeme in Bezug auf Verzerrungsrisiken und Diskriminierung in der notwendigen Breite und Tiefe durchführen zu können, ist es wichtig, dass Menschen mit vielfältigen Hintergründen und Perspektiven aktiv in diesen Prozess eingebunden sind und gehört werden. An dieser Stelle setzt das Projekt „“ an, das vom Bundesministerium für Arbeit und Soziales (BMAS) unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) gefördert wird. Im Projekt wird in vier ein Prozess zur partizipativen Ausgestaltung und Einführung von KI-Anwendungen und AES in Betrieben erprobt, bei dem die Berücksichtigung der Diskriminierungsfreiheit und Sicherstellung von Diversität im Fokus steht. Ziel ist die Entwicklung eines standardisierten „“, mithilfe dessen Unternehmen in die Lage versetzt werden, faire, transparente und verständliche Softwareanwendungen anzuschaffen oder zu entwickeln und einzuführen. Im Zentrum des Projekts stehen dabei Pilotprojekte, die von Unternehmenspartnern eingebracht werden.

Begleitend zum KIDD-Prozess wurden im Projekt entwickelt, durch die die am Prozess befähigt werden sollen, die Einführung von diskriminierungsfreier und diversitätssensibler KI und AES in Unternehmen sicherzustellen und zu begleiten. In wurden alle im Prozess beteiligten Akteur:innen zur kritischen Mitarbeit befähigt. Zusätzlich wurden im Projekt entwickelt, die zukünftig zur Planung und Durchführung des KIDD-Prozesses qualifizieren sollen. Darüber hinaus wurden formuliert, mithilfe derer die Umsetzung des KIDD-Prozesses in unterschiedlichen betrieblichen Kontexten anhand praxisrelevanter Indikatoren erfolgreich durchgeführt, bewertet und verbessert werden kann, um die Entwicklung und Einführung einer möglichst diskriminierungsfreien KI-Anwendung oder eines AES sicherzustellen.

KI-Anwendungen und algorithmischen Entscheidungssystemen (AES)
KIDD – KI im Dienste der Diversität
Experimentierräumen
KIDD-Prozesses
Schulungen
beteiligten Akteur:innen
Pdv Schulungen
KIM Schulungen
KIDD-Moderator:innen (KIM)
Qualitätskriterien
Page cover image