Künstliche Intelligenz im Dienste der Diversität
  • Einführung
    • Was ist KIDD?
    • Was sind KI und AES?
    • Warum KIDD?
  • KIDD-Strukturen und Grundlagen
    • KIDD-Präambel
    • Rollen im KIDD-Prozess
      • Panel der Vielfalt (PdV)
      • KI-Modertator:in (KIM)
      • KI-Expert:in (KIX)
  • Der KIDD-Prozess
    • Was ist der KIDD-Prozess?
    • Ebene 1 - Strukturübersicht
    • Ebene 2 - Allgemeine Prozessübersicht
    • Ebene 3 - KIDD-Prozess im Detail
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • ✅A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A3: Entscheidungsfindung KIDD
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A5: Konkretisierung der Projektidee
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • ✅A7: Kritikalitätsbewertung
        • ✅A8: Aufgabenklärung PdV
        • A9: Überprüfung der internen Regelkonformität
        • A10: Projektplanung KIDD-Prozess
        • A11: Information der Belegschaft
        • ✅A12: Einrichtung des PdV
        • ✅A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • ✅B1: Konstituierung und Sensibilisierung des PdV
        • ✅B2: Partizipative Folgenabschätzung
        • ✅B3: Allgemeine PdV-Anforderungsklärung
        • B4: Austausch zu strategischen/organisationalen Anforderungen
        • ✅B5: Erstellung Ausschreibung (nur bei Einkauf)
        • ✅B6: Suche und Auswahl Software-Anbieter (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • ✅B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • ✅C1: Vorstellung der Software für das PdV
        • ✅C2: Spezifische PdV-Anforderungsklärung
        • ✅C3: Testfall Definition
        • ✅C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • ✅D1: Ausführung der Testfälle
        • ✅D2: Software-Demo (Review)
        • ✅D3: Bewertung der Software durch das PdV
        • ✅D4: Abnahme der Software durch das PdV und Absprache zum kontinuierlichen Monitoring
        • D5: Abnahme der Software durch weitere unternehmensinterne Akteur:innen
        • D6: Transparenzherstellung
        • D7: Inbetriebnahme der Software (Release)
        • ✅D8: Monitoring/Betriebsüberwachung
        • ✅D9: Fehlerbehebung/Change Request
  • KIDD in KMU
    • Was ist INQA-Coaching?
    • KIDD im INQA Coaching
      • Workshop KIDD im INQA Coaching
    • Diversity im INQA-Coaching
    • Die KI-Verordnung der EU - Handreichung für KMU
  • Schulungen
    • PdV Schulungen
      • Schulung - Partizipation
      • Schulung - Diversity und Ethik
      • Schulung - Algorithmen und KI
    • KIM Schulung
  • Qualitätskriterien und Selbstauditierung
    • Wozu Qualitätkriterien?
    • Selbstauditierung anhand der Qualitätskriterien
      • Qualitätskriterien zum Strukturaufbau (QS)
      • Qualitätskriterien zur Durchführung des KIDD-Prozesses (QP)
      • Ergebnisorientierte Qualitätskriterien (QE)
      • Rechtliche und ethische Qualitätskriterien (QRE)
  • Anhänge
    • Darstellung der Experimentierräume
      • Q_Perior und Chemistree
      • Heraeus Medical
      • msg Group
    • Tools und Handreichungen
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • A7: Kritikalitätsprüfung
        • A8: Aufgabenklärung PdV
        • A11: Information der Belegschaft
        • A12: Einrichtung des PdV
        • A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • B1: Konstituierung und Sensibilisierung des PdV
        • B2: Partizipative Folgenabschätzung
        • B3: Allgemeine PdV-Anforderungsklärung
        • B5: Erstellung Ausschreibung (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • C1: Vorstellung der Software für das PdV
        • C2: Spezifische PdV-Anforderungsklärung
        • C3: Testfall Definition
        • C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • D1: Ausführung der Testfälle
        • D3: Bewertung der Software durch das PdV
        • D8: Monitoring/Betriebsüberwachung
        • D9: Fehlerbehebung/Change Request
Powered by GitBook
On this page
Edit on GitHub
  1. Der KIDD-Prozess

Was ist der KIDD-Prozess?

Einführung

PreviousKI-Expert:in (KIX)NextEbene 1 - Strukturübersicht

Last updated 10 months ago

Der KIDD-Prozess zielt darauf ab, Unternehmen und ihre Beschäftigen zu befähigen, die Ausgestaltung und Einführung von KI-Anwendungen und AES partizipativ mitzugestalten und dabei sicherzustellen, dass neu eingeführte Systeme gemeinsam ausgehandelter ethischer Anforderungen entsprechen. Der KIDD-Prozess beruht dabei auf der Annahme, dass die Entwicklung von Softwareanwendungen, die weitreichende Implikationen für Unternehmen und Beschäftige haben, nicht alleine in der Hand von Entwickler:innen oder unternehmensinternen Entscheidungsträger:innen liegen sollen, sondern die Nutzer:innen und Betroffenen selbst bei der Ausgestaltung des digitalen Systems umfänglich einzubinden sind.

Diese Einbindung wird im KIDD-Prozess durch die Einrichtung und Arbeit eines Gremiums ermöglicht, das im Projekt als konzipiert wurde. Das PdV ist ein primär innerbetriebliches Gremium, das in seiner Zusammensetzung ein möglichst breites Spektrum an Perspektiven unterschiedlicher Akteur:innen abbildet und frühzeitig und kontinuierlich im Softwareentwicklungs- bzw. Einführungsprozess beteiligt wird. Wie im deutlich wird, sind die zentralen KIDD-Prozessschritte, die das PdV durchführt oder begleitet, als Teilschritte eines klassischen Softwareentwicklungs- bzw. Softwareeinführungsprozesses mit den Phasen der Vision, Anforderungsklärung, Adaption bzw. Entwicklung, dem Test und der Inbetriebnahme der Software zu verstehen.

Zu einem frühen Zeitpunkt im Prozess der Softwareentwicklung bzw. -anschaffung wird das PdV hinsichtlich der rechtlichen, ethischen und diversitätsbezogenen Aspekte, die bei der Softwareeinführung relevant sein können, geschult und sensibilisiert (). Anschließend unternimmt das PdV eine , in der die Mitglieder des Gremiums auf Basis von persönlichen und technisch-organisationalen Erfahrungen und Werten „Hoffnungen und Befürchtungen“ bezüglich der Einführung der Softwareanwendung formulieren. Dabei werden sowohl Chancen und Risiken bei der Einführung der Anwendung für die Organisation als Ganzes als auch für die Betroffenen erhoben und diskutiert. Durch die diverse Zusammensetzung des Gremiums soll sichergestellt werden, dass eine möglichst große Bandbreite an Verzerrungen und Diskriminierungspotenzialen in der Anwendung bereits im Vorfeld der Entwicklung und Einführung identifiziert und minimiert werden.

Aufbauend auf den Ergebnissen aus der Folgenabschätzung formuliert das PdV anschließend erste allgemeine Anforderungen, wie die Software ausgestaltet sein soll und welche organisationalen und strategischen Aspekte bei der Einführung der Anwendung berücksichtigt werden müssen („“). Im Rahmen des Adaptions- bzw. Entwicklungsprozesses der Anwendung tritt das PdV in einem nächsten Schritt in einen iterativen Aushandlungsprozess mit den Softwareentwickelnden hinsichtlich der ethischen und diskriminierungssensiblen Gestaltungsoptionen („Stellschrauben“) der Software und formuliert konkrete softwarebezogene Empfehlungen („“). Grundlage dafür ist die transparente und verständliche Darstellung dieser Gestaltungsoptionen durch die Softwareexpert:innen in einem detaillierten Transparenzkatalog, in dem zentrale Fragen zu den in der KI-Anwendung genutzten (Trainings-)Daten, ihren Regeln und ihrer Softwarearchitektur beantwortet werden. Darüber hinaus entwickelt das PdV und Bewertungskriterien zur Prüfung der Umsetzung der Anpassungswünsche.

Schließlich werden vor Inbetriebnahme der Anwendung gemeinsam mit dem PdV abgestimmt, auf welche Weise die kontinuierliche Einhaltung der ethischen und diskriminierungssensiblen Anforderungen sichergestellt werden kann und die dafür nötigen Monitoringmaßnahmen definiert („“).

Unterstützt wird das PdV im gesamten Prozess durch eine geschulte , die den Aushandlungsprozess zwischen dem PdV und den Software-Entwickelnden moderiert und operativ durchführt. Darüber hinaus kann der Einbezug einer sinnvoll sein, die technisch komplexe Sachverhalte für das PdV allgemeinverständlich darstellt, bei der Formulierung softwarebezogener Empfehlungen und der Entwicklung von Testfällen unterstützt, aber auch kritische Nachfragen hinsichtlich der Daten, Regeln und Architektur der Software stellen kann.

„Panel der Vielfalt“ (PdV)
Prozessüberblick
Sensibilisierung
partizipative Folgenabschätzung
allgemeine PdV-Anforderungsklärung
spezifische PdV-Anforderungsklärung
KIDD-spezifische Testfälle
Absprache zum Monitoring
KIDD-Moderator:in (KIM)
KI-Expert:in (KIX)