Künstliche Intelligenz im Dienste der Diversität
  • Einführung
    • Was ist KIDD?
    • Was sind KI und AES?
    • Warum KIDD?
  • KIDD-Strukturen und Grundlagen
    • KIDD-Präambel
    • Rollen im KIDD-Prozess
      • Panel der Vielfalt (PdV)
      • KI-Modertator:in (KIM)
      • KI-Expert:in (KIX)
  • Der KIDD-Prozess
    • Was ist der KIDD-Prozess?
    • Ebene 1 - Strukturübersicht
    • Ebene 2 - Allgemeine Prozessübersicht
    • Ebene 3 - KIDD-Prozess im Detail
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • ✅A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A3: Entscheidungsfindung KIDD
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A5: Konkretisierung der Projektidee
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • ✅A7: Kritikalitätsbewertung
        • ✅A8: Aufgabenklärung PdV
        • A9: Überprüfung der internen Regelkonformität
        • A10: Projektplanung KIDD-Prozess
        • A11: Information der Belegschaft
        • ✅A12: Einrichtung des PdV
        • ✅A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • ✅B1: Konstituierung und Sensibilisierung des PdV
        • ✅B2: Partizipative Folgenabschätzung
        • ✅B3: Allgemeine PdV-Anforderungsklärung
        • B4: Austausch zu strategischen/organisationalen Anforderungen
        • ✅B5: Erstellung Ausschreibung (nur bei Einkauf)
        • ✅B6: Suche und Auswahl Software-Anbieter (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • ✅B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • ✅C1: Vorstellung der Software für das PdV
        • ✅C2: Spezifische PdV-Anforderungsklärung
        • ✅C3: Testfall Definition
        • ✅C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • ✅D1: Ausführung der Testfälle
        • ✅D2: Software-Demo (Review)
        • ✅D3: Bewertung der Software durch das PdV
        • ✅D4: Abnahme der Software durch das PdV und Absprache zum kontinuierlichen Monitoring
        • D5: Abnahme der Software durch weitere unternehmensinterne Akteur:innen
        • D6: Transparenzherstellung
        • D7: Inbetriebnahme der Software (Release)
        • ✅D8: Monitoring/Betriebsüberwachung
        • ✅D9: Fehlerbehebung/Change Request
  • KIDD in KMU
    • Was ist INQA-Coaching?
    • KIDD im INQA Coaching
      • Workshop KIDD im INQA Coaching
    • Diversity im INQA-Coaching
    • Die KI-Verordnung der EU - Handreichung für KMU
  • Schulungen
    • PdV Schulungen
      • Schulung - Partizipation
      • Schulung - Diversity und Ethik
      • Schulung - Algorithmen und KI
    • KIM Schulung
  • Qualitätskriterien und Selbstauditierung
    • Wozu Qualitätkriterien?
    • Selbstauditierung anhand der Qualitätskriterien
      • Qualitätskriterien zum Strukturaufbau (QS)
      • Qualitätskriterien zur Durchführung des KIDD-Prozesses (QP)
      • Ergebnisorientierte Qualitätskriterien (QE)
      • Rechtliche und ethische Qualitätskriterien (QRE)
  • Anhänge
    • Darstellung der Experimentierräume
      • Q_Perior und Chemistree
      • Heraeus Medical
      • msg Group
    • Tools und Handreichungen
      • Abschnitt A: Vision
        • A1: Kenntnisnahme KIDD
        • A2: Stakeholderanalyse und Einbindung relevanter innerbetrieblicher Akteur:innen
        • A4: Klärung der Rollen im KIDD-Prozess und Schulung der KIDD-Moderator:in
        • A6: Allgemeine Rechtskonformitätsprüfung (Legal Compliance)
        • A7: Kritikalitätsprüfung
        • A8: Aufgabenklärung PdV
        • A11: Information der Belegschaft
        • A12: Einrichtung des PdV
        • A13: Konkretisierung der Software-Anwendung
      • Abschnitt B: Anforderungsklärung
        • B1: Konstituierung und Sensibilisierung des PdV
        • B2: Partizipative Folgenabschätzung
        • B3: Allgemeine PdV-Anforderungsklärung
        • B5: Erstellung Ausschreibung (nur bei Einkauf)
        • B7: Sensibilisierung Product-Owner:in
        • B8: Herstellung von Transparenz über die Software
      • Abschnitt C: Adaption/Entwicklung
        • C1: Vorstellung der Software für das PdV
        • C2: Spezifische PdV-Anforderungsklärung
        • C3: Testfall Definition
        • C4: Backlog Priorisierung
        • C5: Refinement
        • C6: Adaption / Entwicklung
      • Abschnitt D: Test & Inbetriebnahme
        • D1: Ausführung der Testfälle
        • D3: Bewertung der Software durch das PdV
        • D8: Monitoring/Betriebsüberwachung
        • D9: Fehlerbehebung/Change Request
Powered by GitBook
On this page
  • QE 1
  • QE 2
  • QE 3
Edit on GitHub
  1. Qualitätskriterien und Selbstauditierung
  2. Selbstauditierung anhand der Qualitätskriterien

Ergebnisorientierte Qualitätskriterien (QE)

PreviousQualitätskriterien zur Durchführung des KIDD-Prozesses (QP)NextRechtliche und ethische Qualitätskriterien (QRE)

Last updated 10 months ago

QE 1

(Lernende) KI-Systeme brauchen Monitoring: Für das Monitoring der KI wird mit dem PdV ein Verfahren abgestimmt und ein Set von Reaktionen auf Zwischenfälle ist entwickelt.

Frage 2: Wurde von den relevanten Akteur:innen (u.a. PdV und PO) entschieden, ob ein Monitoring der laufenden Anwendung gemäß den formulierten Anforderungen notwendig ist? Falls ja, wurde das Monitoring spezifiziert, sodass bei Über- oder Unterschreitung von bestimmten Schwellwerten (KPIs) oder dem Auftreten von Fehlern eine Benachrichtigung erfolgt?

(Dokumentationstext):

Frage 3: Wurde von den relevanten Akteur:innen (u.a. PdV und PO) definiert, wie die Anforderungen des PdV im kontinuierlichen Monitoring berücksichtigt werden?

(Dokumentationstext):

Frage 1: Existiert ein Software-Monitoring-Tool mit zugehörigem Dashboard, mit dem die relevanten Beobachtungsgrößen (KPIs) mit Bezug zu Diversität im laufenden Betriebes überblickt werden können?

(Dokumentationstext)

Frage 2: Können entsprechende Abweichungen von den erwarteten Werten gemeldet und weiterverfolgt werden?

(Dokumentationstext)

Frage 3: Gibt es die Rolle des „Human in Command“, der die Chance hat, mit diesem Dashboard die Autonomiestufe des Systems zu verändern oder gar die KI zu deaktivieren?

(Dokumentationstext)

QE 2

KI-Systeme müssen anpassbar sein: Das KI-System wurde so entwickelt, dass es jederzeit angepasst werden kann, z. B. aufgrund von geänderten Anforderungen

Frage 1: Ist eine Ausschreibung für den Einkauf einer Softwareanwendung erstellt worden, in der kenntlich gemacht wird, dass die Softwareanbieter:in bereit sein muss, die verwendeten Daten und die Funktionsweise der Software für Laien verständlich darzustellen und zu dokumentieren, in der Entwicklung der Software mit dem PdV zusammenzuarbeiten und die Software ggf. nach den Empfehlungen des Gremiums und möglichen Unternehmenswünschen zu modifizieren?

(Dokumentationstext) Anhang Ausschreibung

Frage 1: Ist eine Software-Anbieter:in ausgewählt worden, die bereit ist, die verwendeten Daten und die Funktionsweise der Software für Laien verständlich darzustellen und zu dokumentieren, in der Entwicklung der Software mit dem PdV zusammenzuarbeiten und die Software ggf. nach den Empfehlungen des PdV und möglichen Unternehmenswünschen zu modifizieren?

(Dokumentationstext)

Frage 1: Gibt es für die zuständigen Akteur:innen (ggfs. PdV) die Chance, neue Anforderungen an die Software zu stellen, und somit aktiv auf das Backlog Einfluss zu nehmen?

(Dokumentationstext)

Frage 2: Gibt es für dringende Fälle die Möglichkeit, direkt den Betriebs-Support zu kontaktieren?

(Dokumentationstext)

QE 3

Ein sachgerecht durchgeführter KIDD-Prozess fördert die Akzeptanz der einzuführenden KI-Lösung und erhöht ihre Qualität.

Frage 1: Wurden die relevanten internen Policies und Vereinbarungen bezüglich Digitalisierung, Ethik, Diversität und Nachhaltigkeit identifiziert und in den Prozess integriert?

(Dokumentationstext) Im Rahmen des KIDD-Prozesses hat die Projektleitung zusammen mit den zuständigen Abteilungen und der Diversity-Beauftragten eine Liste der relevanten internen Policies und Vereinbarungen erstellt.

Frage 1: Wie erfolgte die Besetzung und Einrichtung des PdV?

(Dokumentationstext): Für die Besetzung des PdV wurde folgendes Verfahren gewählt: Unternehmensweiter Ausschreibung oder Direktansprache. Das Verfahren Unternehmensweite Ausschreibung/Direktansprache wurde gewählt, weil die Vorteile (hier beispielhafte Aufzählung) die möglichen Nachteile (hier beispielhafte Aufzählung) überwogen haben.

Frage 2: Ist das PdV vielfältig in seine Zusammensetzung?

(Dokumentationstext): Folgende Besetzungskriterien kamen bei der Einrichtung des PdV im Sinne einer Matrix zur Anwendung:

  1. Kriterien nach Funktion im Unternehmen (z.B. Unternehmensleitung/Geschäftsführung, Führungskraft, gewählte Mitarbeitervertretungen wie Betriebs- oder Personalräten, Gleichstellungs- und Behindertenbeauftragte, HR-Abteilung, Datenschutzbeauftrage, IT-Abteilung, Mitarbeiter*innen die von den Veränderungen betroffen, sind Nutzer*innen der Anwendung)

  2. Kriterien nach Vielfalts- oder potenzieller Diskriminierunsdimension (Alter, Geschlecht/geschlechtliche Identität, ethnische Herkunft/nationalität, fachlicher Hintergrund, Dauer der Beschäftigung). Individuelle Ergänzungen:….

Frage 1: Wurde dem PdV die Möglichkeit eröffnet, Fragen und Befürchtungen im Hinblick auf das AES zu formulieren?

(Dokumentationstext): Am xx.yy.20yy wurde dem PdV im Rahmen eines Workshops die Vision und Ausrichtung des algorithmischen Entscheidungssystems vorgestellt. Die Teilnehmer:innen wurden für die Chancen und Risiken der Software–Anwendung im Hinblick auf Ethik und Diversität sensibilisiert und haben auf Basis von persönlichen und technisch-organisatorischen Erfahrung insgesamt eine Liste von xy Hoffnungen und xy Befürchtungen in Bezug auf das algorithmische Entscheidungssystem formuliert.

D4: Abnahme der Software durch das PdV und Absprache zum kontinuierlichen Monitoring
D8: Monitoring/Betriebsüberwachung
D9: Fehlerbehebung/Change Request
A9: Überprüfung der internen Regelkonformität
B6: Suche und Auswahl Software-Anbieter (nur bei Einkauf)
B2: Partizipative Folgenabschätzung
A12: Einrichtung des PdV
B5: Erstellung Ausschreibung (nur bei Einkauf)