Rechtliche und ethische Qualitätskriterien (QRE)
QRE 1
Die Rechtskonformität und Diversitysensibilität des KIDD-Prozesses wird durch Einbindung unternehmensinterner Akteure durchgehend und umfassend sichergestellt.
Frage 1: Wie erfolgte die Besetzung und Einrichtung des PdV?
(Dokumentationstext): Für die Besetzung des PdV wurde folgendes Verfahren gewählt: Unternehmensweiter Ausschreibung oder Direktansprache. Das Verfahren Unternehmensweite Ausschreibung/Direktansprache wurde gewählt, weil die Vorteile (hier beispielhafte Aufzählung) die möglichen Nachteile (hier beispielhafte Aufzählung) überwogen haben.
Frage 2: Ist das PdV vielfältig in seine Zusammensetzung?
(Dokumentationstext): Folgende Besetzungskriterien kamen bei der Einrichtung des PdV im Sinne einer Matrix zur Anwendung:
Kriterien nach Funktion im Unternehmen (z.B. Unternehmensleitung/Geschäftsführung, Führungskraft, gewählte Mitarbeitervertretungen wie Betriebs- oder Personalräten, Gleichstellungs- und Behindertenbeauftragte, HR-Abteilung, Datenschutzbeauftrage, IT-Abteilung, Mitarbeiter*innen die von den Veränderungen betroffen, sind Nutzer*innen der Anwendung)
Kriterien nach Vielfalts- oder potenzieller Diskriminierunsdimension (Alter, Geschlecht/geschlechtliche Identität, ethnische Herkunft/nationalität, fachlicher Hintergrund, Dauer der Beschäftigung). Individuelle Ergänzungen:….
Frage 1: Wurde dem PdV die Möglichkeit eröffnet, Fragen und Befürchtungen im Hinblick auf das AES zu formulieren?
(Dokumentationstext): Am xx.yy.20yy wurde dem PdV im Rahmen eines Workshops die Vision und Ausrichtung des algorithmischen Entscheidungssystems vorgestellt. Die Teilnehmer:innen wurden für die Chancen und Risiken der Software–Anwendung im Hinblick auf Ethik und Diversität sensibilisiert und haben auf Basis von persönlichen und technisch-organisatorischen Erfahrung insgesamt eine Liste von xy Hoffnungen und xy Befürchtungen in Bezug auf das algorithmische Entscheidungssystem formuliert.
Frage 1: Welche zentralen ethischen und diversitätsbezogenen Anforderungen an die Software hat das PdV auf Basis der identifizierten Hoffnungen und Befürchtungen formuliert?
(Dokumentationstext) Nennen Sie die softwarebezogenen und organisationalen/strategischen Anforderungen an die Software, die das PdV formuliert hat.
QRE 2
Der KIDD-Prozess ist werteorientiert: Die Kriterien Vorrang menschlichen Handelns und menschlicher Aufsicht, technischer Robustheit, Schutz der Privatsphäre, Transparenz, Diversitysensibilität, Inklusivität, Diskriminierungsfreiheit, Rechenschaftspflichtigkeit und Nachhaltigkeit finden Eingang in den Prozess / werden im Prozess sichergestellt.
Frage 1: Wie erfolgte die Besetzung und Einrichtung des PdV?
(Dokumentationstext): Für die Besetzung des PdV wurde folgendes Verfahren gewählt: Unternehmensweiter Ausschreibung oder Direktansprache. Das Verfahren Unternehmensweite Ausschreibung/Direktansprache wurde gewählt, weil die Vorteile (hier beispielhafte Aufzählung) die möglichen Nachteile (hier beispielhafte Aufzählung) überwogen haben.
Frage 2: Ist das PdV vielfältig in seine Zusammensetzung?
(Dokumentationstext): Folgende Besetzungskriterien kamen bei der Einrichtung des PdV im Sinne einer Matrix zur Anwendung:
Kriterien nach Funktion im Unternehmen (z.B. Unternehmensleitung/Geschäftsführung, Führungskraft, gewählte Mitarbeitervertretungen wie Betriebs- oder Personalräten, Gleichstellungs- und Behindertenbeauftragte, HR-Abteilung, Datenschutzbeauftrage, IT-Abteilung, Mitarbeiter*innen die von den Veränderungen betroffen, sind Nutzer*innen der Anwendung)
Kriterien nach Vielfalts- oder potenzieller Diskriminierunsdimension (Alter, Geschlecht/geschlechtliche Identität, ethnische Herkunft/nationalität, fachlicher Hintergrund, Dauer der Beschäftigung). Individuelle Ergänzungen:….
Frage 1: Wurde dem PdV die Möglichkeit eröffnet, Fragen und Befürchtungen im Hinblick auf das AES zu formulieren?
(Dokumentationstext): Am xx.yy.20yy wurde dem PdV im Rahmen eines Workshops die Vision und Ausrichtung des algorithmischen Entscheidungssystems vorgestellt. Die Teilnehmer:innen wurden für die Chancen und Risiken der Software–Anwendung im Hinblick auf Ethik und Diversität sensibilisiert und haben auf Basis von persönlichen und technisch-organisatorischen Erfahrung insgesamt eine Liste von xy Hoffnungen und xy Befürchtungen in Bezug auf das algorithmische Entscheidungssystem formuliert.
Frage 1: Welche zentralen ethischen und diversitätsbezogenen Anforderungen an die Software hat das PdV auf Basis der identifizierten Hoffnungen und Befürchtungen formuliert?
(Dokumentationstext) Nennen Sie die softwarebezogenen und organisationalen/strategischen Anforderungen an die Software, die das PdV formuliert hat.
Frage 2: Wurden die diversitätssensiblen Stellschrauben der Software mit entsprechenden Anpassungsoptionen identifiziert und für das PdV verständlich aufbereitet?
(Dokumentationstext) Als diversitätssensible Stellschrauben der Software wurden folgende Punkte identifiziert (stichpunktartige Aufzählung). Die Anpassungsoptionen wurden zu jedem dieser Punkte dargestellt (Angabe zum jeweiligen Stichpunkt). Dem PdV wurden diese Punkte vorgelegt. Das PdV hat diese Punkte als verständlich bewertet.
Frage 3: Wurde ein:e KI-Expert:in hinzugezogen?
(Dokumentationstext) Der/die KI-Expert:in XY wurde am xx.xx.xxxx hinzugezogen. Die Punkte, zu denen KIX-Klärungsbedarf bestand, waren (stichpunktartige Aufzählung). … Es war nicht notwendig, ein:e KIX hinzuziehen, da der Software-Hersteller alle Fragestellungen aus dem Transparenzkatalog für das PdV transparent und verständlich beschrieben hat und keine Fragen zu Fairness oder Steuerbarkeit offen blieben.
Frage 1: Hat der/die Product Owner:in dem PdV die diversitätssensiblen Stellschrauben der Software vorgestellt und das Gremium in die Daten, Regeln und Architektur der Software eingeführt?
(Dokumentationstext) Der/die Product Owner:in hat am xx.xx.xxxx dem PdV die diversitätsensiblen Stellschrauben der Software in einer Präsentation vorgestellt. E/sie hat das PdV dabei in die Daten, Regeln und Architektur der Software eingeführt.
Frage 2: Gab es bereits Planungen für Anpassungswünsche und Anforderungen und hat der/die Product Owner:in dem PdV diese vorgestellt?
(Dokumentationstext) Es gab bereits folgende Planungen für Anpassungswünsche und Anforderungen, die der/die Product-Owner:in dem PdV vorgestellt hat (stichpunktmäßig Aufzählung). … es gab keine…
Frage 3: Hat das PdV hat ein ausreichend fundiertes Verständnis der Software bekommen, um spezifische ethische und diversitybezogene Anforderungen und Anpassungswünsche zu formulieren?
(Dokumentationstext) Das PdV hat am xx.xx.xxxx mehrheitlich/einstimmig positiv darüber abgestimmt, dass es ein ausreichend fundiertes Verständnis der Software bekommen hat. Das PdV hat die folgenden ethischen und diversitybezogenen Anforderungen und Anpassungswünsche formuliert (stichpunktartige Aufzählung).
Frage 4: Wurde ein:e KI-Expert:in hinzugezogen?
(Dokumentationstext) Der/die KI-Expert:in XY wurde am xx.xx.xxxx hinzugezogen, um folgende Punkte in Bezug auf ethische oder diversitybezogene Anforderungen und Anpassungswünsche zu klären (stichpunktartige Aufzählung). … Es war nicht notwendig, ein:e KIX hinzuziehen, da im PdV gemäß einstimmigem Beschluss vom xx.xx.xxxx keine Fragen in Bezug auf ethische oder diversitybezogene Anforderungen und Anpassungswünsche offen blieben.
QRE 3
Die Werteorientierung des KIDD-Prozesses wird im Sinne einer Prozessethik sichergestellt: Die umfassende Transparenz des KIDD-Prozesses ermöglicht es allen Akteuren, die Einhaltung ethischer Standards zu überprüfen und einzufordern.
Frage 1: Wurde die Belegschaft über die Hintergründe und die Durchführung des KIDD-Prozesses im Unternehmen informiert?
(Dokumentationstext): Der Belegschaft wurden folgende Informationen kommuniziert:
Was: Erläuterung des Anwendungsfalls (das allgorithmische Entscheidungssystem)
Wie: Erläuterung KIDD-Prozess
Wie: Erläuterung PdV als innerbetriebliches Gremium (Rolle und Aufgabe, Besetzungsprozess und ggf. schon Mitteilung der Mitglieder des PdV)
Frage 1: Wurde dem PdV die Möglichkeit eröffnet, Fragen und Befürchtungen im Hinblick auf das AES zu formulieren?
(Dokumentationstext): Am xx.yy.20yy wurde dem PdV im Rahmen eines Workshops die Vision und Ausrichtung des algorithmischen Entscheidungssystems vorgestellt. Die Teilnehmer:innen wurden für die Chancen und Risiken der Software–Anwendung im Hinblick auf Ethik und Diversität sensibilisiert und haben auf Basis von persönlichen und technisch-organisatorischen Erfahrung insgesamt eine Liste von xy Hoffnungen und xy Befürchtungen in Bezug auf das algorithmische Entscheidungssystem formuliert.
Frage 2: Sind in der Ausschreibung, sofern die Einführung einer nicht-anpassbaren Standardsoftware angestrebt wird, die Mindestanforderungen des PdV an die Software aufgeführt?
(Dokumentationstext) Führen Sie die Mindestanforderungen des PdV an die Software auf.
Frage 2: Ist, sofern die Einführung einer nicht-anpassbaren Standardsoftware angestrebt wird, eine Software ausgewählt worden, die den Mindestanforderungen des PdV entspricht?
(Dokumentationstext) Beschreiben Sie, inwieweit die nicht-anpassbare Standardsoftware den Mindestanforderungen des PdV entspricht.
Last updated