Warum KIDD?
Warum ist es relevant, bei der Entwicklung oder Einführung von KI und/oder AES einen zusätzlichen Prozess mitzuberücksichtigen?
Dies ist eine Vorschau, nicht alle Inhalte sind bereits verfügbar. Das vollständige KIDD-Handbuch wird erst mit Abschluss des KIDD-Projektes freigeschaltet.
Im April 2021 wurde ein erster Entwurf für ein europäisches KI-Gesetz vorgelegt, der im Verlaufe der Jahre 2023–2024 verabschiedet werden wird. Der Verordnungsentwurf verfolgt das Ziel, unerwünschte Anwendungsszenarien von KI-Systemen zu vermeiden und ein „Ökosystem des Vertrauens“ und der „Exzellenz“ für die Bürger*innen in der EU zu etablieren [1].
Hierfür muss, so eine Hochrangige Expertengruppe der EU [2], gewährleistet sein, „dass die Entwicklung, Einführung und Nutzung von KI-Systemen die Anforderungen an vertrauenswürdige KI erfüllen:
- 1.Vorrang menschlichen Handelns und menschliche Aufsicht,
- 2.technische Robustheit und Sicherheit,
- 3.Schutz der Privatsphäre und Datenqualitätsmanagement,
- 4.Transparenz,
- 5.Vielfalt, Nichtdiskriminierung und Fairness,
- 6.gesellschaftliches und ökologisches Wohlergehen sowie
- 7.Rechenschaftspflicht“ [2, S. 3].
Auf dieser Grundlage soll eine Kritikalitäts- und Risikobewertung von KI vorgenommen werden. Alles, was als eindeutige Bedrohung für EU-Bürger:innen angesehen wird, wäre verboten. Anwendungsbereiche, die als risikobehaftet gelten – etwa im Personalmanagement, bei Migration und Asyl oder in der Bildung – müssen besondere Auflagen erfüllen. Für Anwendungen mit geringem Risiko gelten Transparenzanforderungen. Verboten wird also nicht die KI – deren Entwicklung nicht vorhersehbar ist –, sondern unerwünschte Anwendungsszenarien [3].
Handelt es sich um eine Hochrisikoanwendung, dann sieht die Verordnung eine Reihe von Pflichten für Anbietende, Nutzende und weitere Beteiligte dieser KI-Anwendungen vor. Insbesondere für Anbietende (z. B. KI-System entwickelnde Firmen), aber auch Einführende (z. B. Firmen, die KI-Systeme für eigene Anwendungsszenarien einführen, bspw. im Personalmanagement) ist eine umfassende „Ex-ante-Konformitätsbewertung“ mittels interner Prüfung vorgesehen [2].
Um der Verantwortung zur Etablierung einer vertrauenswürdigen KI nachzukommen und eine innerbetriebliche Unterstützung zur prozessualen Umsetzung der gesetzlichen Pflichten (AI Act) bei der Implementierung von KI-Systemen bereitzustellen, wurde der KIDD-Prozess entwickelt.
Im Sinne des ersten Entwurfs für ein europäisches KI-Gesetz
- … hilft der KIDD-Prozess, die geforderte Transparenz und menschliche Aufsicht durch Beteiligung der Stakeholder:innen (insbesondere Anwender:innen) zu verwirklichen.
- … hilft KIDD, die geforderte Datenqualität in Bezug auf Verzerrungsfreiheit im Kontext von Vielfalt, Nicht-Diskriminierung und Fairness (Kernforderung der Ethik-Kommission) zu erreichen.
- … ist KIDD integraler Bestandteil des geforderten Qualitätsmanagements.
- … ist KIDD integraler Bestandteil des Konformitätsbewertungsverfahrens (das vom Unternehmen zu erfolgen hat).
- … wird die Dokumentation des KIDD-Prozesses zum integralen Bestandteil der geforderten technischen Dokumentation.
Kurz: Der KIDD-Prozess hilft, die Anforderungen in Bezug auf menschliche Aufsicht, Transparenz, Datenqualität (in Bezug auf Verzerrungsfreiheit im Kontext der Diversität) und die Beteiligung von Interessenträgern an der Konzeption und Entwicklung von KI-Systemen zu gewährleisten.
[1] Europäische Kommission (2021). Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz zur Künstlichen Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. (Link, 06.04.2023)
[2] Hochrangige Expertengruppe (2019). Unabhängige Hochrangige Expertengruppe für Künstliche Intelligenz. Eingesetzt durch die Europäische Kommission im Juni 2018. Ethik-Leitlinien für eine vertrauenswürdige KI. (Link, 06.04.2023)
[3] Wedel, Marco. (2023). Bessere KI dank Diversität. Im Rahmen des Projektes Digitales Deutschland. (Link, 06.04.2023)
Die Deutsche Normungsroadmap KI wurde im Dezember 2022 in der zweiten Auflage veröffentlicht [1]. Im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz, organisiert von DIN und DKE, wurde in einem breiten Beteiligungsprozess und unter Mitwirkung von mehr als 570 Fachleuten aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft der strategische Fahrplan für die KI-Normung weiterentwickelt. Die Normung ist Teil der KI-Strategie der Bundesregierung und ein strategisches Instrument zur Stärkung der Innovations- und Wettbewerbsfähigkeit der deutschen und europäischen Wirtschaft. Nicht zuletzt deshalb spielt sie im geplanten europäischen Rechtsrahmen für KI, dem Artificial Intelligence Act, eine besondere Rolle [1, S. 5].
Vertreter:innen des KIDD-Konsortiums waren an der Erstellung der zweiten Auflage der Normungsroadmap KI beteiligt, vor allem in der Arbeitsgruppe Soziotechnik. So wurde die Co-Leitung der Arbeitsgruppe Soziotechnik durch Rosmarie Steininger wahrgenommen, die in KIDD das Arbeitspaket „KI und Algorithmen transparent und verständlich machen“ verantwortet. Zudem waren zahlreiche weitere KIDD-Vertreter:innen an Diskussionen und Textarbeit beteiligt.
KIDD dient in der Normungsroadmap KI als Best Practice Beispiel für die Umsetzung von Beteiligungsprozessen in der Konzeption und Entwicklung von KI [1, S. 52, S. 160, S. 168] und zur Operationalisierung von Ethik [1, S. 85].
Umgekehrt war die Arbeit an und die Ergebnisse von der Normungsroadmap KI Inspiration für die Arbeit in KIDD. Insbesondere die Kapitel Grundlagen mit Ethik (Kapitel 4.1.2.1), Prüfung und Zertifizierung (Kapitel 4.3) und Soziotechnik (Kapitel 4.4) bieten wichtige Impulse für KI im Dienste der Diversität.
[1] Wahlster, Wolfgang; Winterhalter, Christoph (Hg.) (2022). Deutsche Normungsroadmap Künstliche Intelligenz. Ausgabe 2. DIN e.V.; DKE Deutsche Kommission Elektrotechnik. (Link, 25.05.2023)