Was sind KI und AES?

Was verstehen wir unter dem Begriff Künstliche Intelligenz und damit verbundenen Begriffen?

Algorithmen - als Grundlage von IT-Systemen - sind konstitutiver Bestandteil fast aller Bereiche moderner Gesellschaften. Im Zeitalter der Digitalisierung sind sie tief in alltägliche Abläufe integriert und beeinflussen eine Vielzahl von Entscheidungen und Prozessen, die zuvor in menschlicher Hand lagen. So unterstützen Algorithmen im Gesundheitswesen medizinische Diagnostik und Therapie und sind im Finanzwesen für Kreditvergaben zuständig. Sie berechnen effiziente Fahrtwegeoptionen sowohl für den Individual- als auch den öffentlichen Nahverkehr und Gütertransport. In der Kommunikation haben sie wesentlichen Einfluss auf die Art und Weise, wie Informationen verbreitet und konsumiert werden. Sie werden bei der Komposition von Musik, der Erstellung von Gemälden oder der Entwicklung von Computerspielen eingesetzt und revolutionieren gleichzeitig die Art und Weise, wie wir Kulturgüter konsumieren, verwalten und bewahren. Im Sicherheitsbereich tragen Algorithmen zur Veränderung von Überwachung, Prävention und Reaktion bei, usw. In diesem Abschnitt soll daher die im KIDD-Prozess verwendete Begrifflichkeit dieser "automatisierten Entscheidungssysteme" erläutert werden.

Künstliche Intelligenz und Automatisierte-Entscheidungssysteme

Als Grundlage jedes IT-Systems sind Algorithmen Kernbestandteil des geschilderten Digitalisierungsprozesses und werden zumeist als programmierte Verfahren verstanden, die mittels definierter Handlungssequenzen einen gewünschten Output aus einem bestimmten Input erzeugen. Durch sie und mit Ihnen werden Informationen in Form von Daten verarbeitet, analysiert und strukturiert sowie ganze Kommunikations- und Informationsprozesse gestaltet. Eine gängige Unterscheidung kategorisiert Algorithmen danach, ob sie auf festen, vordefinierten Regeln basieren oder selbstständig lernen, indem sie eigene Funktions- und Analysevorschriften aus Trainingsdaten ableiten. Regelbasierte Systeme erzeugen Ausgaben durch Berechnungen und klar definierte Operationen, die gemäß den explizit kodierten Regeln und vorgegebenen Parametern der menschlichen Entwickler:innen umgesetzt werden und in ihrem Output zumeist absehbar sind. Lernende Algorithmen sind hingegen Teil von maschinellen Lernsystemen (ML) und werden häufig unter dem Begriff der künstlichen Intelligenz (KI) zusammengefasst. Im Gegensatz zu regelbasierten Systemen, wo das jeweilige "Weltmodell" durch Architekturentscheidungen direkt gestaltet wird, erzeugen Lern-Algorithmen aus (Trainings-)Daten selbst ein "Modell der Welt". Eine präzise Definition von KI gestaltet sich als schwierig, da Verständnis und Perspektiven bezüglich menschlicher bzw. menschenähnlicher Intelligenz und auch konkreter Verfahren mitunter stark voneinander abweichen. Dennoch gab und gibt es diverse Anstrengungen, beispielsweise im Zuge der Erarbeitung des AI-ACT's der Europäischen Kommission, einen Begriff von KI rechtssicher zu verankern. Aufgrund dieser Schwierigkeiten und der sich rapide ändernden KI-Landschaft geben wir an dieser Stelle lediglich Definitionsangebote.

Einer der ersten Definitionsansätze der EU-Kommission wurde durch eine von ihr eingesetzte hochrangige Expertengruppe für Künstliche Intelligenz (HEG KI) weiterentwickelt. KI-Systeme sind demnach:

vom Menschen entwickelte Softwaresysteme (und gegebenenfalls auch Hardwaresysteme) (…), die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene handeln, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten, und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheiden. KI-Systeme können entweder symbolische Regeln verwenden oder ein numerisches Modell erlernen, und sind auch in der Lage, die Auswirkungen ihrer früheren Handlungen auf die Umgebung zu analysieren und ihr Verhalten entsprechend anzupassen. [, S. 6]

In ihrer Mitteilung über KI für Europa legte die EU-Kommission bereits mehrere Definitionen von KI vor. Die aktuelle Verwendung des Begriffs "System der künstlichen Intelligenz“ (KI-System) beschreibt:

eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren. [, S. 46]

Beide beschriebenen Kategorien von Algorithmen, regelbasiert und lernend (KI), können dabei Teil sogenannter algorithmischer Entscheidungssysteme (AES) sein. Wir verwenden den Begriff im Sinne von [, S. 7-8]:

AES vollziehen sowohl die Datenerfassung und -analyse als auch die Deutung und Interpretation der Ergebnisse und schließlich die Ableitung einer Entscheidung(sempfehlung) aus den Ergebnissen. AES dienen häufig der Vorbereitung oder Unterstützung, teilweise auch als Ersatz menschlicher Entscheidungsprozesse.

Die hier gegebene Beschreibung fokussiert insbesondere auf den Eingriff von Algorithmen der verschiedenen Kategorien in menschliche Entscheidungsprozesse und wird deshalb in diesem Handbuch verwendet.

Literatur

[1] Expertengruppe der Europäische Kommission für Künstliche Intelligenz (2019), Eine Definition der KI: Wichtigste Fähigkeiten und Wissenschaftsgebiete – Für die Zwecke der Gruppe entwickelte Definition. (Link, 24.03.2023)

[2] Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. COM/2021/206 final (Link, 24.03.2023)

[3] Orwat, C.; Kolleck, A, (2020), Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen – in Überblick. Hg. v. Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag. Berlin (TAB-Hintergrundpapier, 24). (Link, 24.03.2023)