KI Standards – Wie gelingt auf europäischer Ebene der Aufbau einer vertrauenswürdigen KI? Dieser Frage geht ein Expertenteam der EU nach und hat sieben Grundprinzipien formuliert, an denen sich Entwickler jederzeit orientieren können.
Europäisches Expertenteam legt KI Standards fest
Seit Juni 2018 arbeitet ein Expertenteam von der Europäischen Kommission in der High-Level Expert Group on Artificial Intelligence (AI HLEG) daran, die Realisierung der Strategie für Künstliche Intelligenz (KI) in Europa zu fördern.
Bei der Entwicklung von Empfehlungen befasste sich das 52-köpfige Gremium mit Fragen zur künftigen Entwicklung in der Politik sowie der Künstlichen Intelligenz in Hinblick auf Ethik, Recht, Gesellschaft und Herausforderungen im Bereich der Sozioökonomie.
Die Mitglieder der AI HLEG sind ausgesuchte Repräsentanten aus Industrie, Wissenschaft sowie Zivilgesellschaft. Bereits in der Mitte des Jahres 2019 kam es zur Veröffentlichung erster Resultate. Diese Ergebnisse erfahren seitdem eine Konkretisierung sowie Weiterentwicklung und werden so für Unternehmen und Institutionen im öffentlichen Sektor nutzbar.
Nach etwas mehr als zwei Jahren Arbeit veröffentlichte die Kommission die endgültigen Maßgaben, welche ein KI-System zu einer vertrauenswürdigen KI machen, in der Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment. Insgesamt einigten sich die Experten auf sieben Richtlinien für eine Künstliche Intelligenz in Europa:
Die sieben KI Standards für Europa
Aufsicht und Handlung durch Menschen haben Vorrang
Das erste der sieben KI Standards beschreibt die Gerechtigkeit, mit welcher KI-Systeme entscheiden und agieren soll. Ziel dabei ist es, den Mensch bei seinen Handlungen sowie der Sicherung der Grundgesetze zu entlasten. In keinster Weise sollte die KI allerdings die Eigenständigkeit der Menschen mindern, einschränken oder fehlleiten.
Technische Robustheit und Sicherheit
Damit eine KI als vertrauenswürdig eingestuft werden kann, setzt das bestimmte Algorithmen als KI Standard voraus. Sie müssen sicher, zuverlässig und widerstandsfähig genug sein, um Irrtümer oder Diskrepanzen in allen Lebenszyklusstufen des KI-Systems beheben zu können.
Schutz und Qualitätsmanagement der Daten
Der Mensch sollte zu jederzeit in der Lage sein, die komplette Kontrolle über die ihn betreffenden Daten bewahren. Diese Daten sollten darüber hinaus auch nicht von der KI dazu genutzt werden, den Mensch in irgendeiner Form Schaden zuzufügen sowie zu benachteiligen.
Transparenz
Es muss gewährleistet sein, dass die Funktionsweise und die Entscheidungen von KI-Systemen zurückverfolgbar und vor allem nachvollziehbar sind. Zusätzlich ist eine transparente Regelung der Aufgabenverteilung zwischen KI und Nutzer erforderlich.
Das generelle Vorhersagen jeder Aktivität einer KI-Anwendung ist nicht zwingend erforderlich. Dennoch sollte ihr grundsätzliches Verhalten im eigenen Entwicklungsprozess und im späteren produktiven Einsatz im Prinzip erklärbar, nachvollziehbar und dokumentiert sein. Außerdem sollte dem Nutzer die Art und Weise der genutzten Daten bewusst sein. Zeitgleich ist die Gewährleistung der Wahrung von Geschäftsgeheimnissen unabdingbar.
In der Europäischen Union ist man sich dieser Herausforderung bewusst. Insbesondere die Informationen darüber, welche Daten wie genutzt werden, sind in der Europäischen Datenschutz-Grundverordnung (DSGVO) geregelt. Mit dieser Verordnung wurde ein Grundstein für Ethik erschaffen, die als Grundlage für KI Standards gelten.
Nicht nur Nutzer, sondern auch Kunden, die in Interaktion mit KI-Systemen treten, setzen immer mehr voraus, dass KI-Anwendungen die gewünschte Transparenz und Erklärbarkeit aufweisen.
Vielfalt, Nichtdiskriminierung und faires Verhalten
Die Mannigfaltigkeit der menschlichen Fähigkeiten ist enorm und komplex. Eine vertrauenswürdige KI muss diese Vielfalt sicherstellen. Gleichwohl sollte die Gewährleistung der Fähigkeiten und Anforderung des Menschen sowie Barrierefreiheit erfolgen.
Wohlergehen für Gesellschaft und Umwelt
Die Förderung der Verantwortung gegenüber der Umwelt sowie der Nachhaltigkeit und eines positiven gesellschaftlichen Umbruch sollte durch den Einsatz eines KI-Systems geschehen.
Pflicht zur Rechenschaft
Funktionsweisen, welche die Verantwortung und Pflicht zur Rechenschaft für KI-Systeme und deren Resultate sicherstellt, sollten entwickelt werden.
Entwickler-Tools für KI Standards
Mithilfe dieser KI Standards für eine europäische Lösung sollen Entwickler eine vertrauenswürdige KI entwickeln. AI HLEG entwickelte dazu ein Tool, welches die einzelnen Richtlinien herunterbricht und bei der Selbstbewertung des KI-Systems unterstützt. Dieses Tool besteht aus einer Checkliste und einer dazugehörigen webbasierten Anwendung.
Foto: Quelle
