Sie sind hier: Startseite  Im Fokus  Europa

Europa / Digitalisierung und Medien

Künstliche Intelligenz: EU-Kommission lässt Ethikleitlinien in der Praxis testen

Symbole zur Computer- und Informationstechnchnologie, u.a. zu Datentransfer, Cloud, Messenger
Bild: © vectorfusionart - fotolia.com

Eine unabhängige Expertengruppe hat ihre ethischen Leitlinien für vertrauenswürdige künstliche Intelligenz (KI) vorgelegt. Darin enthalten sind sieben Anforderungen, die Vertrauen in KI schaffen sollen. In einer Pilotphase will die EU-Kommission nun von Unternehmen, Forschern und Behörden wissen, ob diese ethischen Leitlinien für Künstliche Intelligenz in die Praxis umgesetzt werden können.

Die EU-Kommission hat die nächsten Schritte vorgestellt, um das Vertrauen in die künstliche Intelligenz (KI) zu stärken, indem sie die Arbeit der hochrangigen Expertengruppe weiter vorantreibt. Aufbauend auf der Arbeit der im Juni 2018 eingerichteten Gruppe unabhängiger Experten hat die Kommission eine Pilotphase eingeleitet, um sicherzustellen, dass die ethischen Leitlinien für die Entwicklung und Nutzung künstlicher Intelligenz in der Praxis umgesetzt werden können. Die Kommission fordert die Industrie, Forschungseinrichtungen und Behörden auf, die von der hochrangigen Expertengruppe erstellte detaillierte Bewertungsliste zu testen, die die Leitlinien ergänzt.

KI-Strategie: Daten verfügbar machen, Talente fördern, Vertrauen schaffen

Diese Pläne zählen zu den Zielen der im April 2018 vorgestellten KI-Strategie, die darauf abzielt, die öffentlichen und privaten Investitionen in den nächsten zehn Jahren auf mindestens 20 Mrd. Euro jährlich zu steigern, mehr Daten verfügbar zu machen, Talente zu fördern und Vertrauen zu schaffen.

KI kann für ein breites Spektrum von Bereichen wie Gesundheitsversorgung, Energieverbrauch, Sicherheit von Kraftfahrzeugen, Landwirtschaft, Klimawandel und Management finanzieller Risiken von Nutzen sein. Sie kann auch helfen, Betrug und Bedrohungen der Cybersicherheit zu erkennen, und versetzt die Strafverfolgungsbehörden in die Lage, Kriminalität wirksamer zu bekämpfen. Allerdings bringt die KI auch neue Herausforderungen für die Zukunft der Arbeit mit sich und wirft rechtliche und ethische Fragen auf.

Der Ansatz der EU-Kommission

Die Kommission verfolgt einen dreiteiligen Ansatz: die Festlegung von Kernanforderungen an eine vertrauenswürdige KI, die Einleitung einer groß angelegten Pilotphase, um Rückmeldungen von den Interessenträgern einzuholen, und die Arbeit an einem internationalen Konsens über den Aufbau einer menschenzentrierten KI.

1. Sieben Voraussetzungen für eine vertrauenswürdige KI

Eine vertrauenswürdige KI muss alle geltenden Gesetze und Vorschriften einhalten und eine Reihe von Anforderungen erfüllen. Spezifische Bewertungslisten sollen dazu beitragen, die Erfüllung der einzelnen Kernanforderungen zu überprüfen:

  • Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
  • Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
  • Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
  • Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
  • Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
  • Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
  • Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.

2. Großpilotprojekt mit Partnern

Im Sommer 2019 wird die Kommission eine Pilotphase unter Beteiligung eines breiten Spektrums von Interessenträgern einleiten. Unternehmen, öffentliche Verwaltungen und Organisationen können schon jetzt der Europäischen KI-Allianz beitreten. Sie werden dann benachrichtigt, wenn das Pilotprojekt beginnt. Darüber hinaus stehen die Mitglieder der hochrangigen Expertengruppe für KI bereit, um dabei zu helfen, den einschlägigen Interessenträgern in allen Mitgliedstaaten die Leitlinien näher zu bringen und zu erläutern.

3. Ein internationaler Konsens über eine menschenzentrierte KI

Die Kommission möchte diesen Ansatz im Bereich der KI-Ethik auch weltweit zur Geltung bringen, denn Technologien, Daten und Algorithmen kennen keine Grenzen. Zu diesem Zweck wird die Kommission die Zusammenarbeit mit gleich gesinnten Partnern (z. B. Japan, Kanada oder Singapur) intensivieren und weiterhin eine aktive Rolle bei internationalen Diskussionen und Initiativen wie der G7 und G20 spielen. An der Pilotphase werden sich auch Unternehmen aus anderen Ländern und internationale Organisationen beteiligen.

Die nächsten Schritte

Im Anschluss an die Pilotphase wird die KI-Expertengruppe Anfang 2020 die Bewertungslisten für die Kernanforderungen überprüfen, wobei sie sich auf die eingegangenen Rückmeldungen stützen wird. Auf der Grundlage dieser Überprüfung wird die Kommission sodann das Ergebnis bewerten und die nächsten Schritte vorschlagen.

Um die ethisch vertretbare Entwicklung der KI zu gewährleisten, wird die Kommission darüber hinaus bis Herbst 2019 Folgendes tun: Einrichtung mehrerer Netze von KI-Spitzenforschungszentren; Beginn der Einrichtung von Netzen digitaler Innovationszentren; Einstieg in Gespräche mit den Mitgliedstaaten und Interessenträgern, um ein Modell für eine gemeinsame Datennutzung und die bestmögliche Verwendung gemeinsamer Datenräume zu entwickeln und umzusetzen.

Quelle: Europäische Kommission vom 08.04.2019

Info-Pool