Europa
Künstliche Intelligenz: EU-Kommission lässt Ethikleitlinien in der Praxis testen
Eine unabhängige Expertengruppe hat ihre ethischen Leitlinien für vertrauenswürdige künstliche Intelligenz (KI) vorgelegt. Darin enthalten sind sieben Anforderungen, die Vertrauen in KI schaffen sollen. In einer Pilotphase will die EU-Kommission nun von Unternehmen, Forschern und Behörden wissen, ob diese ethischen Leitlinien für Künstliche Intelligenz in die Praxis umgesetzt werden können.
09.04.2019
Die EU-Kommission hat die nächsten Schritte vorgestellt, um das Vertrauen in die künstliche Intelligenz (KI) zu stärken, indem sie die Arbeit der hochrangigen Expertengruppe weiter vorantreibt. Aufbauend auf der Arbeit der im Juni 2018 eingerichteten Gruppe unabhängiger Experten hat die Kommission eine Pilotphase eingeleitet, um sicherzustellen, dass die ethischen Leitlinien für die Entwicklung und Nutzung künstlicher Intelligenz in der Praxis umgesetzt werden können. Die Kommission fordert die Industrie, Forschungseinrichtungen und Behörden auf, die von der hochrangigen Expertengruppe erstellte detaillierte Bewertungsliste zu testen, die die Leitlinien ergänzt.
KI-Strategie: Daten verfügbar machen, Talente fördern, Vertrauen schaffen
Diese Pläne zählen zu den Zielen der im April 2018 vorgestellten KI-Strategie, die darauf abzielt, die öffentlichen und privaten Investitionen in den nächsten zehn Jahren auf mindestens 20 Mrd. Euro jährlich zu steigern, mehr Daten verfügbar zu machen, Talente zu fördern und Vertrauen zu schaffen.
KI kann für ein breites Spektrum von Bereichen wie Gesundheitsversorgung, Energieverbrauch, Sicherheit von Kraftfahrzeugen, Landwirtschaft, Klimawandel und Management finanzieller Risiken von Nutzen sein. Sie kann auch helfen, Betrug und Bedrohungen der Cybersicherheit zu erkennen, und versetzt die Strafverfolgungsbehörden in die Lage, Kriminalität wirksamer zu bekämpfen. Allerdings bringt die KI auch neue Herausforderungen für die Zukunft der Arbeit mit sich und wirft rechtliche und ethische Fragen auf.
Der Ansatz der EU-Kommission
Die Kommission verfolgt einen dreiteiligen Ansatz: die Festlegung von Kernanforderungen an eine vertrauenswürdige KI, die Einleitung einer groß angelegten Pilotphase, um Rückmeldungen von den Interessenträgern einzuholen, und die Arbeit an einem internationalen Konsens über den Aufbau einer menschenzentrierten KI.
1. Sieben Voraussetzungen für eine vertrauenswürdige KI
Eine vertrauenswürdige KI muss alle geltenden Gesetze und Vorschriften einhalten und eine Reihe von Anforderungen erfüllen. Spezifische Bewertungslisten sollen dazu beitragen, die Erfüllung der einzelnen Kernanforderungen zu überprüfen:
- Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
- Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
- Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
- Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
- Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
- Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
- Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.
2. Großpilotprojekt mit Partnern
Im Sommer 2019 wird die Kommission eine Pilotphase unter Beteiligung eines breiten Spektrums von Interessenträgern einleiten. Unternehmen, öffentliche Verwaltungen und Organisationen können schon jetzt der Europäischen KI-Allianz beitreten. Sie werden dann benachrichtigt, wenn das Pilotprojekt beginnt. Darüber hinaus stehen die Mitglieder der hochrangigen Expertengruppe für KI bereit, um dabei zu helfen, den einschlägigen Interessenträgern in allen Mitgliedstaaten die Leitlinien näher zu bringen und zu erläutern.
3. Ein internationaler Konsens über eine menschenzentrierte KI
Die Kommission möchte diesen Ansatz im Bereich der KI-Ethik auch weltweit zur Geltung bringen, denn Technologien, Daten und Algorithmen kennen keine Grenzen. Zu diesem Zweck wird die Kommission die Zusammenarbeit mit gleich gesinnten Partnern (z. B. Japan, Kanada oder Singapur) intensivieren und weiterhin eine aktive Rolle bei internationalen Diskussionen und Initiativen wie der G7 und G20 spielen. An der Pilotphase werden sich auch Unternehmen aus anderen Ländern und internationale Organisationen beteiligen.
Die nächsten Schritte
Im Anschluss an die Pilotphase wird die KI-Expertengruppe Anfang 2020 die Bewertungslisten für die Kernanforderungen überprüfen, wobei sie sich auf die eingegangenen Rückmeldungen stützen wird. Auf der Grundlage dieser Überprüfung wird die Kommission sodann das Ergebnis bewerten und die nächsten Schritte vorschlagen.
Um die ethisch vertretbare Entwicklung der KI zu gewährleisten, wird die Kommission darüber hinaus bis Herbst 2019 Folgendes tun: Einrichtung mehrerer Netze von KI-Spitzenforschungszentren; Beginn der Einrichtung von Netzen digitaler Innovationszentren; Einstieg in Gespräche mit den Mitgliedstaaten und Interessenträgern, um ein Modell für eine gemeinsame Datennutzung und die bestmögliche Verwendung gemeinsamer Datenräume zu entwickeln und umzusetzen.
Quelle: Europäische Kommission vom 08.04.2019
Termine zum Thema
-
09.04.2024
Qualifizierung Multiplikator*in für Medienpädagogik in der Kinder- und Jugendhilfe
-
12.04.2024
Fortbildung Smarte Jugendarbeit
-
17.04.2024
3. Praxisforum CLICK!
-
25.04.2024
KI in der Kinder- und Jugendarbeit
-
25.04.2024
Vorstellung des neuen Open Source Fördermittelportals für (KJP-) Zentralstellen
Materialien zum Thema
-
Expertise / Gutachten
JAdigital-Expertise: Stand und Entwicklung der Digitalisierung in der Kinder- und Jugendarbeit/ Kinder- und Jugendbildung
-
Bericht / Dokumentation
Videos mit Vorträgen zur Thematik "Digitalisierung und Inklusion in der Kinder- und Jugendhilfe"
-
Bericht / Dokumentation
Videos mit Vorträgen zur Thematik "Digitalisierung und Inklusion in der Kinder- und Jugendhilfe"
-
Expertise / Gutachten
Rechtsgutachten des DIJuF: "Digitalisierung in der Kinder- und Jugendhilfe"
-
Expertise / Gutachten
JAdigital-Expertise: "Digitalisierung im Rahmen der Psychotherapie"
Projekte zum Thema
-
Institut für Sozialpädagogische Forschung Mainz gGmbH
JAdigital. Digitalisierung in der Kinder- und Jugendhilfe konzeptionell gestalten
-
Kinderschutz und Kinderrechte in der digitalen Welt
-
Cluster Projekte GmbH
Modellprojekt DiKon – Digital in Kontakt sein mit jungen Menschen
-
Museum für Islamische Kunst / Staatliche Museen zu Berlin
Bildungsprojekt „Gemeinsame Verantwortung – Gemeinsame Zukunft“
-
European Knowledge Centre for Youth Policy
Institutionen zum Thema
-
Fort-/Weiterbildungsanbieter
Paritätische Akademie Süd gGmbH
-
Sonstige
Initiative für frühe Bildung
-
Außeruniversitäre Forschungs-/Serviceeinrichtung
Grimme Institut - Gesellschaft für Medien, Bildung und Kultur mbH
-
Sonstige
Beauftragte für Kultur und Medien (BKM)
-
Stiftung / Fördereinrichtung
Hans-Bredow-Institut