WebDays: Schöne neue Welt? Leben mit KI und automatisierter Entscheidung

Im Auftaktvortrag zu den Grenzen und Möglichkeiten Künstlicher Intelligenz gab Stefanie Kaste von der Initiative D21 erst einmal Entwarnung: Der Terminator wird die Lehrkraft im Klassenzimmer ihrer Meinung nach sobald nicht ersetzen. Eine „starke KI“, also eine Künstliche Intelligenz auf mindestens gleichem Niveau wie das menschliche Gehirn, ist heute noch eine weit entfernte Utopie. Existierende KIs fokussieren sich immer auf konkrete Anwendungsprobleme. Kaste versteht KI als Instrument. Der springende Punkt für sie ist, dass Menschen – wir – entscheiden, wie dieses Instrument eingesetzt wird, mit welchen Daten die KI „gefüttert“ wird um zu lernen und wie mit diesen Daten umgegangen wird.

Fördern oder überwachen?

Wie nah Förderung und Überwachung beieinander liegen können, verdeutlichte sie anhand zweier plastischer Beispiele: In den USA wird mit der „School of one“ KI erfolgreich eingesetzt, um Schüler/-innen basierend auf ihren jeweiligen Fähigkeiten und Lernergebnissen täglich einen individualisierten Lern- und Übungsplan zur Verfügung zu stellen. Durch den Einsatz der KI wurden die Lernerfolge stark verbessert. Auch in China sei der Einsatz Künstlicher Intelligenz im Klassenzimmer verbreitet. Durch die Aufzeichnung des Unterrichts mit Kameras könne z.B. sehr genau ausgewertet werden, wie aufmerksam die einzelnen Schüler/-innen den Unterricht verfolgen, an welchen Stellen Verständnisschwierigkeiten vorliegen etc. Die Schlussfolgerungen zögen die Lehrkräfte.

Wie also umgehen mit den Versprechen, Benefits und Risiken Künstlicher Intelligenz und Digitalisierung? Dieser Frage stellten sich die Jugendlichen in den folgenden drei Tagen in fünf sogenannten „Dicussion-Hubs“. Diese legten den Brennpunkt jeweils auf einen Teilaspekt:

• HUB 1: Don´t be evil – Welche ethischen Prinzipien brauchen KI
• HUB 2: Open Data & Machine-Learning
• HUB 3: KI, unsere Daten & Du [Big Data]
• HUB 4: Was bedeutet der Hype um KI für Schulen? – Bildung unter Bedingungen der Digitalität
• HUB 5: Zukunftsnarrative: wie wollen wir mit digitalen Technologien leben?

Food for thought und jede Menge Fakten gaben zwei zusätzliche Impulsreferate. Dr. Thilo Hagendorff, Medienethiker an der Universität Tübingen, sprach über KI-Anwendungen im Alltag. Was zunächst recht trocken klingen mag, wurde sehr schnell anschaulich. Sei es beim Flaschenrückgabeautomaten im Supermarkt, bei der Nutzung eines Sprachassistenten oder automatischen Übersetzungsprogrammen: Dass jede und jeder von uns tagtäglich mit Künstlicher Intelligenz zu tun hat, dürfte vielen Menschen klar sein. Dass Künstliche Intelligenz auch für Vorhersagemodelle verwendet wird –  etwa in der sogenannten „vorausschauenden“ Polizeiarbeit, bei Kreditbewertungssystemen oder gar bei Vorhersage, ob eine Schwangerschaft besteht – dürfte weniger Menschen geläufig sein. Die beispielhaft live angewendete Gesichtserkennung informierte das Publikum u.a. über das Alter des Referenten. Doch auch der Gesundheitszustand oder die sexuelle Orientierung einer Person ließen sich durch Gesichtserkennungs-KIs einschätzen, informierte Hagendorff. Ein weiteres praktisches Beispiel machte deutlich, wie auf Knopfdruck Fake-News erstellt werden können. Der automatisch generierte Artikel zum vom Publikum gewählten Thema „Die Welt ist eine Scheibe“ überzeugte zwar nicht jede/-n im Raum von der Richtigkeit der These, ließ aber erahnen, wie schnell vermeintlich gut recherchierte Artikel produziert werden können.

Es braucht nicht viel Phantasie, um zu erkennen, dass dem Nutzen von KI ein erhebliches Risiko von Missbrauch oder Diskriminierung bestimmter Personengruppen durch solche Anwendungen und automatisierte Entscheidungsmodelle entgegensteht.

Spiegel der Gesellschaft

Für Nutzen und Risiken des sogenannten „Automated Decision Making“ (ADM) sensibilisierte dann auch Kristina Penner von der NGO AlgorithmWatch. Sie ging in ihrem Vortrag auf die demokratische Dimension der Nutzung von Algorithmen für die Entscheidungsfindung ein. Sie brachte weitere Beispiele für bereits in Anwendung befindliche ADM-Systeme: So wird in Dänemark ADM genutzt, um eine Vorhersage zu treffen, welche Kinder zukünftig von Vernachlässigung bedroht sind. In Spanien werden Voraussagen getroffen, wie hoch die Rückfallgefahr bei straffällig gewordenen Jugendlichen ist. Österreich wird 2020 ein System einführen, das Arbeitssuchende nach bestimmten Kriterien kategorisiert, die eine Aussage über deren Vermittlungswahrscheinlichkeit treffen. Die Kategorisierung bildet die Grundlage für die Entscheidung, ob Fortbildungen oder andere Unterstützungsmaßnahmen geleistet werden. Das System ist stark umstritten, da Frauen beispielsweise per se ein schlechteres Scoring erhalten.

Die verwendeten Systeme sind ein Spiegel unserer Gesellschaft, ist Penner überzeugt. Die Algorithmen selbst arbeiten unbestechlich nach mathematischen Regeln. Vorher jedoch stehen die Auswahl und das Systemdesign durch den Menschen: Welche Daten werden eingespeist? Welche Algorithmen werden verwendet? Welche Kriterien werden angesetzt? Oft genug werden existierende Benachteiligungen oder Diskriminierungen – bewusst oder unbewusst – in ADM übersetzt. Eine Sensibilisierung hierfür ist also unerlässlich, um genau diese Fortschreibung zu verhindern. Im Falle von Österreich würde dies u. a. bedeuten, das schlechtere Scoring aufgrund des Geschlechts zu entfernen.

„Keine Überwachung der Gesellschaft durch ein System, sondern die Überwachung des Systems durch die Gesellschaft!“ – Teilnehmer der WebDays

Die Teilnehmenden der WebDays brachten in ihren Discussion-HUBs all diese Informationen zusammen und diskutierten den Einfluss von KI und ADM auf ihr eigenes Umfeld. Dabei blieben sie nicht in der Gegenwart stehen, sondern blickten in die Zukunft: Wie soll das Zusammenleben in einer Welt aussehen, in der Künstliche Intelligenz und Automated Decision Making einen selbstverständlichen Platz einnehmen? Welche Regelungen und Stellschrauben sind schon heute notwendig, welche Investitionen sollten dafür schon jetzt erfolgen?

Wichtige Punkte waren dabei z.B. Offenlegung und Transparenz der durch staatliche Behörden und Unternehmen verwendeten und weitergegebenen Daten; Aufklärung und Teilhabe über KI und ADM in allen Gesellschaftsschichten; Rechtmäßigkeit und Fairness, um Diskriminierung auszuschließen; Nachhaltiger Einsatz von KI in Schule und Bildung. Viele der Forderungen wurden dabei mit ganz konkreten Vorschlägen untermauert.

Kein dystopisches Szenario

Im abschließenden Podiumsgespräch hatten die einzelnen HUBs dann nochmal Gelegenheit, einige brennende Fragen an die Podiumsgäste zu richten und ihre Forderungen vorzustellen. YouTuber Rayk Anders, der ehemalige WebDays-Teilnehmer Frederick Hamsa-Feld, Dr. Janis Kossahl aus dem Referat „Verbraucherpolitik in der Informationsgesellschaft; Telekommunikations- und Medienrecht“ des Bundesministeriums der Justiz und für Verbraucherschutz sowie Aktivist und Datenschützer Malte Spitz stellten sich den Fragen der Jugendlichen. Letztlich ging es auch hier nochmals um die grundsätzliche Frage: Wie können KI und ADM sinnvoll und nutzbringend eingesetzt und zugänglich gemacht werden und gleichzeitig eine missbräuchliche Datenverwendung, Diskriminierung und Manipulation ausgeschlossen werden?

Abschließende Antworten gab es nicht. Aber das dystopische Bild, dass YouTube-Star Rayk Anders anfangs ausmalte, revidierte er zum Schluss mit Blick auf die engagierten und fitten Teilnehmenden der WebDays. Dem schlossen sich auch die anderen Podiumsgäste an. Und wer in die im Dezember 2019 veröffentlichte neue Jugendstrategie der Bundesregierung schaut, findet beim Thema „Digitales“ nicht nur einen Verweis auf die Agenda der WebDays aus dem vergangenen Jahr, sondern als ersten Satz bei den Handlungsbedarfen die Aussage „Jede bzw. jeder Jugendliche und junge Erwachsene hat das Recht auf digitale Teilhabe“. Das ist ein Anfang und gibt Hoffnung, dass die Forderungen der Jugendlichen auf offene Ohren treffen.

Die WebDays 2019 fanden vom 29. November bis 1. Dezember 2019 im Berliner Wannseeforum statt. Die vollständige Agenda der WebDays 2019 mit allen Forderungen und Erläuterungen werden in Kürze veröffentlicht. Weitere Informationen zu den WebDays finden sich unter: www.ijab.de/webdays.

Quelle: IJAB – Fachstelle für Internationale Jugendarbeit der Bundesrepublik Deutschland e.V., Stephanie Bindzus