Vom Fachthema zur gesellschaftlichen Lebensrealität | KI und maschinelles Lernen | bpb.de

werkstatt.bpb.de: Wie kann man in der außerschulischen Bildung die Funktionsweise maschinellen Lernens vermitteln?

Nils Eyk-Zimmermann: Zunächst einmal kann man Analogien bilden. Wenn wir auf den Dieselskandal blicken, nehmen wir nicht an, dass wir Ingenieure sein müssen, um uns ein Urteil über Potenziale und Gefahren des Verbrennungsmotors zu erlauben. Es reicht auch erst einmal aus zu wissen, dass ein "Defeat Device" (Anm. d. Red.: Einrichtung zum Abschalten der Abgasreinigung) im Geheimen Abgaswerte manipuliert, ohne einen modernen Motor im Detail zu verstehen. Wir wissen, dass es Einfluss auf unsere politischen und ökologischen Ziele nimmt, müssen verstehen lernen, wie es sich auswirkt und wie wir einer besonders problematischen technischen Praxis einen Riegel vorschieben können. Die technische Funktionsweise eines KI-Algorithmus ist für die Vermittlung und das Verstehen nichts anderes als die eines Dieselmotors.

werkstatt.bpb.de: Nun handelt es sich bei KI um digitale Technologien. Ist der Algorithmus von einem Bot vielleicht doch schwieriger erklärbar als die Mechanik eines Dieselmotors?

Zimmermann: Der Begriff "Künstliche Intelligenz" ist vergleichbar mit "Plattform" oder "Cloud", also ein sogenannter "Umbrella-Term" (Anm. d. Red.: klassifizierender Oberbegriff für eine Vielzahl von Wörtern). Skeptiker würden sagen: Ein "Buzzword". Wir brauchen natürlich mehr Wissen darüber, wie diese Systeme angelegt sind. So wie wir bei den Verbrennungsmotoren auch wissen müssen, dass da Benzin oder Diesel verbrannt wird und wo die Probleme liegen. Politische Bildung richtet den Blick insbesondere auf Folgen, Wirkungen oder Regeln in Bezug auf Technologie. Zum Bilden von Analogien gehört, einen Blick auf mögliche Szenarien zu werfen. Dabei ist es entscheidend, neugierige Fragen zu den Technikfolgen zu formulieren.

werkstatt.bpb.de: Hat der Launch von ChatGPT in der Hinsicht für die außerschulische Bildungslandschaft etwas verändert?

Georg Pirker: Das Feld außerschulischer politischer Jugend- oder Erwachsenenbildung setzt sich auf jeden Fall verstärkt mit KI auseinander, weil ChatGPT KI von einem medienpädagogischen Fachthema zu einem Thema der gesellschaftlichen Lebensrealität gemacht hat. Wir hatten alle schon vorher alltäglich mit Bots zu tun - bei Flugbuchungen oder im Gespräch mit unserem Telefonanbieter. ChatGPT bringt das Ganze noch einen Schritt weiter. Wenn wir uns Bildungssettings anschauen, insbesondere lebensweltlich bezogenes Lernen, dann werden wir meistens sehen, dass die KI aktuell noch mehr auf die Teilnehmenden angewiesen ist als die Teilnehmenden auf die KI, um Entscheidungen zu treffen oder um etwas zu bewerten.

werkstatt.bpb.de: Und wie funktioniert dieses lebensweltlich bezogene Lernen konkret?

Pirker: Nils sagte ja, man müsse Analogien entwickeln. Es gibt eine Menge Spiele, auch analoge Spiele, wo man nachempfinden kann, wie KI funktioniert und wie KI lernt. Man kann auch ein Spiel wie "TicTacToe" (Anm. d. Red.: Auch "Kreis und Kreuz" genannt) im Internet gegen eine KI spielen und kriegt mit, was die von einem lernt. Nach einer gewissen Zeit ist man dann mit den normalen Strategien nicht mehr dazu in der Lage, gegen die KI zu gewinnen oder es läuft zwangsläufig auf ein Unentschieden hinaus.

werkstatt.bpb.de: Nils, du sagtest, "KI" könnte man auch als „Buzzword“ bezeichnen. Was meinst du damit?

Zimmermann: Buzzwords erwecken Hoffnungen, Ängste oder Erwartungen, aber sie sind unpräzise. Alleine die Frage danach, was KI eigentlich beschreibt, ist eine große politische Debatte und sollte so auch im Bildungskontext stattfinden – etwa am Beispiel des Interner Link: AI Act, der auf europäischer Ebene gerade ausgehandelt wird. Aktuell richtet man sich nach der OECD-Definition, und die geht bei KI von einem System aus, das mit verschiedenen Ebenen von Autonomie arbeitet und das für implizite oder explizite Ziele Output generieren kann - Vorhersagen, Empfehlungen, Entscheidungen, die konkreten Einfluss auf physische oder virtuelle Umgebungen haben. Also geht es um lernende und selbstlernende Systeme. Hier stellt sich die Frage: Ist das System transparent oder kann man die Funktionsweise nur durch sogenanntes Reverse Engineering nachvollziehen? Dazu kommt natürlich auch noch Big Data als ein großer Sammelbegriff. Alle diese Dinge spielen zusammen, wenn KI große Datensätze verarbeitet.

werkstatt.bpb.de: Reverse Engineering?

Zimmermann: Einfach erklärt: Man versucht, ein bestehendes System zu dekonstruieren, und zwar heuristisch. Zum Beispiel bei Learning Analytics: Lehrerinnen und Lehrer, die mit so etwas arbeiten, durchdringen nicht, wie eine Entscheidung oder Bewertung zustande kommt. Zum einen kann der Algorithmus intransparent sein, er verändert sich womöglich auch noch. Auch die Daten, auf die das System zugreift, verändern sich im Zuge seines Einsatzes. Das alles ist nicht transparent dokumentiert, also muss man beim Verdacht der Diskriminierung oder merkwürdiger Ergebnisse oft rückwärts erforschen, wie Eingaben zu Bewertungen oder Empfehlungen führen. Das ist sehr aufwändig. Denn wenn man der Einschätzung des Systems zwar nicht zustimmt, aber auch nicht in der Lage dazu ist, nachzuvollziehen, wie das System zu seinem Urteil gekommen ist, neigt man oft dazu, diesem dennoch zu vertrauen. Je mehr lernende Systeme in unserer Lebenswelt immer weitreichendere Empfehlungen geben, desto wichtiger werden einfachere Möglichkeiten des Verstehens und der Kontrolle von KI durch ihre Nutzerinnen und Nutzer.

Pirker: Das ist natürlich alles sehr technisch und so technisch sind wir in der formalen Jugend- und Erwachsenenbildung gar nicht aufgestellt. Man würde eher auf Grundlage der technischen Möglichkeiten Utopien entwickeln und diese diskutieren: Wenn zum Beispiel KI in der Rechtsprechung eingesetzt wird - passiert das dann bis zu einem bestimmten Härtegrad oder wo müssen menschliche Richter wieder die Steuerung übernehmen? Das würde ganz viele Bagatelldelikte aus den Gerichten rausholen, aber wo zieht man die Grenze? Inwieweit kann man die Kontrolle bei solchen Entscheidungen abgeben?

werkstatt.bpb.de: KI verarbeitet nicht nur und liefert Ergebnisse, sondern erschafft auch Neues.

Pirker: Genau, auch das kann im Bildungskontext zum Einsatz kommen. KI macht ja nicht nur Texte, sondern es gibt Anwendungen zu Musik-, Bild- und Fotobearbeitung. Ich glaube, das bietet viele Transfermöglichkeiten für Alltagssituationen und zum Herstellen persönlicher Bezüge. Hier lassen sich Fragen stellen wie: Wollt ihr das vom Künstler gestaltete Plattencover oder entspricht das der KI eher euren Vorstellungen? Oder man lässt die KI einen Rap-Text schreiben und fragt: Wie würdet ihr den jetzt visualisieren? Oder: Findet heraus, wie eine KI euren Text visualisieren würde.

werkstatt.bpb.de: Welche Erkenntnisse können Lernende aus solchen Praxis-Experimenten mit KI ziehen?

Pirker: Es geht hier nicht mehr um technische Abstraktionen, sondern darum, zu überlegen, was es bedeutet, wenn ich einem System die Verantwortung übergebe. Und auf der anderen Seite lernen diese Systeme selbst ja auch dazu und dann ist zu schauen: Auf welche Datensätze greifen sie zurück? Welche Texte nutzen sie? Wer hat das geschrieben? Welche Bevölkerungsgruppen und Diskurse werden dadurch repräsentiert oder auch nicht? Was wird ausgeblendet, worauf wird Wert gelegt? Wo sind eigentlich viele frei zugängliche Texte online verfügbar, anhand derer das System lernen kann? Das führt uns zu Inhalten auf Social Media - wo viel Diskussion ist, ist vielleicht auch viel Hass. Ist das gut oder ist das nicht gut? Das kann eine KI ja nicht wirklich einschätzen.

Zimmermann: Mir fällt noch ein anderer Bereich ein, in dem Big Data oder KI praktische Tools für die politische Bildung sein können: In der Extremismus-Prävention, im Monitoring von Radikalisierung und Polarisierung innerhalb der Zivilgesellschaft. Hierfür nutzen es zum Beispiel Organisationen wie das Violence Prevention Network oder das European Observatory of Online Hate, die in Echtzeit Twitter oder Facebook und nach bestimmten Debatten, Tendenzen und Trends absuchen. Auch Datenjournalismus nutzt große Mengen öffentlich verfügbarer Daten und zieht daraus Erkenntnisse. Es wäre super, wenn solche Tools auch in einer einfacheren Form für politische Bildungsprozesse zur Verfügung stünden oder man auch andere öffentlich zugängliche Daten durch derlei algorithmische Aufbereitung besser in den Lernkontext einbinden könnte.

werkstatt.bpb.de: Das heißt, diese Daten liegen eigentlich vor, aber sie werden nicht zugänglich gemacht für die Bildung?

Pirker: Wir wissen zumindest selten, wie wir sie uns zugänglich machen können oder was man aus den Sätzen rausziehen kann.

werkstatt.bpb.de: Wenn wir nochmal auf ethische Fragestellungen, den kritischen Blick darauf, wo das Material herkommt und auf Problemstellungen demografischer Repräsentation im Kontext lernender Systeme eingehen: Was kann hier außerschulische Bildung leisten, was in der Schule so nicht unbedingt stattfindet?

Pirker: Die außerschulische Bildung hat das Potenzial, sich mit einem Thema in der Tiefe und über mehrere Tage zu beschäftigen. Das Wannsee-Forum in Berlin legt zum Beispiel einen sehr spezifischen Fokus auf eine Pädagogik des Digitalen, nähert sich Themen künstlerisch, textbasiert an oder setzt sich auch mit der technischen Grundlage, zum Beispiel Robotik und Programmieren, auseinander, um gleichzeitig zu schauen: Was bedeutet das für unser Zusammenleben mit anderen Menschen und was bedeutet das für unser Zusammenleben in einer Demokratie?

werkstatt.bpb.de: Welche Tools eignen sich für die Vermittlung?

Pirker: Da gibt es sehr interessante Ansätze wie beispielsweise von Tijmen Schep, einem holländischen Aktivisten und Daten-Researcher, der die "How normal am I"-Geschichten geschrieben hat. Darüber lernt man, wie Gesichtserkennung technisch funktioniert und welchen Einfluss das auf die Gesellschaft hat. "A Week with Wanda“ finde ich im außerschulischen Bildungs-Kontext auch ganz praktisch: Man lässt sich von einer Mischung aus Chatbot und KI begleiten und kann über einen längeren Zeitraum von ein, zwei Wochen sehen, was passiert, wenn jemand seine Kommunikation auslesen lässt. In Lernsettings über mehrere Tage haben wir die Möglichkeit, zu fragen: "Okay, was hat euch denn der Bot jetzt geschrieben? Was macht das mit euch? Seid ihr beunruhigt oder habt ihr Ideen? Fühlt ihr euch angesprochen oder nicht?"

Zimmermann: Man kann im Workshop auch mal abfragen, welche Apps so tagtäglich genutzt werden. Viele Leute sind zum Beispiel bei großen Plattformen wie Airbnb, haben Fitness-Tracker und so weiter. Wenn man das alles mal sammelt, merkt man: Oh, da kommt ein ganz schöner Datenschatten zusammen und mit dem lässt sich eigentlich wunderbar arbeiten und zwar ressourcenorientiert. Was machen die mit euch? Warum? Wie funktioniert Gamification? Was sind eure Strategien, damit umzugehen?

werkstatt.bpb.de: Was bedeutet in dem Zusammenhang "ressourcenorientiert"?

Zimmermann: Ein Kurswechsel von einer auf Prävention ausgerichteten Haltung zu ressourcenorientierter digitaler Pädagogik bedeutet, im ersten Schritt anzuerkennen, dass Menschen ihren App- und Plattformdschungel aus Bedürfnissen heraus unterhalten und dass sie oft jahrzehntelange Onlineerfahrung haben. Es lohnt sich, darauf aufbauend Neugierde und praktisches Handeln anzuregen: Was bedeutet digitale Mündigkeit für mich und welche Schritte will ich als User oder Userin unternehmen? Das erforschen die Lernenden dann nicht abstrakt, sondern konkret anhand ihrer eigenen Daten und Erfahrungen.

werkstatt.bpb.de: Welche Akteure und Akteurinnen tragen aktuell besonders viel dazu bei, um Bildungsansätze rund um diese Themen zu entwickeln?

Pirker: Das Tactical Tech Collective, die Open Knowledge Foundation oder Wikimedia in Deutschland schauen ganz besonders, welche Daten da wie produziert werden und was das unter einem gesellschaftlichen Governance-Aspekt bedeutet. In der politischen Bildung sollte es um Machtkritik gehen. Es geht um den Versuch, Zugang für alle zu bewerkstelligen und infrage zu stellen, ob wirklich alle beteiligt sind oder nicht. Wie funktioniert die Organisation der Systeme, wie offen, wie rechtskonform sind sie , müssen neue Rechte oder Regularien für sie entwickelt werden? Wie viele unterschiedliche Gruppen sind tatsächlich an deren Governance beteiligt und welche Gruppen sind Nutznießer der Nutzung? Diesen Austausch müsste man von beiden Seiten stark forcieren.

werkstatt.bpb.de: "Beide Seiten", das sind Politik und Technologieunternehmen?

Pirker: Ja, jedoch nicht zwingend nur Unternehmen, sondern auch Datenaktivisten, die kritische Fragen stellen, zum Beispiel der Chaos Computer Club (CCC), European Digital Rights (EDRi) oder auch das Kollektiv Anonymous.

werkstatt.bpb.de: Das heißt, ein wahrhaft interdisziplinärer Ansatz würde die Entwicklerseite, die zivilgesellschaftliche Seite mit einem kritischen Blick, und auch Politik und Wissenschaft mit einbeziehen?

Pirker: Ja, genau. Und vor allem spielt die europäische Ebene eine elementare Rolle. Gerade hier stellen sich ganz viele Fragen, wenn es um Regulierung und Demokratie geht. Das kann im nationalstaatlichen Kontext eigentlich kaum mehr angepackt werden. Daher sollten in der Bildung neben dem Grundgesetz auch die komplexen Fragestellungen rund um den AI Act eine Rolle spielen.

werkstatt.bpb.de: Was braucht es, damit diese Zusammenarbeit verstärkt stattfinden kann?

Pirker: Die Klassiker: Mehr Infrastruktur, bessere Ausstattung, mehr Ansätze für Interdisziplinarität, mehr Zeit. Gerade Zeit ist ja ein Thema, wo unser Arbeitsfeld von KI profitieren könnte. Die Arbeit von Pädagogen und Pädagoginnen im Feld sind oftmals 90 Prozent Verwaltung. Einige könnten sicherlich durch die Einbindung von KI in ihre Arbeitszusammenhänge mehr Zeit für pädagogische Arbeit gewinnen.

Zimmermann: Es braucht auch Motivation. Wir müssen die Bedürfnisse der Bildner und Bildnerinnen ernst nehmen, denn es fällt ihnen schwer, ein Nachdenken über KI einfach mal so eben in einen 45-minütigen Kurs einzubinden. Wir können hier von Kooperationen mit digitaler Zivilgesellschaft profitieren, denn da geht es nicht nur um technisches Wissen, sondern auch um gesellschaftliche Veränderungen oder um das Verstehen, wie Technologie zur Gesellschaft und zur Demokratie beiträgt. Auf dieser Basis lässt sich gemeinsam voneinander lernen.

werkstatt.bpb.de: Vielen Dank für das Gespräch.

Weiterführende Informationen

Rechtliche Grundlage:

• Der Externer Link: Artificial Intelligence Act (AIA) ist ein Gesetzentwurf der EU-Kommission mit konkreten Vorschlägen zur Regulierung von Künstlicher Intelligenz (KI) in der Forschung und Wirtschaft.

Angebote:

• Externer Link: How normal am I ist eine interaktive Webseite, die zeigt, wie Algorithmen zur Gesichtserkennung genutzt werden, um Menschen zu beurteilen. Über die Kamera des jeweiligen digitalen Endgeräts werden die Gesichter der Nutzerinnen und Nutzer hinsichtlich verschiedener Kriterien wie Attraktivität und Alter analysiert.

• Externer Link: A Week with Wanda ist ein Online-Spiel, das auf humorvolle Weise für die Gefahren von KI sensibilisieren möchte. Während des siebentägigen Spiels mischt sich die digitale Assistentin "Wanda" zunehmend in die Social-Media-Aktivitäten der Spielerinnen und Spieler ein.

Akteurinnen und Akteure:

• Der Externer Link: Chaos Computer Club (CCC) setzt sich als deutscher Hacker-Verein für die Informationsfreiheit und ein Menschenrecht auf ungehinderte Kommunikation ein.

• Externer Link: European Digital Rights (EDRi) ist ein europäisches Netzwerk, das sich für die Entwicklung und Verteidigung digitaler Rechte einsetzt.

• Anonymous ist ein loses anonymes Kollektiv aus Aktivist/-innen und Hackern, welches sich durch Hackerangriffe und Demonstrationen für die Redefreiheit und die Unabhängigkeit des Internets einsetzt.