Das geheime Leben einer KI

Popkulturelle Erzählungen und westliche Science-Fiction-Filme wie 'Terminator', 'Her' oder 'Westworld' haben großen Einfluss darauf, wie wir über KI-Technologien nachdenken. Diese Erzählungen helfen uns jedoch nicht unbedingt, die Auswirkungen von KI auf unser Leben, unseren Planeten, unsere Kultur und unsere Rechte auf realistische Weise zu verstehen. Der hier vorgestellte Workshop soll dazu beitragen, Künstliche Intelligenz zu entmystifizieren, indem technologiezentrierte Ansätze in Frage gestellt werden und soziale, ökonomische sowie ökologische Aspekte von Technologie in den Vordergrund rücken. Anhand konkreter Impulse zur Philosophie, Konzeption, Design und Einsatz von KI-Technologien forschen die Workshop-Teilnehmer*innen selbstständig und erhalten einen Eindruck davon, welche umfassenden menschlichen Ressourcen und globalen Infrastrukturen in KI-Technologie stecken. Besonderer Fokus liegt auf den Verwertungsdynamiken, die KI-Technologien innewohnen. Die Ergebnisse des Workshops werden in einem kollaborativen Zine festgehalten.

Ein Fahrrad ist mehr als nur ein Metallrahmen mit zwei Rädern, mit dem man von A nach B kommt. Wenn wir mit dem Fahrrad fahren, haben wir Anteil an einer größeren Infrastruktur, zum Beispiel an Verkehrsgesetzen und -vorschriften, am Fahrradhandel, an natürlichen Ressourcen – die Reifen etwa bestehen aus Gummi –, an der Fahrradkultur und vielem mehr. Das Gleiche gilt für Softwaresysteme, die Künstliche Intelligenz (KI) nutzen. Wenn wir unser Handy entsperren und Google Maps öffnen, um uns eine Reiseroute vorschlagen zu lassen, nutzen wir ebenfalls nicht einfach KI, sondern ein komplexes System, das über die Software selbst hinausgeht.

Es ist nicht Ziel des Workshops, den Teilnehmer*innen technische Definitionen von KI beizubringen. Denn bereits der Begriff der Künstlichen Intelligenz ist umstritten, es gibt keinen Konsens bezüglich ihrer Definition. Diese ist dynamisch und zudem politisch aufgeladen, da schon die Festlegung dessen, was KI ist, die gegenwärtige und zukünftige Entwicklung dieser Technologie sowie die Einstellung der Öffentlichkeit ihr gegenüber prägt. Mit diesem Workshop möchten wir dazu anregen, KI als ein komplexes System – eine soziotechnische Assemblage – zu betrachten, indem wir uns auf diejenigen Aspekte konzentrieren, die KI über den reinen Code hinaus ausmachen: menschliche Arbeitskraft, der Verbrauch natürlicher Ressourcen und Auswirkungen auf die Umwelt sowie andere soziale, kulturelle und materielle Komponenten, die in den vorherrschenden Narrativen über KI oft übersehen werden.

Mithilfe von Aufgabensets in vier Bereichen werden die Teilnehmer*innen ermutigt, zeitgenössische Techniktrends, Ereignisse, Diskurse und Ideen rund um KI-Technologien kreativ zu entschlüsseln und neu zu kodieren, um auf diese Weise kritische Einsichten über ihre eigene Beteiligung an umfassenden KI-Systemen zu generieren.

Aufgabe 1 (Niedrigschwelliger Eisbrecher zum Einstieg):

  1. Nehmt einen Gegenstand aus eurer Hosentasche oder eurem Rucksack.
  2. Wählt auf eurem Handy 1-3 Apps aus, die ihr in letzter Zeit benutzt habt (z.B. Google, Facebook, Instagram, YouTube, TikTok). Sucht dort per Eingabe des Begriffs (z.B. „Flasche“, „Handy“) in die Suchmaske nach eurem Gegenstand.
  3. Notiert eure Ergebnisse: Ist es ein Produkt, ein virales Video, ein Blogbeitrag oder ein Nachrichtenartikel, der euch zuerst angezeigt wird?
  4. Teilt eure Ergebnisse mit den anderen. Wie wird das Objekt präsentiert? Was soll es bei Konsument*innen/Betrachter*innen hervorrufen oder auslösen? Was sagt euch das Ergebnis darüber, wie die App programmiert ist? Was gibt sie euch zu sehen?

Aufgabe 2 (Erarbeitungsphase eines Themenkomplexes zu KI):

Die folgenden Aufgaben werden in Kleingruppen bearbeitet.

Wählt einen Aufgabenschwerpunkt und bearbeitet ihn in eurer Gruppe.

I. Mensch (Arbeit): Spürt den Menschen hinter der Technologie auf.

Aufgabe: Wenn ihr eine App öffnet, erscheint diese wie ein in sich geschlossenes KI-Programm, das autonomen Code ausführt und den Bildschirm mit perfekt platzierten Schaltflächen, Symbolen und Interaktionsangeboten ausfüllt. Aber jede Software, mit der wir interagieren, ist auch eine Manifestation menschlicher Arbeit. Und das meint nicht nur die Stunden, die Entwickler*innen in die Programmierung stecken. Ein Großteil der Sortierung unserer Social-Media-Feeds hängt zum Beispiel von menschlichen Moderator*innen ab, die stundenlang vor den Bildschirmen sitzen und als anstößig oder verletzend markierte Inhalte sichten und filtern.

Anleitung: Durchstöbert die Benutzer*innenoberfläche eures Handys und findet die verborgenen Menschen, die hinter dieser Oberfläche arbeiten.

  1. Wählt eine häufig genutzte App auf eurem Handy aus.
  2. Ermittelt per Online-Recherche, welche Art von menschlicher Arbeit in der App steckt, damit diese funktioniert. Welche Tätigkeiten und Jobs braucht es, um diese App entsprechend ihrer Richtlinien zu evaluieren, zu moderieren, Werbung zu schalten etc.?
  3. Wer sind diese Menschen? Was machen sie? Was glaubt ihr, was sie zu Mittag gegessen haben? Hatten sie einen guten Tag bei der Arbeit? Diskutiert und spekuliert in der Gruppe.
  4. Findet auf einer A4-Seite im Querformat einen kreativen Weg, um die menschliche Arbeit hinter der Benutzer*i nnenoberfläche der App darzustellen.

II. Natur (Energie und Ökologie): Serverfarmen produzieren Emissionen, genauso wie Bauernhöfe. Verwandelt eine Serverfarm in eine umweltfreundliche Farm.

Aufgabe: Der Verdauungsprozess von Kühen erzeugt immense Mengen an Methanemissionen, die zur globalen Klimaerwärmung beitragen. Genau wie diese unsichtbaren Verdauungsprozesse hat auch jede Google-Suche, jeder Instagram-Filter oder jede TikTok-Empfehlung einen CO2-Fußabdruck. Die meisten KI-Algorithmen sind auf ressourcenintensive Berechnungen angewiesen, die auf großen Serverfarmen irgendwo auf der Welt stattfinden. Dabei handelt es sich nicht um Bauernhöfe voller Kühe, sondern um Orte voll blinkender schwarzer Kästen, die jede Millisekunde des Tages Daten empfangen, verarbeiten und in die ganze Welt senden.

Anleitung: Findet eine echte Serverfarm irgendwo auf der Welt und verwandelt sie in eine umweltfreundliche Farm.

  1. Sucht nach einer echten Serverfarm von Google, Facebook oder Amazon. Ihr könnt „Amazon/Facebook/Google-Server-Standort“ in einer Suchmaschine suchen oder eine der folgenden Quellen verwenden: org/amazon-atlas/map, en.wikipedia.org/wiki/Google_data_centers, baxtel.com/data-centers/facebook
  2. In welchem Ökosystem oder in welcher Umgebung befindet sich der Server? (Tipp: Welche Arten von Vögeln, Insekten, Pflanzen gibt es in diesem Gebiet?)
  3. Welche Auswirkungen kann der von Serverfarmen mitverursachte Klimawandel auf diese Umgebung haben? Diskutiert in der Gruppe.
  4. Entwerft auf einer A4-Seite eine spekulative Vision einer umweltfreundlichen Version der Serverfarm. Entwerft dazu einen Prototyp, beschreibt einen visionären Traum, schreibt ein Manifest oder stellt euch ein Science-Fiction-Szenario vor.

III. Werte: Wenn App-Werbung ehrlich wäre… Erfindet eine ehrliche Werbung für eine App.

Aufgabe: Hinter jeder Produktwerbung und jedem Firmenslogan verbergen sich bestimmte Absichten, Werte und ideologische Ansichten, die ein Unternehmen ausmachen. Auch KI-Software selbst ist nie neutral: Sie ist von den Werten und Überzeugungen ihrer Urheber*innen geprägt. Die Inhaltsfilter von Facebook sperren zum Beispiel regelmäßig Konten von Personen, die klassische Kunst posten, auf der weibliche Nacktheit dargestellt ist. Wenn eine App wie Facebook ehrliche Werbung schalten würde, wie würden ihre Slogans lauten?

Anleitung: Denkt euch eine ehrliche Werbung für eine App aus.

  1. Wählt eine der meistgenutzten Apps auf eurem Handy aus.
  2. Welche Art von Inhalt wird darin beworben, welche Art von Inhalt wird unterbunden?
    (Die Lehrkraft könnte eine der folgenden oder ähnliche Quellen und Beispiele zur Verfügung stellen:
    com/2020/06/11/facebook-workplace-unionize, theintercept.com/2020/03/16/tiktok-app-moderators-users-discrimination, theguardian.com/technology/2019/sep/06/apple-rewrote-siri-to-deflect-questions-about-feminism; die Schüler*innen können auch nach aktuellen Protest-Hashtags wie #shadowbanning suchen.)
  3. Welche Werte werden durch die App implizit gefördert und wie unterscheidet sich dies von der Art und Weise, wie die App an die Öffentlichkeit vermarktet wird? Diskutiert in der Gruppe.
  4. Gestaltet auf einer A4-Seite eine ehrliche Werbung für die App, die einige eurer Ergebnisse zeigt.

IV. Kapital: Folge dem Geld.

Aufgabe: Der KI-Markt ist in einer kapitalistischen Wirtschaft verwurzelt. Mit kostenloser Software wie Google Maps lässt sich oft Geld verdienen, indem Daten gesammelt werden, die als Grundlage für Marketingsoftware und -systeme dienen. Wenn wir also fortschrittliche Technologien kostenlos nutzen, helfen wir oft anderen Unternehmen dabei, uns Produkte und Dienstleistungen noch überzeugender zu verkaufen. Die meisten kostenlosen Apps haben zwei Märkte: die Nutzer*innen und die Unternehmen, die sie für den Zugang zu den Nutzer*innendaten bezahlen. Die meisten kostenlosen Technologien werden durch einen solchen mehrseitigen Markt finanziert.

Anleitung: Werdet zum Detektiv. Wählt eine kostenlose App auf eurem Handy aus und „folgt dem Geld“, um herauszufinden, wie sie ihren Gewinn erwirtschaftet.

  1. Wählt eine kostenlose App auf eurem Handy aus.
  2. Welches Unternehmen hat diese App erstellt? Könnt ihr herausfinden, welche Umsätze das Unternehmen jährlich macht?
  3. Wie verdienen die Unternehmen Geld, wenn die App kostenlos ist? Und warum ist die App überhaupt kostenlos? Diskutiert in der Gruppe.
  4. Stellt auf einer A4-Seite im Querformat auf kreative Weise den Weg des Geldes von eurer kostenlosen App zu den Gewinneinnahmen des Unternehmens dar. (Tipp: Es könnte zum Beispiel in Form einer Schatzkarte, eines investigativen Berichts oder einer Infografik sein.)

Aufgabe 3 (Erstellung des Zine zur Ergebnissicherung):

Nun werden die A4-Seiten, die von den Kleingruppen gestaltet wurden, in einem Zine zusammen

Unter „Weiterführendes“ finden sich einige Ressource zur Erstellung eines Zines und Links zu verschiedenen Beispielzines zur Inspiration.

Anleitung für ein Zine aus Papier:

  • Deckblatt und Rückseite: Bereitet eine A4-Seite als Vorder- und Rückseite des Zines vor und faltet sie in der Mitte. Die Vorderseite des gefalteten Blattes dient als Cover, die Rückseite als Rückumschlag. Arbeitet zusammen oder wählt eine Gruppe aus, um das Titelbild und die Rückseite des Zines auf der gefalteten Seite zu gestalten.
  • Indexseite: Faltet eine weitere leere A4-Seite in der Mitte. Verwendet die rechte innere Hälfte der gefalteten Seite, um ein Verzeichnis aller Beiträge und Werke zu erstellen. Auf die linke Innenseite schreibt ihr das Datum und den Ort der Veröffentlichung des Zines. Fügt weitere Informationen hinzu, die ihr für geeignet haltet (z.B. ein Editorial).
  • Druckvorlage:
    • Bereitet eine Blanko-Vorlage für das Zine vor, indem ihr so viele leere A4-Seiten wie nötig in der Mitte faltet und in der unteren Ecke nummeriert. Die gefalteten Seiten werden, wie in der Abbildung unten gezeigt, ineinandergelegt.
    • Um die Beiträge der Schüler*innen (einschließlich der Umschlag- und Indexseiten) in die leeren Zine-Vorlage einzufügen, und auf die entsprechende Seite des leeren Zine-Dummys einfügen. Die einzelnen Seiten der resultierenden Druckvorlage werden eine ähnliche Seitenanordnung haben wie in der Abbildung unten. Wichtig: Bindet die Druckvorlage noch nicht.
    • Kopieren: Ihr könnt Kopien des Zines anfertigen, indem ihr die Seiten der Druckvorlage direkt in ein Kopiergerät legt. Achtet darauf, dass ihr die Vorder- und Rückseite jeder Kopiervorlage auf eine einzige doppelseitige Seite kopiert. Macht ein paar Testseiten, um sicherzugehen.
    • Scannen und Drucken: Ihr könnt auch alle Seiten der Druckvorlage einscannen und die Bilder in einer PDF-Datei zusammenstellen. Achtet beim Drucken darauf, dass die Vorder- und Rückseite in der gleichen Reihenfolge angeordnet sind wie die Seiten der Vorlage. Druckt die PDF-Datei auf A4 doppelseitig aus.
    • Binden: Faltet jede Seite der gedruckten Kopie in der Mitte. Sammelt alle Seiten in der richtigen Reihenfolge. Legt die gesammelten Seiten mit der Vorderseite nach unten und bindet sie mit zwei gleichmäßig verteilten Heftklammern auf der Rückseite der Kopie.
    • Wiederholt den Vorgang und verteilt die Exemplare: Ihr könnt nun mehrere Exemplare des Zines anfertigen und es an die Teilnehmer*innen oder nach Absprache auch außerhalb des Klassenzimmers verteilen.

Schritt 1: Eisbrecher (20 Min)

Eröffnung der Diskussion (10 min): Begrüßen Sie die Teilnehmer*innen und erklären Sie, worum es in diesem Workshop bzw. dieser Unterrichtssequenz geht. Geben Sie kurze Anweisungen für die nächsten Schritte. Stellen Sie klare Erwartungen an die Teilnehmer*innen und finden Sie heraus, wie viel sie bereits über KI wissen.

Stellen Sie eine persönliche Verbindung zur digitalen/algorithmischen Technologie her (10 min): Beginnen Sie mit einer kurzen Klassenaktivität als Eisbrecher, bei der die Teilnehmer*innen einen persönlichen Gegenstand online recherchieren. Sie können einen Gegenstand aus ihrer Tasche nehmen und ihn über eine Suchmaschine oder eine Social-Media-Seite ihrer Wahl suchen. Was wird als erstes Ergebnis angezeigt, wenn sie nach Begriffen wie Smartphone, Flasche oder Apfel suchen? Lassen Sie die Teilnehmer*innen in kleinen Gruppen diskutieren: Was sagt das Suchergebnis über die Funktionsweise der jeweiligen Plattform aus? Welche Prioritäten setzt sie, was gibt sie zuerst zu sehen?

Schritt 2: Einführung (25-30 Min)

Wir empfehlen zur Vorbereitung die folgenden Materialien anzusehen: das Video Wie Maschinen diskriminieren und den Aufsatz Ethik mit gebührendem Abstand von Kate Crawford (siehe Weiterführendes).

Wählen Sie nach der ersten Gruppendiskussion im Anschluss an den Eisbrecher ein anschauliches Beispiel aus und erklären Sie exemplarisch die soziale Dynamik von Algorithmen anhand des bereitgestellten Materials. Geben Sie einen kurzen Einblick darin, wie Algorithmen technisch funktionieren. Wie treffen sie Entscheidungen? Was passiert hinter dem Bildschirm?

Überleitung zur nächsten Aktivität: Wählen Sie ein Beispiel aus den Aufgabenstellungen und erklären Sie den Ansatz der Übung. Beziehen Sie sich auf die bereitgestellten Quellen, um den Schüler*innen die Übung zu erklären.

Schritt 3: Arbeit mit den Aufgabensets und Herstellung des Zines (ca. 90 Min)

Erklären Sie, was ein Zine ist und worin die nächsten Schritte bestehen. Teilen Sie die Klasse in Gruppen mit je 3 Schüler*innen ein. Jede Gruppe wählt eine Aktivität/Aufgabe sowie eine Seite des Zines zum Ausfüllen. Die Schüler*innen setzen sich nun mit den Aufgabensets auseinander und erstellen das Zine. Unterstützen Sie ggf. die Gruppenrecherche und Herstellung des Zines (siehe Anweisungen oben). Lassen Sie alle Workshopteilnehmer*innen ihre Zine-Seite präsentieren.

Hinweise: Bestimmen Sie den Zeitumfang je nach Alter und Arbeitsablauf der Schüler*innen. Bei einer Teilnehmer*innenzahl von 30 Schüler*innen können mehrere Gruppen dieselbe Aufgabenstellung bearbeiten. Jede Gruppe kann gemeinschaftlich eine Seite für das Zine erstellen.

Schritt 4: Diskussion (ca. 30 Min)

Lassen Sie die Schüler*innen abschließend ihre Lernerfahrungen teilen: Fragen Sie die Teilnehmer*innen, was sie aus dem Workshop/Unterricht mitgenommen haben. Fragen können sein: Welche neuen Aspekte und Funktionsweisen von KI habt ihr kennengelernt? Wo taucht KI in eurem Leben auf? Was sind die negativen/positiven Aspekte von KI? Wie fühlt ihr euch jetzt in Bezug auf KI (gestärkt, verängstigt, misstrauisch, …)? Wie wahrscheinlich ist es, dass ihr über das, was ihr in diesem Workshop gelernt habt, mit Menschen in eurem Umfeld sprechen werdet?

Für ein gedrucktes Zine:

  • Weißes (und ggf. farbiges) A4-Papier (in der Mitte falten und übereinanderstapeln, sodass ein Pamphlet entsteht)
  • Schere
  • Klebestift
  • Tacker
  • Lineal
  • Verschiedene Malutensilien (Bleistifte, Buntstifte, Filzstifte etc.)
  • Drucker und/oder Kopierer

Für ein digitales Zine:

  • 1 PC oder Laptop pro Gruppe
  • Bildbearbeitungssoftware (z.B. Adobe Photoshop oder GIMP, eine kostenlose Open-Source-Alternative zu Photoshop)
  • Drucker
  • Optional: Scanner

Optional:

  • Computer mit Textverarbeitungssoftware (z.B. Word, OpenOffice), um Textbausteine auszudrucken und einzukleben
  • Alte Zeitschriften
  • Schneidematte
  • Cuttermesser

Quellen zu KI (in deutscher Sprache)

Quellen zu KI (in englischer Sprache)

Inspiration für die Gestaltung von Zines

Max. Teilnehmer

15

Dauer

180 min

Social