Was sind eigentlich Technologien? Wie sind sie mit Macht und Kontrolle verbunden? Welche und wie viele Technologien brauchen wir für eine lebenswerte Zukunft? Wie und von wem sollten beziehungsweise müssen sie gestaltet werden? Um diese Fragen dreht sich dieser Workshop, indem er einige einfache Beobachtungen aufgreift, die in den heutigen digital gesteuerten Gesellschaften, in denen komplexe algorithmische Systeme sowie künstliche Intelligenz einen Einfluss auf gesellschaftliche Strukturen, Wahrnehmungen und Normen haben, nützlich sein können. In unseren algorithmischen Kulturen sind Informationszirkulation und die Möglichkeit der Partizipation von kolonialen, extraktivistischen und kapitalistischen Prinzipien geprägt, wodurch Lebensgrundlagen und alternative Lebensweisen, die nicht mit dem Status Quo übereinstimmen, ausgelöscht werden.[1] Wie können wir also Technologien verstehen, verorten und materialisieren, um uns alternative Technologien für eine bessere Zukunft vorzustellen und zu entwickeln?
In diesem Workshop wird das von Joana Varon, Sasha Constanza-Chock und Clara Juliano entwickelte Kartenspiel Oracle for Transfeminist Futures verwendet. Das Spiel folgt dem Prinzip eines Tarotdecks, das mit Methoden der Wahrsagung und transfeministischen Werten kombiniert wird, um ein spielerisches Werkzeug für die kollektive Vorstellung und Entwicklung alternativer Technologien und Datenbeziehungen außerhalb der derzeitigen hegemonialen, diskriminierenden algorithmischen Strukturen zu bieten. Es fordert die Spielenden auf, sich alternative Formen algorithmischer Kulturen vorzustellen, in denen sich die Menschen zur Beschäftigung mit der Frage ermutigt fühlen, wie wir als Gesellschaft zusammenleben und unsere Zukunft gemeinsam gestalten wollen. Das Orakel vermittelt auf spielerische Weise die Design Justice Principles und zeigt, wie diese als Befreiungs- und Widerstandswerkzeug eingesetzt werden können, um strukturelle Ungleichheiten zu bekämpfen, anstatt sie zu reproduzieren.
[1] Mehr Informationen und Quellen:
Ricaurte, Paola (2019): Data Epistemologies, The Coloniality of Power, and Resistance, in: Television & New Media, Bd. 20, Nr. 4, S. 350–365, [online] doi:10.1177/1527476419831640.
Mohamed, Shakir/Marie-Therese Png/William Isaac (2020): Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence, in: Philosophy & Technology, Bd. 33, Nr. 4, S. 659–684, [online] doi:10.1007/s13347-020-00405-8.
Pinkrah, Nelly (2021): Das Digitale ist alt.
Angwin, Julia/Jeff Larson/Surya Mattu/Lauren Kirchner (2016): Machine Bias, ProPublica, [online] [abgerufen am 09.12.2021].
Varon, Joana (2020): The Future is Transfeminist: from imagination to action.
A1 Warm-up: Who got the Power? (ca. 60 Min)
Diskutiert mit der Gruppe/euren Mitschüler*innen über die folgende Fragen:
Tipp: Bezieht euch bei der letzten Frage auf ein konkretes technologisches Produkt oder KI-System aus eurem Alltag, um die letzte Frage ganz konkret zu betrachten (z.B. Social-Media-Algorithmen oder Gesichtserkennungssysteme, die bei der Polizei eingesetzt werden).
A2 Probediskussion/Rollenspiel (ca. 30 Min)
Führt eine Diskussion in einem offensichtlich kontrollierten Medium (z.B. einem Anzeigenblatt, bei dem jeder Beitrag Geld kostet, oder einem Sozialen Netzwerk wie Instagram oder Twitter, bei dem das Unternehmen Kommentare, Bilder, Konten usw. löschen, markieren und shadowbannen kann). Macht ein aktuelles Ereignis (z.B. die Pandemie, Wahl) zum Gegenstand eurer Diskussion oder ein Thema, das für das Medium spezifisch ist (z.B. Ableismus, heteronormative Schönheit in Sozialen Medien). Beobachtet, wie es die Art und Weise beeinflusst, wie ihr diskutiert und wie die Leute folgen und interagieren. Was darfst du sagen oder beitragen, was nicht? Wer ist von der Diskussion ausgeschlossen und warum? Wie viel Einfluss hat das Medium bei der Kontrolle der Diskussion?
A3 Oracle for Transfeminist Technologies: You got the Power! (ca. 45 Min)
Teilt euch in 3er- oder 4er-Gruppen auf. Nutzt das Oracle for Transfeminist Futures, um alternative Technologien aus der Zukunft zu entwerfen, die die etablierten, zuvor diskutierten Machtverhältnisse in Frage stellen und Gemeinschaften/Kollektiven zugutekommen, die von den technologischen Prozessen bisher ausgeschlossen waren. Denkt dabei daran, dass es um die Zukunft geht: Technologien sind nicht durch die gegenwärtigen Gegebenheiten beschränkt. Ein Lippenstift mit Nanotechnologie, der kollektives Wissen weitergibt, oder ein VR-Holoboard, das hilft, Informationsbarrieren im Internet zu überwinden? Alles ist möglich! Die Orakelkarten dienen als Leitfaden zur Ideenfindung und liefern mögliche Szenarien, in die ihr eure Technologien einbetten könnt. Verwendet die Blaupausenvorlage, um eure Ideen und Visionen festzuhalten. Weitere Beispiele findet ihr hier: transfeministech.codingrights.org
A4 Austausch (ca. 30-45 Min)
Kommt mit der gesamten Gruppe zusammen, stellt euch eure neuen Technologien gegenseitig vor und reflektiert über eure Erfahrungen mit dem Orakel.
A0 An die Workshop-Leitung
Herzlich willkommen! Wenn Sie sich für die Beziehungen zwischen Macht und Technologien interessieren und erwägen, einer Gruppe von Schüler*innen die Beziehungen und Auswirkungen der technologischen bzw. algorithmischen Kontrolle zu vermitteln, sind Sie eingeladen, mit Ihren Schüler*innen diesen Workshop durchzuführen. Gehen Sie in folgenden Schritten vor:
a) Befragen Sie Ihre persönlichen Werte und Erfahrungen, die mit Machtbeziehungen verbunden sind, sowie mögliche (technologische) Objekte, die mit diesen in Verbindung stehen. Erstellen Sie eine Mindmap oder Liste. Orientieren Sie sich zum Beispiel an folgenden Punkten:
b) Vorschlag: Machen Sie sich Ihre Privilegien und Ihr situiertes Wissen, das ggf. zu einem Mangel an Rücksichtnahme und Empathie für andere Lebensrealitäten führen kann, bewusst. Denken Sie über Ihre Position in der Gesellschaft kritisch und reflektierend nach sowie darüber, wie Ihre Situiertheit mit bestimmten Vorteilen/Nachteilen für Sie selbst und andere zusammenhängt.
c) Falls Sie mit algorithmischen Technologien und Begriffen wie Transfeminismus oder Intersektionalität nicht vertraut sind, informieren Sie sich, z.B. mithilfe der weiter unten bereitgestellten Liste von Texten und kurzen Einführungen, die außerdem grundlegende Anleitungen für respektvollen Unterricht und intersektionale Pädagogik enthalten.
d) Machen Sie sich mit dem Oracle for Transfeminist Futures und seinen Regeln vertraut. Links dazu finden Sie weiter unten. Probieren Sie es selbst aus und schaffen Sie eine eigene transfeministische Technologie als Beispiel für Ihre Schüler*innen. Reflektieren Sie über den Prozess und darüber, inwieweit Ihre Technologie der Gesellschaft im Hinblick auf Inklusion zugutekommen würde.
e) Führen Sie den Workshop mit Ihren Schüler*innen durch. Behalten Sie dabei die Bedeutung der Schritte a) und b) für sich selbst und Ihre Schüler*innen im Blick.
A1 Warm-up: Who got the Power?
Die Workshop-Leitung eröffnet ein Gespräch entlang folgender Fragen (mit zusätzlichen Hilfskarten, Beispielen und/oder Definitionen können diese erweitert/angepasst werden):
Um den Diskussionsgegenstand greifbar zu machen, wird die Gruppe ermutigt, sich beim letzten Fragenkomplex auf ein konkretes technologisches Produkt oder KI-System zu beziehen, z.B. Algorithmen in Sozialen Medien, Gesichtserkennungssysteme oder „Schönheitsalgorithmen“ in Apps zur Fotobearbeitung. Leitfragen können sein: Wo und wie werden sie eingesetzt? Wer setzt sie ein? Wer ist wahrscheinlich die Zielgruppe? Verwendet ihr sie?
A2 Probediskussion/Rollenspiel
Die Teilnehmer*innen führen eine fiktive Diskussion über ein Thema (z.B. Pandemie, Wahlen, Ableismus oder heteronormative Schönheit in Sozialen Medien) in einem offensichtlich kontrollierten Medium (z.B. in einem Anzeigenblatt, in dem jeder Beitrag Geld kostet, oder in einem Sozialen Netzwerk wie Instagram oder Twitter, wo das Unternehmen Kommentare, Bilder, Konten usw. löschen/markieren/shadowbannen kann), um zu untersuchen, wie dieses Umfeld ihre Interaktionen, Beiträge und Meinungen beeinflusst. Die Gruppe kann hierzu in zwei Gruppen aufgeteilt werden, einerseits diejenigen, die Meinungen zum diskutierten Thema vertreten, andererseits diejenigen, die als Regelverfechter*innen für das Medium fungieren.
Die Teilnehmer*innen denken darüber nach, was sie innerhalb der Regeln und Hürden des Mediums (Monetarisierung/Zensur) sagen und ausdrücken dürfen und wer aufgrund dieser Regeln vom Diskurs ausgeschlossen ist. Wie vertrauenswürdig ist die Plattform, die für eine Diskussion angeboten wird, und wie beeinflusst sie selbst durch ihre Regeln, was diskutiert wird? Das Hauptaugenmerk dieser Aufgabe liegt auf der Erkenntnis, dass unsere Kommunikationen, Interaktionen und Entscheidungen oft von Vermittlungsinstanzen moderiert und kontrolliert und als Ware oder Produkt weitergegeben werden. Dies sollte Fragen über Einfluss bzw. Mangel an Einfluss, Kontrolle, Vertrauen, Erlaubnis zur Teilnahme/Zugang und Mangel an Neutralität aufwerfen.
A3 Oracle for Transfeminist Technologies: You got the Power!
Wir sind auch sehr mächtig, wenn wir als Kollektiv handeln. Lassen Sie uns also unsere Vorstellungskraft nutzen, um gegen den jetzigen Trend im Bereich von KI und Algorithmen vorzugehen. Wenn Technologien von und für diejenigen geschaffen werden, die historisch gesehen von den technologischen Prozessen schon immer ausgeschlossen sind, können wir auch Machtverhältnisse in Frage stellen. Stellen Sie sich eine alternative transfeministische Technologie vor, indem Sie das Oracle for Transfeminist Technologies konsultieren.
Befragung des Oracle for Transfeminist Technologies:
Dieser Teil des Workshops basiert auf der Arbeit des Teams von transfeministech.org, das von Joana Varon, Sasha Constanza-Chock und Clara Juliano gegründet wurde. Das Orakel ist ein praktisches Kartenspiel, in das transfeministische Werte eingebettet sind und das als spekulatives Brainstorming-Tool dient, um sich alternative Zukünfte vorzustellen, in denen die Gestaltung von Technologien einem Bottom-up-Ansatz folgt und gemeinschaftsbasiert ist. Die Technologien, die durch dieses Spiel erdacht werden, sollen sich als Gegensatz zu denjenigen positionieren, die heutzutage den Status quo der sozialen, konsumorientierten, binären, heteropatriarchalen Ungleichheit aufrechterhalten. Die spielerische Imagination alternativer Zukünfte soll dazu beitragen, sich von der Singularität und Binarität dieser technologischen Systeme zu lösen und dadurch die Kontrolle über das eigene und kollektive Schicksal zurückzugewinnen.
Vor dem Workshop:
Zugang zu den Karten des Oracle for Transfeminist Technologies gibt es hier: transfeministech.org. Über diesen Link haben Sie Zugang zu einem physischen Kartenspiel – bestellen Sie ein Kartendeck, wenn Sie über die nötigen Ressourcen verfügen, und helfen Sie so dem Projekt weiter – sowie zu einer virtuellen Version des Spiels. Wenn Sie die physischen Karten verwenden, drucken Sie bitte zusätzlich die Blaupausenvorlage aus, die den Mitgestaltungsprozess erleichtern wird. Wenn Sie virtuellen Karten verwenden, sollten Sie überlegen, wie die Teilnehmer*innen darauf zugreifen können. Lesen Sie die Anweisungen, wie Sie das Oracle for Transfeminist Tech konsultieren können.
Während des Workshops:
Weisen Sie die Teilnehmer*innen an, wie man das Orakel einsetzt. Jede Person/Gruppe nimmt anschließend 1 oder 2 Wertekarte(n), 1 Objektkarte, 1 Karte „Menschen/Orte“, 1 Situationskarte (optional).
Teilen Sie die Klasse in 3er- oder 4er-Gruppen auf. Geben Sie den Gruppen 30 bis 45 Minuten Zeit zum Durchführen des Orakels.. Innerhalb der Gruppen werden die ausgewählten Karten nun vorgelesen:
Eine Blaupause erstellen:
Lassen Sie die Kleingruppen nun eine Blaupause erstellen. Hier ist das Ziel, eine futuristische Technologie imaginierend zu entwickeln, die:
Denkt daran: Es ist die Zukunft. Die Objekte sind nicht durch Möglichkeiten der Gegenwart begrenzt. Ein Lippenstift mit Nanotechnologie, der kollektives und gemeinschaftliches Wissen weitergibt, oder ein VR-Holoboard, das euch hilft, Informationsbarrieren im Internet zu überwinden? Alles ist möglich!
Während die Teilnehmer*innen ihre Ideen auf der Blaupausenvorlage dokumentieren, geht die Workshop-Leitung ggf. auf Fragen ein und gibt Hilfestellungen.
A4 Austausch
Versammeln Sie alle Teilnehmenden und lassen Sie die Kleingruppen ihre neue Technologie vorstellen. Lassen Sie sich im Gespräch von folgenden Fragen leiten, um über die Bedeutung intersektionaler, kommunaler, antidiskriminierender Zusammenarbeit bei der Entwicklung und Implementierung algorithmischer Systeme und Künstlicher Intelligenz nachzudenken, sodass Handlungsfähigkeit und Selbstermächtigung zurückzugewonnen werden können:
Ermutigen Sie die Teilnehmenden, ihre Technologien unter dem Hashtag #transfeministech zu teilen, um sie der Community aus Nutzer*innen des Oracle for Transfeminist Tech zur Verfügung zu stellen.
Für die Probediskussion/das Rollenspiel:
Für das Orakel (vgl. transfeministech.codingrights.org/resources):
Diese Prinzipien schlagen einen Designansatz vor, der von marginalisierten Gemeinschaften und Designer*innen geleitet wird, um Ungleichheiten zu bekämpfen, die durch universalistische Designentscheidungen entstehen, die unterschiedliche Lebensrealitäten unberücksichtigt lassen.
Joana Varon gibt einen Überblick über die diskriminierenden, ausbeuterischen Praktiken von algorithmischen Systemen und KI-Systemen. In diesem Text erklärt sie die grundlegenden Prinzipien des transfeministischen Orakels und erklärt, wie wirkungsvoll die Praxis der Imagination als Werkzeug der Veränderung und Ermächtigung gegen die Singularität der Technologien sein kann.
In diesem Artikel zeigt Nelly Y. Pinkrah, wie die Technologien, die uns umgeben, unsere Wahrnehmung der Realität und unser Verständnis von der Welt maßgeblich beeinflussen und dabei stets von Wissenssystemen geprägt sind, die mit Ausgrenzung und Diskriminierung in Verbindung stehen.
Eine Organisation, die Kunst und Forschung verbindet, um das öffentliche Bewusstsein für die Schäden und sozialen wie kulturellen Auswirkungen von AI zu schärfen.
Dieser Film handelt von der Entdeckung der MIT-Media-Lab-Forscherin Joy Buolamwini, die herausfand, dass viele Gesichtserkennungstechnologien schwarze oder weibliche Gesichter nicht richtig erkennen, was zu einer breiteren Untersuchung von Algorithmen im Allgemeinen führt.
In diesem Videoessay wird näher beleuchtet, wie algorithmische Technologien Daten verarbeiten und welche diskriminierenden Implikationen sich daraus ergeben.
Dieser Videoessay erkundet, wie eine Welt für diejenigen aussieht, die von algorithmischen Systemen diskriminiert, ausgeschlossen und/oder ausgegrenzt werden.
Dieser Leitfaden ist eine Hilfestellung für einen respektvollen Umgang miteinander und konzentriert sich auf diskriminierende Äußerungen, die nicht böswillig gemeint, aber dennoch verletzend sind. Der Leitfaden dient der Reflexion des eigenen Handelns und Erlebens.
Dieser Leitfaden zur intersektionalen Pädagogik dient als Handreichung für Lehrer*innen und Erzieher*innen, um das Bewusstsein für verschiedene bestehende Identitäten zu erweitern und zu zeigen, wie diese im pädagogischen Alltag aktiv berücksichtigt und anerkannt werden können.