Vor dem Hintergrund ihres gesellschaftlichen Einflusses und der Breite ihrer Auswirkungen ist es zwingend notwendig, sich mit Technologien wie KI, ihren Funktionsweisen und Logiken auseinanderzusetzen. Doch ganz einfach scheint dies nicht – algorithmische Entscheidungssysteme werden oft mystifiziert oder es wird vermittelt, dass mensch sich ohne entsprechende technische Kenntnisse keine eigene Meinung bilden könne. Zeit damit aufzuräumen: Diese Systeme gehen uns alle an.

In verschiedenen Teams haben sich Expert*innen für algorithmische Entscheidungssysteme, für rassismuskritische Arbeit, für Bildung und politische Bildungsarbeit, für feministisches Policy- und Zine Making, für Medienwissenschaft, für utopisches Theater und für Machine-Learning-Kunst zusammengefunden, um in aufeinander aufbauenden Worklabs miteinander zu arbeiten und praktische Einheiten für Kunstunterricht und kulturelle Bildung zu entwerfen.
Den Rahmen für die Materialienerstellung im Algorithmic Literacy Lab* bildete das Framing „verstehen – hinterfragen – reimaginieren“. Dabei sind drei Workshopkonzepte und Materialien entstanden, die thematisch ineinandergreifen. So werden in einem Modul zunächst wichtige Funktionsweisen und Hintergründe von KI verständlich gemacht, im nächsten werden Gestaltungsstrukturen von KI-Systemen kritisch betrachtet und hinterfragt und in einem dritten Modul wird dazu angeregt, selbst zu reimaginieren, wie solche Technologien aussehen und wie sie eingesetzt werden könnten:

Das geheime Leben einer KI

Das Zine-Making-Themenmodul Das geheime Leben einer KI zielt darauf ab, KI-Technologien zu entmystifizieren und dominante technologiezentrierte Denkweisen des Globalen Nordens in Frage zu stellen. Auf kreative Art und Weise setzen sich die Teilnehmenden beispielsweise mit der Funktionsweise von Algorithmen auseinander, mit dem ganz reellen Rohstoffverbrauch und der menschlichen Ausbeutung, die mit algorithmischen Systemen einhergeht, wie zum Beispiel die prekäre Arbeitssituation von sogenannten Click-Worker*innen, die für Centbeträge Datensätze labeln.

You got the Power! Visionen für transfeministische Technologien aus der Zukunft

Was ist eigentlich Technologie und wie ist sie mit Macht und Kontrolle verbunden? Damit beschäftigt sich das zweite Themenmodul You got the Power! Visionen für transfeministische Technologien aus der Zukunft. Obwohl Technologie oft als neutral und objektiv bezeichnet wird, wird sie von Menschen gemacht und entsteht aus sozialen Strukturen. Im Workshop wird spielerisch auf die Beziehung zwischen Extraktion, Marktwirtschaft und Kommodifizierung eingegangen und durch kollektive Praktiken der Vorstellungskraft anhand des Kartensets „Oracle for Transfeminist Technologies“ gemeinsam über andere Formen von möglichen zukünftigen Technologien nachgedacht.

The Cat Classifier – Hands-on-Machine-Learning-Workshop

Das dritte Themenmodul The Cat Classifier – Hands-on-Machine-Learning-Workshop zielt darauf ab, Machine Learning für die Teilnehmenden erfahrbar zu machen und die Technik praktisch auszuprobieren, um so ein Verständnis für die Funktionsweisen von algorithmischen Systemen zu entwickeln und gemeinsam ihre Möglichkeiten und Grenzen zu explorieren. Durch das Arbeiten mit dem „Cat Classifier“ und das Trainieren der KI mit Katzenbildern, nähern sich die Teilnehmenden spielerisch dem maschinellen Lernen an.

Herausgebende des Bundles:

Nushin Isabelle Yazdani ist Interaktions- und Transformationsdesignerin, Künstlerin und KI-Forscherin. In ihrer Arbeit untersucht sie die Verflechtung von digitalen Technologien und sozialer Gerechtigkeit, Künstlicher Intelligenz und Diskriminierung aus einer intersektionalen feministischen Perspektive. Oft verwendet sie spekulative Designmethoden und versucht, Designprozesse zu erforschen, die unterdrückende Strukturen aufbrechen.

Facilitators und Redakteurinnen des Bundles:

Konstanze Schütze (Prof. Dr.) Kuratorin und Kunstpädagogin, lehrt und forscht zur Kunstpädagogik/-vermittlung unter Bedingungen von Digitalisierung und Digitalität. Sie untersucht Fragen der bildwissenschaftlichen Medientheorie, und konzipiert transdisziplinäre Forschungssettings. Seit 05/23 Professur für Ästhetische Bildung und Kunstvermittlung an der Pädagogischen Hochschule Karlsruhe, vorab Juniorprofessur Kunst Medien Bildung an der Univerisität zu Köln (ab 05/2019).

Kristin Klein forscht an der Schnittstelle von Kunst, digitaler Technologie und Bildung und entwickelt Bildungsformate für kritisches Handeln, spekulatives Denken und die Mitgestaltung einer nachhaltigeren Zukunft.

Beitragende des Bundles:

Karla Zavala Barreda ist Forscherin, Designerin und digitale Projektmanagerin, die an der Schnittstelle von Software, Design und Bildung arbeitet. Sie ist Mitbegründerin des Forschungs- und Designstudios internet teapot, einer Kollaboration, die sich auf spekulative sowie kritische Designprojekte und -forschung konzentriert, welche sich aus gemeinsamen Interessen an digitaler Kultur, kritischer Theorie und der Überzeugung ergeben, dass Design auf sozial-transformative Weise genutzt werden kann. Sie hat einen Masterabschluss in Media Arts Cultures und ist derzeit Doktorandin im Fachbereich Medienwissenschaften an der Universität Amsterdam, wo sie zur Ökologie von Apps und Lernsoftware für Kinder forscht.

Raziye Buse Çetin ist KI-Forscherin, Beraterin und Kunstschaffende. Ihre Arbeit beschäftigt sich mit der Ethik, den Auswirkungen und der Regulierung von KI-Systemen in Forschung, Politik und Kunst. Buse ist Mitbegründerin und Forschungsleiterin der KI-Forschungs-, Interessenvertretungs- und Kunstplattform Dreaming Beyond AI. Sie berät eine Reihe von Kund*innen zu Datenethik, Intersektionalität und sozialen Auswirkungen von KI. Buse hat mit dem Think Tank für KI-Regulierung, The Future Society, als KI-Politikforscherin gearbeitet und ist Mitglied der AI Commons. Sie ist redaktionelle Leiterin des Projekts Civic Data Library of Context der Civic Software Foundation und arbeitet mit der IEEE SA’s AI-driven Innovation for Cities and People Initiative zusammen. Buse hat einen Masterabschluss in International Public Management von der SciencesPo Paris School of International Affairs (PSIA).

Lia Colemans Arbeit dreht sich um das Zusammenspiel von Kunst, KI-Technologien, Ethik und Software. Derzeit betreibt Lia kreative KI-Forschung an der Carnegie Mellon University. Lia ist Mitorganisatorin des NeurIPS-Workshops über maschinelles Lernen in Kreativität und Design, unterrichtet als Lehrbeauftragte Machine-Learning-Kunst an der Rhode Island School of Design und hat zusammen mit der Partnership on AI einen Leitfaden für Künstler*innen zur ethischen Nutzung von Machine Learning erstellt. Lia ist Absolventin des Massachusetts Institute of Technology (BSc, Computer Science) und der School For Poetic Computation in NYC. Lias Arbeiten wurden in der Science Gallery Detroit, beim Tribeca Film Festival, an der New York University, bei NeurIPS, RunwayML, dem Mozilla Festival und Gray Area ausgestellt. Lias Texte wurden von Princeton Architectural Press, der Zeitschrift DISEÑA und dem Neocha Magazine veröffentlicht.

Monika Elias ist wissenschaftliche Mitarbeiterin am Grimme-Institut in Marl. Sie arbeitet an Forschungsprojekten zu Big Data und Digitalisierung in Ganztagsschulen und ist Redaktionsleiterin der Webseiten der Grimme-Forschung und des Grimme-Forschungskollegs an der Universität zu Köln.

Ed Greve ist Pädagoge und Aktivist mit den Arbeitsschwerpunkten Antidiskriminierung, Selbstbestimmung, Partizipation und Vielfalt. Als politischer Referent beim Migrationsrat Berlin e.V. vertritt er Minderheitenthemen/-anliegen und leistet Netzwerk- sowie Bildungsarbeit gegen Rassismus und Diskriminierung. Er kandidierte für die Wahl zum Berliner Abgeordnetenhaus 2021 und wurde dabei von der genossenschaftlich organisierten Partei Brandneuer Bundestag unterstützt, die eine fortschrittliche, zukunftsweisende Politik in Sachen Gleichstellung, Nachhaltigkeit, Partizipation und Vielfalt verfolgt.

Als Theaterpädagogin, Musikerin und Kulturvermittlerin arbeitet Sarah Fartuun Heinze an der Schnittstelle von Theater, Spielen und Musik. In ihrer Arbeit konzentriert sie sich auf Empowerment und die Entwicklung von Ideen und von Utopien, um individuelle und gesellschaftliche Transformationsprozesse zu bewirken. Derzeit betreut sie mit dem Projekt UtopienSoundSuche einen digitalen Theaterclub am Theater Oberhausen, der ein digitales, interaktives Hörspiel rund um die Erforschung utopischen Denkens zur Initiierung von Transformationsprozessen produziert. Im Auftrag des Bildungszentrums Anne Frank arbeitet Sarah Fartuun Heinze als Autorin und Dramaturgin an zwei Serious Games zum Thema Radikalisierungsprävention im Internet.

Carolin Jakob ist Masterstudentin an der Universität zu Köln. Sie studiert Kunst und Biologie und bewegt sich explorativ an den erweiterten Grenzen von Natur und Kultur. Derzeit schreibt sie ihre Masterarbeit über algorithmische Kulturen als sichtbare Regime in einer ökologischen Phänomenologie. Sie interessiert sich für die soziotechnischen und biopolitischen Aspekte von Sichtbarkeit im Kontext territorialer Kämpfe um Repräsentation, Kontrolle und Partizipation und ist wissenschaftliche Mitarbeiterin am Institut für Kunst und Kunsttheorie der Universität zu Köln.

Eva Maria Klein hat ihren Master in Kunst, Deutsch und Erziehungswissenschaften an der Universität zu Köln absolviert und war wissenschaftliche Hilfskraft am Institut für Kunst und Kunsttheorie. Zurzeit arbeitet sie in einem Vermittlungsprogramm am Museum Ludwig und ist Lehrerin für die Fächer Kunst und Deutsch an einem Gymnasium in Köln. Schwerpunkte ihrer Forschung sind Netzwerktheorien, Kunstpädagogik im Kontext digitaler Kulturen sowie Strategien kollaborativer Zusammenarbeit und deren antidiskriminierende Möglichkeiten.

Adriaan Odendaal ist ein Multimediadesigner und Webentwickler, dessen Arbeit sich um algorithmische Kompetenz, kritisches und spekulatives Design, digitale Kultur sowie Spiel- und Softwareforschung dreht. Er ist Mitbegründer des Forschungs- und Designstudios internet teapot, einer Kollaboration, die sich auf spekulative sowie kritische Designprojekte und -forschung konzentriert, welche sich aus gemeinsamen Interessen an digitaler Kultur, kritischer Theorie und der Überzeugung ergeben, dass Design auf sozial-transformative Weise genutzt werden kann. Adriaan Odendaal hat einen Masterabschluss in Media Arts Cultures und arbeitet derzeit als Autor, Designer und Webentwickler für das Podcasting-Netzwerk Volume.

Nelly Y. Pinkrah ist Kultur- und Medientheoretikerin sowie politische Aktivistin. Sie schreibt über und befasst sich mit Themen wie Rassismus, Gender und Medien(-technologie). Sie arbeitet an ihrer Doktorarbeit über Édouard Glissant und die Kybernetik an der Leuphana Universität Lüneburg, wo sie mit dem Centre for Digital Cultures kooperiert. Im Jahr 2021 war sie Dozentin an der Rijksuniversiteit Groningen. Von Oktober 2018 bis Mai 2019 war sie Doctoral Fellow am Global Emergent Media Lab der Concordia University, Montréal. Im Jahr 2019 organisierte sie die erste Stanford Leuphana Summer Academy on Media Studies. Im Jahr 2020 veröffentlichte sie gemeinsam mit Erich Hörl und Lotte Warnsholdt Critique and the Digital (diaphanes Verlag/Chicago University Press). Demnächst erscheint die Ausgabe der Zeitschrift für Medienwissenschaft, in der sie zusammen mit Ömer Alkin und Jiré Emine Gözen Gastredakteurin für X | Kein Lagebericht ist. Nelly ist Humanity in Action Senior Fellow und Mitglied des Steuerungskomitees des deutschen Forums Antirassismus Medienwissenschaft (FAM).

Anna Sprenger ist Masterstudentin in den Studiengängen Intermedia und Medien- und Kulturwissenschaften an der Universität zu Köln. Ihre Forschungsschwerpunkte sind postkoloniale Theorie, die Kolonialgeschichte und Kolonialität von Algorithmen und KI-Systemen sowie dekoloniale Praktiken und Ansätze zur Dekonstruktion dieser Systeme. Sie ist wissenschaftliche Mitarbeiterin am Institut für Kunst & Kunsttheorie der Universität zu Köln und arbeitet im Verlagswesen als Redakteurin für digitale Inhalte und Social Media.

Alexa Steinbrück ist Softwareentwicklerin, Künstlerin und Designforscherin. Sie ist spezialisiert auf die Entwicklung von Webanwendungen, Webseiten und mobilen Apps mit Schwerpunkt auf Benutzeroberflächen und Datenvisualisierungen. Ihre Forschungsinteressen konzentrieren sich auf die Darstellung und Wahrnehmung von KI im öffentlichen Diskurs und in Verbraucherprodukten. Sie hat einen Abschluss in Künstlicher Intelligenz und leitet ein Labor für Künstliche Intelligenz & Robotik an der Hochschule für Kunst und Design Burg Giebichenstein, wo sie kreative Anwendungen von KI-Technologien erforscht. Sie hat bereits für die Vereinten Nationen als Software- und Designberaterin gearbeitet und war Teil des Datenjournalismus- und Datenvisualisierungsprojekts Streetscapes bei der deutschen Onlinezeitung ZeitOnline.

Serkan Ünsal ist Pädagoge und Aktivist mit einem Masterabschluss in internationaler Migration und interkulturellen Beziehungen. Er ist Teil des Teams, das die Instagram-Seite @erklaermirmal leitet, ein Bildungsformat, das politische Begriffe und Themen aus einer (post-)migrantischen und queeren Perspektive erklärt, um den Zugang zur Politik zu erleichtern und die Wissensproduktion zu stärken. Serkan Ünsal arbeitet auch im Education Innovation Lab, einem Think & Do Tank, der sich durch die Entwicklung von Bildungsformaten und -materialien, die kritisches Denken und die Mitgestaltung einer nachhaltigen Zukunft ermöglichen, für eine grundlegende Neugestaltung von Bildungssystemen einsetzt.

Joana Varon ist Geschäftsführerin und Creative Chaos Catalyst bei Coding Rights, einer von Frauen geführten Organisation, die sich für die Aufdeckung und Bekämpfung von Machtungleichheiten in Technologie und ihrer Anwendung einsetzt, insbesondere solcher, die Ungleichheiten zwischen Gender und zwischen dem Westen/Globalen Süden verstärken. Sie ist Technology and Human Rights Fellow am Carr Center for Human Rights Policy der Harvard Kennedy School und Mitglied des Berkman Klein Center for Internet and Society der Harvard University. Als ehemalige Mozilla Media Fellow ist sie Mitbegründerin mehrerer kreativer Projekte, die sich mit dem Zusammenspiel von Aktivismus, Kunst und Technologie befassen, etwa transfeministech.org, chupadados.com, #safersisters, Safer Nudes, protestos.org, Net of Rights und freenetfilm.org.