Michael Klipphahn-Karge, Ann-Kathrin Koster, Sara Morais dos Santos Bruss (Hg.) Queere KI KI-Kritik / AI Critique | Band 3 Editorial Kritik heißt zum einen seit Kant das Unternehmen, die Dinge in ihrer Funktions- weise und auf die Bedingungen ihrer Möglichkeit hin zu befragen, sowie zum anderen nach Foucault das Bemühen um Wege, »nicht dermaßen regiert zu wer- den«. KI-Kritik / AI Critique veröffentlicht kultur-, medien- und sozialwissen- schaftliche Analysen zur (historischen) Entwicklung maschinellen Lernens und künstlicher Intelligenzen als maßgeblichen Aktanten unserer heutigen techni- schen Welt. Die Reihe wird herausgegeben von Anna Tuschling, Andreas Sudmann und Bern- hard J. Dotzler. Michael Klipphahn-Karge ist Kunstwissenschaftler und studierte Bildende Kunst und Kunstgeschichte in Dresden, Berlin und Ústí nad Labem. Er arbeitet der- zeit an seiner Dissertation, die er zu Verschränkungen von KI und Magie in der Gegenwartskunst an der Technischen Universität Dresden verfasst. Außerdem ist er Kollegiat des Schaufler Lab@TU Dresden und Redakteur des Online-Journals w/k – Zwischen Wissenschaft & Kunst. Sein Forschungsinteresse gilt der Kunst der Moderne und Gegenwart, ihrer Vermittlung sowie der Verbindung von Kunst und Wissenschaft. Dahingehende Schwerpunkte liegen auf Bildkulturen techni- scher und digitaler Systeme, Künstlicher Intelligenz, Geschlechterkonstruktio- nen, Gender und Queerness sowie Theorien über Animismen, Magie und Ritual in der Kunst. Ann-Kathrin Koster hat Politikwissenschaft, Soziologie und Interkulturelle Gen- der-Studies in Trier und Washington, D.C. studiert. Ihre Forschungsinteressen liegen im Bereich der Demokratietheorie, wobei sie sich gegenwärtig vor allem mit epistemologischen Zugängen zu Demokratie und Technik auseinandersetzt. In ihrer Dissertation beschäftigt sie sich mit dem Wechselverhältnis von De- mokratie und künstlicher Intelligenz. Von 2020 bis 2022 war sie Kollegiatin am Schaufler Lab@TU Dresden. Aktuell ist sie wissenschaftliche Mitarbeiterin am Weizenbaum-Institut/Wissenschaftszentrum Berlin für Sozialforschung. Darü- ber hinaus ist sie Mitglied bei netzforma* e.V., einem Verein, der sich mit feminis- tischer Netzpolitik auseinandersetzt. Sara Morais dos Santos Bruss ist Kultur- und Medienwissenschaftlerin, Autorin und Kuratorin am Berliner Haus der Kulturen der Welt. In ihrer Arbeit beschäftigt sie sich mit kulturellen Technologiemythen aus feministischer und dekolonialer Perspektive. 2020 promovierte sie im DFG-Graduiertenkolleg Minor Cosmopolitanisms der Uni- versität Potsdam, danach übernahm sie die Leitung des Digital-Gender-Projekts der GenderConceptGroup an der Technischen Universität Dresden. In ihrer Disserta- tionsschrift Feminist Solidarities after Modulation (punctum press, 2023) schreibt sie eine Kulturgeschichte technologischer Identitäten und sucht (feministische) Kollektivität vor dem Hintergrund algorithmischer Evidenz- und Identitätslogiken zu begreifen. Sie ist außerdem Mitglied von diffrakt. Zentrum für theoretische Peripherie und Re- dakteurin bei kritisch-lesen.de. Michael Klipphahn-Karge, Ann-Kathrin Koster, Sara Morais dos Santos Bruss (Hg.) Queere KI Zum Coming-out smarter Maschinen Dieser Band wurde gefördert durch das Schaufler Lab@TU Dresden – einem Projekt der TU Dresden und von The Schaufler Foundation – sowie durch die GenderConceptGroup – einem Forschungsbereich des Bereichs Geistes- und Sozialwissenschaften der TU Dresden. Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbib- liografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. Dieses Werk ist lizenziert unter der Creative Commons Attribution-NoDerivatives 4.0 Lizenz (BY-ND). Diese Lizenz erlaubt unter Voraussetzung der Namensnennung des Urhebers die Ver- vielfältigung und Verbreitung des Materials in jedem Format oder Medium für beliebige Zwe- cke, auch kommerziell, gestattet aber keine Bearbeitung. (Lizenztext: https://creativecommons.org/licenses/by-nd/4.0/deed.de) Um Genehmigungen für Adaptionen, Übersetzungen oder Derivate einzuholen, wenden Sie sich bitte an rights@transcript-publishing.com Die Bedingungen der Creative-Commons-Lizenz gelten nur für Originalmaterial. Die Wieder- verwendung von Material aus anderen Quellen (gekennzeichnet mit Quellenangabe) wie z.B. Schaubilder, Abbildungen, Fotos und Textauszüge erfordert ggf. weitere Nutzungsgenehmi- gungen durch den jeweiligen Rechteinhaber. Erschienen 2023 im transcript Verlag, Bielefeld © Michael Klipphahn-Karge, Ann-Kathrin Koster, Sara Morais dos Santos Bruss (Hg.) Umschlaggestaltung: Bureau Neue, Leipzig Umschlagabbildung: Roger Lehner und Arne Winter (Bureau Neue), Leipzig Übersetzung: Französisch-Englisch: Simon Cowper; Englisch-Deutsch: Die Herausgeber*innen Lektorat: Anna von Rath/poco.lit, Berlin Korrektorat: Nico Karge, Dresden/Jena Druck: Majuskel Medienproduktion GmbH, Wetzlar Print-ISBN 978-3-8376-6189-7 PDF-ISBN 978-3-8394-6189-1 https://doi.org/10.14361/9783839461891 Buchreihen-ISSN: 2698-7546 Buchreihen-eISSN: 2703-0555 Gedruckt auf alterungsbeständigem Papier mit chlorfrei gebleichtem Zellstoff. Besuchen Sie uns im Internet: https://www.transcript-verlag.de Unsere aktuelle Vorschau finden Sie unter www.transcript-verlag.de/vorschau-download Inhalt Vorwort Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss ............ 9 Einleitung: Queering KI Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss ........... 13 I. Falsifikation Queere KI als materiell-diskursive Apparate Ann-Kristin Kühnen .....................................................................39 Von Gesichtsweiblichkeit und Verweiblichung Eine kritische Analyse der statistischen Physiognomik mit KI Kris Vera Hartmann ..................................................................... 57 II. Somatik Monströse Körper, ambige Maschinen Jordan Wolfsons (Female Figure) Michael Klipphahn-Karge ................................................................ 77 Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von Künstlicher Intelligenz Ute Kalender .......................................................................... 103 III. Konstruktion Hack back! Die historische Abwertung von Queerness bei KI und Potenziale des ›hacking back‹ Natalie Sontopski .......................................................................121 Queering Intelligence Eine Theoretisierung des Intelligenzbegriffs als Performance sowie eine Kritik individueller und künstlicher Intelligenz Blair Attard-Frost ...................................................................... 137 IV. Intervention – künstlerische Beiträge PAST-DICK-TION Malin Kuht, Gestaltung: Emilia Sladek ................................................... 160 State of Queerness Computing An artistic/activist thought experiment Valérie Félix ........................................................................... 165 V. Pathologisierung Patching und Hoarding Rekodierungen von digitalen Reproduktionstechnologien Katrin Köppert..........................................................................181 KI als Medium und ›message‹ und die (Un-)Möglichkeit einer queeren Antwort Johannes Bruder ...................................................................... 201 VI. Narrativ Innovation und Iteration Queere Maschinen und das Spannungsverhältnis zwischen Manifest und Manifestor*in Carsten Junker ........................................................................ 217 KI in der Wildnis Queere Technoökologien in Jeff VanderMeers Annihilation Sara Morais dos Santos Bruss ..........................................................237 Nachwort Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss ..........257 Autor*innenverzeichnis .......................................................... 261 Vorwort Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss Systeme künstlicher Intelligenz (KI) sind durch ihre Geschichte, Normierung und implizite Rationalität mit intersektionalen Diskriminierungsformen verwo- ben. Und wir treffen permanent auf diese systemischen Benachteiligungen durch die technologische Reproduktion normativer Stereotype oder durch maschinelle Prozesse, durch die das Subjektive in Statistiken eingehegt, klassifiziert und sub- sumiert wird. Parallel ist uns bewusst, wie stark technologische Erweiterungen genutzt werden können, um gesellschaftliche Teilhabe zumultiplizieren. Die Persistenz und Breite dieser Kollisionserfahrungen im Zusammenhangmit künstlich-intelligentenSystemenweckten inunsHerausgeber*inneneinerseitsden Wunsch, diese verschiedenen Betrachtungsweisen zu verstehen und zu bündeln, und andererseits nach queeren, d.h. dezidiert pluralen, entnormierenden und of- fenenMöglichkeiten imUmgangmit KI zu fragen sowie die transdisziplinären Im- pulse und Ergebnisse zu reflektieren, die aus dieser Befragung resultieren. Der vorliegendeBandQueereKI.ZumComing-out smarterMaschinen ist dasErgeb- nis dieser Reflexion und wir verstehen ihn unserem Anliegen entsprechend als eine Erkundung des Feldes queerer KI. Er basiert auf dem zuvor von uns ausgerichte- ten Symposium gleichen Titels, das am 24. und 25. Juni 2021 virtuell an der Tech- nischen Universität Dresden (TU Dresden) stattfand. Ziel war es, Queerness und KI aus geistes-, sozial- und kulturwissenschaftlichen Perspektiven zu betrachten und an die Auseinandersetzung mit digitalen Technologien, die diese Disziplinen seit einigen Jahren leisten, anzuknüpfen. Angesichts der vielfältigen disziplinären Zugänge hielten wir es für sinnvoll, die gemeinsam geleistete plurale Verschrän- kung von KI und Queerness in diesem Symposiumsband zu versammeln. Auf diese Weise erweitern wir diverse und interdisziplinäre Zugänge zu dieserThematik und geben möglichst vielfältigen Diskussionsbeiträgen sowie einem differenztheoreti- schen Anspruch Raum. Wiedas grundlegendeSymposium ist auchdieserBand aus einer Zusammenar- beit zwischen dem Schaufler Lab@TUDresden und der GenderConceptGroup der TU Dresden entstanden. Im Schaufler Lab@TU Dresden, das gemeinsam vonThe Schaufler Foundation und der TU Dresden initiiert wurde, befassen sich Wissenschaftler*innen und 10 Queere KI Künstler*innen mit Wechselwirkungen zwischen Technik, Kunst, Wissenschaft und Unternehmer*innentum. Das Lab besteht aus den zwei Säulen des Gradu- iertenkollegs Schaufler Kolleg@TU Dresden und der Künstler*innenresidenz Schaufler Residency@TU Dresden. Mitherausgeber*innen Michael Klipphahn- Karge und Ann-Kathrin Koster forschten während der Entstehung dieses Bandes als Kollegiat*innen am Schaufler Kolleg@TU Dresden zum Leitthema ›Künstliche Intelligenz als Faktor und Folge gesellschaftlichen und kulturellenWandels‹. Mit der GenderConceptGroup haben sich Professor*innen aus denGeistes- und Sozialwissenschaften der TU Dresden zusammengeschlossen, die in ihren jeweili- gen Disziplinen den Schwerpunkt auf Geschlechterforschung bzw. Gender-Studies legen. Die GenderConceptGroup versteht sich als Forum für die Erforschung von Geschlechterbeziehungen in Geschichte und Kultur mit dem Ziel, aktuelle Themen der Gender-Studies im universitären Kontext zumarkieren. An dieser Stelle möch- ten wir besonders das Projekt Digital Gender herausstellen, in dem Mitherausge- berin SaraMorais dos Santos Brusswährend der Entstehungszeit dieses Bandes die Gegenseitigkeit von Geschlecht, Gender und Digitalisierung untersucht hat. An dieser Stelle sei allen Angehörigen und Mitarbeitenden dieser Institutionen gedankt, allen voran ProfessorinMaria Häusl und Professor LutzM.Hagen für ihre Unterstützung, sowie den Förder*innen, die diesen Band ermöglicht haben: The Schaufler Foundation, der GenderConceptGroup und der TU Dresden. Außerdem möchten wir unseren Autor*innen, den Coverdesignern des Bureau Neue und dem Team des transcript Verlags sowie unserer Lektorin Anna von Rath von poco.lit. danken. Für die zahlreichen formalen und inhaltlichen Hinweise sowie für die konstruktiven Gespräche danken wir Sebastian Berg, Richard Groß, Nico Karge undThorstenThiel. Nicht unerwähnt bleiben soll, dass die Nennung unserer Namen als Herausge- ber*innen dieses Bandes nach alphabetischer Ordnung vorgenommen worden ist; dieseReihung trifft demnachkeineAussageüber Ideengebungoder denArbeitsauf- wand, der vollkommen gleich verteilt gewesen ist. Wir möchten unser Vorwort mit einer kurzen Bemerkung zur Sprache in die- sem Band schließen. Gerade in einem so viel diskutierten Feld wie denTheoretisie- rungen rund um Queerness, aber auch in einem so stark interdisziplinär frequen- tierten Feld wie der KI-Forschung scheint uns einerseits eine begriffliche Stringenz wichtig und relevant für die Glaubwürdigkeit der hier versammelten Untersuchun- genundAnalysen.Daher habenwir uns bspw. für eine unbedingte Schreibweisemit Gendersternchen ausgesprochen, wenn dadurch keine historische Generalisierung produziert wird. Auch erfordern Begriffe wie ethnisch, bias, Race, Queerness oder weiß eine dedizierte Kontextualisierung,welche die diversen Lebensrealitäten aner- kennt, die zur Formung dieser Begriffe beigetragen haben und die als Erfahrungs- schatz in diese Begriffe eingeschrieben sind. Andererseits wolltenwir sicherstellen, dass alle Autor*innen die Freiheit haben, die Realitäten ihres Fachs, aber auch ihrer Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss: Vorwort 11 eigenen Erkenntnisse und Selbstverortungen abzubilden.Daher habenwir eine ge- wisse perspektivische Varianz hinsichtlich der Verwendung einschlägiger Begriffe, der spezifischen wissenschaftlichen Vorgehensweise und des Umgangs mit Über- setzungen zugestanden und eine jeweils individuelle Schwerpunktsetzung inner- halb der jeweiligen Beiträge ermöglicht. Einleitung: Queering KI Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss If war is technological, perpetual, and networ- ked, queer networks can provide interstices – places of difference that unite queer activists, intellectuals, and artists in technological agen- cy. The gay bomb detonates a regulatory stan- dard for homosexuality. Gay Bombs is a strate- gy that blows up this standard with the hopes of re-wiring a non-standard of queerness. Gay Bombs explode into interstices of infinite mu- tation. (Blas 2008a) 1. Gay Bombs In seiner Werkgruppe Queer Technologies1 (Abb. 1) verhandelt der Künstler Zach Blas seit deren Initiation im Jahr 2008 das Verhältnis von Geschlecht, Gender und Tech- nologie. Der Künstler arbeitet dafür mit verschiedenen Displays, die an Formen kommerziellerWarenauslagen angelehnt sind. Auf einzelnen Präsentationsflächen sind diverse Objekte und Monitore zu sehen, die teilweise mit einer raumseitigen Beschriftung ausgestellt werden. Einend ist der ideelle Kontext, in den die unter- schiedlichen Produkte eingebettet sind. So ist das Ziel der Werkgruppe, Artefakte, Informationen und Instruktionen bereitzustellen, die zu einemQueering von Tech- nologien einladen, derlei Handlungen anleiten, zu Aktionen verhelfen und erste Ergebnisse präsentieren. 1 https://zachblas.info/works/queer-technologies/. 14 Queere KI Abb. 1: Zach Blas, Disingenuous Bar als Teil derWerkgruppe Queer Technologies, 2008–2012, Installationsdetail, NewWight Gallery, University of California, Los Angeles (2008).2 Ein Beispiel: Die Werkgruppe beinhaltet etwa die ENgendering Gender Changers (Abb. 2), die verpackt und geformt sind wie eben jene Adapter, die etwa in Elek- trofachmärkten vertrieben werden, bspw. für Fernsehgeräte zum Zweck der Kon- vertierung elektronischer Übertragungen.Blas hinterfragtmit dieser Rekontextua- lisierung eines herkömmlichen Konsumgegenstandes bewusst und überspitzt die Verbindung von Geschlecht, Identität und der Hardware-Konnektivität informati- onstechnischer Kulturen. Durch die Möglichkeit, sich selbst durch einen solchen Adapter zu konvertieren, schlägt der Künstler eine Palette von Durchkreuzungen zugunsten einer Lösung des Problems binärer Geschlechterkonstruktionen vor, da der Adapter ein fluidesWechseln zwischen Geschlechtsidentitäten ermöglicht. Blas verweist mit dieser Kollektion auf das explosive Umdeutungspotenzial ei- ner pluralenund aufMehrdeutigkeitenfixiertenReimaginationspraxis,wobei nicht nur bestehende Technologien gequeert, sondern auch Techniken für ein aktives Queering entwickelt werden. Mit einem solch aktivistisch geprägten Werkbegriff und seiner korrespondierenden Ausstellungspraxis kritisiert er naturalisierende Sichtweisen auf Geschlecht und Gender, die sich in technischen Artefakten wie technologischen Architekturen manifestieren und reproduzieren. Außerdem stellt er den Besucher*innen politische Werkzeuge zur Verfügung, mit denen die eben kritisierten Naturalisierungsbestrebungen durchbrochen und einer Neuverhand- lung unterzogen werden können. 2 Quelle: © Zach Blas, Foto: Christopher O’Leary. https://zachblas.info/works/queer-technolog ies/. Zugegriffen: 07. September 2022. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 15 Abb. 2: Zach Blas, ENgendering Gender Changers als Teil derWerk- gruppe Queer Technologies, 2008–2012, Installationsdetail, New Wight Gallery, University of California, Los Angeles (2008).3 Besonders die in dieser Werkgruppe enthaltene Arbeit Gay Bomb veranschau- licht das Queering maschineller Verfahren. Die Arbeit besteht aus einer Videoin- stallation, die bildsynthetische Nachbildungen von Blas’ Vorstellungen einer ›Gay Bomb‹ in Form einer pinkenGranate zeigt, deren Zündermit der AbkürzungQT für QueerTechnologies versehen ist.Zugehörig ist der Arbeit ein beiliegendes technisches Handbuch-Manifest. Darin verschränkt Blas diskursive und materielle Ebenen ei- nes Queerings automatisierter Kriegsführung, indem er Queerness als Taktik der Disruption von Konsum und Heteronormativität beschreibt (vgl. Blas 2008b: 14). Dieser Werkstrategie ist ein Verständnis des Terminus Queer inhärent, das auch für den vorliegenden Sammelband zentral ist: Grundlegend ist die Vorstellung von Queer als kritischer Praxis, die sich gegen naturalisierende und vereindeutigende Ausdeutungen sozialer, kultureller und politischer Sichtweisen richtet sowie das ih- nen inhärente Repressionspotenzial herausstellt (vgl. Case 1991: 3). Queering ver- weist dabei auf machtkritische Strategien, Optionen und Möglichkeitsräume, mit deren Hilfe bestehende Verständnisse und Zuschreibungen zu Gender, Geschlecht, aber auchKategorisierungenwiemännlich/weiblich konstatiert, kritisiert und kon- trastiert werden können.Ziel solcher Interventionen ist es, vorherrschendeKatego- rien und Normen in ihrer Konstruiertheit herauszustellen und neu zu definieren. Der im obigen Zitat angesprochene Mythos der ›Gay Bomb‹ bezieht sich auf eine im Jahr 1994 begonnene und im Jahr 2005 eingestellte Forschungslinie des 3 Quelle: © Zach Blas, Foto: Christopher O’Leary. https://zachblas.info/works/queer-technolog ies/. Zugegriffen: 07. September 2022. 16 Queere KI US-Militärs, die zum Ziel hatte, eine aphrodisierende Chemiewaffe zu entwickeln, die wortwörtlich ›gay‹ machen sollte. Der Untersuchung lag die Vorstellung zu- grunde, dass eine solche Waffe die gegnerische Kriegspartei zur Unterwerfung zwingenwürde, da sie sie nicht nur von Kampfhandlungen ablenken, sondern auch dazu führen würde, dass sich Widersacher vor lauter Scham über das plötzlich aufkommende gleichgeschlechtliche Begehren ergeben würden. Blas beschreibt, wie sich diese Idee einer faktischen Bombe zunächst in medialen Diskursen ma- nifestiert und reproduziert, darüber hinaus jedoch auch konkrete Technologie wird: Statt einer biochemischen ›Gay Bomb‹ wird Afghanistan 2003 von einem tatsächlichen Sprengkörper getroffen. Dieser Sprengkörper wurde jedoch zuvor von einemMarinesoldatenmit der Aufschrift ›High jack this Fags‹ versehen,die den homofeindlichenHintergrund derMilitäroperation eindeutig veranschaulicht (vgl. Blas 2008b: 29).Was zunächst als Überlegungen im Labor seinen Anfang fand, ver- schränkt schließlich in konkret-materieller FormOrientalismus, antimuslimischen Rassismus undHomofeindlichkeit in einemArtefakt dermilitaristischen Industrie: Technologie erscheint hier in aller Deutlichkeit als gegenderte Kontrollmacht, aller- dings mit Vorzeichen, die umgekehrt zu jedweder Art queeren Bestrebens liegen. Technik und Nekropolitik sind somit auf das Engste miteinander verschränkt.4 Deutungsangebote für Lesarten der ›Gay Bomb‹ sind vielfach retrospektiv und reichenbis indenmedialenMainstreamhinein: vonStanleyKubricks FilmDr.Stran- gelove (1964) über das Musikvideo zu Ask (1987), einem Song der Band The Smiths, hin zu einer Episode der Fernsehserie 30 Rock (2/15, 8. Mai 2008). In letzterer explo- diert die ›Gay Bomb‹ fälschlicherweise im Pentagon. Was folgt, ist eine überzeich- nete Szene, in der sich die berüchtigten ›altenweißenMänner‹ der US-Führungsrie- ge erotisiert, schwitzend und in gegenseitiger Ekstase näherkommen. Durch diese mediale Reinterpretation verändert sich die Bedeutung der ›Gay Bomb‹ erneut, da sich ihr Einsatz in der Szene der TV-Serie nach innen, also gegen die eigentlichen Bombenwerfer richtet.Somitwirddie ursprünglicheEinsatzintention verkehrt:Die einst alsWaffe auserkorene und damit als schambehaftet verstandeneHomosexua- lität wird nun – wohlgemerkt nicht weniger verächtlich – auf die Repräsentation von Männlichkeitskonzepten innerhalb des Militärs projiziert. Auch wenn die Be- wertungen der Repräsentationen sicherlich unterschiedlich ausgehen, können sol- che Multiplikationen und Transformationen der ›Gay Bomb‹ mit Zach Blas als »ter- roristische« (Blas 2008b: 25; Übersetzung d. Vf.) Aneignung heteronormativer Zu- schreibungen verstanden werden. Ihnen inhärent ist die Möglichkeit, Heteronor- mativität von innen zu stören. Sowird die Idee der konkretenMaterialisierung und Medialisierung der ›Gay Bomb‹ auch über Camp, Drag und queere Subkultur pre- 4 Mit dem Begriff der Nekropolitik beschreibt Achille Mbembe in Anlehnung an Foucault die Befähigung zu entscheiden, wer leben und wer sterben kann (vgl. Mbembe 2011). Queer ist in diesem Beispiel, wer von der ›Gay Bomb‹ getroffen wird. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 17 undremediatisiert (vgl.Grusin/Bolter 2010;Grusin 1999). IhrkonkreterEinsatzwird mithin von einem sozio-politischen Aushandlungsprozess flankiert, der die zuvor ausgestellte Eindeutigkeit des Artefakts zu verwischen sucht. Queerness, so verdeutlicht das Beispiel, entsteht hier eindeutig mit, über und durch die Technologie, die sich auch gegen ihre Schöpfer*innenwendet. So arbeitet Blas in seinemUser’sManual zurGayBomb (Abb. 3)mit ebendemMandat, das auf die Afghanistan-Bombe projiziert wurde: ›Hi-JackThis Queers!‹. Abb. 3: Zach Blas, Gay Bombs: User’s Manual als Teil derWerkgruppe Queer Technologies, 2008–2012, Installationsdetail, SPECULATIVE, Los Angeles Contemporary Exhibitions (2011).5 Doch wird dieser Handlungsauftrag umgekehrt und fungiert nun als eine Ein- ladung und Ansprache an queere aktivistischeNetzwerke: Zerstört werden soll jetzt die der Technologie inhärente und durch sie reproduzierte Norm, allerdings durch queere politische Aktionen und Formationen, die auf der Entwicklung, demEinsatz und der Verbreitung von queerer Technologie basieren. Durch diese Aneignungs- strategien einer queeren Vielzahl zeigt sich, dass Technik selbst offen und in Teilen unbestimmt ist und somit in ihrer konkreten Anwendung und Aneignung einen ei- genen Möglichkeitsraum darstellt, dem widerständiges Potenzial innewohnt, das freigesetzt werden kann – z.B. durch eine Diskursumleitung im Sinne eines vita- len, von Blas geforderten,mutierenden politischenKörpers queerer Ermächtigung. 5 Quelle: © Zach Blas, Foto: Christopher O’Leary. https://zachblas.info/works/queer-technolog ies/. Zugegriffen: 07. September 2022. 18 Queere KI Technik lässt sich somit vor allem als unbestimmt definieren. Erst ein solches Verständnis veranschaulicht dieMöglichkeit,dass Technik inunterschiedlichenAn- wendungskontexten auf ganz verschiedeneWeise realisiert und vielfältig sozio-po- litisch nutzbar gemacht werden kann (vgl. Gamm 2000: 275; Gamm/Hetzel 2015: 9). Das hier angeführte Beispiel zeigt die Grenzen eines Technikverständnisses auf, welches das Technische lediglich als ein Instrument ohneWiderspruch versteht, da selbst ein in hohem Maße funktionell determiniertes und zur Tötung bestimmtes technisches Artefakt für queere Imaginationen vereinnehmbar erscheint. Wie das Exempel der ›Gay Bomb‹ veranschaulicht, sind Technologien einge- bunden in das sozio-kulturell Imaginäre, das wiederum multiple Möglichkeiten für Umdeutungen und Aneignungen bereitstellt. Technik erschließt sich nie- mals aus sich selbst heraus, vielmehr ist sie einerseits in konkrete soziale wie kulturelle Normen eingebettet und andererseits in hohem Maße kontext- und an- wedungsgebunden.Blas’Werk zeigt, dass Geschlecht,Gender und Sexualität starke Strukturierungselemente von Technik sind und wie sehr sie als Reibungspunkte eigenen Raum beanspruchen und dabei auf die Technik selbst zurückwirken. Parallel lässt sich Blas’ Werk, das durch den Bezug zu konkreten materialisierten Artefakten besticht, auf digitale Technologien übertragen. Denn auch im Kontext digitaler Technologien stellen sich Fragen nach veränderten Bedingungen und Geschichten von Macht und Einfluss und damit von Machtgenese und -erhalt. Ebenso prominent werden Fragen nachMöglichkeiten der Aneignung von Technik, der Emanzipation von, mit und durch Technologien und des Widerstandes durch queere Mehrdeutigkeiten artikuliert. 2. Künstliche Intelligenz Die bisher angedeuteten Verschränkungen von Technologie, Gesellschaft, Ge- schlecht und Gender stehen nicht für sich, sondern lassen sich auch auf aktuelle AushandlungenderAutomatisierung intelligentenVerhaltens sowie desmaschinel- lenLernens inSystemenkünstlicher Intelligenz (KI) übertragen.So spielt KI, anders als im Beispiel von Blas, nicht mehr nur im militärischen Kontext eine Rolle, viel- mehr ist eine wortwörtlich explosive Ausbreitung von KI im Alltag zu verzeichnen. Diese Omnipräsenz trägt dazu bei, dass KI zu einem Begriff schillernder Offenheit geworden ist, der zunehmend Eingang in verschiedene Disziplinen und Diskurse findet.Mit einer solch ubiquitären Verbreitung ist zumeist auch eine Verwässerung des Begriffs verbunden: KI scheint derzeit alles zu beschreiben, was in irgendeiner Weise automatisiert bzw. autonom und damit rein maschinell agieren kann. So werdenunter demBegriff sowohl einzelne technischeArtefakte, insbesondereAlgo- rithmen, aber auch vernetzte Technologien oder Sprachassistenzsysteme wie Alexa oder Siri subsumiert. Darüber hinaus sind ebenso generalisierte Bezugnahmen Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 19 zu Robotik oder Wearables zu nennen. Einbezogen werden ebenfalls spezifische Methoden des maschinellen Lernens – besonders prominent ist hier das soge- nannte ›Deep Learning‹ unter Einbeziehung neuronaler Netze (vgl. Sudmann 2018; LeCun/Bengio/Hinton 2015) – sowie spezifische Einsätze von KI, etwa zur Struk- turierung von Suchmaschinenergebnissen und abonnierbaren, automatisierten Nachrichtendiensten (vgl. Ingold 2017; Ungern-Sternberger 2019). Dies führt mitunter zu starken Verallgemeinerungen in der Auseinanderset- zung mit dem Wechselverhältnis von KI und Gesellschaft. KI wird dahingehend zu einer Art Universaltechnologie erklärt, die geeignete Lösungen für technische wie nicht-technische gesellschaftliche oder politische Probleme bereithält (vgl. Ertel 2016). Beispiele finden sich dabei in vielfältigen Kontexten, so etwa in der Gleichsetzung von Mechanisierung und Ökonomisierung in der Arbeitswelt, der KI-basierten Emotionserkennung mittels Analyse von Gesichtsbewegungen zum Zwecke der Qualifikationsanalyse oder schlicht der Überwachung öffentlicher Räume mit dem Ziel einer Aufrechterhaltung von Ordnung oder Sicherheit. Die effiziente und schnelle Verarbeitung einer umfassenden Menge unterschiedlicher Daten verspricht Objektivität, Effektivität und Genauigkeit und hält somit das Versprechen hoch, sich von einer menschlichen Fehlerhaftigkeit und Voreinge- nommenheit abzusetzen. Daten werden gleichgesetzt mit konkretem Wissen, das durch Verfahren der Berechnung einer gesellschaftlichen ›Wahrheit‹ – die hier contra Foucault – als universal gesetzt wird. Dabei lohnt ein genauer Blick in die unterschiedlichen Einsätze undKontextua- lisierungen von KI. Erst so wird es möglich, sich dem Phänomen aus unterschied- lichen Disziplinen und Herangehensweisen – ideengeschichtlich, begriffskritisch, narratologisch sowie deskriptiv-analytisch oder dekonstruierend – zu nähern und somit unterschiedliche Schwerpunkte in der Auseinandersetzungmit KI zu setzen. Während – ausgehend von der Zivilgesellschaft – der Einsatz von KI bereits seit einiger Zeit kritisch begleitet und evaluiert wird sowie politische Programme und Handlungsempfehlungen auf den Weg gebracht werden,6 nimmt sich zunehmend auch eine breite ForschungdemPhänomenempirischund theoretisch an.7 So formt sich ein interdisziplinär ausgerichtetes Forschungsfeld, das politische, soziale und ökonomische Problemfelder in denBlick nimmt und dabei versucht, die Bedrohung gesellschaftlicher Gleichheit und Freiheit durch Technik theoretisch einzufangen 6 Zu nennen wären hier etwa AlgorithmWatch, eine Initiative, die sich dem Thema Diskrimi- nierung durch Algorithmenwidmen, oder auch netzforma* e.V., ein Verein, der sich dezidiert mit feministischen Positionen zu KI und mit Netzpolitik ganz allgemein auseinandersetzt (vgl. AlgorithmWatch 2019). 7 Insbesondere die feministischen Science-und-Technology-Studies setzen sich mit solchen Phänomenen auf breiter Basis bereits seit einigen Jahrzehnten auseinander und haben da- her auch in der jüngeren Geschichte Vorschub für derlei Forschungen geleistet. 20 Queere KI (vgl. jüngst etwa Amoore 2020; Crawford 2021; Coeckelbergh 2022). Zur Beschrei- bung sozio-technischer Problemkonstellationen dominieren in Bezug auf KI spezi- ell die Begriffe derDiskriminierung undMacht. Ziel solcher Ansätze und Auseinan- dersetzungen ist es,über ihre normativewie normierendeWirkmächtigkeit endetail nachzudenken. Gleichzeitig eröffnen sie die Möglichkeit algorithmische Systeme, Informationsmodelle und datenbasierte Handlungsräume von einem rein instru- mentell-technischen Verständnis zu lösen und diese stärker innerhalb von Gesell- schaften zu verankern. 2.1. Diskriminierung Zur Beschreibung der sozio-politischen Auswirkungen von KI wird vielfach der Begriff der Diskriminierung herangezogen. Im Kontext von Systemen künstlicher Intelligenz bezieht er sich auf ungerechtfertigte Ungleichbehandlungen wie auch ungerechtfertigte Gleichbehandlungen im Kontext algorithmischer Informations- verarbeitung. Die Beispiele sind zahlreich: wenn der Rekrutierungsalgorithmus von Amazon tech-affineMänner als deutlich passender für Amazons Jobpositionen ausweist als ebenso tech-affine Frauen, wenn ein Bilderkennungsprogramm von Facebook Bilder von Schwarzen Menschen in die Kategorie ›Primaten‹ einsortiert oder Facebook indigene Namen als ›unecht‹ klassifiziert, weil der Algorithmus ausschließlich mit den Daten anglo-amerikanischer, weißer und oft männlicher Personen trainiert wurde.8 Zentral ist dabei die Funktionsweise von KI: Damit eine KI funktioniert, muss diese konkrete Klassifikationen anhand konkreter Daten vornehmen und somit einige Datenmerkmale ab- und andere aufwerten (vgl. Amoore 2020: 8). Damit eine KI Ergebnisse produziert, muss sie somit im eigentlichen Wortsinne ›diskriminieren‹ (vgl. dazu ausführlich und anschaulich Lopez 2021). Ein solch komplexer Sachverhalt wird zumeist auf einen technischen Begriff bzw. eine technische Fehlerhaftigkeit reduziert: einen sogenannten bias. Dieser ist das Resultat einer problematischen Repräsentationspolitik und kann auf unterschiedlichen Ebenen auftauchen. Zumeist wird ein fehlerhafter, nicht- diverser Datensatz als verantwortlich markiert (vgl. ausführlicher zu den Ebenen und Aspekten algorithmischer Diskriminierung Schwarting/Ulbricht 2022). So können –wie im Fall der Bewerbungen – Verzerrungen in den Daten vorliegen. Im Fall der Gleichsetzung Schwarzer Menschen mit Primaten oder der von kritischen Theoretikerin Safiya Noble erforschten Repräsentationslücke zu Informationen für und über Schwarze Mädchen ist es jedoch nicht zwangsläufig das Fehlen an Daten 8 Die Liste an Beispielen ist schier endlos, wie ein Blick in die Monografien von Ruha Benjamin (2019) und Safiya Noble (2018) verdeutlicht. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 21 über Schwarze Menschen, sondern deren Kategorisierung nach rassistischen und sexistischen Stereotypen (vgl. 2018; Angwin et al. 2016).9 Ein rein technisches Verständnis von Diskriminierung verdeckt jedoch die Tat- sache, dass Wertungen und Zuschreibungen – auch begriffliche – in hohem Ma- ße an kategoriale Zuweisungen gebunden und entsprechend strukturiert sind. Das zeigen etwa vielfältige realweltliche Ungleichheiten und bereits existierende termi- nologische Ausschlüsse.10 Derartige Exklusionen sind bedingungsgebend für ein Verständnis von unterschiedlichen Wertungen an sich. Der Einsatz von KI ist da- her immer an einer aus Datensätzen herausgelesenen Norm orientiert, die wieder- um historisch oftmals auf dem Ausschluss marginalisierter Positionen basiert. So zeigt etwa die Autorin, Filmemacherin und Künstlerin Hito Steyerl, wie sich auch auf der Ebene des Auslesens von Daten erneut Rassismen, Stereotype und struktu- relle Ungleichheiten artikulieren: Als das führende Technologieberatungsunterneh- men Booz Allen, das u.a. für die US-Regierung tätig ist, die demografischen Infor- mationen einer Luxushotelkette untersuchte, stellte sich heraus, dass dort zahlrei- che Jugendliche ausVorderasienundNordafrika übernachtetenund indenweltweit verteilten, durchgängig hochpreisigen Standorten eingebucht waren. Wie Steyerl schreibt, vertraute die Firma ihrer Datenanalyse nicht und verwarf die Information als einen Fehler im Algorithmus, als schmutzige Daten: 9 In Algorithms of Oppression beschreibt Noble (2018), wie Suchmaschinen ihr bei der Suche nach Inhalten zum Stichwort ›black girls‹ wiederkehrend Pornografie sowie eine einzelne und wenig erfolgreiche Rockband anzeigte. Keine der angezeigten Webseiten war tatsäch- lich auf Schwarze Mädchen ausgerichtet. Wenn die großen Spracherkennungssoftwares ihre Lernprozesse auf Grundlage von Daten aus dem Internet vollziehen, ist KI zwar theoretisch mit Daten, die Bilder Schwarzer Frauen zeigen, trainiert worden, ordnet diesen aber der Be- deutung von pornografischenObjekten unter. Sowiederholt das Technische die schmerzhaf- te Stigmatisierung, die diese Gruppe historisch erfahren hat und die realweltliche Diskrimi- nierungspraktik, die sie nach wie vor erfährt. 10 Gerade das Umgehen einer klaren Beschreibung kognitiver und geistiger Leistungsfähigkeit ist der Beschäftigung mit KI zu eigen, in der das Erreichen von ›Intelligenz‹ oftmals das na- mensgebende Ziel darstellt. Vor allem in öffentlichen und auf Generalisierung fokussieren- den Debatten werden Einflussnahmen wie Herkunft, sozialer und ökonomischer Status so- wie die damit einhergehende Verfügbarkeit von kontextualisiertem Wissen oftmals ausge- blendet. Synonym stellt eine dementsprechende Klassifizierbarkeit des Konzeptes eines ge- richteten Denkvorgangs vor allem in Relation zumMaschinellen ein Grundproblem dar, das in der historischer Rückschau eugenische und segregative Mechanismen tangiert (vgl. Chun 2021). Parallel wird die Mehrdimensionalität, die in den Intelligenzbegriff eingeschrieben ist, durch die starke reduktive Verengung im Sinne seiner vermeintlichen technologischen Eindeutig- und Einheitlichkeit ignoriert. Andererseits steht der Kritik am Intelligenzbegriff seine Multiplizität entgegen, die sich mit der Breite und Offenheit queerer Wissenszugänge potenziell in Einklang bringen lassen kann. Diesen Zusammenhängen widmet sich auch der Beitrag von Blair Attard-Frost in diesem Band. 22 Queere KI The demographic findingwas dismissed as dirty data – amessed up andworthless set of information – before someone found out that, actually, it was true. Brown teenagers, in this worldview, are likely to exist. Dead brown teenagers? Why not? But rich brown teenagers? This is so improbable that they must be dirty data and cleansed from your system! (Steyerl 2016, o. S.) Derartige Verzerrungen des Ergebnisses einer vermeintlich repräsentativen Erhe- bung zeigen eine unangemessene Unterscheidung im Berechnungsverfahren auf, da ein spezifisches Merkmal durch eine fehlerhafte Bedeutungszuweisung nicht korrekt kalkuliert wird.Dabei kann eine solche Fehlkalkulation empirischesWissen betreffen, wie es am Beispiel des falschen Vergleichs von SchwarzenMenschen und Primaten evident geworden ist. Sie kann jedoch auch zu sinnhaften Schlüssen füh- ren, die Problemlagen offenlegen: Aus einer bisher schlechten Stellung von Frauen auf dem Arbeitsmarkt soll zukünftig keine weitere geschlechtliche Diskriminie- rung erfolgen.11 Dieses Beispiel legt dar, dass einem solchen Phänomen nicht etwa mit einem reinen ›Mehr‹ an Daten zu begegnen ist, wodurch sich die technische Berechnungsgrundlage spezifizieren würde. Steyerl zeigt eindrücklich, dass zwar Daten vorhanden sind, diese jedoch gelöscht, als falsch klassifiziert oder ignoriert werden (können) und gerade solchen Sachverhalten reaktionäre Momente des Festschreibens kultureller Evidenzen innewohnen. Das, was sich zunächst als ein technisches Verfahren offenbart, – die Ab- und Aufwertung von Datenmerkmalen – ist historisch gebunden und sozio-politisch determiniert. 2.2. Macht Ein –nach derMediensoziologin JuttaWeber – »Gendering von Technologie« (2017: 349; Übersetzung d. Vf.) geht über den Verweis auf technische Diskriminierungen hinaus.Während es im Kontext des Begriffs der Diskriminierung um die Parallelen vonWertungenund sozio-politischenStrukturen geht,hebt derBegriff derMacht– parallel zumBegriff der Intelligenz–aufwirkmächtige Potenziale vonNormen ent- lang spezifischer Stereotype in Bezug auf Race, Geschlecht und Gender, aber auch Herkunft, ökonomischemStatus undReligion ab. Auch Technik ist von diesen nicht losgelöst denkbar, vielmehr gerät das Ineinandergreifen epistemologischer und so- zio-politischer Aspekte gezielt in den Blick: Es geht um die sich über algorithmi- sche Verfahren etablierenden »Strukturen und Modi der Wissensproduktion und Wahrheitsfindung« (2019a: 12) in datengetriebenen Gesellschaften, so die Soziolo- gin Bianca Prietl. In den Fokus der Auseinandersetzung rückt somit die Frage, wel- ches Wissen von algorithmischen Systemen wie produziert wird und wie sich die- 11 In Ann-Kristin Kühnens Beitrag in diesem Band geht es ausführlicher um den bias und unter- schiedliche Versuche, diesem zu begegnen. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 23 ses gelebte Wissen komplementär in sozio-politische Strukturen übersetzt. Wenn es um den Konnex von KI und Macht geht, dann gerät jene – vornehmlich westlich und kausallogisch orientierte – Form der Generierung vonWissen in den Blick (vgl. ebd.: 21). Darin wird Wissen durch seine Rationalisierung qua numerisch-mathe- matischer Logik als wahr und legitim begriffen (vgl. Becker/Seubert 2019), infolge- dessen sich ein Verständnis von Erkenntnis durchsetzt, das sich an den Parametern der Berechnung, Abstraktion und Verallgemeinerung orientiert.12 KI wird damit vor allem hinsichtlich ihrer definitorischen Macht greifbar. Damit ist gemeint, dass mithilfe von Systemen künstlicher Intelligenz an der Fassung der Wirklichkeit mitgewirkt und damit die Bedeutung dessen, was als ›normal‹ und damit auch als ›wünschenswert‹ gilt, definiert wird (vgl. Amoore 2020: 6f.). In Anlehnung an Zach Blas lässt sich sagen, dass diese Praktiken einer sukzessiven Rahmung gesellschaftlicher Realität dienen, die sich maßgeblich an der heteronormativen Norm orientiert. Systeme künstlicher Intelligenz werden vor diesem Hintergrund eingesetzt, um eine sozio-politische Entwicklung voran- zutreiben und das »Leben jenseits der herrschenden Norm(en) zu marginalisieren [und] gesellschaftliche Macht- und Ungleichheitsverhältnisse ebenso wie sym- bolisch-kulturelle Phänomene auszublenden« (Prietl 2019b: 312). Sichtbar wird mithin ein doppeltes Spiel: Einerseits orientiert sich KI in der Produktion von relevantem Wissen grundlegend an bereits bestehenden Hierarchisierungen und Exklusionen innerhalb von Gesellschaften, indem KI in ihrer Funktionsweise an gesellschaftlich hegemonialen Normen ausgerichtet ist. Andererseits wird mittels KI an Normierungsprozessen mitgewirkt, indem sie zur Wissensgenerierung in unterschiedlichen gesellschaftlichen Kontexten eingesetzt wird. Dabei werden Mehrdeutigkeiten, Abweichungen und Alternativen marginalisiert, die sich nicht in und durch Datensätze quantifizieren und subsumieren lassen. Durch die Verarbeitung schier unendlicher Datenmengen durch KI-Systeme wird somit kulturell technologiegebundenes undumfangreichesWissen geschaffen –z.B. spezifisch heteronomes, okzidentalistisches oder aus ökonomischerRentabi- lität gewonnenes, generalisiertesWissen.DiesesWissen scheint als eine definitori- sche Macht übersetzbar, da grundlegende Technologien dafür anwendungsbasiert 12 KI wird vielfach in alltäglichen Situationen wie der Sortierung von Nachrichteninhalten auf Plattformen und Suchmaschinen eingesetzt, aber auch im Kontext von juristischen Verfah- ren und Polizeiarbeit. Beispiele hierfür sind computergestützte Vorhersagen über Wahr- scheinlichkeiten des Kriminalitätsgeschehens, das sogenannte ›Predictive Policing‹, sowie die Identifikation von Personen in Sozialen Netzwerken. In Onlineshops wiederum findet KI Anwendung, wenn es darum geht, Gruppen von Verbraucher*innen und Kaufvorlieben zu identifizieren und Nutzer*innen über Werbung zu bespielen. Aber auch in der Medizin und Krankenpflege wird die Arbeit mittels KI unterstützt und so technisch generiertes Wissen in konkrete Handlungsabläufe integriert. Jene ubiquitäre Verbreitung trägt dazu bei, KI als Produzentin von gesellschaftlich relevantemWissen zu verstehen. 24 Queere KI sozio-politische Verhältnisse mitprägen, produzieren und multiplizieren. Die da- mit verbundenen Verfahren sind folglich weit entfernt von neutralen Zuordnungen und objektiven Bedarfsermittlungen. Daher rückt die Frage in den Fokus, auf wel- che Art undWeise bestehendeVerhältnisse und Individuen in ein deterministisches Regime hegemonialer Sichtweisen mithilfe von Systemen künstlicher Intelligenz eingegliedert werden. Der konstatierte Wandel in der Genese von sozio-politischem Wissen im Zu- sammenspiel von Gesellschaft und KI geht demnach mit der Frage nach konkre- ten Veränderungen im Gefüge gesellschaftlicher Über- und Unterordnung einher. Besonders berührt wird dabei das zentrale Merkmal moderner Gesellschaften, wo- nach »nahezu alles zum Gegenstand politischer Willensbildung und Entscheidung gemachtwerdenkann« (Selk 2011: 185).DennKIwird vielmehrmit »Moment[en] der Normalisierung« (Müller-Mall 2020: 37) qua technischerRationalisierung inVerbin- dunggebracht (vgl.Koster 2021).DamitnimmtderBegriff derMachtnichtmehrnur die epistemischen Grundlagen von Gesellschaften im Zeitalter vermeintlich intelli- genter Technik in den Blick, sondern stellt technologische Dominanz als mehrheit- lich verschränkt mit konkreten Ordnungsentwürfe in denMittelpunkt. Von Bedeutung ist in diesem Kontext, dass KI faktisch als Entscheidungsin- stanz auftritt: So betont der Begriff der algorithmischen Entscheidungsfindung, das sogenannte ›algorithmic decision making‹, dass intelligente Systeme nicht allein Datensätze auswerten, sondern darüber hinaus auf Basis ihrer Analysen auch konkrete Entscheidungen eigenmächtig treffen (vgl. AlgorithmWatch 2020). Entscheidungskompetenz wird so zunehmend delegiert und der menschliche Entscheidungsspielraum eingehegt. Soziale, kulturelle und politische Konsequen- zen werden durch Logiken der Linearität, der Ähnlichkeit und der statistischen Häufung ersetzt. Intelligente Systeme können damit als technokratische Len- kungsmodi verstetigt werden, wonach Akte der Verwaltung durch Technologien sukzessive die Macht menschlichen Handelns ersetzen würden (vgl. Müller-Mall 2020). Gesellschaften werden mithin nicht mehr von einem Modus der Aushand- lung von unterschiedlichen und gegensätzlichen Interessen geleitet, welcher die Konstruktion einer gemeinsamenWelt zum Ziel hat, als vielmehr von einem ratio- nal-technischenWeltverständnis, das Funktionalität vor Subjektivität schaltet. 3. Queering Diehier dargelegteBetonungderGegenseitigkeit vonMacht undKIunddieVerstri- ckung vonKImit grundlegenden,dieGesellschaft durchziehenden hierarchisierten Strukturen sollen in diesem Sammelband nicht negiert, jedoch von Momenten ih- rer Durchkreuzung, Durchbrechung und Aufhebung flankiert werden. Dazu wird insbesonderederEntfaltungundAnwendungeines queerenWissensverständnisses Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 25 Raum gegeben. Denn, wie Ann-Kristin Kühnen dies in ihrem Beitrag treffend for- muliert, »jede technologische Wissensproduktion (erzeugt) unweigerlich Ein- und Ausschlüsse und ist damit beschränkt, kontingent und partikular«. Parallel stellt die Explikation vonWissensgenese, -transfer und -teilung selbst immerwieder den »Ausgangspunkt für Grenzverschiebungen und Destabilisierungen« dar (vgl. We- ber/Bath 2003). Im Anschluss an ein Foucaultsches Wissensverständnis ist Wissen niemals homogen oder einheitlich vorhanden, vielmehr ist gesellschaftlich aner- kanntes und als legitim geltendesWissen das Resultat von konkreten Praktiken, die in einem spezifischen Gefüge verortet werden (vgl. Foucault 1974). Wissen ist da- mit stets unvollständig, multidimensional, situationsgebunden und plural. In den Fokus rücken so – neben den epistemischen Schließungen – vor allem epistemi- sche Überschüsse und Uneindeutigkeiten, die auf Risse imWesensgefüge desWis- sens hinweisen, die wiederum einen queeren Umgang mit digitalen Technologien ermöglichen. Die im Sammelband vorliegenden Texte eint dabei der Bezug auf ein aus den Queer-Studies entlehntes Verständnis des Begriffs ›Queer‹, wobei sie auf je unterschiedliche Facetten und Schwerpunksetzungen Bezug nehmen. Zentral ist bei diesemBezugdasVerständnis der Veruneindeutigung (vgl.Engel 2002), das den Queer-Studies seit jeher eingeschrieben ist. Wenngleich in den Nullerjahren des jungen Jahrtausends queerer Performance und Repräsentation oftmals ein präde- stinierendes Moment des ›Schocks‹ zu eigen war und dieser Umstand – vielleicht auch fälschlicherweise –befriedet zu seien scheint (vgl.Haschemi Yekani/Michaelis 2005), ist in Zeiten der algorithmischen Evidenzlogik der anti-identitäre Impetus der Queer-Studies als geistiges und politisches Werkzeug der (Macht-)Kritik und als der Verweis auf Multiplizitäten weiterhin von zentraler Bedeutung. Denn eine dezidiert queere Betrachtungsweise als Analyserahmen kann ebenjene Logiken der Sichtbarkeit hinterfragen,mit denen algorithmische Systeme und künstliche Intel- ligenzen trainiert werden. Sie kann sowohl als Konzept der Desidentifikation die- nen, wie Queertheoretiker José Esteban Muñoz vorschlägt (vgl. 1999), und das re- duktiveUmreißen queerer Subjekte durchKI persiflieren als auch imSinne desKri- tikers Lee Edelman (vgl. 2004) fragen, ob eine wie auch immer geartete Inklusion in ein heteronormativ konstruiertes System jemals eine befriedigende Option für queeres Leben sein kann. In beiden Fällen drückt sich eine queere Disposition aus, die sich den Verhältnissen entzieht und sich darum bemüht, nicht beherrscht zu werden. Sie birgt das Potenzial,marginalisierten Positionenweit über die Spektren von Geschlecht, Gender und Sexualität hinaus Raum zu geben. Dieses queereWissensverständnis durchkreuzt damit dasdominanteVerständ- nis von KI als ein spezifisch technisches System. Wenn über KI gesprochen wird, dann meist unter Verweis auf datengetriebene technische Informationsverarbei- tungsverfahren. KI wirdmithin enggeführt auf »Methoden des datenbasiertenMa- chine Learning« (Lopez 2021: 44; vgl. Ernst et al. 2019: 12; Sudmann 2018). Solche Verfahren bestehen aus miteinander verschalteten und auf formalisierten Berech- 26 Queere KI nungen basierenden technischen Einheiten.13 Die als starr und reinmathematisch- numerisch empfundenen Strukturen hinter künstlich intelligenten Systemen wer- dendabei zumeist als unzugänglich und schwer verständlich definiert, sodassmög- liche Veränderungen als erschwert beziehungsweise schwer realisierbar empfun- denwerden.Ausgehend von einem solchenGegenstandsverständnis liegt es auf der Hand, dass entweder um ›technical fixes‹ im Sinne konkreter Lösungen und Opti- mierungen gerungen (vgl. Morozov 2011) oder gleich das Handtuch geworfen wird. Dies geht oftmalsHand inHandmit demAusrufendesEndes grundlegender gesell- schaftlicherNormenderGleichheit,Gerechtigkeit,Freiheit undSelbstbestimmung. Dass solche Rahmungen als situierte und kulturelle Narrative zu begreifen sind und dass Vorstellungen von KI ebenso viel mit kulturellen Normen und fiktiona- len Zuschreibungen zu tun haben wie mit realen rechnerischen Formeln oder tech- nologischer Materie, führt zu der Erkenntnis, dass technologische Entwicklungen unddas Schaffen plausibler fiktionaler Szenarien oft zwei SeitenderselbenMedaille sind (vgl. Dainton et al. 2021). Beide artikulieren ein Verständnis der Funktionswei- se von Welt, gepaart mit der fantasievollen Fähigkeit, neue oder alternative Erklä- rungen für diese zu (er-)finden. Eine »algorithmische Anthropologie« (Seaver 2017) beschäftigt sich somit nicht nurmit technischen, sondern auchmit kulturellen, äs- thetischenund semantischenPraktikenundEffekten algorithmischerSysteme,ver- steht sie also immer schon als multipel, zu einem gewissen Grad deutungsoffen und daher – wie bei dem eingangs herangezogenen Beispiel des Werkes Gay Bomb – auch als umdeutbar. So lässt sich das »soziotechnisch Imaginäre« (Jasanoff/Kim 2015), das KI zu eruieren sucht, u.a. mittels kultureller Objekte – wie anhand von 13 Ausgeblendet wird hier zumeist die lange Geschichte der KI-Entwicklung, welche bereits mehrere Leitparadigmen ausgebildet und so unterschiedliche Schwerpunkte gesetzt hat. In den 1950er- und 1960er-Jahren – den Gründungs- und Anfangsjahren der KI-Forschung – herrschte insbesondere ein symbolisches Paradigma vor, wonach es vor allem darum ging, über logische Schlussfolgerungsregeln formale Repräsentationen desWissens mit Hilfe von Computern abzubilden (vgl. Ernst et al. 2019: 11f.). Ziel war es, »mittels Computerprogram- men einen kognitiven, menschenähnlichen Gedankenprozess zu simulieren« (Lopez 2021: 44). Unter dem subsymbolischen Paradigma formierte sich hernach die Sichtweise, dass ins- besondere die neuronalen Strukturen und Verarbeitungsmechanismen des menschlichen Gehirns als Vorbild für Computerprogramme betrachtet werden sollen. Statt eines dedukti- ven Verfahrens symbolischer KI stehen damit nun induktive Verfahren im Vordergrund, die mittels großer Datensätze trainiert werden. Viel wichtiger als die unterschiedlichen tech- nischen Strukturen ist jedoch, dass mit den jeweiligen Paradigmen unterschiedliche for- schungsleitende Fragen und Annahmen verbunden sind: »Nach demWechsel von einem re- gelbasierten zu einem datenbasierten Paradigma wird nun nicht mehr die Frage gestellt, ob derWeg zu einem Ergebnis sinnvoll ist« und somit etwa logischen Kriterien entspricht. »Viel- mehr wird entlang verschiedener mathematischer Gütekriterien beurteilt, ob das Ergebnis hinreichend zufriedenstellend ist. Ist das der Fall, dannwird stillschweigend unterstellt, dass auch der Weg dorthin sinnvoll gewesen sein muss« (ebd.). Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 27 Filmen und Kunstwerken – verhandeln. Im Umkehrschluss sind auch technische Metaphern für gesellschaftliche Prozesse fruchtbar und Gegenstand einer queeren Untersuchungspraxis. 4. Konzeption Ausgehend von den unterschiedlichen im Sammelband abgebildeten Diszipli- nen – Anglistik, Bildende Kunst, Curatorial-, Digital- sowie Disability-Studies, Designsoziologie und -theorie, feministische Science-and-Technology-Studies, Informations- und Medienwissenschaften, Kunstgeschichte, Kultur- und Litera- turwissenschaft, Medizinethik und Soziologie –, die alle eine starke interdiszipli- näre und dahingehend gender- und queertheoretische Rahmung aufweisen, sollen unterschiedliche Aspekte vonKI herangezogenwerden und ein breitesNachdenken über den Gegenstand anregen. Der Band teilt die enthalten interdisziplinären Beiträge in sechs Kapitel auf, die je zwei Beiträge enthalten, welche die Polaritäten und Potenziale des themati- schen Komplexes ausloten. Die diversen Untersuchungen, die Fragen nach queerer KI erkunden, sind dabei mindestens einer dieser inhaltlichen Deutungsweisen zu- geordnet, können aber inmanchen Fällen auch quer zu ihnen, oder zu anderen, gar mehreren Deutungsweisen stehen. Wenngleich die Beiträge also als Vorschlag für den Lesefluss in eine Reihenfolge gebracht wurden, die in der Wahrnehmung der Herausgebenden am ehesten den interdisziplinären Einstieg und eine gegenseitige Reibung gewährleistet, können sie auch in anderer Anordnung, gekreuzt und ge- geneinander gelesen werden. Beginnend mit dem Stichwort der Falsifikation wird die Widerlegung von Ob- jektivitätsversprechen, die inmit KI verbundene Körpertechniken eingebettet sind, verhandelt.Ann-KristinKühnen bespricht in ihrem Beitrag »Queere KI als materi- ell-diskursive Apparate« die Denkfigur des Apparates als queertheoretischen Ana- lyserahmen. Ziel ist es, die mannigfaltigen Verschränkungen von Macht, Wissen und Materialität in KI-Systemen in den Blick zu nehmen. Die Überlegungen wer- den amBeispiel eines KI-Systems verdeutlicht, das in denUSA zur algorithmischen Gesundheitsrisikoprognose eingesetzt wurde und –wie viele andere KI-Systeme – aufgrund rassifizierter Diskriminierungspraktiken in das Sichtfeld der Öffentlich- keit rückte. Mit Hilfe der Denkfigur des Apparates geraten in der Analyse aus dem Bereich der Soziologie zur Gesundheitsrisikoprognose neben der technischen vor allem auch die historischen, ökonomischen und biopolitischen Einbettungen von KI-Systemen in den Fokus. Vor diesemHintergrund wird das KI-System als biopo- litische Regulierungstechnologie gedeutet. Kris Vera Hartmanns Beitrag »Von Gesichtsweiblichkeit und Verweiblichung. Eine kritische Analyse der statistischen Physiognomik mit KI« analysiert aus einer 28 Queere KI kritischen sozialwissenschaftlichen Perspektive eine Studie zur maschinellen ›Er- kennung‹ der sexuellen Orientierung aus Gesichtsbilddaten.Hartmanns Rekontex- tualisierung der Studie aus dem Blickwinkel der Medizinethik fokussiert auf ver- schiedene methodologische Mängel und legt dar, wie und warum trotz der hand- lungsanleitendenSchwächen einRückgriff auf biologistischeModelle gezogenwur- de und KI somit zu einem ›verzauberten Verstärker‹ von bestehenden heteronor- mativen und rassistischen Strukturen gemacht wird, ohne auf eine kausallogische Verständlichkeit bauen zu müssen. So falsifiziert Hartmann Evidenzlogiken einer vieldiskutierten Studie zur algorithmischen Erkennung queerer Gesichter und ord- net dahingehende Erkenntnisse im historischen Kontext physiognomischer Denk- versuche ein. Entlang der bereits im Kapitel Falsifikation exemplifizierten und für Queerness per se determinierenden Körperpraktiken und -politiken bespricht das darauffol- gende Kapitel Somatik Repräsentationskonzepte queerer Körper. Im Sinne der Ge- bundenheit und Gegenseitigkeit künstlicher Systeme und körperlichen Materials referiert das Kapitel über somatische und technische Interaktivität. Aber auch Ab- stoßungsmechanismen und daraus resultierende Ambivalenzen spielen eine über- geordnete Rolle. Michael Klipphahn-Karges Beitrag »Monströse Körper, ambige Maschinen. Jordan Wolfsons (Female Figure)« konstatiert, dass künstliche Körper häufig stell- vertretend für queere Subjekte und deren Verkörperung in Ausstellungskontexten erscheinen. Er exemplifiziert daher die Verschränkung queerer und gleichzeitig künstlicher Körper anhand des Kunstwerks (Female Figure) von Jordan Wolfson aus dem Jahr 2014. Mit dem Ziel, eine Ästhetik der Uneindeutigkeit in den Fokus queerer Darstellungspraxen zu rücken, hangelt er sich an der Denkfigur des Ro- boters entlang, einem eng mit Systemen künstlicher Intelligenz verschränkten Hauptreferenzpunkt von (Female Figure).Mittels der Vermittlung von Ambivalenzen und Ambiguitäten stellt seine Untersuchung aus dem Bereich der Kunstgeschichte ein Aufbrechen technischer Eindeutigkeiten und Stereotypisierungen am Beispiel der Betrachtung dieses Kunstwerks in Aussicht. Ute Kalenders Beitrag »Queer-crip Perspektiven auf die Cyborg-Figur im Kon- text von Künstlicher Intelligenz« hinterfragt die Anschlussfähigkeit der Haraway- schen Cyborg für Diversifizierungsdiskurse um KI. Kalender verortet diese promi- nente Denkfigur innerhalb von Debatten der Disability-Studies neu, indem sie ver- körpertemqueeremWissenRaumgibt,da sieMenschenmitBehinderung indiesem Beitrag ein Forum offeriert. Mittels semifiktionaler Erzählweisen wird so deutlich gemacht, dass Menschen mit Behinderung zwar einerseits durchaus und immer schon Cyborgs sind, wenn sie z.B. bereits zu Tausenden KI-basierte Autos fahren, zugleich ist das Verschmelzen mit KI hinderlich, schmerzhaft oder zieht schlicht die Angleichung an gewünschte Leistungsnormen eines normativenUmfeldes nach sich. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 29 Parallel zu den Konstruktionsprinzipien technifizierter Körperlichkeit, spielen auch Fragen der technischen Konstruktion von Geschlecht und Gender, aber auch von Intelligenz, Performativität undKognition eine Rolle.Dabei wird vor allem eine Re-Historisierung anhänglicher Konzepte für aktuelle Diskurse um Queerness ins Feld geführt und eswerden angestammte begriffliche Zuschreibungen gehackt, um eine Neuausrichtung zugunsten der Erweiterung des Möglichkeitshorizontes plu- raler Zugänge zu Technisierung zu fokussieren. Natalie Sontopskis Beitrag »Hack back! Die historische Ausgrenzung von Queerness bei KI und Strategien für ein ›hacking back‹« betrachtet die fehlende Inklusion von Queerness anhand historischer Genealogien. Dabei folgt die Ar- gumentation der Prägung von Anwendungen künstlicher Intelligenz als einem Ergebnis heteronormativ determinierter Diskurse über Geschlecht und Sexualität und verhandelt die Ergebnisse dieser Setzung aus einer design-soziologischen Perspektive. Dem Abgesang auf Neutralität und Objektivität von KI-Technologien, die in ihrem Design Queerness zugunsten einer starren binären Repräsentation von Geschlechtlichkeit vernachlässigen oder sogar bewusst Fragen von Gender und Queerness ausklammern, begegnet Sontopskimit aktivistischen Lösungsansätzen. So werden Strategien des ›hacking back‹ fruchtbar gemacht, die Möglichkeiten queerer Partizipation über den Erwerb von genuin technischemWissen aufzeigen. Blair Attard-Frosts Beitrag »Queering Intelligence. Eine Theoretisierung des Intelligenzbegriffs als Performance sowie eine Kritik individueller und künstlicher Intelligenz« beschreibt die Art und Weise, wie Intelligenz ausgelegt wird, als prä- destinierend für die Definition, Entwicklung, Verwaltung und Regulierung von KI. Intelligenz wird dafür als ein mehrdeutiges Konzept des Urteilens, das auf unterschiedlichen Normen und Werten beruht, dekliniert. Attard-Frost begegnet dem mit einer Theoretisierung von Intelligenz, die der begrifflich mitgedachten Variabilität und Vielfalt Rechnung trägt und Intelligenz als wertabhängige kogni- tive Leistung im Sinne einer Performance konzipiert. Attard-Frost entwirft darauf aufbauend innerhalb der Untersuchung aus dem Bereich der Informationswissen- schaft einen kritischen Analyserahmen, um zwei einflussreiche Intelligenztheorien zu queeren: John Carrolls Drei-Schichten-Theorie und Alan Turings Referenzen zu einer Ontologie der künstlichen Intelligenz. Im Original auf Englisch verfasst, wird der Beitrag hier in der von Attard-Frost autorisierten deutschen Übersetzung veröffentlicht. Der Mittelteil des Bandes wird durch eine zweiteilige künstlerische Interventi- on gegliedert: erstens in Form eines Gedichts vonMalin Kuht, das von Bildern von Datensätzen Kuhts flankiert wird und durch Emilia Sladek gestaltet ist, und zwei- tens in Form einer künstlerisch-aktivistischen Untersuchung von Valérie Félix un- ter dem Titel »State of Queerness Computing. An artistic/activist thought experi- ment«. 30 Queere KI Kuhts lyrischer Beitrag unter dem Titel »PAST-DICK-TION« ist ein künstleri- sches Experiment. Als dichterische, offene Textform konzipiert, die – imGegensatz zu künstlich intelligentenSystemen–keineRegeln befolgenmuss,definiert sich die Künstler*in darin selbst als KI und referiert über das Verhältnis von Zeitlichkeit in- ner-undaußerhalbdes rationalMaschinellen.Kuht kritisiert undqueert indenVer- sen ein vorherrschendes heteronormatives Geschichtsverständnis, indem erzähle- risch auf die Brüchigkeit von Geschlechterkonstruktionen und auf den Anteil plu- raler Perspektiven in gesellschaftskonstituierenden Prozessen verwiesen wird. Die inkorporiertenBilder haben unsaubereDaten zumAusgang, also ungenaue,unvoll- ständige oder inkonsistente Datensätze. Der Beitrag aus dem Bereich der Bilden- den Kunst versteht sich als poetische Reflexion über KI, über dahingehende Bild- verwerfungen, die gerade durch ihre vermeintliche Wertlosigkeit queere Kippmo- mente des Bildlichen offenbaren und so ebenjeneWiderständigkeit offenlegen, die KI-relationaler Kunst oft zu fehlen scheint. Die grafische Übersetzung des Gedichts und die Gestaltung durch die Künst- lerin Emilia Sladek verstehen sich als visuelle Entsprechungen und gleichzeitig als Angebote einer Lesart des Inhalts.Während die Textschrift EBGaramond sich als ei- neklassischeSerifenschrift unmittelbar aufdieÄsthetik konventionellerPoesiebän- de bezieht, bricht der Satz der einzelnen Verse den Bezug zum Herkömmlichen in radikalerManier auf.Die Gestaltung verdeutlicht so den Kontrast zwischen den In- halten an der Schnittstelle von Sex, Geschlecht und Gender sowie Technologie und Kultur einerseits und der traditionellen literarischen Form eines Gedichts ander- seits.DieBilderwurdenmittelsKI durch einenText-zu-BildGenerator erzeugt,wo- für zentrale Passagen aus demGedicht als Input genutzt wurden. Diese Abschnitte sind in der vorliegenden Gestaltung kursiv gesetzt. Das daraus resultierende Ge- samtbild verdeutlicht dieWiderständigkeit von Sprache, Darstellung und Form. Es illustriert einenWillen gehört und gesehen zu werden und die gleichzeitige Zerris- senheit, sowie einAusbrechenausauferlegten,normativenRollenbildernunddamit Queerness. Der darauffolgende Beitrag von Valérie Félix versteht sich als ein künstlerischer und aktivistischer Text. ImOriginal auf Französisch verfasst,wird er hier in der von der Autorin autorisierten englischen Übersetzung veröffentlicht, durchgeführt von Simon Cowper. Félix fokussiert in ihrem Beitrag – entgegen dem klassischen Rech- nen, das auf einem binären System aus Nullen und Einsen, so genannten Bits, ba- siert – auf aktuelle Forschung zuQuanteninformatik, diemit Quantenbits rechnet. Aus einer interdisziplinären Perspektive der Curatorial-Studies beschreibt sie, wie undwarumdiematerielleSystematik vonQuantenbitswesentlichdiverser ist.Denn diese können für bestimmte Zeiten die Zustände 0 und 1 parallel annehmen, Bits hingegenmüssen auf einen der beiden Zustände festgelegt sein. Außerdemkönnen sichQuantenbits verschränken,wasRechenleistungenund -kapazitätenwesentlich leistungsfähigerermacht.Darauf aufbauend entwirft Félix das Bild einer Entität als Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 31 eine Überlagerung von Zuständen statt als einem definierten Zustand, also als eine Vielheit statt einer Binarität, und bedient sich dabei einermetaphysischen Sicht auf derlei Technologien. Dieses zweiteilige Kapitel trägt der Idee Rechnung, die Beziehung zwischen Kunst undWissenschaft im Sinne des Schaufler Labs@TU Dresden auch in diesem Band zu verhandeln. Diesem Anspruch inhärent ist die Frage, welche Rolle die Wissenschaften und Künste in gegenseitiger Ergänzung übernehmen können. Diese Problematik wird auch am Eingangsbeispiel der Gay Bomb von Zach Blas verhandelt. Unter der Überschrift Pathologisierung zeichnet das folgende Kapitel Deu- tungsstrukturen durch Systeme künstlicher Intelligenz nach, die Einfluss auf physische, psychische oder soziale Erscheinungen und Vorgänge in einer ab- wertenden Manier nehmen. Im Gegensatz zur starken Betonung von queeren Ambivalenzen vonKI imKapitel Somatik,wird hiermehrheitlich aufMechanismen fokussiert, die Ausschlüsse oder pejorative Bezugnahmen zu Personengruppen als bedingungsgebend für algorithmische Verfahren ausweisen. Katrin Köpperts Beitrag »Patching und Hoarding. Rekodierungen von digitalen Reproduktionstechnologien« entlarvt digitale KI-Technologien anhand von zwei künstlerischen Werkbeispielen als Formen der Pathologisierung marginalisierter Körper: Tabita Rezaires Sugar Walls Teardom und Luiza Prado de O. Martins All Directions at Once. Davon ausgehend, dass Körper in biometrischen Anwendungen in ungleicher Weise auf Daten reduziert werden, sodass sie entweder unverhält- nismäßig stark erfasst oder mit einem ähnlichen Effekt der Diskreditierung falsch erkannt werden, verhandelt Köppert aus einem Blickwinkel der Kunst- und Me- dienwissenschaft die durch Technologie konstruierte Loslösung des Körpers von der Kategorie des Mensch- und Subjektseins. Ihre Untersuchung steht im Kontext von Technologien, die der Zyklusüberwachung und Geburtenkontrolle dienen, und verhandelt, inwieweit BIPOC-Frauen durch derlei Anwendungen strukturell benachteiligt und aus historischer Perspektive entsubjektiviert werden. Parallel betont Köppert das Potential ästhetischer Verfahren des Bildhandelns als Hand- lungsrahmen,der Inkompatibilität alsMöglichkeitshorizont für queere dekoloniale KI in den Fokus rückt: Patching undHoarding. Johannes Bruders Beitrag »KI als Medium und ›message‹ und die (Un-)Mög- lichkeit einer queeren Antwort« untersucht aus einer Perspektive der Design- und Medientheorie selektive Ein- undAusschlüsse, die denOperationen von künstlicher Intelligenz zugrunde liegen: Ausgehend von der Prämisse, dass Epistemologien von Big Data und die Operationen von KImit Queerness unvereinbar sind, und aufbau- end auf Einblicken in die Funktionen von autistischer Subjektivität und Kognition im Kontext von KI, weist Bruder auf die Funktion von Autismus als ein für KI kon- stitutives Anderes hin. Zugleich zeigt er, dass autistische Individuen bereits essen- zieller Bestandteil der kognitiven Infrastruktur von real existierender KI waren und 32 Queere KI sind – ob als Testobjekte, Coder*in oder Datenarbeiter*in. So stellt Bruder die ge- waltsame Inklusion undDefinition von autistischer Subjektivität und Kognition als eine Basis von KI scharf. Neuroqueerness wird dabei als eine performative Antwort auf selektive Ein- und Ausschlüsse konzipiert, denen autistische Individuen in so- zialen Kontexten unterliegen. Das abschließende Kapitel verhandelt Systeme künstlicher Intelligenz als Nar- rativ. Um allegorische und metaphorischeWirkungspotenziale von KI in den Blick zu nehmen, untersuchen die Beiträge theoretische Konzepte,mit denen in literari- schenWerken Bedeutung hergestellt wird.Dabei spielen sowohlmanifeste als auch fantastische Konzepte eine Rolle – eine Kombination, die absichtlich inkonsisten- te Bedeutungszusammenhänge betont und so zum Queering technischer Logiken beiträgt. Carsten Junkers Beitrag »Innovation und Iteration. QueereMaschinen und das Spannungsverhältnis zwischen Manifest und Manifestor*in« betrachtet die in den letzten Jahren vermehrt veröffentlichtenManifeste, die sich aus queeren und femi- nistischen Perspektivenmit den Potenzialen von Technologie und künstlicher Intel- ligenz auseinandersetzen, um queere und feministische Theorien und Aktivismus voranzutreiben.DieDiskussion einer ausgewählten Anzahl anManifestenwird von einemStandpunkt der Anglistik und Literaturwissenschaft ausgehend geführt. Be- trachtet werden u.a. Laboria Cuboniks’ The Xenofeminist Manifesto: A Politics for Alie- nation (2018) und Legacy Russells Glitch Feminism: A Manifesto (2020). Dabei identi- fiziert der Beitrag eine Spannung zwischen den disruptiven Agenden dieser Mani- feste, ihren emanzipatorischen rhetorischen Versprechen, konzeptionellen Innova- tionen und kritischen Ansprüchen einerseits und der Wiederholbarkeit der gene- rischen Konventionen, die diese Texte mobilisieren, andererseits. Der Beitrag hebt einenWiderspruch hervor, der in der Verwendung desManifests als Formdurch die Verfasser*innen zu beobachten ist:Während sie diese literarische Formnutzen, um Neuheit zu postulieren und zur Unterbrechung aufzurufen – und damit das Mani- fest formal und propositional aktualisieren –,wird das kritische und queere Poten- zial des Genres durch seine iterative Verwendung neutralisiert. SaraMorais dos SantosBruss’Beitrag »KI in derWildnis.Queere Technoökolo- gien in Jeff VanderMeers Annihilation« erörtert in Anbetracht der Diskussionen um die ›Fehlbarkeit‹ künstlicher Intelligenzen die Erosion der hierarchischen Differen- zierung zwischen Natur und Kultur und dem menschlichen Subjekt als der Natur übergeordnet. Die Verwischung von derlei Konzepten wird mittels eines Kontern- arrativs begegnet. Anhand des Romans Annihilation (2014) von Jeff VanderMeer und seiner gleichnamigen Verfilmung (2018) durch Alex Garland werden Vorstellungen vonKI als queer, künstlerisch sowie als opak und seltsammonströs verhandelt.Mit- tels queertheoretischer und dekolonialer Ansätze zeigtMorais dos Santos Bruss aus einer Perspektive der Digital-Studies sowie der Kultur- und Medienwissenschaf- ten auf, dass KI sich nicht in akkuraten Daten oder einer allgemeinen Superintel- Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 33 ligenz erschöpfen muss. Vielmehr wird nach der Artikulation eines Potenzials ge- fahndet, das entlangmarginalisierterWissensordnungen zuneuenAushandlungen von queerem Begehren gelangen kann. Anhand von Annihilation wird somit deut- lich gemacht, wie Systeme neuer Informationstechnologien mit subjektivierenden Identitätsangeboten verschränkt sein können. Den Abschluss bildet ein kurzes Nachwort. Darin wird aus Sicht der Heraus- geber*innen aufbauend auf den Erkundungen des Feldes queerer KI und den Set- zungen,die der vorliegendeBand vornimmt,dessen Titel reflektiert.Die Fragen, ob Maschinen überhaupt ein Coming-out benötigen und was das meinen kann –wel- che Idee von Normierung in der ontologischen Zuschreibung eines Outings mit- schwingt und welche queeren Formen von Widerstand sich diesem Gemeinwillen entgegenstellen, wo aber auch produktive Schnittstellen zu finden sind –, werden als offenes Ende verhandelt. Literaturverzeichnis AlgorithmWatch. 2019. Automating Society: Taking Stock of Automated Decision-Making in the EU. AlgorithmWatch/Bertelsmann Stiftung. Online unter: https://www.al gorithmwatch.org/automating-society. Zugegriffen: 08.08.2022. AlgorithmWatch. 2020. Report Automating Society 2020. AlgorithmWatch/Bertels- mann Stiftung. Online unter: https://automatingsociety.algorithmwatch.org/. Zugegriffen: 08.08.2022. Amoore, Louise. 2020. Cloud ethics. Algorithms and the attributes of ourselves and others. Durham: Duke University Press. Angwin, Julia, Jeff Larson, Surya Mattu und Lauren Kirchner. 2016. Machine bias. ProPublica. Online unter: https://www.propublica.org/article/machine-bias-ri sk-assessments-in-criminal-sentencing. Zugegriffen: 08.08.2022. Becker, Carlos und Sandra Seubert. 2020. Die Selbstgefährdung der Autonomie. Eckpunkte einerKritischenTheorie der Privatheit imdigitalen Zeitalter. InDigi- tale Transformationen der Öffentlichkeit, Hg. Jan-Philipp Kruse und SabineMüller- Mall, 229–261.Weilerswist: VelbrückWissenschaft. Benjamin, Ruha. 2019. Race after Technology. Abolitionist Tools for the New Jim Code. Cambridge: Polity Press. Blas, Zach. 2008a.GayBombs/Sketches/Part 1.Online unter: http://users.design.ucla. edu/∼zblas/thesis_website/gay_bombs/gb_part1.html.Zugegriffen: 25.07.2022. Blas, Zach. 2008b. Gay Bombs. User’s Manual. Online unter: https://zachblas.inf o/wp-content/uploads/2016/03/GB_users-manual_web-version.pdf. Zugegrif- fen: 15.06.2022. Case, Sue-Ellen. 1991. Tracking the Vampire.Differences 3(2): 1–20. Coeckelberg,Mark. 2022.ThePolitical Philosophy of AI. Cambridge: Polity Press. 34 Queere KI Crawford, Kate. 2021. Atlas of AI. Power, Politics, and the Planetary Cost of Artificial Intel- ligence. NewHaven: Yale University Press. Edelman, Lee. 2004.No Future. QueerTheory and the Death Drive. Durham: Duke Uni- versity Press. Engel, Antke Antek. 2002. Wider die Eindeutigkeit. Sexualität und Geschlecht im Fokus queerer Politik der Repräsentation. Frankfurt a.M.: Campus. Ernst,Christoph, IrinaKaldrack, JensSchröter undAndreasSudmann.2019.Künst- liche Intelligenzen. Einleitung in den Schwerpunkt. Zeitschrift für Medienwissen- schaft 21: 10–19. Ertel, Wolfgang. 2016. Grundkurs Künstliche Intelligenz: Eine praxisorientierte Einfüh- rung.Wiesbaden: Springer. Foucault, Michel. 1974.Die Ordnung der Dinge. Frankfurt a.M.: Suhrkamp. Gamm, Gerhard und Andreas Hetzel. 2015. Eine zeitgemäss-unzeitgemässe Philo- sophie der Technik. In Unbestimmtheitssignaturen der Technik. Eine neue Deutung der technisiertenWelt, Hg. dies., 9–15. Bielefeld: transcript. Gamm, Gerhard. 2000. Technik als Medium. Grundlinien einer Philosophie der Technik. In Nicht nichts. Studien zu einer Semantik des Unbestimmten, Hg. ders., 275–307. Frankfurt a.M.: Suhrkamp. Haschemi Yekani, Elahe, BeatriceMichaelis (Hg.). 2005.Quer durch dieGeisteswissen- schaften. Perspektiven der QueerTheory. Berlin: Querverlag. Ingold, Albert. 2017. Digitalisierung demokratischer Öffentlichkeiten.Der Staat 56: 491–533. Koster, Ann-Kathrin. 2021. Das Ende des Politischen? Demokratische Politik und Künstliche Intelligenz. Zeitschrift für Politikwissenschaft 32: 573–594. LeCun, Yann, Yoshua Bengio und Geoffrey Hinton. 2015. Deep learning.Nature 521: 436–444. Lopez, Paola. 2021. Artificial Intelligence und die normative Kraft des Faktischen. Merkur 75: 42–52. Mbembe, Achille. 2011. Nekropolitik. In Biopolitik – in der Debatte. Hg.Marianne Pie- per, Thomas Atzert, Serhat Karakayalı und Vassilis Tsianos, 63–96. Wiesbaden: Springer VS. Müller-Mall, Sabine. 2020. Freiheit und Kalkül. Die Politik der Algorithmen. Stuttgart: Reclam. Muñoz, José Esteban. 1999.Disidentification.Queers of Colour and the Performance of Pol- itics.Minneapolis: University of Minnesota Press. Noble, Safiya Umoja. 2018. Algorithms of Oppression. How Search Engines reinforce Racism. New York: New York University Press. Prietl, Bianca. 2019a. Die Versprechen von Big Data im Spiegel feministischer Ra- tionalitätskritik.GENDER 3: 11–25. Klipphahn-Karge, Koster, Morais dos Santos Bruss: Einleitung: Queering KI 35 Prietl, Bianca. 2019b.Algorithmische Entscheidungssysteme revisited:WieMaschi- nen gesellschaftliche Herrschaftsverhältnisse reproduzieren können. feministi- sche studien 2: 303–319. Schwarting, Rena und Lena Ulbricht. 2022. Why Organization Matters in »Algo- rithmic Discrimination«. Kölner Zeitschrift für Soziologie und Sozialpsychologie 74: 307–330. Seaver, Nick. 2017. Algorithms as culture: Some tactics for the ethnography of algo- rithmic systems. Big Data & Society 4(2): 1–12. Selk, Veith. 2011. Die Politik der Entpolitisierung als Problem der Politikwissen- schaft und der Demokratie. Zeitschrift für PolitischeTheorie 2: 185–200. Steyerl, Hito. 2016. A Sea of Data. Apophenia and Pattern (Mis-)Recognition. eflux 72/16: o. S. Sudmann, Andreas. 2018. Szenarien des Postdigitalen. Deep Learning als Medi- enRevolution. In Machine Learning. Medien, Infrastrukturen und Technologien der Künstlichen Intelligenz, Hg. Christoph Engemann und Andreas Sudmann, 55–73. Bielefeld: transcript. Ungern-Sternberger, Antje. 2019. DemokratischeMeinungsbildung und künstliche Intelligenz. In Demokratie und künstliche Intelligenz, Hg. Sebastian Unger und Antje Ungern-Sternberger, 3–31. Tübingen: Mohr Siebeck. Weber, JuttaundCorinnaBath.2003.Technowissenschaftskulturund feministische Kritik. In Turbulente Körper, soziale Maschinen. Feministische Studien zur Technowis- senschaftskultur, Hg. dies., 9–26. Opladen: Leske und Budrich. Weber, Jutta. 2017. Einführung. In Science and Technology Studies. Klassische Positionen und aktuelle Perspektiven, Hg. Susanne Bauer, Torsten Heinemann und Thomas Lemke, 339–368. Berlin: Suhrkamp. I. Falsifikation Queere KI als materiell-diskursive Apparate Ann-Kristin Kühnen 1. Einleitung Algorithmen und Systeme künstlicher Intelligenz sind in den letzten Jahren immer wieder damit auffällig geworden, ihren Neutralitätsversprechen nicht gerecht zu werden. Vielmehr äußern sie sich als an der Konfiguration gesellschaftlicher (Un- gleichheits-)Verhältnisse beteiligt (vgl. Noble 2018; Eubanks 2019; Benjamin 2019; Browne 2015).Dies betrifft auch algorithmische Systeme, die imGesundheitswesen eingesetzt werden. Nicht zuletzt durch die Corona-Pandemie gibt es einen deut- lichen Trend dahin, die Gesundheit einer Bevölkerung mithilfe algorithmischer Systeme zu managen. Potenziale ›ungenutzter‹ Gesundheitsdaten sollen ausge- schöpft, Prozesse effizienter gestaltet und (Krankheits-)Prognosen präziser gestellt werden. Eine Gruppe von Datenwissenschaftler*innen fand jedoch heraus, dass durch den Einsatz eines algorithmischen Systems im US-amerikanischen Gesund- heitswesen weiße Patient*innen gegenüber Schwarzen Patient*innen strukturell bevorzugt wurden (vgl. Obermeyer et al.: 2019). Das KI-System wurde eingesetzt, um Risikopatient*innen zu ermitteln und diesen einen Platz in kostenintensiven Pflegeprogrammen zuzuweisen. Dabei hatten weiße Personen eine signifikant höhere Wahrscheinlichkeit, den Pflegeprogrammen zugeordnet zu werden, als Schwarze Personenmit gleichen Vorerkrankungen (vgl. ebd.: 447). Ein sogenannter racial bias wird in datenwissenschaftlichen Forschungen wie der Studie von Ziad Obermeyer et al. häufig als vordergründig technisches Pro- blem verhandelt. Dabei wird bias in einem statistischen Sinne als Abweichung von einer Norm oder einem wahren Wert verstanden (vgl. Danks/London 2017: 4692). Datenwissenschaftliche und informationstechnische Studien haben einige Arbeit geleistet, um verschiedene Formen von algorithmischem bias herauszustellen (vgl. ebd.; Lee et al. 2019; Panch et al. 2019). Prominent wird als mögliche Quelle eines bias immer wieder darauf verwiesen, dass Trainingsdatensätzen, die der Funktionsweise des maschinellen Lernens zugrunde liegen, häufig nur spezifi- sche Bevölkerungsgruppen, bspw. weiße oder männliche Personen, repräsentieren (vgl. Danks/London 2017: 4692). Gemein ist den Auseinandersetzungen dabei der Versuch, einem bias durch technische Anpassungen, sogenannten ›fixes‹, entgegen- 40 Falsifikation zuwirken, indem bspw. Trainingsdatensätze bereinigt oder ergänzt werden. Dabei ist die Annahme vorherrschend, dass es technisch machbar ist, KI-Systeme so zu konfigurieren, dass diesen möglich wird, neutral und objektiv zu agieren. Dass dieser Neutralitätsanspruch zurückgewiesen werden muss und bias viel- mehr immer auf spezifische »sozio-kulturelle[…], politisch-ökonomische[…] und strukturell-materielle[…] Bedingungen« (Prietl 2021: 25) verweist, eröffnet sich durch die Perspektive der Feministischen Science-and-Technology-Studies (STS). MitDonnaHaraway (vgl. 1995 [1985]) und anderenTheoretiker*innen der Feministi- schen STS ausgedrückt, müssen Systeme der künstlichen Intelligenz immer schon als situiert und politisch verstanden werden. Sie agieren nicht entkoppelt von ihrer spezifischen technischen Verfasstheit und gesellschaftlichen Einbettung und sind wie alle Techniken der Wissensproduktion untrennbar mit Machtfragen verknüpft (vgl. Foucault 1978). KI-Systeme mit ihren zugrundeliegenden mathematischen Annahmen, Algorithmen und Daten sind in diesem Verständnis nicht nur techni- sche Instrumente, sondern soziotechnische Gefüge. Sie unterliegen spezifischen Diskursen und Materialisierungsprozessen und sind in historisch gewordenen sozialen und ökonomischen Verhältnissen eingebettet. Dabei erzeugt jede tech- nologische Wissensproduktion unweigerlich Ein- und Ausschlüsse und ist damit beschränkt, kontingent und partikular (vgl. Haraway 1995a) und zugleich selbst Ausgangspunkt für Grenzverschiebungen undDestabilisierungen (vgl.Weber/Bath 2003: 18). KI-Technologien sind in diesem Verständnis nicht »unschuldig« (Hara- way 1995b).1 Eine durch die Feministischen STS inspirierte Perspektive verweist auf die komplexen Verschränkungen zwischen Sozialem und Technischem und Spannungsfelder zwischen Fluidität und Festsetzung, die insbesondere für eine queertheoretische Betrachtung von KI höchst bedeutsam sind. Um diese Verschränkungen in den Blick zu nehmen, schlage ich in diesem Beitrag die technofeministische Denkfigur des Apparates vor, die in den Femi- nistischen STS zahlreiche Weiterentwicklungen erfahren hat. Das Verständnis des Apparates als materiell-diskursives Gefüge (vgl. Haraway 1995a; Barad 2007, 2012), in dem sich Technologisches, Politisches, Historisches und Ökonomisches miteinander verschränkt (vgl. Barla 2019), übertrage ich hierfür auf KI-Systeme. Mithilfe der Denkfigur des Apparates soll das in der Studie vonObermeyer et al. an- geführte KI-System zur Gesundheitsrisiko-Prognose sowie die Studie selbst queer 1 Ich verwende in diesem Beitrag die Begriffe Technologie und Technik synonym. Nina Degele stellt zwar heraus, dass ›Technik‹ in der Soziologie dreistrahlig als Artefakt, Formen des Han- delns und Formen von Wissen verstanden werden kann und der Begriff der Technologie in seiner ursprünglichen Bedeutung »die Lehre und das systematisierte Wissen von Technik« (2002:20) meint, diese Unterscheidung aber u.a. aufgrund der Verwissenschaftlichung von Technik zunehmend belanglos wird. Zumal wird im angloamerikanischen Raum der Begriff ›technology‹ ebenso im Sinne von Technik und Technologie verwendet. Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 41 gelesen werden. Queering verstehe ich dabei als Praktik einer kritischen Analyse, mit der das KI-System auf die Verwobenheit von Macht, Wissen und Materialität befragt werden soll. Dabei wird insbesondere die historische, ökonomische und biopolitische Einbettung des KI-Systems in den Blick genommen. Des Weiteren sollen durch ein Queering mithilfe der Denkfigur des Apparates herrschaftsför- mige Dualismen von Technischem und Sozialem, von Materialität und Diskurs durchkreuzt werden. Statt auf Letztbegründungen wie technologische ›fixes‹ zu fokussieren, werden die mannigfaltigen Verschränkungen des KI-Systems zum Ausgangspunkt gemacht, um die Verschiebung und Destabilisierung bestehender Macht- und Ungleichheitsverhältnisse zu denken. Die Denkfigur des Apparates wird hier als »speculative tool« (ebd.: 145) relevant. Nach einer kurzenEinführung in die theoretischen (Weiter-)Entwicklungender Denkfigur des Apparates möchte ich mithilfe der Apparat-Figur das KI-System zur Gesundheitsrisiko-Prognose alsmateriell-diskursives Gefüge in den Blick nehmen. Dabei werde ich herausarbeiten, dass das KI-System nicht losgelöst von der Ge- schichte des Rassismus imUS-Gesundheitswesen betrachtet werden kann und eine »colorblind ideology« (Benjamin 2019: 9) – d.h. eine Form von Rassismus, die sich nicht mehr explizit auf die Kategorie Race bezieht, aber dennoch strukturell wirk- mächtig ist – reproduziert. Diese Rassismen setzen sich unter den ökonomischen Einsatzzielen der KI fort. Die ökonomische Ausrichtung auf das Ziel der Kosten- reduktion wird dabei vorwiegend zur Gefahr für Schwarze Patient*innen und ihre Körper. Vor diesemHintergrund argumentiere ich, dass das KI-System als biopoli- tische Regulierungstechnologie verstanden werden kann. Der Beitrag schließt mit der Frage nachmöglichenVerschiebungenundDestabilisierungen in unddurch die Apparate, die vermögen Ungleichheiten abzuschwächen. 2. Die Denkfigur des Apparates Von Haraway als feministisches Instrument eingeführt, um technowissenschaft- liche Herstellungspraktiken von Organismen zu erfassen, hat der Begriff des Apparates in den Feminist STS produktive Weiterentwicklungen erfahren. In Anlehnung an die Ausarbeitungen der Literaturwissenschaftlerin Katie King ent- wickelt Haraway in ihrem viel rezipierten Aufsatz Situated Knowledge die Denkfigur »Apparatus of bodily Production« (Haraway 1995a).2 Apparate der körperlichen Produktion beschreiben nach Haraway materiell-semiotische Arrangements von 2 Hier ist anzumerken, dass Haraway in Bezug auf die Begriffsbezeichnung zwar explizit auf Katie Kings Arbeiten zurückgreift, maßgebliche Ideen, die mit dem Konzept des Apparates verbunden sind, aber auch auf Haraways Auseinandersetzung mit Schwarzen Denker*innen wie Buchi Emechta oder bell hooks zurückzuführen sind (vgl. Haraway 1991: 109f.; FN 2,5). 42 Falsifikation (menschlichen und mehr-als-menschlichen) Entitäten und Praktiken, durch die Organismen hervorgebracht werden (vgl. Barla 2019: 103). Dabei ist für Haraway zentral, dass dieWissensobjekte selbst an den konstituierenden Praktiken beteiligt sind. Dieses materiell-semiotische Verständnis, das bei Haraway theoretisch und methodologisch noch ungenau bleibt (vgl. ebd.: 124) entwickelt die queerfemi- nistische Wissenschaftler*in und Physiker*in Karen Barad in ihrem Konzept des Apparates weiter (vgl. Barad 2007; 2012). Barad fokussiert dabei auf die »Prozesse der Materialisation« (Barla 2014: 155) und holt die Denkfigur des Apparates zu- gleich aus ihrem biowissenschaftlichen Entstehungskontext heraus. Barad versteht Apparate als ›materiell-diskursive Praktiken‹, als Gefüge, in denen Materialität und Diskurs miteinander intra-agieren und durch diese Intra-Aktionen wiederum materiell-diskursive Phänomene hervorbringen (vgl. Barad 2017: 607). Dabei sind Apparate selbst »grenzziehende Praktiken« (ebd.: 599). Durch spezifische Intra- Aktionen, sogenannte »agentielle Schnitte«, erzeugen Apparate »Bestimmtheit in prinzipiell ontisch unbestimmten ›Phänomenen‹« (Lemke 2017: 566).3 Apparate setzen damit »das in Kraft, was relevant ist und was vom Relevantsein ausge- schlossen wird« (Barad 2017: 602). In Barads Erweiterung von Michel Foucaults Macht- und Diskursverständnis ist Materie ein »konstitutive[r] Bestandteil von Machtbeziehungen« (Lemke 2017: 565). Die Frage, welche Bedeutungen und Körper durch die Apparate inkludiert beziehungsweise geschaffen werden und wie diese in Beziehung gesetzt werden (vgl. Schadler 2017: 180), steht damit auch in engem Zusammenhangmit der Herausbildung von Hierarchien und Ungleichheiten. In Anknüpfung anHaraways und Barads Arbeiten vollzieht Josef Barla in seiner Dissertation Techno-Apparatus of Bodily Production eine weitere Rekonfiguration der Denkfigur des Apparates, die er an zwei »worldly examples« (Barla 2019: 15 zit. Ha- raway 2000: 46) entfaltet. AmBeispiel der Technologie des Spirometers und geneti- scher und biometrischerGrenztechnologien (vgl. ebd.: 151ff.), schlägt Barla vor, spe- zifische Technologien nicht als rein technische Instrumente zu verstehen, sondern immer schon in ihrer materiell-diskursiven Verstrickung von technischen, ökono- mischen, historischen, sozialen und politischen Entitäten, Beziehungen und Prak- tiken zu begreifen (vgl. ebd.: 163).4 Technologien als Apparate zu fassen, bedeutet für Barla, diese im Sinne von »›Orten‹, an denen biologische, technische und politi- 3 DieserNeologismus, der sich vomBegriff der Interaktion abheben soll, beschreibt einen Pro- zess, indem die Relata einer Beziehung dieser nicht vorgängig sind, sondern vielmehr durch sie, also durch die Intra-Aktion, entstehen. Barad vollzieht damit eine grundlegende Ver- schiebung einer Denkbewegung weg von vorgegebenen Entitäten hin zur Frage nach »Prak- tiken, Tätigkeiten und Handlungen« (Barad 2017: 578). 4 Barla grenzt sich hier von einer Auffassung ab, in der Technologie weder als autonom noch als reine Instrumente oder neutrale Werkzeug verstanden werden, die in unterschiedlicher Weise und zu unterschiedlichen Zwecken eingesetzt werden (vgl. Barla 2019: 71). Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 43 scheKräftemiteinander intra-agieren unddabei ein jeweils spezifisches Phänomen materialisieren« (Barla 2014: 154), zu verstehen. Apparate zu denken ist dabei, wie es Barla im Anschluss an Barad ausdrückt, »a matter of cutting things together and apart« (Barad 2007: 394). Während ›cutting together‹ auf die Verschränkungen hinweist, fokussiert ›cutting apart‹ die Prozesse der Differenzierung innerhalb eines Phänomens (vgl. Barla 2019: 152). Die Identifi- kation von Apparaten unterliegt Konstruktions- und Abstraktionsprozessen. Denn wie Barad und im Anschluss Barla betonen, sind die Grenzen der Apparate nicht vorgegeben, sondern vielmehr »open-endedpractice« (ebd.: 157) undbestimmteAp- parate immer schon in Intra-Aktion mit anderen Apparaten (vgl. Barad 2007: 203). Vor diesem Verständnis ist es niemals möglich, die Grenzen des Apparates im Vor- hinein zu bestimmen, da ihnen »homogene Letztelemente« fehlen, »die eine klare Abgrenzung zwischen ›innen‹ und ›außen‹ zulassen würden« (Barla 2014: 11). Eine Auflistung aller Ursachen und Kräfte, die in einem Apparat wirken, oder nicht wir- ken, ist nicht möglich (vgl. Barla 2019: 147). Barla betont jedoch, dass dies nicht zu einer Willkürlichkeit der Grenzen des Apparates führt und diesbezüglich alle kon- stituierenden Intra-aktionen die gleichen Bedeutungen haben (vgl. ebd.: 157). Vor diesemHintergrund bedarf eine Betrachtung immer einer Festlegung »was von Be- deutung ist,wie es vonBedeutung ist und fürwen es vonBedeutung ist« (Barla 2014: 11). Für Barla stellt der ›Techno-Apparatus of Bodily Production‹ neben einer Denk- figur (›figure‹) auch ein spekulatives Werkzeug (›speculative tool‹) dar (vgl. Barla 2019: 145). Barla nutzt die Figur des Apparates, um Erzählungen von Technologien und Körpern zu ermöglichen, die über die Narrative von Verlust und Beherrschung und damit technikdeterministische Perspektiven hinausgehen, ohne jedoch die konkreten Konsequenzen spezifischer Verschränkungen und Materialisierungs- prozesse zu ignorieren (vgl. ebd.: 152). Die Frage von Macht und Werden, die die Apparate durchdringen, ist für Barla zentral (vgl. Barla 2015: 11). Diese Ausfüh- rungen Barlas lassen sich mit Anregungen von Cornelia Schadler erweitern. Nach Schadler kann mithilfe des Apparates eine kritische Analyse erfolgen, die auf die Identifikation von Apparaten, »die spezifische Ungleichheiten und transversale Körper inkludieren« (Schadler 2017: 180) oder negieren, abzielt. Der Apparat-Be- griff stellt zugleich aber auch ein Werkzeug dar, um die Gefüge von menschlichen und nicht-menschlichen Entitäten herauszuarbeiten oder zu entwickeln, »die diese Ungleichheiten abschwächen« (ebd.: 181) oder gar transformieren. Dabei ist der Blick nicht allein auf Menschen als Handlungsträger*innen ausgerichtet, sondern fragt auch nach anderen diskursiven undmateriellen Aktant*innen (vgl. ebd.: 182). 44 Falsifikation 3. KI-Systeme als Apparate. Überlegungen am Beispiel algorithmischer Gesundheitsrisiko-Prognosen In diesem Beitrag möchte ich den Weiterentwicklungen der Denkfigur des Appa- rates durch Haraway (vgl. 1995), Barad (vgl. 2007; 2012), Barla (vgl. 2014, 2019) und Schadler (vgl. 2017) folgen,umKI-Systemequeertheoretisch zuanalysieren.KI-Sys- teme als Apparate zu denken, bedeutet diese als soziotechnische undmateriell-dis- kursiveGefüge indenBlick zunehmen.KI-Systemewerden indiesemSinne als ›Or- te‹ begriffen, an denen sich Historisches, Politisches, Ökonomisches und Technolo- gischesmiteinander verschränkt und Rekonfigurationen vonWissen undmateriel- len Körpern auftreten, die wiederumweitreichende soziale, ökonomische und poli- tischeKonsequenzenhaben.Verdeutlichenmöchte ich dieseHerangehensweise am KI-System zur Gesundheitsrisiko-Prognose, das in der Studie von Obermeyer et al. verhandelt wird.Wie eingangs schon kurz angeführt, arbeitet dieses KI-Systemmit Algorithmen, die im US-amerikanischen Gesundheitswesen landesweit eingesetzt werden,umRisikopatient*innen für sogenannte ›high-risk-care-mangement‹-Pro- gramme ausfindig zu machen (vgl. Obermeyer et al. 2019: 447). Hierfür weist das KI-System Patient*innen Risiko-Scores zu. Obermeyer et al. stellen in ihrer daten- wissenschaftlichen Analyse heraus, dass Schwarze Patient*innen deutlich seltener für die Pflegeprogramme vorgeschlagen wurden, als weiße Personen mit den glei- chen Vorerkrankungen und das KI-System damit einen racial bias erzeugt.5 InAnknüpfunganBarla schlage ich vor,dasKI-Systemnicht als rein technisches Instrument zu fassen, dessen primäres Ziel es ist, Risiko-Scores von Patient*in- nen zu errechnen, sondern als soziotechnischen Apparat, an dem sich Macht,Wis- sen und Materialität verschränken. Wie in den Ausführungen zur Denkfigur deut- lich wurde, sind die Grenzen von Apparaten nicht vorbestimmt, sondern konstitu- ieren sich in einem stetigen Prozess und in Abhängigkeit zu spezifischen Metho- den und Perspektiven. Mit den ausgewählten Theorien, Studien und Materialien, die ich zur Analyse des KI-Systems verwende, kann ich Materialisierung- und Dif- ferenzierungsprozesse in den Blick nehmen. Diese Herangehensweise vermag auf verschiedene Aspekte des Apparates verweisen und Intra-Aktionen in komplexen soziotechnischen Gefügen identifizieren, bleibt dabei aber immer partikular und entzieht sich der Suche nach Letztbegründungen.Mithilfe derDenkfigur des Appa- rates soll dasKI-Systemunddie dazugehörige Studie indiesemSinnequeer gelesen werden. Im Zentrummeiner Analyse des KI-Systems steht die Frage nach den ma- teriell-diskursiven Verschränkungen und »grenzziehende Praktiken« (Barad 2017: 5 Der Fokus auf die datenwissenschaftliche Studie von Obermeyer et al. stellt die (Re-)Pro- duktion von Rassismen heraus. Wie weitere Arbeiten zu KI-Systemen im Gesundheitswesen aufzeigen, kann ein solcher bias nicht nur rassifizierte Personen, sondern auch neurodiver- gente, trans, inter* und queere Personen betreffen (vgl. Keyes 2020, Keyes et al. 2020). Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 45 599),dieden racial biashervorbringen. ImFolgendenwerde ichausgehendvonOber- meyers et al. Studie die technischeVerfasstheit desKI-Systems indenBlick nehmen und daraufhin Intra-Aktionen mit historischen, ökonomischen und biopolitischen Aspekten herausarbeiten. 3.1. Bias als technisches Problem? Wie kann der bias im KI-System aus einer datenwissenschaftlichen Perspektive verstanden werden? Wie werden die Gesundheitsrisiko-Prognose und die Pfle- geplatz-Vergabe technisch umgesetzt? Mit diesen Fragen setzen sich Obermeyer et al. in ihrer Studie intensiv auseinander und nehmen vor diesem Hintergrund Datensets, Algorithmen, zugrundeliegende Modellannahmen und Trainingspro- zesse in den Blick (vgl. Obermeyer 2019: 448f.).Wie Obermeyer et al. herausstellen, gelten Programme wie das ›high-risk-care-mangement‹-Programm in den USA allgemein als wirksam, um den Gesundheitsstatus von Patient*innen zu verbes- sern (vgl. ebd.: 477). Da diese Programme sehr kostenintensiv sind, werden für die Vergabe algorithmische Systeme eingesetzt, die eine präzise und effektive Platzzuteilung versprechen (vgl. ebd.). Hierzu legten die Entwickler*innen in ihren Modell-Grundannahmen fest, dass diejenigen Patienten*innen von einem Platz in den Pflegeprogrammen am meisten profitieren könnten, die schon in der Ver- gangenheit einen hohen Pflegebedarf hatten (vgl. ebd.). Um diese Annahme im technischen System umzusetzen, gingen in die Berechnungen Daten »über die gesamten medizinischen Ausgaben eines Jahres sowie feingranulare Daten zur Inanspruchnahme von Gesundheitsleistungen des Vorjahres« (Orwat 2019: 53) ein. Obermeyer et al. stellen vor diesem Hintergrund fest, dass die algorithmische Vorhersage des zukünftigen Pflegebedarfs eigentlich eine Vorhersage zukünftiger Gesundheitskosten ist (vgl. ebd.). Der Risiko-Score gibt keinen direkten Aufschluss über den zu erwartenden Gesundheitszustand, sondern prognostiziert vielmehr die Kosten zukünftiger Behandlungen. Dieses Ergebnis der Datenwissenschaft- ler*innen eröffnet wichtige Einblicke in das KI-System als Apparat. So wird der Pflegebedarf nicht auf der Basis von Daten zu körperlichen Vorerkrankungen, sondern anhand vergangener Gesundheitskosten errechnet. Auf den ersten Blick scheint dies keine großen Auswirkungen zu haben, da im Durchschnitt die Ge- sundheitskosten und der Pflegebedarf von Patient*innen miteinander korrelieren, jedoch geht vor allem bei rassifizierten Personen in den USA der Bedarf von Ge- sundheitsversorgung und die eigentliche geleistete Versorgung dieser Personen oft erheblich auseinander (vgl. Obermeyer 2019: 450). So kommt es dazu, dass ab einem bestimmten Gesundheitszustand (gemessen an der Anzahl chronischer Krankheiten) Schwarze Personen durchschnittlich weniger Kosten für das Gesund- heitssystem erzeugen als weiße Personen mit dem gleichen Gesundheitszustand (vgl. ebd.). In der Praxis bedeutet dies, dass bei einer Schwarzen und bei einer wei- 46 Falsifikation ßenPatientin, für die das algorithmische Systemden gleichenRisiko-Score ausgibt, die Wahrscheinlichkeit signifikant erhöht ist, dass die Schwarze Patientin einen deutlich schlechterenGesundheitszustandhat als dieweißePatientin (vgl.Benjamin 2019b: 421). In der Konsequenz heißt das, dass Schwarze Personen deutlich seltener für die Pflegeprogramme vorgeschlagen werden. Das KI-System tritt hier als ›Ort‹ zum Vorschein, in dem die Produktion von Wissen auf Grundlage statistischer Modelle und Grundannahmen spezifische Aus- schlüsse erzeugt – in diesem Fall einen racial bias. In diesem Zuge stellt sich die Frage, wie die unterschiedlich hohen Gesundheitskosten bei Schwarzen undweißen Personen zu erklären sind. Schon in der Studie von Obermeyer et al. deuten sich Anknüpfungspunkte für diese Fragen an. Obermeyer et al. erwähnen zwei Erklä- rungssätze für die unterschiedliche Höhe der Gesundheitskosten bei weißen und SchwarzenPatient*innen.Erstens stellen sieheraus,dassdieKategorieRacemitAr- mut korreliert. So waren laut einer Studie des U.S. Zensus Büro im Jahr 2020 in den USA 19,5 Prozent der Schwarzen Bevölkerung von Armut betroffen, dagegen lag die Armutsquote in derGesamtbevölkerungbei 11,4 Prozent (vgl. Shrider et al. 2020: 15). Personen, die in Armut leben, sind im Gesundheitswesen zahlreichen Hürden und diskriminierendenMechanismen ausgesetzt (vgl.Obermeyer et al. 2019: 450).Diese Mechanismen greifen häufig selbst dann, wenn eine Krankenversicherung vorliegt (vgl. ebd.), bspw. durch schlechten Zugang zu Verkehrsmitteln oder Arbeits- oder Pflegeverpflichtungen, die es erschweren, Krankenpflege wahrzunehmen, aber auch fehlende Informationen und Behandlungswissen im Allgemeinen (vgl. ebd.). Zweitens führen Obermeyer et al. die unterschiedliche Höhe an Gesundheitskos- ten darauf zurück, dass Schwarze Patient*innen im Gesundheitssystem direkte Diskriminierung erfahren. So wird in Studien dokumentiert, dass Ärzt*innen oft abweichende Annahmen über Schwarze Patient*innen in Bezug auf Intelligenz, Zugehörigkeit oder auch Schmerztoleranz haben und dass Schwarze Patient*innen demUS-Gesundheitssystem durchschnittlich weniger vertrauen (vgl. ebd.). Auch wenn Obermeyer et al. diese Studien erwähnen, werden die sozio- technischen Verschränkungen, die sich in diesen Erklärungsansätzen andeuten, durch die Datenwissenschaftler*innen nicht weiterverfolgt. Den Datenwissen- schaftler*innen ist im Sinne einer anwendungsbezogenen Analyse daran gelegen Lösungsvorschläge anzubieten, wie der bias mithilfe technischer ›fixes‹ behoben werden kann. Als Hauptproblem identifizieren sie vor diesem Hintergrund das Label der Daten.Während dieModell-Infrastrukturen nachObermeyer et al. beibe- haltenwerden können,müssten die Label derDaten grundlegend verändertwerden (vgl. ebd.). Dieses solutionistische Vorgehen entspricht,wie Bianca Prietl (vgl. 2019) in Bezug auf algorithmische Entscheidungssysteme herausgearbeitet hat, einer typischen Herangehensweise datenwissenschaftlicher Analysen. Diese eröffnen wichtige informationstechnische Aufschlüsse, die zwar auf die gesellschaftliche Einbettung algorithmischer Systeme verweisen, selbige aber nicht präzise genug Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 47 kontextualisieren. Stattdessen verharren datenwissenschaftliche Analysen, wie es die Rassismus- und STS-Forscherin Ruha Benjamin ausdrückt, auf der Ebene passiver und steriler Beschreibungen (vgl. Benjamin 2019b: 422). Bezugnehmend auf Obermeyers et al. Studie verdeutlicht Benjamin, dass das US-amerikanische Gesundheitswesen, in welchem das algorithmische System eingesetzt wurde, als ein gesellschaftlicher Teilbereich betrachtet werden muss, in dem historisch ge- wordene, systematische und strukturelle Rassismen wirkungsmächtig werden. Mit Benjamins Perspektive wird das KI-System als Apparat fassbar, indem sich technologische Aspekte mit historisch gewordenen Strukturen verschränken. Im Folgenden möchte ich Benjamins Überlegungen nachgehen und damit Intra-Ak- tionen innerhalb des Apparates freilegen, die auf komplexe Verschränkungen von Wissen,Macht undMaterialität innerhalb des KI-Systems verweisen. 3.2. Rassistische Kontinuitäten im US-amerikanischen Gesundheitswesen Bis ins Jahr 1964 galten indenUSAdie Jim-Crow-Gesetze,die dieRassentrennung in den USA gesetzlich absicherten.Das Gesundheitswesen war eines von vielen Berei- chen, in denen Schwarze Personen aufgrund der Jim-Crow-Gesetze einen unglei- chen Zugang zu lebenswichtigen Ressourcen hatten, unterdrückt und ausgebeu- tet wurden. Dies zeigte sich bspw. anhand segregierter Krankenhäuser, in denen mancherorts ausschließlich weiße Personen behandelt wurden, aber auch an ras- sistischenMedizin-Lehrplänen und ungleichen Versicherungsstrukturen (vgl. Ben- jamin 2019b: 422). Um die Mechanismen hinter den Jim-Crow-Gesetzen und de- ren Kontinuitäten bis in die Gegenwart genauer zu verstehen, ist es notwendig das Gefüge, das sich hinter der Bezeichnung ›Jim Crow‹ zeigt, näher in den Blick zu nehmen. Der Begriff ›Jim Crow‹ nimmt seinen Ursprung in der Bezeichnung eines Charakters einer Minstrel-Show von 1832.6 Mit diesem Ausgangspunkt wurde die Bezeichnung ›Jim Crow‹ mit der Zeit gesellschaftlich immer populärer und wurde ab den 1950er-Jahren letztendlich auch als akademische Kurzbezeichnung für die legalisierte Rassentrennung und Unterdrückung im Süden der USA benutzt (vgl. Benjamin 2019a: 9). ›Jim Crow‹ erwies sich in diesem Bezug als elastischer Begriff, der zugleich eine Ära, eine geografische Region, Gesetze, Institutionen, Zölle sowie einen Verhaltenskodex, der die weiße Vormachtstellung aufrechterhielt, beschrieb (vgl. ebd.). Für Benjamin stellte ›Jim Crow‹ eine Intersektion von »legal codes, so- cial codes, and building codes« (ebd.: 91) dar. Diese Codes ermöglichten es gemein- sam,die Bevölkerung voneinander getrennt und inUngleichheit zu halten, und ihre 6 In sogenannten Minstrel-Shows stellten weiße Schauspieler zu Unterhaltung eines weißen Publikums Schwarze Charaktere dar. Dies geschah im Rückgriff auf gängige Stereotype und in herabwürdigender und verspottender Art und Weise. 48 Falsifikation Wirkung setzt sich bis heute fort,wie es einigeTheoretiker*innen,darunterMichel- le Alexander (vgl. 2012), herausstellen. Alexander analysiert in ihrem Buch The New Jim Crow anhand des Gefängnissystems in den USA die gegenwärtige Kontinuität des Jim-Crow-Gefüges. Dabei betont Alexander eine entscheidende Verschiebung in der Wirkungsweise des ›New Jim Crow‹ »from explicit racialization to a color- blind ideology« (ebd.: 9). Race ist heutzutage keine legitime Kategorie mehr für die Ungleichbehandlung vonMenschen. In diesemZugewird die anhaltende Kontinui- tät von Rassismus durch die Annahme verdeckt, dass alleMenschen gleich seien. In Anknüpfung an Alexanders Arbeiten etabliert Ruha Benjamin den Begriff ›New Jim Code‹: Darunter versteht Benjamin den Einsatz neuer Technologien, die bestehen- de Ungleichheiten widerspiegeln und reproduzieren, dabei aber als objektiver und progressiver als Systeme der Unterscheidung einer früheren Ära angepriesen und wahrgenommen werden (vgl. Benjamin 2019a: 5f.). Benjamin nimmt in den Blick,was passiert, wenn verdeckte Rassismen in Form einer »colorblind ideology« (ebd.: 9) in technische Codes überführt werden. Dabei vertritt sie eine Perspektive, in der Rassismen nicht nur ein Symptomoder die Folge des Einsatzes dieser Technologien sind, sondern mitunter eine Voraussetzung für ihreHerstellung (vgl. ebd.: 44). Benjamin versteht hierbei Rassismus in Verbindung mit anderen Formen der Unterdrückung nicht nur als Ideologie oder Geschichte, sondern »as a set of technologies« (ebd.), die die soziale Struktur maßgeblich mit verändern und spezifischeMuster sozialer Beziehungen erzeugen. Rassismus wird damit strukturell und zugleich »Black-boxed as natural, inevitable, automatic« (ebd.: 45, H. i. O.). Benjamin folgend kann nur aus diesem Blickwinkel der Beständigkeit undAnpassungsfähigkeit vonRassismusaufdenGrundgegangenwerden (vgl.ebd.: 91). Im Zentrum steht dann die Frage, wie algorithmische Systeme in der Aufrecht- erhaltung, aber auch an der Transformation dieser Rassismen beteiligt sind (vgl. ebd.: 76). Mit der Denkfigur des Apparates gedacht, ist das KI-System der ›Ort‹, an dem sich Historisches und Technologisches miteinander verschränkt und dabei Rassis- men reproduziert werden, die wiederum unter dem Deckmantel einer »colorblind ideology« (ebd.: 9) und den Vorzeichen der Neutralität verschleiert werden. Das KI-System als Apparat setzt damit »in Kraft, was relevant ist und was vom Rele- vantsein ausgeschlossen wird« (Barad 2017: 602). In dieser Betrachtung verschiebt sich der Fokus der Analyse vom racial bias zu systematischen und strukturellen Ras- sismen. Wie ich in den nächsten beiden Abschnitten zeigen werde, ist Rassismus als »set of technologies« (Benjamin 2019a: 45) immer schonmit anderen Strukturen – insbesondere ökonomischen – verzahnt. Um diese zu verdeutlichen, werde ich ökonomische Aspekte als Teile des Apparates beleuchten und anschließend die Verschränkungen von Technologien, Rassismus und ökonomischen Logiken mit dem Begriff der Biopolitik in Verbindung bringen. Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 49 3.3. Ökonomische Einsatzziele Das KI-System zur Gesundheitsrisiko-Prognose wird als Technologie verhandelt, die die Identifikation von Risikopatient*innen und eine bedürfnisorientierte Ver- teilung von Pflegeressourcen imGesundheitswesen ermöglichen soll.Obermeyer et al. stellen im Rahmen ihrer Analyse jedoch heraus, dass Kostenreduktion ein wei- teres wichtiges Ziel des Einsatzes darstellt. Das KI-System wird als eine Investiti- on verstanden, mit der die zukünftigen Kosten für das Gesundheitswesen verrin- gert werden können – ein Ansatz, der branchenweit als wünschenswert gilt (vgl. Obermeyer et al. 2019: 451). Hierin spiegelt sich die Ökonomisierung und Neolibe- ralisierung des Gesundheitswesens wider. Nicht nur in den USA übt die Tendenz der Privatisierung verstärkt ökonomischen Druck auf das Gesundheitswesen aus (vgl.Mathar 2010: 47ff.). Da das Gesundheitswesen nunwirtschaftlichesWachstum erreichen soll, wird die gesundheitliche Patient*innenversorgung immer mehr zu einem Mittel für privatwirtschaftliche Gewinne (vgl. Bauer 2006: 18). Damit geht eine Budgetorientierung einher, die dazu führt, dass medizinische Leistungen ra- tioniert und überwiegend »sozial selektiv erbracht werden« (ebd.: 20). Gesundheit wird vor diesem Hintergrund zur Ware und das Postulat der Kostensenkung und Profitmaximierung übertrumpft in vielen Fällen die gesundheitlichen Bedürfnisse der Patient*innen (vgl. Benjamin 2019a: 30). Wie sich am Beispiel des KI-Systems zeigt, herrscht jedoch sehr häufig die Annahme vor, dass Kostenreduktion undme- dizinische Ziele wie die bedürfnisorientierte Behandlung von Risikopatient*innen miteinander zu vereinen seien. Mithilfe der Denkfigur des Apparats offenbart sich jedoch, dass der Fokus auf Kostenreduktion als Teil einer ökonomischen Logik zu einerWissensproduktion führt,die vorrangig rassifizierte Patient*innen an lebens- bedrohliche Ränder drängt. Auch auf der direkten Ebene der Technologien lassen sich problematische Ef- fekte dieser Ökonomisierung erkennen. So stellen Obermeyer et al. und Benjamin heraus, dass durch den urheberrechtlichen Schutz der Algorithmen in denmeisten Fällen verunmöglicht wird, die Funktionsweise der algorithmischen Systeme nach- zuvollziehen (vgl. Obermeyer et al. 2019: 447; Benjamin 2019b: 421). Dies erschwert kritische Interventionen und Forschungen, um Gründe von bias zu identifizieren. Urheberrechte und der Schutz von geistigem Eigentum im Allgemeinen sind dabei nicht als Konsequenz, sondern als eng verzahntmit den historisch gewordenen Be- dingungen einer kapitalistischenWirtschaftsweise zu verstehen (vgl. Schmidt 2010: 6). Profit wird auch im gegenwärtigen Kapitalismus maßgeblich durch die Bedin- gungen von Eigentum erzielt. Ökonomische Strukturen und Logiken äußern sich hier als beteiligt an der Herstellung und Rekonfiguration von Wissen und Bedeutungen durch das KI-Sys- tem. Sie erzeugen in Intra-Aktion mit den algorithmischen Systemen nicht nur 50 Falsifikation rassistische Ausschlüsse, sondern bringen als Teil bestimmter Apparate auch spezi- fische Urheberrechte hervor, die wiederum kritische Analysen und Interventionen einschränken. 3.4. Das KI-System als biopolitische Regulierungstechnologie Während der Blick auf die Intra-Aktionen von Ökonomischem und Technischem schon einige wichtige Verweise auf machtvolle Ausschlüsse gibt, ist es vor allem der Begriff der Biopolitik, der auf die Intra-Aktion von Ökonomischem, Technolo- gischem und Rassismen verweist. Mit der Entstehung der Biomacht wird laut Fou- cault, das »alte Recht [des Souveräns], sterben zumachen oder leben zu lassen, abge- löst von einer Macht, leben zumachen oder in den Tod zu stoßen« (ebd.: 165; H.i.O.). In einer seiner Vorlesungen im Jahr 1976 fragt Foucault in diesemBezug: »Wie kann eineMacht töten,wenn es stimmt, daß es imWesentlichen darum geht, Leben auf- zuwerten, seineDauer zu verlängern, seineMöglichkeiten zu vervielfachen,Unfälle fernzuhalten oder seine Mängel zu kompensieren?« (Foucault 2014 [1976]: 104). Als Antwort bringt Foucault Rassismus in den Fokus.Die Rolle des Rassismus liegt nach Foucault darin, die Trennlinien zwischen dem,was leben soll und dem,was sterben muss, zu erzeugen (vgl. Folkers/Lemke 2014: 13). Dabei wirkt der moderne Rassis- mus in vielen Fällen nicht im Sinne einer physischen Vernichtung, sondern ist viel- mehr verschleiert in den sozialen und politischen Formen »jemand[en] der Gefahr des Todes aus[zu]liefern, für bestimmte Leute das Todesrisiko [zu] erhöhen oder einfach den politischenTod,die Vertreibung,Zurückweisung« (Foucault 2014: 106).7 Mit dem Begriff der Biopolitik eröffnen sich neue Perspektiven auf das KI-System als Apparat. Das KI-System stellt selbst eine Technologie dar, die eingesetzt wird, um Risikopatient*innen präventiv zu behandeln, sie zu umsorgen, ihre Leben zu verlängern – kurz, um eine Technologie mit dem Ziel »leben zu machen« (Foucault 1995: 165; H.i.O.). Als biopolitisches Instrument an demÖkonomisches, Technologi- sches und Historisches intra-agiert, hat das KI-System aber auch die Konsequenz »in den Tod zu stoßen« (Foucault 1995: 165; H.i.O.). Statistische Instrumente wie das algorithmische Systemwerden eingesetzt, umdarüber zu entscheiden,welche öko- nomischen Ressourcen wem zugestanden werden sollen. Sie sind biopolitische Re- gulierungstechnologien.Dabei sind es strukturelle durch eine »colorblind ideology« 7 Mit seinem Konzept der Nekropolitik setzt Achille Mbembe an dieser Stelle an und verdeut- licht damit den Fortbestand derMacht des Souveräns in derModerne, den er bei Foucault als zu kurz gedacht kritisiert. Mbembe nimmt die »zeitgenössische Unterwerfung des Lebens unter die Macht des Todes« (Mbembe 2011: 89) in den Blick und stellt dabei heraus, dass ge- rade in der Moderne große Bevölkerungsgruppen spezifischen Lebensbedingungen unter- worfen werden, die sie in den »Status lebendiger Toter versetzen« (vgl. ebd.). Als Beispiele führt er u.a. Konzentrationslager, Plantagen und Apartheid-Systeme an. Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 51 (Benjamin 2019a: 9) verschlüsselte Rassismen, die die Grenze zwischen Leben und Sterben erzeugen. Das KI-System als Apparat produziert nicht nur bestimmtes Wissen in Form von Vorhersagen über das Gesundheitsrisiko, sondern bringt performativ spezi- fische Körper hervor. Die Verteilung von Gesundheits-Ressourcen geht mit der Konsequenz einher, dass einige Körper intensiver, andere weniger intensiv behan- delt werden. Vor dem Hintergrund der biopolitischen Einbettung kann zugespitzt formuliert werden, dass das algorithmische System Körper hervorbringt, die leben können, und Körper, die sterben gelassen werden. Das KI-System als Apparat zu denken, ermöglicht jedoch nicht nur die materiell-diskursiven Praktiken zu beleuchten, durch die Race in algorithmische Systeme eingebettet wird, sondern auch jene Praktiken in den Blick zu nehmen, durch die rassifizierte Körper als Abweichung einer weißen Norm auftreten. Das KI-System als Apparat ist an der Markierung Schwarzer Körper beteiligt. Es ist grenzziehende Praktik, die Differen- zen hervorbringt. Doch Körper werden durch Apparate nicht nur rekonfiguriert, sie sind in Form körperlicher Materialität mit an der Konstitution von Appara- ten beteiligt. Durch das algorithmische System wird körperliche Materialität – in Form von Erkrankungen, Schmerzen, Ausflüssen und Emotionen – durch die Operationalisierungen in Gesundheitskosten als Indikator des Gesundheitsrisikos fast vollständig rationalisiert. Anstelle von körperlicher Materialität sollen allein die Gesundheitskosten für den Gesundheitszustand der Patient*innen sprechen. Doch in diesen Gesundheitskosten finden sich die Spuren der Rassifizierung von Körpern. So hat Rassifizierung einen entscheidenden Einfluss darauf, wer Be- handlungen rechtzeitig und häufig genug wahrnehmen kann, beziehungsweise eine dem Gesundheitszustand angemessene Behandlung überhaupt erst erhält. Die Kategorie Race tritt hier als »temporäre […] Materialisierung […] in Körpern« (Namberger 2014: 143) auf, die sich wiederum in den Daten zu den Gesundheits- kosten materialisieren. Diese Materialisierungsprozesse werden jedoch durch die Annahme vonGesundheitskosten als neutraler und objektiver Indikator vollständig ausgeblendet und Schwarze Körper damit im Zeichen einer »colorblind ideology« (Benjamin 2019a: 9) unsichtbar gemacht. 4. Ausblick: Alternative Apparate und queere KI? AmBeispiel einesKI-Systems,das zurGesundheitsrisiko-Prognose eingesetztwur- de,habe ich verdeutlicht,wiedieDenkfigurdesApparates genutztwerdenkann,um die Analyse vonKI-Systemen zu queeren.Statt auf Letztbegründungen zu fokussie- ren, eröffnet die Denkfigur des Apparates die Möglichkeit, KI-Systeme als Gefüge zu verstehen und derenmannigfaltigen,materiell-diskursiven Verschränkungen in denBlick zunehmen.Eine solchemultiperspektivischeHerangehensweise istmaß- 52 Falsifikation geblich, um die Reproduktion von Macht- und Herrschaftsverhältnissen mit und durch KI-Systeme analysieren zu können. Der Fokus auf die Intra-Aktionen inner- halb des Apparates eröffnet Einblicke in das Wechselspiel von Fluidität und Fest- setzung.DieWirkmächtigkeit allermateriellen und diskursiven Aktant*innenwird nicht a priori festgelegt, sondern als in und durch die Apparate entstehend konzi- piert. Dies gilt auch für Ungleichheitskategorien und Normen, die erst in den Ap- paratenwirkmächtigwerden.KI-Systemeals Apparate (re-)produzierenmachtvolle Ein- und Ausschlüsse entlang bestehender Ungleichheitskategorien, erzeugen zu- gleich aber auch immer Überschüsse und Uneindeutigkeit. Andere Verschränkun- gen werden dadurch denkbar. Es ist mitunter dieser Aspekt, der die Denkfigur des Apparates als »speculative tool« (Barla 2019: 145) für das Queering von KI relevant macht. Mit der Apparat-Figur eröffnet sich der Raum für Überlegungen, wie Ver- schiebungen in den Apparaten aussehen könnten, die Ungleichheit abschwächen bzw.Macht- und Herrschaftsverhältnisse zu destabilisieren vermögen. Dabei kön- nen nicht nur menschliche Aktant*innen, sondern auchmehr-als-menschliche Ak- tant*innen in den Blick genommen werden. Wie würde sich der Apparat um das KI-System zur Gesundheitsrisiko-Progno- se verändern,wenndieses in einemanderen, historisch gewordenen, gesellschaftli- chen Kontext eingesetzt würde, bspw. im deutschen Gesundheitssystem?Wie wür- den sich die Apparate verändern, wenn eine Offenlegung der technischen Verfasst- heit von KI-Systemen gesetzlich geregelt wäre oder die KI-Systeme im Sinne von Open-Source-Anwendungen der Öffentlichkeit frei zugänglich wären?Welchen Ef- fekt auf das Gefüge vonMacht,Wissen undMaterialität hätte es, wenn die Progno- se des Pflegebedarfs anstelle der vergangenen Gesundheitskosten auf der Basis von Daten, die auf körperliche Vorerkrankungen der Patient*innen verweisen, hochge- rechnet würde? Diese Überlegungen lassen auf maßgebliche Veränderungen der Apparate schließen, die die KI-Systeme jedoch nicht von ihrer herrschaftsförmigen Ein- bettung lösen könnten. Umso interessanter ist es eine Destabilisierung der Un- gleichheitsverhältnisse in und durch Apparate mit Wendy Chun weiterzudenken. Chun schlägt in ihrem Buch Discriminating Data vor, diskriminierende Vorhersa- gen in KI-Systeme als Beweis vergangener Diskriminierungen und Möglichkeit zur Feststellung gegenwärtiger Ungleichheiten zu verstehen (vgl. 2021: 2). Diese Herangehensweise entlehnt Chun der Verhandlung und Verwendung von Klima- modellen, die die Entwicklung des Klimas berechnen. Diese Modelle verweisen auf die zukünftigen Konsequenzen vergangener und gegenwärtiger Emissionen. In diesem Sinne werden sie zum Ausgangspunkt von politischen Handlungen und so- zialökologischemWandel (vgl. ebd.: 254). Auf KI-Systeme als Apparate übertragen, entsteht durch diese diskursive Verschiebung die Möglichkeit bias nicht als unlös- bares Problem, sondern als Beweis für historisch gewordene Ungleichheiten, die mit einer kapitalistischenWirtschaftslogik verzahnt sind, zu verhandeln und sie in Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 53 diesem Sinne zu politisieren. Diese Perspektive fasst bias als »glitch« (Russell: 2021) – also als eine Art Störung–, die dann zumAusgangspunkt politischer Intervention wird. KI-Systeme werden als Möglichkeit verstanden, Mechanismen, die Un- gleichheitsverhältnisse verursachen, sichtbar zu machen. KI-Systeme werden als politisch begriffen und die Vermutung, sie seien unschuldig,wird zurückgewiesen. Literaturverzeichnis Alexander, Michelle. 2012.The new Jim Crow. Mass incarceration in the age of colorblind- ness. New York: New Press. Barad,Karen. 2007.Meeting the universe halfway.Quantumphysics and the entanglement of matter andmeaning. Durham/London: Duke University Press. Barad, Karen. 2012.Agentieller Realismus: Über die Bedeutungmateriell-diskursiver Prak- tiken. Berlin: Suhrkamp. Barad,Karen.2017.AgentiellerRealismus. InScienceandTechnologyStudies.Klassische Positionen und aktuelle Perspektiven, Hg. Susanne Bauer, Torsten Heinemann und Thomas Lemke, 574–643. Berlin: Suhrkamp. Barla, Josef. 2014. Apparate Körperlicher Produktion und die Materialität der Figu- ration. In Critical matter. Diskussionen eines neuen Materialismus, Hg. Tobias Goll, Daniel Keil undThomas Telios, 148–164.Münster: Edition Assemblage. Barla, Josef. 2019.TheTechno-Apparatus of Bodily Production. ANewMaterialistTheory of Technology and the Body. Bielefeld: transcript. Bauer, Ulrich. 2006. Die sozialen Kosten der Ökonomisierung von Gesundheit. Aus Politik und Zeitgeschichte 8–9: 17–24. Benjamin, Ruha. 2019a. Race after Technology. Abolitionist Tools for the New Jim Code. Cambridge: Polity Press. Benjamin, Ruha. 2019b. Assessing risk, automating racism. Science 366: 421–422. Browne, Simone. 2015. Dark matters. On the surveillance of blackness. Durham: Duke University Press. Chun,WendyHui Kyong. 2021.Discriminating data.Correlation, neighborhoods, and the new politics of recognition. Cambridge:TheMIT Press. Danks, David und Alex London. 2017. Algorithmic Bias in Autonomous Systems. In Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence: 4691–4697. Degele, Nina. 2002. Einführung in die Techniksoziologie. München: Wilhelm Fink. Eubanks, Virginia. 2019. Automating inequality. How high-tech tools profile, police, and punish the poor. New York: Picador St.Martin’s Press. Folkers, Andreas und Thomas Lemke (Hg.). 2014. Biopolitik. Ein Reader. Berlin: Suhrkamp. 54 Falsifikation Foucault,Michel. 1978.DispositivederMacht.ÜberSexualität,WissenundWahrheit.Ber- lin: Merve. Foucault, Michel. 1995.DerWille zumWissen. Sexualität undWahrheit 1. Berlin: Suhr- kamp. Foucault,Michel. 2014 [1976]. InVerteidigungderGesellschaft.Biopolitik.EinReader,Hg. Andreas Folkers undThomas Lemke, 88–114. Berlin: Suhrkamp. Haraway, Donna. 1991. Simians, Cyborgs, and Women. The Reinvention of Nature. New York: Routledge. Haraway,Donna.1995a.DieWissenschaftsfrage imFeminismus und das Privileg ei- ner partialen Perspektive. In Die Neuerfindung der Natur. Primaten, Cyborgs und Frauen,Hg.DonnaHarawayundCarmenHammer,73–97.Frankfurt a.M.:Cam- pus. Haraway, Donna. 1995b. Ein Manifest für Cyborgs. Feminismus im Streit mit den Technowissenschaften. In Die Neuerfindung der Natur. Primaten, Cyborgs und Frauen,Hg.DonnaHarawayundCarmenHammer,33–72.Frankfurt a.M.:Cam- pus. Keyes, Os, Burren Peil, Rua M. Williams und Katta Spiel. 2020. Reimagining (Women’s) Health: HCI, Gender and Essentialised Embodiment. ACM Transac- tions on Computer-Human Interaction 27(4): 1–42. Keyes, Os. 2020. Automating Autism, Disability, discourse, and Artificial Intelli- gence. Journal of Sociotechnical Critique 1(1): 1–31. Lee, Nicole, Turner, Paul Resnick und Genie Barton. 2019. Algorithmic bias detection andmitigation: Best practices and policies to reduce consumer harms. Brookings Insti- tute.Washington, DC, USA. Lemke, Thomas. 2017. Neue Materialismen. Einführung. In Science and Technology Studies. Klassische Positionen und aktuelle Perspektiven, Hg. Susanne Bauer, Torsten Heinemann undThomas Lemke, 551–573. Berlin: Suhrkamp. Mathar, Thomas. 2010. Der digitale Patient. Zu den Konsequenzen eines technowissen- schaftlichen Gesundheitssystems. Bielefeld: transcript. Mbembe, Achille. 2011. Nekropolitik. In Biopolitik – in der Debatte, Hg.Marianne Pie- per, Thomas Atzert, Serhat Karakayalı und Vassilis Tsianos, 63–96. Wiesbaden: Springer VS. Namberger, Verena. 2014. Rassismustheorien und die Materialität des Körpers. In Criticalmatter. Diskussionen eines neuenMaterialismus, Hg. Tobias Goll, Daniel Keil undThomas Telios, 134–150.Münster: Edition Assemblage. Noble, Safiya Umoja. 2018. Algorithms of Oppression. How Search Engines reinforce Racism. New York: New York University Press. Obermeyer, Ziad, Brian Powers, Christine Vogeli und Sendhil Mullainathan. 2019. Dissecting racial bias in an algorithmused tomanage the health of populations. Science 366: 447–453. Ann-Kristin Kühnen: Queere KI als materiell-diskursive Apparate 55 Orwat, Carsten. 2019. Diskriminierungsrisiken durch Verwendung von Algorithmen. Ba- den-Baden: Nomos. Panch, Trishan, Heather Mattie und Rifat Atun. 2019. Artificial intelligence and al- gorithmic bias. Implications for health systems. Journal of global health 9(2): 1–5. Prietl, Bianca. 2019. Algorithmische Entscheidungssysteme revisited: Wie Maschi- nen gesellschaftliche Herrschaftsverhältnisse reproduzieren können. feministis- che studien 37: 303–319. Prietl,Bianca.2021.WarumEthikstandardsnicht alles sind.Zudenherrschaftskon- servierenden Effekten aktueller Digitalisierungskritik. Behemoth 14(2): 19–30. Schadler, Cornelia. 2017.Widerständige Apparate: Was ein anti-dualistischer und anti-dialektischer Materialismus zur Analyse von Differenz und Ungleichheit beitragen kann. InMaterial turn: Feministische Perspektiven aufMaterialität undMa- terialismus, Hg. Christine Löw, Imke Leicht, Nadja Meisterhans und Katharina Volk, 171–186. Opladen: Barbara Budrich. Schmidt, Christian. 2010. Die Rolle des geistigen Eigentums im Kapitalismus der Gegenwart.Kurswechsel 4: 6–14. Von Gesichtsweiblichkeit und Verweiblichung Eine kritische Analyse der statistischen Physiognomik mit KI Kris Vera Hartmann Dieser Eindruck einesWeibes inmännlicher Kleidungwird gesteigert durch den spärlichen Haarwuchs im Gesicht, der zudem bis auf ein Schnurrbärtchen rasiert ist, den tänzelnden Gang, das schüchterne, gezierte Wesen, die weiblichen Züge, den schwimmenden neuro- pathischen Ausdruck der Augen, die Spuren von Puder und Schminke, den stutzermäs- sigen Zuschnitt der Kleidung mit busenartig hervortretendem Oberkleid, die gefranste, damenartige Halsschleife und das von der Stirn abgescheitelte, glatt zu den Schläfen ab- gebürstete Haar. (Krafft-Ebing 1894: 278) The gender atypicality of gay faces extended beyond morphology. Gay men had less facial hair, suggesting differences in androgenic hair growth, grooming style, or both. They also had lighter skin, suggesting potential differences in grooming, sun exposure, and/or tes- tosterone levels. Lesbians tended to use less eye makeup, had darker hair, and wore less revealing clothes (note the higher neckline), indicating less gender-typical grooming and style. (Wang/Kosinski 2018: 251f.) 1. Einleitung Diese beiden Zitate, die über 120 Jahre auseinanderliegen, sind auf den ersten Blick sehr unterschiedlich und doch sehr ähnlich. Das erste stammt aus der Psychopathia Sexualis von Krafft-Ebing (1894), einem Werk der frühen Sexualwissenschaft. Hier wurden Abweichungen von der heterosexuellen Norm als psychiatrische Patholo- gien betrachtet und zur Veranschaulichung dienten detaillierte, anekdotische Be- schreibungen der Erscheinung (und des Verhaltens) von Patient*innen mit ›abwei- chendem Sexualverhalten‹. An dieser Stelle wird ein Menschmit ›conträrer Sexual- empfindung‹ beschriebenunddieAbweichungenvondieserNormwerdenvor allem alsWeiblichkeit beschrieben.Obwohl sich die Sexualwissenschaft Ende des 19. Jahr- hunderts als moderne Wissenschaft verstand, teilte sie wesentliche Methoden und Erkenntnisformenmit der vormodernen, teilweisemetaphysischen Physiognomik. 58 Falsifikation Das zweite Zitat stammt aus einer Studie von Wang und Kosinski (2018), die belegen soll, dass künstliche Tiefe Neuronale Netze (Deep Neural Networks: DNN) aus Fotografien besser ablesen können,welche sexuelle Orientierung die abgebilde- te Person habe, alsMenschen.Wang und Kosinski beschreiben hier Teile der Ergeb- nisse ihrer statistischen Analyse und kommen zu dem Schluss, homosexuelle Män- ner (undheterosexuelle Frauen) hätten eine stärkere ›Gesichtsweiblichkeit‹ als hete- rosexuelle Männer oder lesbische Frauen. Obwohl Kosinski undWang völlig andere MethodenverwendenalsKrafft-Ebingundsie auf einePathologisierungverzichten, werden in ihrer Studie ähnliche Vorstellungen über Geschlecht und sexuelle Orien- tierung sowie deren Erkennbarkeit aufgrund optischer Merkmale sichtbar. Somit wird an dieser Stelle deutlich, wie sich mathematisch-exakte Methoden mit einer irrationalen Erkenntnisform wie der Physiognomik verbinden, so dass diese durch Verfahren desmaschinellen Lernens wiederbelebt wird. Auch wenn die Sexualpathologie Krafft-Ebings sich selbst zur wissenschaftlichen Psychiatrie und nicht zur Physiognomik zählt, ähnelt ihre Erkenntnisform – insbesondere die de- taillierte anekdotische Beschreibung von Personen – jenen Versuchen, die aus dem physiologischen Äußeren des Menschen auf deren Charakteristika schließen. Zu- rückgehendauf antikeBestrebungen,dasWesen,denCharakter oder andereEigen- schaften im Äußeren von Menschen zu erkennen, wurde die Physiognomik in der Neuzeit vor allem von Johann Caspar Lavater geprägt. Sein vierbändigesWerk Phy- siognomischeFragmente (1775) kannals Teil einerAnti-Aufklärung verstandenwerden, die sich dem »Mystizismus und Wunderbaren« zugewandt hat (vgl. Gebarek 2003: 35). Lavaters Ansicht nach, lasse sich durch die Ebenbildlichkeit des Menschen zu Gott, das Göttliche imÄußeren desMenschen erkennen (vgl. ebd.: 40). Insbesonde- re die »Gesichtszüge des Menschen [ließen] auf dessen charakterliche Eigenschaf- ten schließen […], d.h. vor allem auf psychische Zustände, das Temperament sowie aufmoralische und intellektuelle Fähigkeiten« (ebd.: 38).Die physiognomische Leh- re wurde im 19. Jahrhundert weiterverfolgt, auch wenn der christliche Bezug in den Hintergrund trat und von eher naturreligiös-romantisierenden Vorstellungen ab- gelöst wurde. Sie stand damit weiterhin im Gegensatz zu der sich gleichzeitig eta- blierenden experimentellen Naturwissenschaft (vgl. Schmölders 2007: 31).1 Während in der Physiognomik Lavaters vor allem mit anekdotischen Beschrei- bungen von Gemälden von Personen gearbeitet wurde (vgl. Schmölders 2007), voll- zog sich mit der Fotografie eine Ver(natur)wissenschaftlichung und eine teilwei- se Integration in die Bereiche der medizinischen und psychiatrischen Diagnostik. WichtigeVertreterdieserStrömungwaren Jean-MartinCharcot,FrancisGaltonund CesareLambroso,die »einen szientifischaufgeladenenBegriff vonvisuellerDiagno- se [forcierten], die den Außenseiter, den Verbrecher, den Kranken, aber auch den 1 Einen umfassenden Überblick, detaillierte Analysen und eine Quellensammlung zur Physio- gnomik bietet Schmölders (2007). Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 59 rassischen Mustertypus mit der nötigen eidetischen Evidenz vorstellen zu können versprach.« (ebd.: 32) Die physiognomische Anschauung mittels Fotografien wur- de bis in die Psychiatrie des 20. Jahrhunderts weitergeführt, wie Regener (2010) in ihrer Studie zeigte.2 Wang und Kosinski (2018) versuchen mit Deep Learning Algorithmen mensch- liche Eigenschaften –hier die sexuelle Orientierung –aus Abbildungen vonGesich- tern zu ›lesen‹ und schließen damit sowohl an die alte wie auch an die moderni- sierte Physiognomik an. Die Ergebnisse nehmen sie zum Anlass, naturalisierende Schlussfolgerungen über die Entstehung der sexuellen Orientierung zu ziehen. Zu- gespitzt formuliert, versuchen Wang und Kosinski Homosexualität in den Gesich- tern von Menschen zu verorten und erstellen sogar Abbildungen von »archetypi- schen« homosexuellen und heterosexuellen Gesichtern (vgl. ebd.: 251). Sie wollen ihre Arbeit zwar explizit nicht in die Tradition physiognomischer Diskurse stellen, da diese zu Recht wissenschaftlich diskreditiert seien (vgl. ebd.: 246), sprechen im Weiteren jedoch davon, es gäbe vielleicht doch Verbindungen zwischen dem Äuße- renundanderenEigenschaften vonMenschen.Menschenwären vielleicht nur nicht dazu in der Lage, diese zu erkennen: Importantly, the low accuracy of humans when judging character from others’ faces does not necessarily mean that relevant clues are not prominently display- ed. Instead, people may lack the ability to detect or interpret them. (ebd.: 247) WoMenschen an ihrer begrenzten Auffassungsgabe und ihren Vorurteilen – wohl- gemerkt nicht an den Prämissen – scheitern, scheinen sie demMaschinenalgorith- mus zuzutrauen, erfolgreich zu sein. Dahinter lässt sich die Vorstellung vermuten, maschinelle Verfahren verfügten über bessere Methoden, größere Intelligenz oder schlicht eine größere Macht, dieWahrheit zu erkennen. Aus der Perspektive der kritischen KI-Forschung3 wurdeWang und Konsinskis maschinelle Physiognomik bereits eingeordnet. Gemeinsam mit anderen Studien zur Erkennung und Prognose von bestimmten Eigenschaften aus Gesichtern4 wer- densie z.B.vonCampoloundCrawfordalsTeil einer ›Verzauberung‹ verstanden,die 2 Die photographische Physiognomik und mit ihr die Phrenologie, die Vermessung von Men- schenschädeln und die damit zusammenhängenden Rückschlüsse auf entsprechende ›Ras- sen‹ wurde ebenfalls mit der Eugenik und der Rassenkunde im 20. Jahrhundert weiter be- trieben, nicht zuletzt im Nationalsozialismus (vgl. Schmölders 2007: 31ff.). In den 1980er- Jahren analysierte z.B. Gould (1988) die – bis dahin anscheinend noch verbreitete – rassisti- sche Schädellehre und mit ihr die falsche Zuschreibung von unterschiedlicher Intelligenz je nach ›Rasse‹ und kritisierte sie als wissenschaftlich nicht haltbar. 3 Für eine informations-ethische Perspektive auf die ›unheimliche‹ Rückkehr der Physiogno- mik vgl. Bendel (2018). 4 In anderen Studien wurde z.B. jüngst versucht, die politischen Orientierung aus Gesichtsab- bildungen zu erkennen (Kosinski 2021; Rasmussen et al. 2022). 60 Falsifikation durch die Kombination von »Vorhersagegenauigkeit und mysteriösen oder uner- klärlichen Eigenschaften« (Campolo/Crawford 2020; Übersetzung d. Vf.) entsteht. Das digitalisierte Verfahren erhält dabei diemythisch aufgeladene Konnotation der Übermenschlichkeit, die die Verantwortung derWissenschaftler*innen und die de- terministische Macht der sozialen Klassifikation und Kontrolle verdecke (vgl. ebd.: 1).Keyes et al. (2021) sehen inder so verstärktenBedeutung vonKI alsQuellewissen- schaftlichen Wissens eine Entwicklung, die dazu verwendet werden kann, gefähr- liche Ideen über die Identität von Menschen zu legitimieren (vgl. ebd.: 158). Diese Befürchtung lässt sich anhand der Studie von Wang und Kosinski leicht nachvoll- ziehen: Auch wenn nicht-heteronormatives sexuelles Begehren zumindest in eini- gen Teilen der Welt akzeptiert oder toleriert wird, gibt es selbst in diesen Ländern reaktionäre Bewegungen und Bestrebungen, die durch eine Essentialisierung und vermeintliche Erkennbarkeit von Abweichungen gestärkt werden könnten. Im Folgenden wird die Studie von Wang und Kosinski aus einer kritischen soziologischen Perspektive analysiert. Dabei wird aufgezeigt, dass die proklamier- ten Ergebnisse nicht haltbar sind, da das Verfahren stark von zuvor definierten Kategorisierungen abhängt, falsche Generalisierungen getroffen werden und (for- schungs-)ethische Schwierigkeiten nicht ausreichend Beachtung finden. So kann gezeigt werden, dass die eingesetzten Algorithmen keineswegs exakte Instrumente zur ›Wahrheitsfindung‹ sind –wie unterstellt wird – und damit der pseudowissen- schaftlichen Physiognomik näherstehen als beabsichtigt. 2. Kritik der maschinellen Erkennung der sexuellen Orientierung Sozialwissenschaftliche Schwierigkeiten zeigen sich an verschiedenen Stellen der Studie vonWangundKosinski.ZumbesserenVerständnis soll diese, bzw.das zuge- hörige Paper, das im Journal of Personality and Social Psychology veröffentlicht wurde, andieser Stelle kurz rekapituliertwerden,bevor anschließenddie kritischenPunkte anhand des Vorgehens der Autor*innen erläutert werden. 2.1. Aufbau der Studie von Wang und Kosinski Nach der bereits erwähnten Bezugnahme auf die historische Physiognomik (vgl. Wang/Kosinski 2018: 246) wenden sichWang undKosinski verschiedenen psycholo- gischen Studien zum Zusammenhang von äußerer Erscheinung und anderen Cha- raktereigenschaften zu und fragen, obMenschen diese erkennen können (vgl. ebd.: 246f.).Auf dieseWeise gelangen sie zurPränatalenHormontheorie (PHT),die als ih- re Ausgangsprämisse verstanden werden kann. Die PHT führt die Entstehung von Homosexualität auf eine Unter- bzw. Überexposition von Androgenen im Mutter- leib zurück (vgl. ebd.: 247). Diese biologische Erklärung resultiert in einem natura- Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 61 lisierten Determinismus: Die sexuelle Orientierung sei bereits vor der Geburt fest- gelegt.Das entspricht einer Festschreibung und biologischenEssentialisierung, die imWiderspruchzuz.B. sozialkonstruktivistischenPerspektiven,die die soziale und historischeGewordenheit unddaher auchWandelbarkeit solcher Identitätskonzep- tionen annimmt, steht. Die PHT muss daher selbst als umstrittene Hypothese gel- ten. Neben dieser Einordnung der eigenen Forschung als einer technisch optimier- ten Physiognomik auf der einen Seite und dem naturwissenschaftlichen Rückgriff auf die Biologie auf der anderenSeite stehenWangundKosinski bereits hier imein- gangs erwähnten Spannungsfeld von Irrationalismus und Rationalismus. Sie zitie- ren imWeiteren verschiedene (psychologische) Studien zurMessung der ›Gesichts- weiblichkeit‹–der »facial feminity« (ebd.)–vonhomosexuellenMenschen.Deutlich wird hier die bereits erwähnte Vorstellung von sexueller Orientierung als Verweibli- chung oder Vermännlichung, auf die im späteren Verlauf noch weiter eingegangen wird.5 Die Studie ist in fünf Untereinheiten aufgeteilt: • Studie 1.a-c: Erkennung und Extraktion der Gesichtselemente und -eigenheiten (facial elements and features) je nach sexueller Orientierung (Datenset mit Ge- sichtsabbildungen von 35.326 Personen) • Studie 2 und 3: Untersuchung der identifizierten Eigenheiten nach ›geschlechts- untypischen‹ Merkmalen (›Gender-Atypicality‹) • Studie 4: Vergleichsstudie mit menschlichen Vorhersagen • Studie 5: Kontrollstudie mit unabhängigemDatenset (Facebook-Bilder) 2.2. Datenauswahl und -zusammenstellung Bei der Datenauswahl entschieden sich Wang und Kosinski für Bilder, die auf ei- ner –ungenannten – US-amerikanischen Datingplattform veröffentlicht wurden, da diese in großen Mengen gesammelt werden können, ökonomisch günstiger so- wie repräsentativer seien als Bilder kleinerer Laborstudien. Da die Fotografien von den Nutzer*innen selbst aufgenommen wurden, wird ihnen außerdem ein großer ›ökologischer‹ Wert zugesprochen (vgl. ebd.: 248). Dieses Verfahren wird in den Datenwissenschaften als Datensammlung »in the wild« (Harvey/LaPlace 2021) bezeichnet und unterläuft einen Grundsatz der Forschung an bzw. mit Menschen. So ist es forschungsethisch nicht vertret- bar, Menschen zu Forschungszwecken heranzuziehen, die nicht ihre informierte 5 Darüber hinaus begründen Wang und Kosinski ihre Studie auch damit, homosexuelle Men- schen, politischen Entscheidungsträger*innen, Firmen und die Gesellschaft ›als ganze‹ vor den Gefahren der Akkuratheit der Gesichtserkennung zu warnen (vgl. Wang/Kosinski 2018: 248). 62 Falsifikation Zustimmung hierzu geben. Aus forschungsethischer Perspektive muss hier die Verletzung der Autonomie kritisiert werden (vgl. hierzu auch Bendel 2018). So ist die sexuelle Orientierung als Teil der – nicht unbedingt als fest gedachten – Iden- tität eine höchst private Angelegenheit, versteht man Autonomie mit Rössler (vgl. Rössler 2001: 100ff.) als Möglichkeit, sich selbst die Frage zu stellen, wie man leben will und – soweit die äußeren, sozialen Bedingungen es zulassen – auch tatsächlich so zu leben. Rösslers Konzeption von Autonomie ist dabei entscheidendmit Privat- heit verbunden, die sie in drei Dimensionen (lokal, dezisional und informationell) differenziert (vgl. ebd.: 138). Insbesondere die informationelle Privatheit ist die Dimension, die von Algorithmen wie den von Wang und Kosinski beschriebenen, verletzt werden kann, sollten sie ohne die Zustimmung und dasWissen der betref- fenden Personen eingesetzt werden.6 Geben Menschen ihre sexuelle Orientierung zum Zwecke des Datings an, ist dies ihre – kontextgebundene – Entscheidung, die sich aber nicht verallgemeinern lässt. Auch wenn sie in Kauf nehmen, dass ihre Daten weiterverwendet werden, wie dies im Internetzeitalter meist der Fall ist (vgl. Seubert 2011: 220), haben sie diese Informationen nur für ihre potenziellen Dating-Partner*innen geteilt. Werden die Bilder, die sie mit dieser Information veröffentlichen, dazu genutzt, die Homosexualität ›als solche‹ bei Menschen zu er- kennen, verletzt dies eindeutig die Privatsphäre. Die Anwendung von Algorithmen dieser Art auf weitere Personen, die die fraglichen Informationen gar nicht selbst im Internet veröffentlicht haben, muss selbstverständlich erst recht als illegitimer Eingriff in die Privatsphäre gewertet werden. Auch aus sozialwissenschaftlicher Perspektive werden bei einem Blick auf die Auswahl der Daten die ersten Einschränkungen der Studie sichtbar. Es wird nicht reflektiert, dass es sich hier um Fotografien handelt, die als solche immer nur einen zeitlich und räumlich begrenzten Ausschnitt derWirklichkeit abbilden. Sowohl die soziale Performanz und die Inszenierung für bestimmte Zwecke als auch die un- gleiche Verwendung von Datingplattformen in der Bevölkerung bleiben unberück- sichtigt, so dass trotz der hohen Zahl der analysierten Bilder, nicht von einer re- präsentativen Grundgesamtheit7 gesprochen werden kann, die es erlauben würde allgemeine Schlüsse zu ziehen. Darüber hinaus zeigt sich in den Daten eine man- gelnde Diversität, welcheWang und Kosinski am Ende des Artikels reflektieren. Sie erklären, dass sie keine ausreichende Anzahl an nicht-weißenHomosexuellen in den Daten finden konnten und vermuten, dies hänge mit einer unterschiedlichen Ver- teilung von Vorurteilen gegenüber Schwulen zusammen und der unterschiedlichen 6 Den Kern der informationellen Privatheit bildet nach Rössler die Kontrolle über den Zugang zumWissen über die eigene Person, die dazu dient zu wissen, was andere über einen selbst wissen (vgl. Rössler 2001: 201), so dass abgeschätzt werden kann, »in welcher Beziehung sie aufgrund dieses Wissens zu ihr stehen« (ebd.: 205). 7 Zum Begriff der Grundgesamtheit: z.B. Häder 2010: 141. Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 63 Nutzung von Online-Dating-Plattformen je nach rassifizierter Gruppenzugehörig- keit (vgl.Wang/Kosinski 2018: 255).Trotzder starkenEinschränkungderuntersuch- ten Grundgesamtheit, halten sie an ihrer Generalisierung fest: We believe, however, that our results will likely generalize beyond the population studied here. They are consistent with the PHT of sexual orientation, which was supported by a variety of studies of humans and other mammals (Hines, 2010). As the exposure to gender-atypical androgen levels is likely to affect the faces of people of different races to a similar degree, it is likely that their facial features are equally revealing of sexual orientation. (ebd.) An dieser Stelle werden insbesondere zwei Aspekte deutlich: Einmal die Einschrän- kung der Studie in Bezug auf Race und zweitens die mangelnde Generalisierbar- keit, die trotz Vermutungen über eine eingeschränkte soziale Verteilung der unter- suchten Plattform, unter Rückgriff auf biologische Studien, beibehalten wird. Die rassifizierte Einschränkung desDatenmaterials und damit der untersuchtenGrup- pe zeigt sich auch in den nicht belegten Vermutungen über unterschiedliche Levels an Toleranz von Gruppen, die sich in Bezug auf Race unterschiedlich positionieren, und ihre (Nicht-)Nutzung von Online-Datingplattformen. Aus sozialwissenschaft- licher Perspektive stellt sich die Frage, ob nicht vielmehr die ausgewählte Plattform eine bestimmte Zielgruppe hat. Bekannt ist zudem, dass die eingesetzten Algorithmen mit Abbildungen von nicht-weißen Menschen zu weniger akkuraten Ergebnissen kommen. Wie viele kritische Studien bereits deutlich gemacht haben, sind Machine-Learning-Algo- rithmen häufig rassistisch vorbelastet (racial bias).Wie z.B. Boulamwini und Gebru (2018) zeigen, können die algorithmischen ›classifiers‹ am besten mit Gesichtern mit heller Haut arbeiten und insbesondere als Menschen mit dunkler Haut klas- sifizierte werden benachteiligt. Dies steht im Zusammenhang mit der geringen Diversität von Bilddatensätzen, die Algorithmen wie dem von Wang und Kosinski eingesetzten f++ zugrunde liegen.8 In einemweiteren Schrittwurdendie AbbildungenderGesichter, die frontal der Kamera zugewandt sein mussten, um nicht aussortiert zu werden, mit Hilfe eines ersten DNN-classifier (namentlich f++) standardisiert, indem die ›facial features‹, d.h. aus der Biometrik bekannte Vermessungspunkte im Gesicht, extrahiert wur- den, wodurch die Kopfhaltung und der Hintergrund vernachlässigt werden konn- te. Mit dem DNN-classifier VGG-face wurden schließlich bestimmte ›landmarks‹ 8 Der racial bias in Machine Learning Software, der z.B. im medizinischen Bereich zu einer schlechteren Gesundheitsversorgung vonNicht-Weißen führen kann (vgl. z.B. Guo et al. 2021) ist mittlerweile weitgehend bekannt und es wird von verschiedenen Seiten an weniger dis- kriminierenden Verfahren gearbeitet (vgl. Das et al. 2018; Serna et al. 2022). 64 Falsifikation extrahiert. Für die statistische Analyse wurde die sexuelle Orientierung (gay/hete- rosexual) als abhängige Variable und die ›landmarks‹ als unabhängige Variable ver- wendet (vgl.Wang/Kosinski 2018: 249). Zur Unterstützung des algorithmischen Verfahrens wurden sogenannte ›Ama- zon Mechanical Turks‹ (AMTs)9 beauftragt (vgl. ebd.: 248). Diese menschlichen Mikro-Arbeiter*innen prüften die von den Nutzer*innen gemachten Angaben. Das (binär gedachte) Gender, die (ebenfalls binär gedachte) sexuelle Orientierung sowie das Alter (18–40) wurden anhand der von Nutzer*innen gemachten Anga- ben übernommen. Anschließend wurde das ›tatsächliche‹ Geschlecht durch die AMT überprüft und die Race der Abgebildeten klassifiziert (vgl. ebd.). Es wurden nur ›kaukasisch‹ aussehende Gesichter in die Studie einbezogen. Die Amazon- Arbeiter*innen haben damit einen aktiven Part an der Zusammenstellung des Untersuchungsmaterials. Deutlich wird hier eine soziale Verwobenheit mit mate- riellen Verhältnissen, was sowohl Fragen in Bezug auf die Neutralität als auch die zugrundeliegende Forschungsethik des Verfahrens aufwirft: Die unter prekären und schlecht bezahlten Bedingungen arbeitenden Personen werden hier genutzt wieMaschinen, was sich auch in ihrer Bezeichnung widerspiegelt. Auch die soziale EinordnungdesGeschlechts anhandderAbbildungen sowie das ageistischeAussor- tieren von als ›zu alt‹ kategorisierten Gesichtern ist an dieser Stelle zu kritisieren. Damit der Algorithmus überhaupt arbeiten kann, werden in der Studie von Wang und Kosinski sowohl ethisch als auch epistemologisch fragwürdige Sortierungen vorgenommen. 2.3. Statistische Analyse Nach der Zusammenstellung des Datenmaterials wurden mit selbst lernenden DNNs10 sowohl die auf den Abbildungen zu sehenden morphologischen Features (Abstand zwischen den Augen, Nasenlänge etc.) als auch das Styling und die 9 Der Begriff geht auf den sog. Schachtürken zurück, einem scheinbar schachspielenden Auto- maten aus dem 18. Jahrhundert, der jedoch – vor dem Publikum versteckt – tatsächlich von einem Menschen gesteuert wurde (vgl. Jank 2014: 112ff.). Die von der Firma Amazon ange- botenen Dienstleistungen der ›Amazon Mechanical Turks‹ beschreibt der Konzern wie folgt: »Amazon Mechanical Turk (MTurk) is a crowdsourcing marketplace that makes it easier for individuals and businesses to outsource their processes and jobs to a distributed workforce who can perform these tasks virtually. […] While technology continues to improve, there are stillmany things that humanbeings candomuchmore effectively than computers […]« (Ama- zon 2022). Dazu siehe auch den Beitrag von Natalie Sontopski in diesem Band. 10 Diese ›Künstlichen neuronalen Netzwerke‹ werden meist als den menschlichen Nervenzel- len nachempfundenen beschrieben, so auch vonWang und Kosinski: »DNNsmimic the neo- cortex by simulating large, multilevel networks of interconnected neurons. DNNs excel at recognizing patterns in large, unstructured data such as digital images, sound, or text, and analyzing such patterns to make predictions.« (Wang/Kosinski 2018: 247) Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 65 Kleidung etc. statistisch untersucht und auf Muster untersucht. So sollten Korrela- tionen zwischen der angegebenen sexuellen Orientierung und den Eigenschaften des Bildes herausgearbeitet werden, was der KI auch tatsächlich gelang. Um die von den DNN erkannten Muster mit der Vorhersagefähigkeit von Menschen zu vergleichen, wurde anschließend in einem experimentellen, d.h. nicht der sozialen Realität entsprechenden Setting, die Fähigkeit zur Erkennung von Homosexualität der KImit dermenschlichen verglichen.Hierzu sollten die bereits erwähnten Ama- zon-Arbeiter*innen und die KI jeweils zwischen zwei Bildern entscheiden, welches von ihnen eher jemanden mit einer homosexuellen Orientierung abbildet.11 Der Vergleich zeigte, dass die Algorithmen die Homosexualität ›besser erkennen‹ konn- ten als die*der jeweils eingesetzte Arbeiter*in. Mit der steigenden Anzahl von Bildern wurde der Algorithmus darüber hinaus immer besser (vgl. ebd.: 249f.). Um ihre Ergebnisse zu testen – zur Vermeidung des ›overfitting‹ – habenWang und Kosinski die Algorithmen anschließend über ein weiteres, vom ersten unab- hängiges Datenset laufen lassen. Als Kontrollgruppe dienten Gesichtsbilder von ausschließlich männlichen Facebook-Usern, die aus bestimmten Gründen, wie der Selbstbezeichnung, aber auch Zugehörigkeit zu Facebookgruppen, als homosexuell eingeordnet wurden. Die Vorhersagekraft der KI konnte dabei bestätigt werden (vgl. ebd.: 253f.). Erneut unberücksichtigt bleiben dabei die sozialen Komponen- ten der Nutzung dieser Plattformen und die unterschiedliche, kontextabhängige Expression der eigenen sexuellen Orientierung. Die Komplexität der eingesetzten Algorithmen führt überdies dazu, dass ihre Ergebnisse nicht direkt nachvollzogen werden können. Dieses als ›Black Box-Phä- nomen‹ bezeichnete Problem, das auch unter dem Begriff »opacity« (Carabantes 2020) oder der »explainablity« (Amann et al. 2022) von KI verhandelt wird, entsteht durch die komplexe Analyse der großen Datenmengen und die verschiedenen, geschichteten Trainings- und Klassifizierungsprozesse, die diese durchlaufen. Im Verfahren der DNNs werden zunächst Trainingsdaten anhand zufälliger Werte klassifiziert, die in Prüfungsdurchläufen nach ihrer Vorhersagekraft weiter ge- wichtet werden, bis eine Menge optimaler Werte enthalten ist. Diese optimalen Werte werden schließlich zum Ausgangspunkt der weiteren Analyse (vgl. Caraban- tes 2020: 313f.), d.h. die gefundenen Korrelationen werden zum Ausgangspunkt für weitere Korrelationen. Um sich einer Erklärbarkeit der Ergebnisse anzunähern, mussten Wang und Kosinski einen weiteren Durchgang der Studie durchführen. 11 Ähnlich wie durch die Vorarbeit der AMTs wird durch diese Versuchsanordnung die Komple- xität der Realität reduziert: Die Möglichkeiten 1) hier ist niemand homosexuell, und 2) hier sind beide homosexuell, werden ausgeschlossen. Eine 50 %-Trefferquote wird somit in das Verfahren eingebaut, obwohl es zumindest z.Zt. keine reale Situation gibt, in der diese so angenommen werden könnte. 66 Falsifikation Erst durch das Verdecken von unterschiedlichen Bereichen der Gesichtsabbildun- gen, also durch Komplexitätsreduktion auf der Ebene der Datenlage, konnten sie herausfinden, welche Eigenschaften der Bilder zu den Ergebnissen geführt hat- ten. Um herauszufinden welche Areale des Bildes als bedeutsam erachtet wurden, wurden ›Heatmaps‹ erstellt (vgl.Wang/Kosinski 2018: 250f.). Schließlich erstellten sie aus den Durchschnittswerten, idealtypische oder ›ar- chetypische‹ Bilder von ›homo- und heterosexuellen Gesichtern‹, die sie wiederum in die Beschreibung der Ergebnisse mit einfließen ließen. Es zeigen sich hier zwei physiognomischeMomente derUntersuchung: einmal in der Beschreibung derUn- terschiede der Gesichter (siehe hierzu das Eingangszitat) und auf der anderen Sei- te in dem Verfahren des zusammengesetzten Fotos selbst. Der Eugeniker und Ras- senkundler Galton (1878)12 entwickelte dieses Verfahren, um die typischen Eigen- schaften von Gesichtern zu finden, anhand derer z.B. eine Anfälligkeit für Krimi- nalität festgemacht werden könnte, und bezeichnete sein Verfahren wegen derme- chanischen statt subjektiven Erstellung als besonders präzise (ebd.: 97). Aus heuti- ger Sicht könnenGaltons Verfahren und seine Disziplin aber nur als rassistisch ver- standen werden. Die von Wang und Kosinski erstellten, zusammengesetzten Bil- der, erwecken den Anschein von Realität, da die Daten von Menschen als Gesich- ter erkannt werden, obwohl sie maschinell erstellt wurden.Die Bezeichnung als ar- chetypisch täuscht in erhöhtemMaße darüber hinweg, dass es sich hierbei um eine aus einem bestimmten Sample (weiße, junge Menschen, die Online-Dating prakti- zieren) errechnete Bilder handelt. Hier von universellen Abbildungen auszugehen, reproduziert rassistische und kolonialistische, ageistische und andere soziale Aus- grenzungsstrukturen. 2.4. Biologistischer Rückschluss Neben den angesprochenen, aus sozialwissenschaftlicher Perspektive äußerst problematischen methodologischen Schwächen, die auch durch den zweiten Durchgang mit einer Kontrollgruppe nicht behoben wurden, sind auch die weite- ren Schlussfolgerungen in Wang und Kosinskis Studie extrem fragwürdig: Statt von statistischenHäufungen undKorrelationen zu sprechen,wie es in einer validen sozialwissenschaftlichen Studie der Fall wäre, wirdmit dem Rückgriff auf eine bio- logistische Theorie eine Universalität der Ergebnisse unterstellt. So werden nicht Aussagen über das konkrete Datenset – nämlich die inszenierten Gesichts-Abbil- dungen einer US-amerikanischen Online-Datingplattform, die zuvor in Bezug auf Geschlecht und Race kategorisiert wurden – getroffen, sondern verallgemeinernde biologistische Rückschlüsse gezogen. Wang und Kosinski beziehen sich auf die 12 Eine gute Übersicht zumWerk sowie diverse Originalquellen von Galton bietet die Website https://galton.org. Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 67 bereits als Ausgangsprämisse verwendete Pränatale Hormontheorie (PHT) (vgl. Wang/Kosinski 2018: 254). In Übereinstimmung mit der PHT schließen Wang und Kosinski aus ihrer ers- ten Unterstudie, Homosexuelle hätten eine ›gender-atypische‹ Gesichtsmorpholo- gie: Schwule Männer sollten demnach tendenziell mehr feminine Gesichtszüge als heterosexuelle Männer haben, während Lesben tendenziell mehr maskuline Merk- male als heterosexuelle Frauen ausbildeten.Maskulinität zeige sich demnach in der markanteren Größe von Kinn, Kiefer, Augenbrauen, Nase und Stirn. Bei schwulen Männern seien diese Bereiche weniger groß, bei lesbischen Frauenwiederum seien diese größer als für Frauen anzunehmen sei. Auch der von ihnen entdeckte gerin- gere Bartwuchs und die hellere Haut bei homosexuellenMännern und weniger Au- gen-Make-Up, dunklere Haare, bedeckende Kleidung und das seltenere Lächeln bei lesbischen Frauen sowie das Tragen von Baseballkappen bei heterosexuellen Män- nern und lesbischen Frauen werden von Wang und Kosinski als ›gender-atypisch‹ bezeichnet (vgl. ebd.: 252). Verbildlicht und dadurch scheinbar auch für uns Men- schen beobachtbar werden diese Annahmen durch die ›archetypischen‹ Gesichter, die Wang und Kosinski aus durchschnittlichen Werten der Daten erstellten (vgl. ebd.: 251). Zum Schluss konstruieren Wang und Kosinski also ›normale‹ Gesichter und ›typische Abweichungen‹, die ›abweichende‹ Begehrensformen anzeigen sollen. Sie stehen damit genau in der Tradition der Physiognomik, der sie sich zu Beginn der Studie nicht zugehörig fühlen wollten. In die physiognomischen Beschreibungen der ›normalen‹ und der ›abweichenden‹ Gesichter gehen sowohl biologische bzw. biometrische wie auch sozial konstruierte bzw. subjektiv hergestellte Merkmale ein. Sie eignen sich daher nicht für biologische Rückschlüsse oder das Testen von biologischen Hypothesen. Im Gegenteil: Die gemeinsame Betrachtung von bio- metrischen und sozialen Gesichtspunkten legt die Untersuchung auf die soziale Herstellung von Geschlecht und den performativen Ausdruck von Begehren fest, biologische Rückschlüsse sind hier gar nicht möglich. 2.5. Konkrete soziale Praxis statt biologischer Essenz Die Aussagekraft der Ergebnisse von Wang und Kosinskis Studie ist aus sozialwis- senschaftlicher Perspektive also als stark eingeschränkt anzusehen. Das Studien- design macht es unmöglich, zu biologischen oder auch zu universellen Aussagen zu gelangen. Selbst wenn keine methodischen Fehler vorliegen würden, begingen WangundKosinski immernoch einen logischenFehler,der alltagssprachlich als un- zulässige oder vorschnelle Verallgemeinerung und epistemologisch als Induktions- problembezeichnetwird (vgl.Ritsert 2003: 98f.): Von den untersuchtenEigenschaf- ten einer bestimmten Gruppe (Nutzer*innen einer bestimmten Datingplattform), die Teil einer größeren, nicht untersuchten Gruppe sind (homosexuelleMenschen), 68 Falsifikation wirdaufdieEigenschaftendieser größerenGruppegeschlossen.Damitwird entwe- derRepräsentativität–die abernicht gegeben ist–vorausgesetzt,oderdieVerallge- meinerung wird durch dieWahrheit einerTheorie gerechtfertigt, die (wie die PHT) bereits Allgemeingültigkeit beansprucht. Letzteres sollte allerdingsGegenstand der Untersuchung sein und kann daher nicht vorausgesetzt werden, da es sich ansons- ten um einen Zirkelschluss handelt. Stattdessen sind die Ergebnisse auf ein konkretesDatenset zu beziehen undda- mit indiesemFall auf die sozialeHerstellung vonGeschlecht und sexuellerOrientie- rungweißer Personen in den USA.Datingplattformen oder andere Social Media be- inhalten –wie alle sozialen Räume –Normen und Ideale, an die sich Anwender*in- nen mehr oder weniger stark annähern oder von denen sie sich mehr oder weniger stark abgrenzen. Einfluss auf die äußere Erscheinung haben zudem vergeschlecht- lichte Moden und Lebensstile, die gemeinsam mit »Männlichkeits- und Weiblich- keitscodes« (Degele 2004: 189) bewusst und/oder unbewusst zum Ausdruck kom- men können. Außerdem ist von einer sozial ungleichen Nutzung und einer entsprechenden Zielgruppendefinierung von Datingplattformen (oder auch Facebook) auszugehen, so dass dieDaten auch nicht als repräsentativ für die ausgewählte Altersgruppe und Race anzusehen sind (vgl. zu Auswahlverfahren in der empirischen Sozialforschung z.B. Häder 2010: 139ff.). So ist auch die Auswahl einer Datingplattform zur Daten- erhebung nicht als repräsentatives Verfahren anzusehen, da diese bestimmte Ziel- gruppen ansprechen wollen und ökonomische Interessen verfolgen. Statt von verallgemeinerbaren oder gar biologischen Ergebnissen zu sprechen, sollte aus sozialwissenschaftlicher Perspektive also eher von Untersuchungsergeb- nissen gesprochenwerden,die eine konkrete soziale Praxis betreffen,die ebennicht von der gesamtenmenschlichen Bevölkerung ausgeübt wird. 3. Wiederverzauberung und Essenzialisierung Aus einer geschlechtertheoretischen Perspektive wirken Studien wie die vonWang undKosinski, in Anlehnung an Campolo und Crawford (2020) wie ein ›verzauberter Verstärker‹ von bestehenden Strukturen. Von verzaubert wird gesprochen, da hier der Anschein erweckt wird, die KI habe ›über-menschliche‹ Fähigkeiten zur Erken- nung vonWahrheit. Bleiben soziale Strukturen bei wissenschaftlichen Studien unberücksichtigt, werden diese jedoch bloß reproduziert und nicht erklärt.13 Im Fall von Wang und 13 Auf diesen Zusammenhang wies Adorno (1979) anlässlich der potenziellen Theorielosigkeit von empirischer Sozialforschung hin. Ohne Gesellschaftstheorie »bleibt die wissenschaftli- che Spiegelung in der Tat bloße Verdopplung, verdinglichte Apperzeption des Dinghaften, Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 69 Kosinskis Studie wird die heterosexuelle Geschlechtermatrix (vgl. Butler 1991) ver- festigt: Es gibt zweiGeschlechter, die natürlicherweise jeweils das andere begehren. Damit wird eine Übereinstimmung von Gender und Begehren zugrunde gelegt. Abweichungen hiervon sollen ebenfalls der Matrix entsprechen. Was nicht passt, ist prekär und nur als Abweichung von der Norm erfassbar, nicht aber als etwas Eigenständiges oder wirklich anderes.14 Es handelt sich bei der Studie also um den Versuch, sexuelle Identitäten als Essenz der Person festzuschreiben und dabei wird sich bei der stereotypen Vorstellung der ›Verweiblichung‹ und ›Vermännlichung‹ der ›echten‹ Geschlechter bei Homosexualität bedient.Weiblichkeit wird dabei,wie bei der historischen Vorstellung von homosexuellenMännern, als Abweichung vom Männlichen konzipiert. So beschreibt Krafft-Ebing, wie bereits anfangs erwähnt, in seiner einflussreichen Psychopathia Sexualis (1894) die dreistufige »Conträre Se- xualempfindung« bei Männern in der ersten Stufe als »Evirato« (Entmännlichung) (vgl. ebd.: 204ff.), in der zweiten als »Effeminatio« (Verweiblichung) (vgl. ebd.: 269ff.) und schließlich in der dritten als »Androgyny « (Androgynität) (vgl. ebd.: 275ff.). Auch wenn es beiWang und Kosinski weder zu einer Pathologisierung noch zu einer direkten Abwertung von Weiblichkeit oder Homosexualität kommt, wird das heterosexuelle männliche Subjekt als Norm aufrechterhalten und Weiblichkeit sowieHomosexualität werden als etwas verstanden, das von dieserNorm abweicht, biologische Ursachen hat und sich daher auch im Körper manifestiert. Abgesehen vonwissenschaftstheoretischen Schwierigkeiten und deren Auswir- kungen auf das Verständnis von Geschlecht und sexueller Orientierung, die eben nicht kohärent oder festgeschrieben sein müssen und sich vor allem nicht durch Gesichtsvermessung erkennen lassen, muss auch die potenzielle Gefährdung von Menschen kritisiert werden. Zwar ist es wichtig, vor physiognomischen Verfahren zuwarnen, da diese bereits in Anwendung sein könnten. So ist das ›Targeted Adver- tising‹ aktuell eine wichtige Komponente des Online-Marketings. Hierfür werden große Datenmengen nach Mustern analysiert, um im Umkehrschluss Individuen anhand der statistischen Merkmale zu kategorisieren und ihnen auf Websites und in Social Media (vermeintlich) passgenaue Produktwerbung anzuzeigen (vgl. Richter/Kaminski 2016: 45; aus Perspektive einer wirtschaftswissenschaftlichen Marketing-Forschung vgl. z.B. Sivadas et al. 1998; Provost et al. 2009; Goldfarb/ und entstellt das Objekt gerade durch die Verdopplung, verzaubert das Vermittelte in ein Unmittelbares.« (ebd.: 204) 14 Butler beschreibt diesen Zusammenhang wie folgt: »Die Gespenster der Diskontinuität und Inkohärenz, die ihrerseits nur auf demHintergrund von existierendenNormen der Kohärenz undKontinuität denkbar sind,werden ständig von jenenGesetzen gebannt und zugleich pro- duziert, die versuchen, ursächliche oder expressive Verbindungslinien zwischen dem biolo- gischen Geschlecht, den kulturell konstituierten Geschlechtsidentitäten und dem ›Ausdruck‹ oder ›Effekt‹ beider in Darstellung des Begehrens in der Sexualpraxis zu errichten.« (Butler 1991: 38) 70 Falsifikation Tucker 2011). Auch das politische ›Micro-Targeting‹ bedient sich dieser Prinzipien (vgl. O’Neil 2018: 244). Wang und Kosinski weisen zwar selbst darauf hin, dass Verfahren, wie das von ihnen vorgestellte, von autoritären Staaten und Firmen genutzt werden könnten (vgl. Wang/Kosinski 2018: 255), dennoch ist ihre Studie selbst Teil einer potenziellen Gefährdung, da sie hierfür eine Anleitung liefern (vgl. Keyes et al. 2021: 168, FN). Homosexualität ist in konservativen Gesellschaften nach wie vor tabuisiert oder sogar verboten, und Menschen, denen man diese Orien- tierung nun (vermeintlich) maschinell ›ansehen‹ kann, könnten je nach Kontext Repressionen, Kriminalisierung und Verfolgung ausgesetzt werden. Aus ethischer Perspektive stellt sich nicht zuletzt deshalb die Frage, warum es gewollt sein sollte, die sexuelle Orientierung am Körper zu verorten, sie damit zu objektivieren und festzuschreiben bzw. zu essenzialisieren und dafür auch noch technische Verfahren zu verwenden, die Menschen potenziell gefährden. Die Verbindungslinien undKontinuitäten zwischen alter und neuer Physiogno- mik per Gesichtserkennungssoftware und Deep Learning Algorithmen konnten in diesemArtikel nurangerissenwerdenundbedürfeneinerweitergehendenUntersu- chung.Besondere Berücksichtigung sollte dabei auch der Zusammenhang vonRas- sismus,BiologismusundEsoterik (vgl.Wölflingseder 1995) finden.AuchdieZusam- menhänge zwischen dem Aufkommen der statistischen Physiognomik und aktuel- len gesellschaftlichenEntwicklungenmüssenuntersuchtwerden.WieCelis Bueono analysiert, können die Verfahren zurmaschinellen Gesichtserkennung und den da- mit zusammenhängenden Kategorisierungen als Versuch der Einhegung von Indi- viduen in derKontrollgesellschaft verstandenwerden (vgl. 2020: 73).Auchdiewach- sende Quantifizierung und die damit zusammenhängende besondere Machtkon- zentration durch statistische Verfahren im Kapitalismus (vgl. Joque 2022), die ras- sistische und vergeschlechtlichte Ungleichheiten (re-)produzieren, müssen in Zu- kunft noch stärker in den Fokus der sozialwissenschaftlichenAnalysen gerücktwer- den, nicht zuletzt, um in einen kritischenDialogmit Forscher*innen treten zu kön- nen, die quantitativ-technisch arbeiten.15 Literaturverzeichnis Adorno, Theodor W. 1979. Soziologie und empirische Forschung. In Soziologische Schriften I. Gesammelte Schriften, 196–216. Frankfurt a.M.: Suhrkamp. Amann, Julia, Dennis Vetter, Stig Nikolaj Blomberg, Helle Collatz Christensen, Megan Coffee, Sara Gerke, Thomas K. Gilbert, Thilo Hagendorff, Sune Holm, 15 Ich danke Malte Fuchs für die kritische Kommentierung des Manuskripts in seinen verschie- denen Fassungen und den Herausgeber*innen für ihre wertvollen Anmerkungen. Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 71 Michelle Livne, Andy Spezzatti, Inga Strümke, Roberto V. Zicari und Vince Ist- vanMadai. 2022. To explain or not to explain? Artificial intelligence explainabil- ity in clinical decision support systems. PLOSDigital Health, 1(2): 1–18. Amazon. 2022. Amazon Mechanical Turk. https://www.mturk.com/. Zugegriffen: 13.01.2022. Bendel, Oliver. 2018. The Uncanny Return of Physiognomy. In The 2018 AAAI Spring Symposium Series: 10–17. Buolamwini, Joy und Timnit Gebru. 2018. Gender Shades: Intersectional Accuracy Disparities. Commercial Gender Classification. Proceedings of Machine Learning Research 81: 1–15. Butler, Judith. 1991.Das Unbehagen der Geschlechter. Frankfurt a.M.: Suhrkamp. Campolo, Alexander und Kate Crawford. 2020. Enchanted Determinism: Power without Responsibility in Artificial Intelligence. Engaging Science, Technology, and Society 6: 1–19. Carabantes,Manuel. 2020. Black-box artificial intelligence. An epistemological and critical analysis. AI & SOCIETY 35(2): 309–317. Celis Bueno, Claudio. 2020. The Face Revisited. Using Deleuze and Guattari to Ex- plore the Politics of Algorithmic Face Recognition.Theory, Culture & Society 37(1): 73–91. Das, Abhijit, Antitza Dantcheva und Francois Bremond. 2018. Mitigating Bias in Gender, Age andEthnicity Classification.AMulti-TaskConvolutionNeural Net- work Approach. Paper präsentiert bei der Proceedings of the EuropeanConference on Computer Vision (ECCV)Workshops: 1–13. Degele, Nina. 2004. Sich schönmachen.Wiesbaden: Springer VS. Galton, Francis. 1878. Composite Portraits.Nature : 97–100. Gebarek, Werner E. 2003. Physiognomik und Phrenologie. Formen der populären Anthropologie im 18. Jahrhundert. In Medizin in Geschichte, Philologie und Ethno- logie. Festschrift für Gundolf Keil, Hg. Gundolf Keil und Monika Reininger, 35–49. Würzburg : Königshausen & Neumann. Goldfarb,Avi undCatherineTucker. 2011.OnlineDisplayAdvertising.Targeting and Obtrusiveness.Marketing Science 30(3): 389–404. Gould, Stephen Jay. 1988.Der falsch vermesseneMensch. Frankfurt a.M.: Suhrkamp. Guo, Lisa N., Michelle S. Lee, Bina Kassamali, Carol Mita und Vinod E. Nambudiri. 2021. Bias in, bias out. Underreporting and underrepresentation of diverse skin types in machine learning research for skin cancer detection-A scoping review. Journal of the American Academy of Dermatology 87(1): 157–159. Häder, Michael. 2010. Empirische Sozialforschung. Eine Einführung. Wiesbaden: Springer VS. Harvey, Adam und Jules LaPlace. 2021. Researchers Gone Wild. Origins and Endpoints of Image Training Datasets Created »In the Wild«. In Practicing 72 Falsifikation Sovereignty:Digital Involvement inTimesofCrises,Hg.BianceHerlo,Daniel Irrgang, Gesche Joost und Andreas Unteidig, 289–309. Bielefeld: transcript. Jank, Marlen. 2014. Der homme machine des 21. Jahrhunderts. Von lebendigen Maschi- nen im 18. Jahrhundert zur humanoiden Robotik der Gegenwart. Paderborn: Wilhelm Fink. Joque, Justin. 2022. Revolutionary Mathematics. Artificial Intelligence, Statistics and the Logic of Capitalism. London: Verso Books. Keyes, Os, Zoë Hitzig und Mwenza Blell. 2021. Truth from the machine. Artificial intelligence and the materialization of identity. Interdisciplinary Science Reviews 46(1-2): 158–175. Kosinski, Michal. 2021. Facial recognition technology can expose political orienta- tion from naturalistic facial images. Scientific Reports 11(1): 100. Krafft-Ebing, Richard. 1894. Psychopathia sexualis, mit besonderer Berücksichtigung der conträren Sexualempfindung. Eine klinischforensische Studie. 9. Stuttgart: Ferdinand Enke. Lavater, JohannCaspar. 1775.PhysiognomischeFragmente, zurBeförderungderMenschen- kenntniß undMenschenliebe. Leipzig/Winterthur: Weidmann und Reich/Steiner. O’Neil, Cathy. 2018. Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschan- cen zerstören und unsere Gesundheit gefährden. Bonn: Bundeszentrale für Politische Bildung. Provost, Foster, Brian Dalessandro, Rod Hook, Xiaohan Zhang und Alan Murray. 2009. Audience selection for on-line brand advertising: privacy-friendly social network targeting. Proceedings of the 15th ACM SIGKDD international conference on Knowledge discovery anddatamining,KDD›09.NewYork: Association forComput- ingMachinery: 707–716. Rasmussen, Stig Hebbelstrup Rye, Steven Ludeke und Robert Klemmensen. 2022. Using deep learning to predict ideology from facial photographs: Expressions, beauty, and extra-facial information. PsyArXiv Preprints. Regener, Susanne. 2010.Visuelle Gewalt.Menschenbilder aus der Psychiatrie des 20. Jahr- hunderts. Bielefeld: transcript. Richter, Philipp und Andreas Kaminski. 2016. »Before you even know …«. Big Da- ta und die Erkennbarkeit des Selbst. International Review of Information Ethics 24: 44–54. Ritsert, Jürgen. 2003. Einführung in die Logik der Sozialwissenschaften.Münster: West- fälisches Dampfboot. Rössler, Beate. 2001.DerWert des Privaten. Frankfurt a.M.: Suhrkamp. Schmölders,Claudia. 2007.DasVorurteil imLeibe: EineEinführung in die Physiognomik. Berlin: De Gruyter. Serna, Ignacio, Aythami Morales, Julian Fierrez und Nick Obradovich. 2022. Sensi- tive Loss: Improving Accuracy and Fairness of Face Representations with Dis- crimination-Aware Deep Learning. Artificial Intelligence 00: 1–18. Kris Vera Hartmann: Von Gesichtsweiblichkeit und Verweiblichung 73 Seubert, Harald. 2011. Privatsphäre. In Handbuch Angewandte Ethik, Hg. Ralf Sto- ecker,ChristianNeuhäuser,Marie-Luise Raters und FabianKoberling, 219–222. Stuttgart: J.B.Metzler. Shrider, Emily A., Melissa Kollar, Frances Chen und Jessica Smegea. 2021.U.S. Cen- sus Bureau. Current Population Reports. Income and Poverty in the United States: 2020. Washington, DC: U.S. Government Publishing Office. Sivadas, Eugene, Rajdeep Grewal und James Kellaris. 1998. The Internet as a Micro Marketing Tool. Targeting Consumers through Preferences Revealed in Music Newsgroup Usage. Journal of Business Research, 41(3): 179–186. Wang, Yilun und Michal Kosinski. 2018. Deep neural networks are more accurate than humans at detecting sexual orientation from facial images. Journal of Per- sonality and Social Psychology 114(2): 246–257. Weber, JuttaundCorinnaBath.2003.Technowissenschaftskulturund feministische Kritik. In Turbulente Körper, soziale Maschinen. Feministische Studien zur Technowis- senschaftskultur, Hg. dies., 9–26. Opladen: Leske und Budrich. Wölflingseder, Maria. 1995. Biologismus – »Natur als Politik«. New-Age und Neue Rechte als Vorreiter einer (wieder) etablierten Ideologie. In Biologismus, Rassis- mus, Nationalismus. Rechte Ideologien im Vormarsch, Hg. Gero Fischer und Maria Wölflingseder, 22–36.Wien: Promedia. II. Somatik Monströse Körper, ambige Maschinen Jordan Wolfsons (Female Figure) Michael Klipphahn-Karge 1. Visuelle Politiken Queere Körper haben Konjunktur. Sie scheinen aus Sicht der gegenwärtigen Kunstproduktion und ihrer Akteur*innen dafür prädestiniert, als Schauwert in Diversifikationsstrategien und als Chiffre zur Verhandlung gesamtgesellschaft- licher Diskurse über Queerness zu dienen – vor allem, sofern sie diese visuell signalisieren (vgl. Lord/Meyer 2019 [2013]). Denn entsprechende Kunstwerke wer- den besonders dann in institutionelle Ausstellungskontexte inkludiert, wenn sie durch ihre Erscheinung unmittelbar als queer lesbar sind.Gemeint sind Körper, die »zweigeschlechtliche und heterosexuelle Normen, Blickregime und Darstellungs- konventionen herausfordern oder umarbeiten, wie dies etwa queere fotografische Arbeiten von [Künstler*innenwie] Catherine Opie, Del LaGrace Volcano oder Sarah Lucas« (Lorenz 2009: 135) tun. Parallel haben westliche queere Künstler*innen und Künstler*innen, die sich eines repräsentationspolitisch queeren Werkbegriffs bedienen (vgl. Halberstam 2005), gelernt, zweckdienlich auf diese Situation zu re- agieren: Sie affirmieren den Bedarf nach einer Ausstellbarkeit des queeren Körpers –bzw. vonQueerness per se – seitens des Kunstmarktes und globaler Kunstinstitu- tionen und nutzen derenMechanismen für sich, auch ökonomisch (vgl. Lord/Meyer 2019 [2013]: 42f.).1 Insbesondere die Verbindung vonKünstlichkeit undQueerness in Relation zum Körperlichen taucht in derlei Kontexten in einiger Persistenz auf.2 Ich verstehe das 1 Ich möchte damit keinesfalls suggerieren, dass dieses Vorgehen konstitutiv für institutiona- lisierte queere Ästhetiken ist. Das zu behaupten, wäre ebenso zu kurz gedacht wie der damit einhergehende Versuch, bestimmte Kunstwerke unter einer Markierung wie Queerness zu fassen und als Ganzes zu begreifen. Eine solche Klammer läuft Gefahr, queere Praktiken zu domestizieren und die Radikalität und Spezifität einzelner Gesten zugunsten einer zugäng- licheren Mediokrität zu verschleiern (vgl. Getsy 2016: 23). 2 Das ist kein Novum: Auch aus historischer Perspektive ist die Assoziation mit Künstlichkeit bereits häufig Substitutions- und Ausdrucksmittel von Queerness gewesen. Ein Beispiel da- für ist die Verschränkung der Ästhetiken von Queerness und Camp (vgl. Sontag 1964: 1). Die- 78 Somatik Künstliche in diesemBeitrag als teils mit technischenMitteln angefertigtes Objekt, welches eine originäre Quelle hat und diese substituiert. Dabei kann das Künstli- che partiell auch Vorgänge nachahmen und so das Ausgangsobjekt erweitern, des- senVorgänge addieren oder schlicht veranschaulichen.Attributewie ›originär‹ oder ›natürlich‹ versuche ich im Verhältnis zur Quelle – hier dem menschlichen Körper als visueller Inspiration fürAvatare,Robotikoderdergleichen–zuvermeiden.Denn auch das Künstliche ist untrennbar mit Macht- und Wissenssystemen verbunden und steht nicht außerhalb der Konstruktion von Subjekten, sondern ist heute viel- mehr konstitutiv für die Konstruktion verkörperter Subjektivität (vgl.Munster 1999: 121). Davon ausgehend erscheint mir die Parallelführung des künstlichen und tech- nischenKörpers imHinblick auf queere Verkörperungen sinnvoll, dennmithin sind gerade solche Körper auf dem Vormarsch, aktuell als »hochartifizielle Wesen« (En- gelmann 2012: 257) für Queerness imAusstellungskontext einzutreten.Die Beispie- le hierfür sind zahlreich: Eine Ausstellung wie Supernatural. Skulpturale Visionen des Körperlichen in der Kunsthalle Tübingen fragte 2020 nach demhybriden Anderen im Kontext neuer Körperlichkeit; die Schau Real Feelings im Haus der elektronischen Künste in Basel nahm im gleichen Jahr den emotiven Einfluss technischer Körper- erweiterungen auf den Menschen zum Anlass und das Museum Folkwang in Es- sen erörterte 2019 den Status des Subjekts im Zeitalter maschineller Verkörperung in der Präsentation Der montierte Mensch. Künstler*innen wie Louisa Clement, Ka- te Cooper, Stine Deja, Goshka Macuga, Sidsel Meineche Hansen, Anna Uddenberg oder Jordan Wolfson exponieren queere Körper, substituieren diese durch künst- liche Surrogate und flexibilisieren das Körperliche mittels Technik und digitalen Technologien in den Bereich des Virtuellen. Dabei wird die künstliche körperliche Oberfläche als Schauplatz von Repräsentation und Kritik verflüssigt. So entsteht »gegenwärtig […] eine Fülle neuer Varianten […] [queerer], aber ebenso transhuma- ner und hybrider Körperbilder, befeuert von Möglichkeiten der Synthese von Digi- talem und Realem« (Kröner 2019: 69). Auf der anderen Seite ist der Einzug technischer, genauermechanischer künst- licher Körper als Darstellungsmittel queerer Ästhetik kunstwissenschaftlich bisher nahezu unmarkiert und kunsthistorisch kaum rückgebunden –bis auf wenige Aus- nahmen (vgl. Chen/Luciana 2015; Busch 2021). So wird das Verhältnis von Queer- ness zu Künstlichkeit – vor allem, wenn Letztere durch technische Mechanik rea- lisiert ist – eher randständig oder als Effekt skulpturaler und plastischer Präsenz interpretiert (vgl. Kunimoto 2017; Dobbe/Ströbele 2020; Krieger et al. 2021). Grund dafür ist auch die Infiltration dreidimensionaler Kunst durch technische und tech- nologische Neuerungen.Denn durch die fortschreitende Technisierung,welche die se kreuzen sich in ihrem Begehren, das stilisiert Künstliche in der visuellen Verfasstheit und Gestik von Körpern zu zelebrieren. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 79 GattungsgrenzederBildhauerei imVerhältnis zuden sich veränderndenKonzepten von Körpern und Körperlichkeit durchlässiger macht, erodieren bestehende theo- retische Konstrukte.Und so entsteht der Eindruck, dass der Kunstwissenschaft oft- mals ›die Worte fehlen‹, um die Verschränkung von Queerness und Künstlichkeit in Relation zum faktisch Körperlichen zu fassen. Eine produktive Lesart, die den künstlichen Körper ebenso als queeres Objekt begreifen kann, das ausgestellt und damit sichtbar gemachtwird, steht ergo ebenso auswie eineKontextualisierungder Substitution queerer Körper durch ein künstliches ›Stand-In‹ seitens der Kunst.3 Diese Lücke in der Forschung erscheint mir einigermaßen paradox, denn be- sonders Technik produziert Verkörperungen en masse bzw. nimmt derzeit großen Einfluss auf das Leibliche, da »der menschliche Körper sowohl für die Inkorpo- rierung von Technik offen ist […] als auch […] einem Inkorporiertwerden in die Technologie zur Verfügung steht« (Busch 2021: 72). Des Weiteren kann Technik selbst als ein Marker rubriziert werden, der die Grenzen des Körperlichen aus- weist, bspw. in der Robotik oder mittels digitaler Bildbearbeitungswerkzeuge (vgl. Calvert/Terry 1997: 5).4 So kann Technik »Kategorien biographischer, kultureller, normativer Kontexte […] transzendieren« (Kröner 2019: 67) u.a. indem das Auftre- ten als Avatar an die Seite einer realen körperlichen Präsenz tritt – ein Konnex, der das Technische seitens der Reflexion des Körperlichen eng mit Bezugnahmen zu Queerness verschränkt. Gleichzeitig produziert das Ausstellen, also das Zeigen queerer und insbesondere künstlicher queerer Körper – seien es Plastiken oder in installative Kontexte gebettete technische Ausdigitalisierungen von Körperlichkeit – unweigerlich eigene und betont bestehende Stereotypisierungen, die sich in 3 Diese Rubrizierung passt zumbisherigenHerangehen der Kunstwissenschaft an queere Kör- per im Allgemeinen. Betrachtungsmethoden sind oftmals von komplexitätsreduzierenden Reflexen geprägt und fokussieren hauptsächlich auf ein Austarieren starrer binärer Logiken, indem Heteronormativitätskonstruktionen als das diametrale Gegenüber queerer Subjekt- logiken postuliert und queere Körper daran gemessen werden, wie stark sie Unterscheidun- gen zu ›normativen Körpern‹ visuell performen (Butler 1995: 42). Demnach »(werden) Bil- der im Sinne eines auf Stellvertretung basierenden Repräsentationskonzepts gedeutet und allein als Für- oder Gegensprecher[*innen] wahrgenommen. […] Die Kritik an Mythen von Autor[*innen]schaft, die Einsichten in die Wirksamkeit von Blickregimen, die Fragen me- dialer Dispositive sowie die zahlreichen Reflexionen zur bildhaften Verfasstheit von Körper und Subjekt bleiben in der Problematisierung heteronormativer Konstruktionen außen vor« (Adorf/Brandes 2008: 7f.). 4 Besonders die Erkenntnisse feministischer Technikforschung und Science-and-Technology- Studies leisten auf diesem Gebiet Vorschub (vgl. Carpenter 2016, 2017; Kubes in Coeckle- bergh/Loh 2019, Kubes in Bendel 2020; Richardson 2022) ebenso wie die Disability-, Queer- und Gender-Studies (vgl. Davis 1995; Morton 2010; Bryant 2011; in diesem Zusammenhang auch Bennett 2010), die in Teilen starke Bezüge zur Körpersoziologie aufweisen und auf di- verse Bereiche der Kultur- und Sozialwissenschaften beachtlichen Einfluss haben (vgl. Harr- asser 2013, 2016; Treusch 2020; Misselhorn 2021). 80 Somatik der »Produktion von Voyeurismus, [der] Affirmation tradierter Strukturen des Wissensgewinns und […] bestehender minorisierender Repräsentationsgramma- tiken« äußern (Paul/Schaffer 2009: 9). »Die zentrale Bedeutung des Feldes der Visualität als Teil queerer Politiken (unterstreicht)« (ebd.: 11f.) dagegen die Notwen- digkeit, eine Ästhetik der Uneindeutigkeit in den Fokus der Untersuchung queerer Darstellungspraxen zu setzen.5 Grundlegend ist Sichtbarkeit das relevanteste Kriterium hinsichtlich eines Sprechens über Ästhetik – gleichzeitig ist das mit dieser Sichtbarkeit einherge- hende ›Zeigen‹ besonders in Relation zu Queerness ambivalent: Erstens changiert queere Bildlichkeit permanent zwischen Zeigen und Ent-Zeigen des Körperlichen – womit ich nicht meine, dass etwas nicht gezeigt wird, sondern dass ein visuell verfügbares Artefakt über den Entzug von Sichtbarkeit referiert, also dieser Entzug Thema des Bildlichen wird, indem mit Referenzen und visuellen Codes operiert wird (vgl. Lorenz 2012: 140f.). Zweitens gibt es generelle Debatten über das Pro und Contra des Zeigens an sich: Einerseits hält eine Nichtmarkierung Vorteile für Personen bereit, die von der gesellschaftlichenMehrheit in der Regelmarginalisiert werden. So sindmit Unterwerfung und Dienstbarkeit verknüpfbare Markierungen wie Besitz, Verfügbar- und Formbarkeit unweigerlich mit Sichtbarkeit verstrickt (vgl. Phelan 1993: 6). Indem sich Queerness andererseits visuell aus der Sicher- heit des körperlich Vertrauten aus- und in die Offenheit körperlicher Alterität einschreibt (vgl. Engel 2008: 16), erodiert sie optische Stereotype, die fest in öffent- lichen Sehgewohnheiten verankert sind. Diese Unterscheidungen als wesentlich für die Untersuchung queerer Ästhetiken und Offenheit als visuelle Ausdrucksform zu begreifen, hältmeines ErachtensMöglichkeiten bereit, uneindeutige Bildpraxen als queere Konsequenz in den Blick zu rücken. Das ›Mehr‹6 in den Debatten über Sicht- und Unsichtbarkeiten innerhalb des Feldes visueller Kultur liegt in der Eigenschaft von Kunstwerken an sich begrün- det: Da Bilder, die zirkulieren und remedialisierbar sind – vor allem im Zuge di- 5 Produktive Ansätze erkenne ich in der Untersuchung queerer »Repräsentationen von Kör- pern ohne Körper« (Spector 2007: 139ff., zit.n. Lorenz 2009: 136). Das meint das Repräsen- tieren verkörperter queerer Subjekte, »ohne den Versuch zu unternehmen, sie visuell darzu- stellen«, und ohne »Körper, die für eine Abweichung von der Norm oder eine Nichterfüllung der Norm einstehen sollten, explizit zu zeigen« (Lorenz 2009: 136). Des Weiteren werden Konzepte der Sichtbarmachung um ein ›Mehr-Sehen‹ erweitert, um sich »von dort aus […] in Richtung einer reflexiven Praxis des Sehens […] [als] einer reflexiven Repräsentationspraxis zu bewegen« (Schaffer 2008: 67). Ich lese darin eine Bereitschaft, den Bildern Raum für Re- vision und Aktualisierung zu geben und damit ›mehr-zu-sehen‹ als einen queeren Moment, der oftmals ›nur‹ für einen didaktischen und normativen Impetus genutzt wird. 6 An dieser Stelle kann ich mit einem Verweis zu KI-relevanten datenökonomischen Praxen vorgreifen, denn »Mehr […] ist eine riskante begriffliche Setzung. Sie lehnt sich an eine öko- nomische Wertvorstellung des Mehr = Besser an.« (Schaffer 2008: 67). Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 81 gitaler Bildkulturen (vgl. Bolter/Grusin 2000; Joselit 2013) –, unweigerlich immer neue Bilder produzieren, können Erkenntnisse über queere visuelle Bildpolitiken und derenWiderständigkeit nicht nur im Austarieren von Sichtbarkeitslogiken lie- gen, sondern auch in der Bereitschaft, auf werkimmanente Ambivalenzen und Am- biguitäten zu fokussieren. Ich begreife Ambivalenz als Beschreibung »des gedanklichen und emotionalen Oszillierens zwischen Alternativen« (Lüscher 2011: 326), das vor allem im Bereich des Ästhetischen von Ambiguitäten begleitet ist, auf die ich in diesem Beitrag im Besonderen fokussiere. Ambiguität verstehe ich als »die Möglichkeit, einen Gegen- standoder einEreignismehr als nur einerKategorie zuzuordnen«,als »Unordnung« (Baumann 1992: 13). Der Begriff der Ambiguität betrifft damit sowohl kulturelle Ob- jekte als auch Identitätsfragen in einer hybridenGesellschaft –vor allem,wennman ihn als ästhetisches Merkmal definiert, das für Offenheit und Erweiterung des Be- wusstseinsplädiert,bspw.gegenüber einemKunstgegenstandoderaucheiner tech- nischen Neuerung (vgl. Eco 1977: 52). Bezüglich des folgendenWerkbeispiels werte ich die demAmbivalenten oftmals pejorativ attestierte Zwiespältigkeit hinsichtlich der Darstellung queerer Körper als positiv und stelle diese als relevant heraus. Gerade im Hinblick auf ein so diffizi- les Unterfangen wie das Verknüpfen von (Un-)Sichtbarkeit und tatsächlicher An- schauung erscheint mir die Überprüfung von Gehalt und Aktualität des Bildlichen Teil einer kritischen und inklusivenUntersuchungspraxis zu sein, dieDiversität be- tont (Nord 2000: 156ff.). Diese Praktiken werdenmir im Anschluss als methodische Zugänge dienen, welche Queerness als ästhetischen Marker kenntlich und so die Untersuchung von Körpern als visuelle Zeug*innen für Queerness möglichmachen können. Dabei konzentriere ich mich vornehmlich auf eben jene Körperdarstellun- gen, die seitens der Hersteller*innen künstlicher Stellvertreter*innen in dieModu- lation der Körper eingeflossen sind. Diese Einflüsse bieten das größte Reibungs- potenzial: Sie sind meist heteronormativ und unterliegen rassistischen oder kör- pernormierenden Dominanzverhältnissen. Besonders die ambige Darstellung von humanoiden Robotern und Systemen künstlicher Intelligenz als weißen und sexua- lisierten Körpern ist Dreh- und Angelpunkt meiner kritischen Reflexion. Da diese künstlichen Körper an Stelle ›echter‹ Körper treten, stellt sich außerdem die Fra- ge, ob diese Körper – von ihren Hersteller*innen als deren Eben- oder Idealbild ge- schaffen – nicht ebenso marginalisiert und stereotypisiert werden. 2. Ambige Maschinen Fußend auf dem Bild, das die derzeitige Rezeption queerer (und) künstlicher Kör- per sowie deren (Un-)Sichtbarkeit in der Kunst zeichnet, widme ich mich nachste- hend der Konstitution dieser Körper, indem ich sie exemplarisch auf ihre Ambigui- 82 Somatik täten hin untersuche. Die Frage danach, wie sich Künstlichkeit und Queerness in Körpern als Gegenstände der Kunst einschreiben, spielt dabei ebenso eine Rolle wie das,was den Körpern widerfährt. Zusätzlich erörtere ich Formen des Aufbegehrens dieser Körper entgegen diesen Zumutungen. Als Untersuchungsgegenstand dient mir eine reale, physische Verkörperung eines Roboters, der mit Systemen künst- licher Intelligenz sowie animierten und digitalen Charakteren verschränkt ist: die äußerst provokative und auch im queeren Feld sehr kontrovers diskutierte Arbeit Jordan Wolfsons mit dem Titel (Female Figure) von 2014 (vgl. Goodyear 2020). Das ambige Potenzial des Fallbeispiels liegt darin begründet, dass der Künstler Queer- ness für seinWerk affirmiert und dabei synonym heteronormative Konstruktionen unterläuft. Es werden darinmarginalisierte historische Denkfigurenwie Hexen in- kludiert und gleichzeitig über einen künstlichen Körper exponiert. Dieser spiegelt bestimmte normativeGeschlechterbilder, klassistische und rassifizierte Vorstellun- genwiderundvermittelt jenenBildern entsprechendeHandlungenundVerhaltens- weisen durch ein autonomes Entscheidungssystem und Bezüge zu Überwachungs- systemen. DasWerk ist ein animatronisches Surrogat einesmenschlichen Körpers und ei- ne bewegungssensitive Plastik zugleich, die zu Popmusik tanzt (Abb. 1). Die nach- folgend von mir als Roboterin gelabelte Figur ist mit einer blonden, welligen Lang- haarperücke und einer grünen Halbmaske bekleidet. Diese erinnert sowohl an ste- reotypisierte Hexenvorstellungen wie auch an anonymisierende Karnevalsverklei- dungen und Nasenfutterale, die Schnabel- und Pestmasken ähneln (vgl. Feldhaus 2014). Vomübrigen Gesichtsteil sind braune Augen und einMund zu sehen, dermit Haifischzähnen aufwartet. Die Haut besteht aus einem synthetischen Polymer, das sich farblich als Verkörperung einer weißen Person zeigt, die als weiblich gelesen werden kann und durch die Betitelung desWerkes durch den Künstler auch als de- zidiert weiblich ausgewiesen wird. Die Figur trägt einen weißen Bodysuit aus Poly- ester, der im Torsobereich wie ein trägerloses tailliertes Bustier geschnitten ist und sich im Schoß verengt. Dieser ist um die Taille mit einem weißen, halbtransparen- ten Schurz aus Chiffon gefasst. Um den Hals der Figur ist ein dehnbares Halsband gelegt; an den Beinen und Füßen trägt sie kniehohe Kunstlederstiefel mit Plateau und Pfennigabsatz. Sie ist an verschiedenen Stellen mit schwarzem Schmutz be- rieben. Ihre lückenhafte Schulterpartie gewährt einen Blick in ihr Inneres, in dem Zahnräder sichtbar werden und ihre Konstruktion als mechanisch ausweisen. Ihre Arme sind ›nackt‹, aber weiß gefärbt, so dass sie identisch zu den bekleideten Tei- len selbst wiemit Handschuhen überzogen wirken. Sie wird stets in einem kleinen, wenige Personen fassenden und dadurch intim wirkenden Raum ausgestellt, der je nach Ausstellungssituation variieren kann. Eine glänzende Stange penetriert ihren Bauch und befestigt sie an einem großen Spiegel, hinter dem die Funktionstech- nik als körperexterne Mechanik sowie die Stromversorgung verborgen liegen (vgl. ebd.). Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 83 Abb. 1: JordanWolfson, (Female Figure), 2014, im- mersive Umgebungmit animatronischer Plastik, The Broad, Los Angeles.7 Die Roboterin tanzt lasziv, manchmal auch nur träge, als sei sie in das Hören von Leonard Cohens Boogie Street, Lady Gagas Applause, Paul Simons Graceland oder einer narkotischen Version von Robin Thickes Blurred Lines versunken (vgl. Colucci 2014).8 7 Gesamtmaße: 182,9 x 182,9 x 73,7 cm, Einzelmaße der Figur: Höhe 139,7 bis 185,4 cm, Breite 62,2 bis 121,9 cm, Tiefe 73,7 bis 99,1 cm, Spiegel: 182,9 x 182,9 cm. Quelle: © Jordan Wolfson und Galerie David Zwirner, New York/London, Foto: John Smith. https://www.spikeartmaga zine.com/?q=articles/jordan-wolfsons-robot-moment-terror. Zugegriffen: 07. März 2022. 8 Wolfson selbst gibt u.a. die FilmfigurHolliWould als Vorläuferin von (Female Figure) an, auf die er sich – neben demWerk Die Geschichte des Auges (1928) des Schriftstellers Georges Bataille – bezieht (vgl. Kröner/Wolfson 2019: 157): Sie ist eine animierte und von der Schauspiele- rin Kim Basinger in dem Film Cool World unter der Regie von Ralph Bakshi 1992 verkörperte Frau und erinnert in ihrem Aussehen und Auftreten stark an (Female Figure). Der Film erzählt die Geschichte eines Cartoonisten, der sich in einer Zeichentrickwelt wiederfindet, aus der wiederum Holli Would ein Entrinnen sucht. Diese Frauenfigur strebt danach, einen mensch- lichen Körper aus Fleisch und Blut anstatt ihres animierten Körpers zu besitzen, und erreicht dieses Ziel durch den sexuellen Kontakt mit dem Protagonisten des Films – dem Künstler, 84 Somatik Ihre Augen sind mit einem Bewegungssensor ausgestattet, der erkennt, wenn Menschen den Raum betreten oder verlassen.Mittels Gesichtserkennungssoftware ist dieser teilautomatisierte Körper zu einfachen Interaktionen mit den Betrach- ter*innen im Stande, kann sie ›antanzen‹ und ›anschauen‹. (Female Figure) spricht mit einer sonoren Stimme, die sich – wenn gleich vom Künstler eingesprochen – einer binären geschlechtlichen Zuschreibung entzieht und ihre sexualisiert-femi- nisierte Körperlichkeit in eine Mehrdeutigkeit gleiten lässt (vgl. ebd.). Diese Ambi- guität der körperlichen Merkmale ist symptomatisch für das verwirrende Verhält- nis von Queerness und Künstlichkeit, das sich exemplarisch in diesem Kunstwerk zu vereinen scheint. Diese Fusion gelingt dadurch, dass der vonWolfson geschaffe- ne »monströse Körper als ein deviant gewordener Geschlechtskörper« induktiv ist, denner »(demonstrier[t])Körper alsSchauplatzmonströserGesellschafts-undSub- jektverhältnisse« und verweist darauf, wie solche Körper »durch die Verquickung von neuen Technologien […] in den letzten Jahrzehnten entstanden sind« (Volkart 2004). (Female Figure) konterkariert auf dieser Basis die Persistenz,mit der Robotik als Lösungsversprechen vielfältiger gesellschaftlicher Probleme allgegenwärtig gewor- den ist: Roboter sollen zunehmend körperlich anstrengende und sozial strapazie- rende Aufgaben übernehmen, etwa in Industrie, Militär oder in der Pflege. Die Be- zeichnung Roboter wird damit dem Ursprung des Wortes gerecht.9 Als Verkörpe- rungen künstlicher kognitiver Leistungs- und Lernbildungsprozesse sind Roboter auch mit Systemen künstlicher Intelligenz verstrickt – vor allem, um jenen gerade genannten Tätigkeiten unter Aspekten derDienstbarkeit autonomnachkommen zu können. Dementsprechend ist das für neuerer Ansätze der Robotik prägende ma- schinelle Lernen als eine Entwicklung kognitiver Kapazität konzipiert, die aus ei- ner Interaktionmit der Umwelt resultiert. Eine derartige Konstruktion stellt poten- ziell das Herausbilden ›intelligenten‹ maschinellen Verhaltens in Aussicht (vgl. Be- cker/Weber 2005; Roßler 2016; Bischof 2017).10 Solche Roboter sindmit »verkörper- ten,mobilen Agenten,deren sensomotorischeRückkoppelungsschleifen eine Inter- aktion mit der Umwelt ermöglichen«, erreichbar, denn nur so kann man »künstli- der sie geschaffen hat (vgl. Ebert 1992). Ihre stark stilisierte Verkörperung entstand durch die Rotoskopie von Basingers Gesicht und Körper, einer Technik zur Erstellung animierter Se- quenzen, bei derObjekte in einer Live-Action-AufnahmeBild für Bild nachgezeichnetwerden (vgl. Seymour 2011). Diese Technik macht aus Basingers lebendigem Körper einen leblosen, animierten Körper, der sich wiederum nach Reanimation sehnt (Connor 2019: 241). 9 Das tschechische Wort ›robota‹ kann im Deutschen mit »frondienstleistend« oder »zwangs- arbeitend« (Pfeifer: 1993) übersetzt werden. Es diente bereits im Spätmittelhochdeutschen als Bezeichnung für eine*nArbeiter*in im Frondienst imSinne eines*r Diener*in, gar Sklav*in (vgl. ebd.). 10 Roboter, die mit vorhandenem programmiertem Wissen auskommen und hantieren müs- sen, um danach automatisiert zu handeln, gehören nicht in diese Kategorisierung. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 85 che intelligente Systeme erfolgversprechend konstruieren, die nicht an einfachsten Aufgaben wie Gehen, Objekterkennung oder Navigation scheitern« (Weber 2003: 120). Diese Neuausrichtung macht auch die in Technologien der künstlichen In- telligenz eingeschriebenen posthumanen Vorstellungen sichtbar, die sich durch ei- ne maschinelle Vernetzung mit der Umwelt im Sinne einer Einbettung zeigen, im Gegensatz zu einer bloßen nachahmenden Verkörperung dieser (vgl. Bose/Treusch 2013; Weber/Bath 2007). (Female Figure) grenzt sich parallel zu neueren Ansätzen der Robotik ebenfalls von cartesianischen Konzepten ab, die Körper und Geist ge- trennt betrachten. In diesemWerkwird eine kognitive Leistung durch das informa- tionsverarbeitende Systemerst durch die physische Interaktion konstituiert,wenn- gleich diese Wechselbeziehung mehr auf einer metaphorischen Ebene der Kunst und durch ein Zusammenspiel mit den Betrachter*innen stattfindet als auf techni- scherEbene.DasKunstwerk repräsentiert soAutomationstechnikenundverwandte Technologien künstlicher Intelligenz und ist symptomatisch für künstlerische Be- züge, die sich maschinell mit Umwelten vernetzen oder Robotik thematisieren. Wahrnehmung ist ebenso kein einseitig rezeptiver oder allein geistiger Vor- gang.Sie funktioniert nur imaufeinander bezogenenHandelnmit der körperlichen Motorik: Sehen etwa ist ausschließlich durch die Bewegungen des Auges und diese Bewegungen wiederum durch perzeptive Signale möglich (vgl. Schill et al. 2008: 284f.). (Female Figure) rekurriert darauf mittels Gesichtserkennungstechnologie und Bewegungsdetektion –Methoden ›maschinellen Sehens‹, um Fremdbewegung im Blickfeld der Technik zu erfassen. Diese beiden Verfahren sind in die Augen der Figur eingelassen. Zugrundeliegende Systeme, die oftmals künstliche Intelli- genzen inkludieren, ermöglichen es dem animatronischen Surrogat, in Kontakt mit seiner Umwelt zu treten (vgl. Birkett 2014). Derlei Erkennungssysteme nutzen Technologien, die in der Lage sind, ein menschliches Gesicht aus einem digitalen Bild oder einem Videobild mit einer Datenbank von Gesichtern abzugleichen. Die Funktionalität basiert auf der Bestimmung undMessung von Gesichtsmerkmalen, die aus bestimmten Bildern extrahiert werden (vgl. Meyer 2021: 12ff.).11 Aus einer dezidiert queeren Perspektive verdreht Wolfsons Werk gleichzeitig den normativen Blick der Rezipient*innen: Während die Besucher*innen in den Spiegel schauen, um die Roboterin zu beobachten, kehrt Wolfsons Figur das voy- euristische Moment um. Ihre Augen sind nicht direkt, sondern nur im Spiegel 11 Der Systematik zugrundeliegende neuronale Netze werden dafür mit großen Mengen eti- kettierter Bilder trainiert, um belastbare Ergebnisse in der Bilderkennung liefern zu können. Das mit dieser Sammlung von Bilddaten einhergehende Etikettieren ist vielfach mit prekä- rer Arbeit verbunden, die häufig von Menschen im globalen Süden verrichtet wird. Diese Typisierung durch Personen birgt das Risiko, dass ohne Rücksicht auf kulturelle und soziale Werturteile Bilddaten bspw. aufgrund von Race und Geschlecht sortiert und die Bedeutung der Bilder persistent in einer Weise verzerrt wird, die geschlechtsspezifisch und damit po- tenziell diskriminierend ist (vgl. Crawford 2021: 64f.). 86 Somatik zu sehen und aus dieser Reflexion blickt (Female figure) – gleichzeitig Objekt und objektivierte Figur – auf die Betrachter*innen zurück. So domestiziert sie gewis- sermaßen den Blick des Publikums und destabilisiert dessen Beziehung zu einem ›Ding‹, das basierend auf seiner materiellen und gesellschaftlichen Genealogie ursprünglich als unterwürfig angelegt war (vgl. Colucci 2014). Mehr noch fordert (Female Figure) über ihr Zurückblicken hinausgehend die Rezipient*innen dazu auf, ihre Augen zu schließen, indem sie in ihrer nicht-binären Stimmfarbe sagt: »Now close your eyes.« Währenddessen wird das Publikum weiterhin von der Roboterin beobachtet undkommandiert, indemsiedieBesucher*innenauffordert, ihreWorte zuwiederholen: »Say ›touch is love‹« (vgl.Wolfson et al. 2015: 72). In diesemVersuch der Kontrollübernahme über die Blick- und im weiteren Sinne Handlungsregime der Betrachter*innen sowie der Manipulation des Blicks der Zuschauer*innen lese ich ein queeres Moment, welches das Werk als ambig ausweist. Dieses Verhandeln bzw. Queering von Blickregimen ermächtigt (Female Figure) dazu, Stellvertreterin für sexualisierte queere Körper zu sein. Zugleich produziert dieser Mehrwert in der Darstellungskonzeption Bilder, die einer permanenten Revision bedürfen. Die Körperoberfläche von (Female Figure) ist aus einem für die Weltraumfahrt entwickelten Kunststoff gefertigt und auf einem Endoskelett – die mechanische Stützstruktur des Kunstwerks – angebracht (vgl. Feldhaus 2014). Ihr Ersatz für Haut in Inkarnat entspricht der populären bildlichen Darstellung von Robotern und Systemen künstlicher Intelligenz, die meist als wei- ße Humanoide visualisiert werden (vgl. Cave/Dihal 2020: 686). Die Figur steht da- mit in der Traditionslinie einer engenVerknüpfung vonRace und Technik sowie de- ren visueller Repräsentation.12 Es ist beobachtbar, dass die Züge humanoider Robo- ter sogar weißer werden, je menschenähnlicher sie gestaltet sind. Ein Beispiel da- für sind die Hände von (Female Figure), denn sie sind als einziges Körperteil weder in Inkarnat gehalten noch bekleidet, sondern reinweiß gefärbt. Grund dafür ist, dass die Hände die komplexesten Bewegungsabläufe im periodischen tanzbasier- ten Handlungsablauf durchführen.Wären diese Hände bekleidet, könnte der Stoff ein Hindernis für die reibungslose Bewegungsabfolge darstellen – zugleich sollen sie jedoch so menschlich wie möglich wirken. Dafür werden die Hände paradoxer- weise in einem noch weißeren Ton gehalten, als es bei dem übrigen hautsimulie- 12 Übertragen könnte man – zumindest was das Weißsein als Angelpunkt hegemonialer west- licher visueller Kulturen anbelangt – die Gestaltung von (Female Figure) als ein Ergebnis ko- lonialistischer Genealogien lesen. Technische Innovationen, bspw. Maschinen, Waffen und Transportmedien, waren bedingungsgebend für die Versklavung, Verschleppung und Ver- treibung vonMenschenunddieAusbeutungnatürlicher und intellektueller Ressourcenunter demVorwand ›aufklärerischer Erziehung‹ nichtwestlicher Gesellschaften. Parallel verkörpert dasWerk auch die Rechtfertigung dieses Tuns, damittels derweißen technischen Überlegen- heit Europas das Beherrschen des ›Anderen‹ begründet und als notwendig ausgelegt wurde (vgl. Adas 1990: 3). Dazu siehe auch den Beitrag von Katrin Köppert in diesem Band. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 87 renden Polymer der Fall ist. Man könnte auch sagen: Sie sind weißer als weiß ge- halten. Weißsein ist generell bedingungsgebend für Narrative, die weiße Hegemo- nie (re-)produzieren und aufrechterhalten. Rassifizierte Identität wird damit zum integralen Bestandteil anthropomorphisierter künstlicher Körper und definiert da- von ausgehend Menschenähnlichkeit näher (vgl. Cave/Dihal 2020: 688). Auf diese Weise wird das vorherrschende Bild derjenigen weißen Personen reproduziert, die die Welt gestalten und sich selbst und ihre Verkörperung in technische Körper ein- schreiben, indem weißeMenschen weiße Roboter entwerfen –mitsamt dem Begeh- ren der Produzent*innen und deren Idealvorstellungen davon, was Menschen und damit Menschlichkeit ausmacht (vgl. ebd). Bezüglich maschineller Lernverfahren und verwandter Systeme ist das primäre Attribut, das auf diese weiße Technik pro- jiziert wird: Intelligenz. Kognitive Leistungsfähigkeit wird demzufolge ebenso eng mitWeißsein assoziiert wie auch Sauberkeit und Reinheit (vgl. Dyer 1997: 75f.). Die Darstellung von Robotern und Systemen künstlicher Intelligenzen als weißen Per- sonen stellt diese Maschinen damit in einer Machthierarchie über marginalisier- te Gruppen, denen derartige Assoziationen im Zuge institutionalisierter Unterdrü- ckungsmechanismenaberkanntwerdenbzw.bewusstnie zuerkanntwurden.Selbst populäre und an Sklav*innenaufständen angelehnte Erzählungen möglicher end- zeitlicher Rebellionen von Robotern oder künstlichen Intelligenzen konzipieren die aufbegehrenden Protagonist*innen zumeist als weiße Körper (vgl. ebd.: 213). Darauf aufbauend muss jedoch die Frage des Verhältnisses von Autor*innen- schaft undWerk gestellt und individuell verhandelt werden. Grundlegend halte ich in der Produktion kultureller Gegenstände ein Aufwiegen der Zuordnungen von Race im Kontext künstlicher Körper im Verhältnis zur Urheber*in entsprechender Werke für unsicheres Terrain u.a. hinsichtlich der spezifischen Diskriminierungs- geschichte und der intersektionalen Diskriminierungserfahrungen von Jüd*innen (vgl. Cazés/Monty 2020), zu denen der Künstler zählt. Indessen müssen die Darstellungsmodi für Roboter im Kontext der Kunst als ästhetisches Mittel generell in Frage gestellt werden, sofern sie Race konstruie- ren. Warum wird bspw. Ai-Da, die als »weltweit erste ultrarealistische humanoide KI-Robo-Künstler*in« (Romic 2021; Übersetzung d. Vf.) beworben wird und mit einem klar ersichtlichen künstlich-mechanischen Körper ausgestattet ist, bei dem die Arme eindeutig maschinell und zum größten Teil metallisch sind, mit einem weißen, als weiblich zu lesenden Kopf mit Haut aus Silikonüberzug und Kunsthaar versehen? Im Zuge der Eröffnung ihrer Einzelausstellung im St. John’s College 2019 wurde »Ai-da als das ›geistige Kind‹ des Galeriedirektoren Aidan Meller« (ebd.; Übersetzung d. Vf.) beschrieben – also als Nachkomme einesweißenMannes. Diese Beschreibung verweist auf ein männliches Ansinnen, mittels Robotik weiße Körper als dienstbares Ebenbild zu gebären. Derlei Abbilder sind optisch nicht nur ihren Erschaffern gleichend weiß, sondern stereotypen Unterwürfigkeitssymboliken 88 Somatik folgend personell weiblich attribuiert – vornehmlich in Assistenzsystemen (vgl. Goldfuß/Sontopski 2021). Somit steht das durch (Female Figure) reproduzierte Körper- und Frauenbild ei- ner queeren Lesart grundsätzlich im Weg. Doch auch hier mache ich Ambivalen- zen aus: Selbstredend sind Kunstwerke immer Spiegel ihrer Zeit, sie reflektieren als »Produktematerieller Arbeit« stets »allgemein[e] Produktionsbedingungen und technologisch[e] Standards« und »ihre Darstellungen sozialer Wirklichkeit reflek- tieren [wiederum] gesellschaftliches Bewußtsein« (Baxandall 2003: 98). Diese so- ziale Dimension desWerks, die berechtigterweise aktuelle Zustände kritisiert, ver- deutlicht, inwieweit die Produzent*innen von dienstbaren Körpern – und damit ist dieRobotik allgemein angesprochen–humaneSurrogate als Füllhorn ihrer eigenen Idealvorstellungen vonMenschmissbrauchen können,mögen diese Leitbilder noch so pervertiert oder revisionistisch sein. Dadurch werden künstliche Körper nicht nur zugerichtet, sondern übertragen auf ihre Stellvertretungsfunktion für quee- re Körper auch marginalisiert. Denn diese widersprüchlichenManifestationen von Ethno- und Anthropozentrismus im Verhältnis zum mechanischen Körper weisen den künstlich-robotischen Körper, der als minderwertig wahrgenommen und zu- gleich exotisiert wird, als maschinell ›Anderes‹ aus (vgl. Kim 2022). DieseParallelisierungvonmenschlicherQual undmaschinellem ›Leiden‹möch- te ich im Folgenden kurz rückbinden: Das Technische hebt – in Anlehnung anMar- shall McLuhan (1994 [1964]) – in seiner eigenen Verkörperung durch das Künstliche eine Bezugnahme zum menschlichen Leib hervor, da Technik »als Verlängerungen desKörpers angesehen«werdenkann (Rammert/Schubert 2017: 351).Weitergedacht hat sich das Technische gar »schrittweise [aus demKörper] herausgelöst und zu ex- terioren Dingen objektiviert« (ebd.). Die Verschränkung von Körper und Künstlich- keit auf einer Ebene des Technischen lässt sich demnach im engeren Sinne als habi- tueller Bezug zum Gegenstand lesen. Denn sie ist in einem gemeinsamen Handeln mit entsprechendenGegenständen sowiederUnterstützungdesKörpers durchdie- se Gegenstände zu finden. Das meint das Technische als Objekt inner- und außer- halb des Körpers ebenso wie bereits beschriebene Körpererweiterungen. Im weite- ren Sinne ist dieser Konnex in »Körpertechniken [als] anderen Technisierungen des Handelns« zu entdecken u.a. exemplifiziert in Kulturtechniken wie Ritualen, aber auch inBezugaufdieVerkörperungbspw. inSozialenMedien, indenen»Körperund Technik als Stoff und als Form in weiten Teilen [zusammenfallen]« (ebd.: 352). Lese ich diese Sachverhalte queer, arbeitet das Künstliche somit gegen seine Abgrenzung zuNaturalismenunddamit gegenbinäreKategorienwiebeiUnterscheidungenz.B. zwischen Geist und Materie oder männlich und weiblich, die bereits seit der Tech- nisierung derModerne zu korrodieren begonnen haben (Deuber-Mankowsky 2007: 277). Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 89 Abb. 2: JordanWolfson, (Female Figure), 2014, immersive Umgebungmit animatronischer Plastik,The Broad, Los Angeles (Ausschnitt/Detailansicht).13 3. Monströse Körper Die grüne, hakennasige Halbmaske von (Female Figure) bricht mitWeiblichkeitsste- reotypen und lässt queere Revisionen jener Bilder zu, die der weiße Körper von (Fe- male Figure) evoziert (Abb. 2). Das mit dieser Maske assoziierte Gesicht ist das for- melhafte, folkloristische Antlitz, welches in vielen populären Bildern beharrlich für Gesichter von Frauen verwendet wird, denen man Hexerei und damit eine Buhl- schaftmit demTeufel nachsagt (vgl.Behringer 2009: 9).Damit gehenBezugnahmen einher, die vor allem Frauen und ihre Körper in patriarchalen Zusammenhängen herabwürdigen.EntsprechendeKörper sollenunterworfen,Frauenals irrational ko- diert und als zu wehrhaft gebrandmarkt werden.Mittel dafür ist die Unterstellung, mit dem vermeintlich Bösen behaftet zu sein (vgl. Federici 2017: 129f.). Des Weiteren weist die Attribution mit dem Hexenhaften auf die Widerstän- digkeit des nicht-heteromaskulinenKörpers sowie auf einen Entzug solcher Körper aus Unterwürfigkeitskontexten hin (vgl. Behringer 2009: 100f.). Zahlreiche femi- nistische Schriften des 21. Jahrhunderts betonen dahingehend Bezüge zu Hexen- verfolgungen, die ihren Höhepunkt im 17. Jahrhundert hatten (vgl. Federici 2017, 2019; Grossmann 2019; Chollet 2020). So stellt bspw.Silvia Federici heraus, dass »die 13 Quelle: © JordanWolfson undGalerie David Zwirner, NewYork/London, Foto: John Smith. htt ps://www.spikeartmagazine.com/?q=articles/jordan-wolfsons-robot-moment-terror. Zuge- griffen: 07. März 2022. 90 Somatik Macht, die Frauen durch ihre Sexualität, ihre Kontrolle über die Reproduktion und ihre Heilfähigkeit erlangt hatten« (2017: 213), dem Ausbau der patriarchalen Ord- nung entgegenstand.14 Der weibliche Körper sollte daher gewaltsam staatlich kon- trolliert »und in ökonomische Ressourcen verwandelt werden« (ebd.). Indem die kapitalistische Arbeitsorganisation auf eineÜberwachung vonKörperpraktiken ab- zielt,muss sie die Unvorhersehbarkeiten einermagischen Praxis ablehnen, die die- se Körper ermächtigt. Dies geschieht u.a. mittels der Etablierung eines westlich- christlichen Weltbildes, das auf kolonialen Hoheits- und Dienstbarkeitskonstruk- ten gründet (vgl. Otto/Strausberg 2013: 6f.). Das darin eingeschriebene männliche Ansinnen, weibliche Körper aus historischer Perspektive zu domestizieren, um re- produktive Körperpraktiken »unmittelbar in den Dienst der kapitalistischen Akku- mulation« (Federici 2017: 113) zu stellen, ging mit einer rigorosen Kriminalisierung von Verhütungsmethoden einher, um ein »neuesModell derWeiblichkeit […] – pas- siv, fügsam, sparsam, wortkarg, stets beschäftigt und keusch« (ebd.: 131) – zu eta- blieren. Das queere Moment in Wolfsons Werk erkenne ich einerseits in der Assozia- tion des sexualisierten Körpers von (Female Figure) mit einer Figur wie der Hexe, die das Abweichen von einer kollektiv oder individuell angestrebten Norm oder eines vermeintlichen Ideals zelebriert. Andererseits nehme ich das queere Moment in dem Infragestellen von Konzepten von Identität und Glauben und damit aus historischer Perspektive auch von Kapitallogik und Macht wahr. Diese Kritik an der Produktion gesellschaftlicher Ordnungen und Hierarchien wird durch den Bezug zum hexenhaften, devianten Subjekt geäußert (vgl. Witzgall 2018: 15f.), das sich kolonialen, christlichen Praktiken entgegenstellt (vgl. Federici 2017: 269ff.). Auch im künstlerischen Spektrum stellen diese Bezugnahmen zu Hexerei bisher bestehende patriarchale Muster in Frage. So haben hexenhafte Bezüge zum Körper bis zur Jahrtausendwende meistens die Behaftung des Esoterischen und Populä- ren oder sie reproduzieren stereotype Bilder volkstümlicher Ideen. Beispiele sind Kunstwerke, die magische Praktiken popularisieren und zur Schau stellen, so z.B. Wahrsagerei bei Christian Jankowski, Besessenheit und Tischrücken bei Sigmar Polke oder Geisterbeschwörungen bei Thomas Schütte (vgl. Kliege 2012: 9ff.) Einer- seits bedient Wolfsons Werk mit seiner visuellen Inanspruchnahme eines nicht- hegemonialen Kunst- und Kulturbegriffs ähnliche merkantile Schockmomente. Andererseits bleibt das Bild eines genuinen Emanzipationsmoments bestehen, das eine durch ihre Hersteller*innen marginalisierte Figur wie die der Roboterin mit 14 An dieser Stelle ist auf die Bezugnahme durch völkische Strömungen hinzuweisen, die sich vielfach selbst als feministisch beschreiben. Sie bemächtigten sich oftmals der historischen Denkfigur der Hexen zu Zwecken rassifizierter und antisemitischer Parolen. Derlei Strömun- gen sind als ideologisch und ahistorisch zu kritisieren (vgl. Behringer 2009: 95f.). Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 91 jener der Hexe verschränkt. In beiden Figuren sind patriarchale Schöpfungsträu- me eingeschrieben, aus deren Schatten sie in der Gegenwart heraustreten. Auf diese Weise werden heteronormative Visionen von Maschinen und widerständiger Weiblichkeit konterkariert oder gar gebrochen. An diesem Punkt ist eine Übertragung auf Popularisierungen von Systemen künstlicher Intelligenzenmöglich. Auchwenn derlei Technologien keinesfalls über- sinnlich sind, werden bspw. maschinelle Lernverfahren häufig auf problematische Weise als eine Form von Magie beschrieben. Grund dafür ist, dass die Funkti- onsweisen künstlich intelligenter Systeme für Nutzer*innen meist verschlüsselt bleiben – denn die der KI inhärenten Prozesse verlangen umfassende Kenntnisse technologischer Verfahren, Wissen um die Handhabung und damit eine entspre- chend voraussetzungsvolle Versiertheit. Partiell bewegen sich Technologien – wie die Arbeit mit neuronalen Netzen – gar gänzlich »außerhalb des Rahmens des derzeitigenwissenschaftlichenWissens« (Campolo/Crawford 2020: 3; Übersetzung d. Vf.). Allerdings zielt die Konnotation ›magisch‹ im Zusammenhang mit Systemen künstlicher Intelligenz nicht nur auf die Beschreibung eines Unverständnisses ge- genüber den Funktionsweisen und prozessualen Abläufen, die den entsprechenden Technologien inhärent sind, sondern auch auf die Verschleierung eines Gefahren- potenzials für dieMehrheit ab.DieseGefahrmeint die ExplorationundAusbeutung von Daten, die u.a. durch Digitalisierungsprozesse in großen Mengen zur Verfü- gung stehen. JeneDisponibilität schafft einen techno-optimistischenund »beispiel- losen Zugang zu den Identitäten,Emotionen und dem sozialenCharakter vonMen- schen« (ebd.; Übersetzung d. Vf.). Der Zugriff auf diese Daten erfolgt, ohne dass gleichzeitig die Notwendigkeit besteht, Verantwortung für die Folgen dieses Han- delns zu übernehmen,weil entsprechendeVerfahren in Systemen künstlicher Intel- ligenz zum Teil ›wie von Zauberhand‹ ablaufen und damit ohne rationale und kaus- allogische Erklärungen auskommen.15 Ichmöchte hier nicht unerwähnt lassen, dass eine solch terminologische Kritik an KI, die durch die Assoziation mit dem Begriff ›magisch‹ geäußert wird, eben- falls problematisch ist. Denn die hier verwendete Bezugnahme auf das Magische argumentiert generalisierend und der Genealogie des Begriffs ›magisch‹ gegenüber simplifizierend. So wird die Möglichkeit genommen, im Magischen »analoge kul- tur- und epochenübergreifende […] Praktiken, deren grundlegende kognitive Me- chanismen oder epistemische Qualitäten zu erkennen« (Witzgall 2018: 15) und das Potenzial desMagischen als valide, nicht-westlicheWissenskategorie und damit als ein stimmiges und belastbaresGegenüber zuwestlichenWissensepistemologien zu sehen. 15 Dazu siehe auch den Beitrag von Kris Vera Hartmann in diesem Band. 92 Somatik Dieses Emanzipationsmoment ist ebensomit der Maskierung von (Female Figu- re) verschränktwie die Geschichte der Pest.DasNasenfutteral der Roboterin gleicht in seiner Form u.a. dem eines sogenannten Pest-Medicus und trifft mit der »Kom- bination aus schwarzem Leder, Todesnähe und unscharfem Geschichtsverständnis […] den Nerv der Zeit« (Ruisinger 2020: 248). So wie ein künstlicher Körper für ei- nen queeren Körper in einer Ausstellung Platz nimmt,machten entsprechende Per- sonenmit Schnabelmasken in der historischen Rückschau eher »eine virtuelle Kar- riere« und prägten »die Ikonographie der Pest nicht durch […] [ihre] reale Existenz, sondern durch […] [ihre] Abbildung« (ebd.: 248). Denn in der Kunst dieser Zeit sind solcheMasken nicht zu finden. Sie erscheinen erst nachträglich als ein abwertender Blick auf die Pest. Ab dem 18. Jahrhundert wurden sie symbolisch in Szene gesetzt, umbildlich auf die Pestepidemie Bezug zu nehmen, und standen dabei für Reinheit und Pestfreiheit. Die »Karriere [der Maskierung] als Randerscheinung« (ebd.: 247) lässt sich auf die Geschichte queerer Körper und deren Gezeigt- und Verstecktwer- den übertragen: Die Stigmatisierung queererKörper imZugederHIV- undAIDS-Pandemien ab den frühen 1980er-Jahren substituierte anfangs das Körperliche völlig, da beinahe ausschließlich Visualisierungen des Virus und medizinische Diagramme verwen- det wurden, um die Erkrankung darzustellen. Infizierte Personen wurden nicht oder kaum abgebildet (vgl. Lord/Meyer 2019 [2013]: 30). Die daraufhin einsetzende Entwicklung diesbezüglicher visueller Strategien der queeren Repräsentation von infizierten marginalisierten Körpern inkludierte Künstler*innen, Aktivist*innen und Kollektive wie Gran Fury, Isaac Julien, Stashu Kybartas, Stuart Marshall, Mark Morrisroe, Nicholas Nixon oder Lee Snider und andere. Deren Bestrebungen wandten sich im Zuge der pandemischen Notlage bewusst gegen eine gleichzeitige Ausgrenzung und Kriminalisierung queerer Sexpraktiken, indem Körper zurück in den Diskurs geholt wurden. Grundlegend für diese ›Re-infizierung‹ queerer Körperpolitikenmit Sichtbarkeit sind neben zahlreichen Autor*innen vornehmlich lesbische Künstler*innen und Kollektive gewesen – bspw. Cathy Cade, Honey Lee Cottrell oder Kiss and Tell. Bedingungsgebend ist der bereits weit vor dieser Krise liegende Anfang des feministischen Kampfes um die Hoheit und Kontrolle des eigenen Körpers und seiner Darstellungspraktiken (vgl. ebd.: 32f.). Die Substitution, Verhüllung oder Maskierung von Körpern kann demnach op- tischen und meist politischen Strategien des queeren Begehrens entgegenstehen, nämlich körperlich präsent, sichtbar und dabei als queer lesbar zu sein. Es ist evi- dent, dassWolfsons Plastik in einen Kanon von Stimmen gehört, die offensive kör- perliche Präsenz und das »Besetzen […] eines in dieser Form vormals ausschließ- lich heterosexuellen Bilderrepertoires« (Mesquita 2009: 83) als Aushandlungsmittel in Sichtbarkeitsdebatten einfordern – ganz unabhängig von einem Urteil über das Partizipations- und Repräsentationsrecht des Werks (Female Figure) und damit des Künstlers selbst. Parallel kann körperliche Präsenz mit Gefahren einhergehen, die Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 93 sich ebenfalls an (Female Figure) exemplifizieren lassen. Die Roboterin ist stereoty- pen sexualisierten weiblichen Körpern entlehnt, die im gesellschaftlichen Kontext auf Basis ihrer Erscheinung häufig stigmatisiert und tabuisiert oder verdinglicht und abgewertet werden, wozu ihre Autonomie geleugnet, ihr Subjektstatus negiert und ihre Unversehrtheit angetastet wird. Die aufgebrachteMaske ist diesbezüglich Fetischelement und Hilfsmittel zugleich, das einerseits der Einübung von Rollen dient und andererseits dezidiert sexuelle Freiheit und Offenheit durch Nichtmar- kierbarkeit symbolisiert. Das Ausstellen dieses nahezu unverhüllten und durch die Maske anonymisierten künstlichenKörpers verdeutlicht diese Ambivalenz. Sie liegt in der Kritik am Verschleiern queer Körper und im gleichzeitigen Verweis darauf, dass eine Maske zwar als Verschleierungselement, aber auch als Instrument von Selbstermächtigung und Intimität begriffen werden kann.Durch diesemehrdeuti- ge Bildpraxis stellt (Female Figure) Auffassungen in Frage, die das Zeigen vonQueer- ness per se als zu stark am Körperlichen und Sexuellen orientiert ansehen und es daher zu vermeiden suchen. Einerseits erscheint dieses Vermeiden sinnvoll, da es Sichtbarkeits- und Sicht- barmachungsdiskurse als oftmals reduzierend und verengend auf ein Verhältnis vonKörper,Geschlecht und Sexualität offenlegt (vgl. Lorenz 2009: 135). Andererseits tritt (Female Figure) einer »entsexualisierten Darstellungsform […] [entgegen], die sexuelles Begehren wie auch sexuelle Praktiken, die ja den eigentlichen Ursprung der rechtlichen (und gesellschaftlichen) Diskriminierung darstellen, […] aus dem Bild drängen« (Mesquita 2009: 77). Auchwidersetzt sich (Female Figure) den in ihrem Körper integrierten Systemen künstlicher Intelligenz. Durch die Maskierung wird »das Gesicht als Ort der Transformation« produktiv, da das Anlegen einer Maske »die eigene Identität im Akt eines performativen Aufflackerns quasi überdecken« kann. Synonym wird mittels des Tragens einer Maske auch »die Identifikation durch biometrische Überwachung« verweigert (Blas 2021). Das bezüglich dieser Ermächtigungsgeste bereits kontextualisierte Moment des Zurückblickens des künstlichen Körpers bricht dabei das Narrativ und die Rolle, ein kodierter Automat zu sein, der nur einen Akt aufführt. Das Mittel dafür ist die Verunsicherung, die durch das Zurückblicken einer Maschine, die gleichzeitig Körper ist, erreicht wird. Wolfson operiert dabei mit Taktiken der Veruneindeutigung des Dargestellten und der Verunsicherung durch bewusst erzeugte Ambivalenzen. Durch derartige Unheimlichkeiten wird das Machtgefüge zwischen Publikum und objektivierter Performer*in gestört; kurz: Sein Werk jagt Zuschauer*innen Angst ein. Visuelle Traditionslinien in der Kunst zeigen auf, dass der künstliche Körper oftmals mit dem Unheimlichen verschränkt wurde. In den Jahren 1993 und 2004 präsentier- te der Künstler Mike Kelley eine Ausstellung mit dem Titel The Uncanny, die aus Skulpturen, Objekten und Bildern bestand, deren strukturierendes Merkmal ihre 94 Somatik Unheimlichkeit war (vgl. Cameron 1993: 89).16 Bei den meisten handelte es sich um lebensgroße polychrome Modelle des menschlichen Körpers bzw. einzelner Gliedmaßen. Ausgehend vom Aufsatz Das Unheimliche (1919) des Psychoanalytikers Sigmund Freud, der sich auf das Buch Zur Psychologie des Unheimlichen (1906) des Psychiaters Ernst Jentsch stützt, konzipiert Kelley das Unheimliche als Verkör- perung des Zweifelns. Diese Skepsis bezieht sich auf die unsichere Begegnung von Mensch und menschenähnlichem Objekt – eine Beziehung, die auch (Female Figure) verhandelt. Dabei wird der Frage nachgegangen, ob ein – dem Menschen physisch ebenbürtiges – Objekt als ein scheinbar belebtes Wesen nicht doch unbe- lebt ist oder umgekehrt, ob ein lebloses Objekt nicht doch belebt sein könnte. Die beunruhigende Natur des Unheimlichen wird also mit der Frage nach Lebendig- keit verknüpft bzw. mit der Unklarheit dieses Zustandes verbunden. Mike Kelley beschäftigt sich in seinem Essay Playing with Dead Things (1993), das im Zuge der Ausstellung entstanden ist, mit der Natur des Unheimlichen und verschränkt es mit Konzepten, die von Maßstabstreue, über Farbigkeit bis hin zu Ideen von Rea- dymades und Doppelgänger*innen reichen. Darin beschreibt er das Unheimliche als eine Kontaktsituation von Rezipient*in und horriblemGegenüber. Er reflektiert diese Situation an sich selbst und beschreibt das Unheimliche dahingehend als »ausgelöst durch eine Konfrontation zwischen ›mir‹ und einem ›Es‹, die so stark aufgeladenwar, dass ›ich‹ und ein ›Es‹ durcheinandergerieten.Das Unheimliche ist ein etwas gedämpftes Gefühl des Schreckens: ein Schrecken, der mit Verwirrung einhergeht.« (Kelley 1993: 26; Übersetzung d. Vf.). Kelley bezieht das entstehende Unbehagen auf die Verschränkung eines Ob- jektes mit den Betrachter*innen – eine Verquickung, die sich auch bei (Female Figure) findet. Ihr künstlicher Körper ist einerseits domestiziertes, anorganisches Material und damit nicht lebendig. Andererseits kann impliziert werden, dass er ein ambiges Eigenleben hat, weil er mit den Rezipient*innen in Kontakt tritt. Auf diese Weise gerät er mit den Körpern der Betrachter*innen in eine Abhängigkeit (vgl. ebd.). Queerness tritt dabei als »eine Art Aktivismus, der die herrschende Vorstellung vomNatürlichen angreift« (Case 1991: 3; Übersetzung d. Vf.) in Erschei- nung. Und so nimmt der queere Körper »als Tabubrecher*in, als das Monströse, das Unheimliche« (ebd.; Übersetzung d. Vf.) subversiv »eine Lücke [ein], wo man sich der Einheit sicher sein möchte« (Cixous 1976, zit.n. Jackson 1981: 68; Überset- zung d. Vf.).17 Diese Lücke ist eine unbesetzte Öffnung, ein Spalt in vermeintlich 16 Gemeint sind hier die von Kelley entwickelte Ausstellungsbeteiligung unter dem Titel The Uncanny 1993 im Rahmen der Schau Sonsbeek 93 im Gemeentemuseum, Arnheim, und die aktualisierte Wiederaufführung von The Uncanny 2004 in der Tate Liverpool. 17 Darauf übertragbar erscheinen auch jene mit feminisierten Rollenklischees brechende, wi- derständige Körperkonzepte, die im 21. Jahrhundert queere Manifeste geworden sind und postulieren, dass Brüche und Lücken konstituierend für fluide Identitäten jenseits von Ge- Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 95 eindeutigen und als einheitlich angenommen Ordnungsgefügen. Sie liegt zwi- schen dem menschlichen und dem künstlichen Körper, z.B. durch die in Körpern eingesetzte Medizintechnik, die emotionale Bindung und erotische Beziehung zu nicht-menschlichen Dingen oder die räumliche Fragmentierung von Intimität durch die digitalen Verkörperungen von Personen, mit denen man in Kontakt tritt (vgl. Jenzen 2007: 8). Sie meint aber auch den Zweifel der Mehrheitsgesellschaft, ob künstliche und künstlich veränderte Körper oder nicht-normative und queere Körper in gesamtgesellschaftlichen, vornehmlichwestlichenDiskursen valide sind. 4. Eigene Räume Abschließend möchte ich (Female Figure) inmitten tradierter kunstwissenschaftli- cher Erkenntnisse verorten.Denn es ist augenscheinlich, dass bestehendeTheorien denmenschlichen Körper in der bildenden Kunst ebenso als Medium der Imagina- tion und als Bild an sich konzipieren (vgl. Belting 2001: 22f.). Der Körper erfüllt in dieser Zweiteilung also eine binäre Rolle, indem er gleichzeitig Bildträger und Bild, sowohl biologischer Körper des Modells als auch sozio-kultureller Körper ist. Das Abbild eines Körpers ist immer auch Abbild einer Konstruktion von Körper. In Ver- bindung mit der Lesart der Betrachter*innen ist die Darstellung dieser Körper im- mer mit deren persönlichen Bezügen verkettet und damit eine umstandsgeprägte Repräsentation der abgebildeten Person – man könnte auch sagen: ein ›Eindruck‹ dieser. Der Kontext, in dem der Körper wahrgenommen und bewertet wird, hängt demnach von subjektivenMaßstäben ab,mit denen Betrachter*innen solchen Kör- pern begegnen. Diese normierenden Kontexte können entsprechend der Betrach- tungsweisen fürKörper kulturell, sozial, politisch oder regional konnotiert sein. (Fe- male Figure) scheint sich eine Schneise durch diese kunsttheoretischeWeggabelung zu schlagen und Identifikationsöffnungen zu enthalten, die diametral zur oftmals binären und tradierten Anschauung von Körpern in der Kunst liegen: Erstens werden dem sichtbaren und konfrontativen Körper der Roboterin per- sonifizierende Attributionen durch die Unsichtbarmachung, also durch das Über- blenden von Teilen des Gesichtsfeldes mit einer Maske genommen. Denn primär erfolgt die exakte Zuordnung einer Person über das Gesicht. Die dieser Verunmög- lichung einer eindeutigenEinordnung zugrundeliegende künstlerische Praxis kann als eine Form von Queering verstanden werden. So lese ich das Vorenthalten einer eindeutigen visuellenVerortbarkeit von (FemaleFigure) als Bruchmit tradiertenDar- stellungskonzepten von Körperlichkeit und als einenWeg, Raum für die Besetzung schlecht sind: »Wir streben nach lecken, herausfordernden Körpern voller Spalten und Näh- te. Wir wollen wilde, sinnliche, monströse Körper« (Russel 2021: 102). 96 Somatik durch neue und vielfältige Identitäten zu schaffen. So offeriert das Werk Möglich- keiten, »wieder abstrakt zu werden […] und den Einschränkungen des Körpers zu entfliehen« (Russel 2021: 44).18 Darauf rekurrierend kann Queering als ein künstle- risch-methodischer, aber auch theoretischer Ansatz begriffen werden, der multidi- mensional argumentiert und das Potenzial der Untersuchung von Un- oder Mehr- deutigkeiten als Werkzeug einer kritischen Konventionsanalyse scharfstellt. Zweitens wird eine künstliche Verkörperung eines queeren Subjekts hervorge- bracht, indem dieses Kunstwerk metaphorisch Geist, substituiert mit Intelligenz, weder adäquat jenseits des künstlichenKörpers derRoboterinmodelliert noch klas- sisch analytisch konstruiert, sondern in Verbindung mit den Betrachter*innen er- zeugt (vgl. Weber 2003: 120). Darin liegt ein weiteres Potenzial von (Female Figure), Offenheit und Ambivalenz queerer Körper mit einem Kunstwerk »zu beschreiben, welche[s] die in der dominanten Kultur materiell […] und psychisch verankerten Plätze weder zurückweist, [sic!] noch sich mit ihnen vollständig identifiziert« (Mu- ñoz 2007: 35). Ihr künstlicher Körper, der Systemedisruptiver Techniken inkludiert, vertritt demgemäß im Kontext des Zeigens und Ausstellens queere Körper. Damit entsteht auch einWerk, in dem das körperliche Wissen technisch und die Sensibilität der Robotik menschlich wird. Deleuze und Guattari haben vorgeschlagen, ebendies als ›Maschine‹ zu bezeichnen: nicht eine Technik, sondern ein Gefüge, zu dem gleichermaßen menschliche, soziale, technische und materielle Komponenten gehören. […] [D]amit (wird) vorstellbar, dass nicht nur eine sensomotorische Dimension, son- dern auch Beschränkungen und Fehler Grundlage […] [der] ›Subjektivierung‹ sind. (Busch 2021: 74) Eine solche Subjektivierung, die Kathrin Busch hier hinsichtlich der performativen Praxis von Marco Donnarumma konstatiert, liegt auch Wolfsons Werkbegriff zu- grunde und soll hier konkludierend für (Female Figure) und die Verschränkung mit queeren Aspekten stehen. In der vorliegenden Analyse erschien es mir relevant, methodisch ohne Aus- schlüsse zu operieren und Brüche in einem exemplarischen Werk zu fixieren, um generell ›mehr‹ durch die Anschauung und Beschreibung von Körpern und den durch sie erzeugten Bildern sichtbar zumachen.Denn es ist evident geworden,wie stark Queerness, ähnlich wie »kulturelle Alterität«, »gerade [im] gesellschaftspoli- tisch dominantenDiskurs« als eine äußerst aktuelle »Leit-Differenz« (Schankweiler 2012: 263) fungiert, die derzeit vornehmlichen am Körperlichen festgemacht wird. Und es ist ebenso deutlich geworden,wie stark künstliche Körper als stellvertretend für diese Debatten um den queeren Körper Einzug in Ausstellungskontexte halten. Sie wirken dort als Multiplikator*innen, die zwar technische Eindeutigkeiten und 18 Dazu siehe auch den Beitrag von Carsten Junker in diesem Band. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 97 Stereotypisierungen produzieren, vervielfachen oder nachbilden, aber parallel das Potenzial haben, diese festen Annahmen über Körper – vornehmlich als Ge- schlechtsköper –, Technik und Technologie zurückzuweisen und aufzubrechen. Dadurch offerieren die Untersuchungen künstlicher Köper als ›Stand-Ins‹ Mög- lichkeiten, umUneindeutigkeit als Marker queerer Ästhetik scharfzustellen. Daher ist es ergiebig, einen Ansatz zu forcieren, der das festen Annahmenwiderstrebende und selbstkritische Potenzial von Kunst betont oder danach Ausschau hält – beson- ders, wenn Kunstwerke als queer gelesen werden bzw. eine derartige Lesart seitens der Künstler*innen oder auch vonseiten der institutionellen Reflexionsebenen fokussiert oder gar forciert wird. Parallel verlangt eine solche Virtualität queerer Bildlichkeit von den Rezi- pient*innen ein aktives und kritisches Betrachten und baut auf die Entfaltung eines Potenzials, das oftmals nicht ausgebildet ist. Um dieser Latenz zu begegnen, müssen Ambiguitäten und Mehrdeutigkeiten in Bildern offengelegt, differen- ziert untersucht und dezidiert benannt werden – insbesondere dann, wenn das Bildbegehren und -handeln auf ein Erzeugen von Sichtbarkeitslogiken angelegt und damit eng mit dem Ausstellen von Queerness auf Basis des Zeigens eines – bspw. künstlichen – Köpers verstrickt ist. Durch eine derartige, auf Ambivalenzen fixierte Untersuchungspraxis wird deutlich, dass auch in einem Kunstwerk wie (Female Figure), das aus den dargelegten Gründen sehr strittig und klar in westliche Hegemonien eingebundenen ist, Möglichkeiten verborgen liegen, um produktive Verwirrungen in einer Welt zu stiften, die Körper auf viele Weisen normiert und nach binären Modellen klassifiziert. So formuliert die animatronische Roboterin zu Beginn ihres Zyklus aus Bewegung zuMusik, Selbst- und Publikumsansprachen einen dementsprechendenWunsch nachDenormierung selbst.Darin versucht sich Wolfsons Plastik ihrer spaltendenWurzelnwestlicher Kulturen, gar ihres Schöpfers zu entledigen und beansprucht einen eigenen und auf die Gegenwart fixierten Raum: »My mother is dead. My father is dead. I’m gay. I’d like to be a poet. This is my house.« Literaturverzeichnis Adas, Michael. 1990.Machines As the Measure of Men: Science, Technology, and Ideologies ofWestern Dominance.New York: Cornell University Press. Adorf, Sigrid und Kerstin Brandes. 2008. Einleitung »Indem es sich weigert, eine feste Form anzunehmen« – Kunst, Sichtbarkeit, QueerTheory. FKW//Zeitschrift für Geschlechterforschung und visuelle Kultur 45: 5–11. Baumann, Zygmund. 1992.Moderne und Ambivalenz. Hamburg: Junius. Baxandell,Michael. 2003.Der kunstsoziologische Ansatz. InMethoden-ReaderKunst- geschichte, Hg.Wolfgang Brassat und Hubertus Kohle, 98–101. Köln: Deubner. 98 Somatik Becker,Barbara, JuttaWeber. 2005.VerkörperteKognition unddieUnbestimmtheit der Welt. Mensch-Maschine-Beziehung in der neuen KI. In Unbestimmtheitssi- gnaturen der Technik. Eine neue Deutung der technisiertenWelt, Hg. Gerhard Gamm und Andreas Hetzel, 219–232. Bielefeld: transcript. Behringer, Wolfgang. 2009.Hexen: Glaube, Verfolgung, Vermarktung. München: C. H. Beck. Belting, Hans. 2001. Bild-Anthropologie. Entwürfe für eine Bildwissenschaft. München: C. H. Beck. Bennett, Jane. 2010. Vibrant Matter: A Political Ecology of Things. Durham, NC: Duke University Press. Birkett, Richard. 2014. Eye Contact. https://flash---art.com/article/eye-contact-jord an-wolfson/. Zugegriffen: 06.März 2022. Bischof, Andreas. 2017. Soziale Maschinen bauen. Epistemische Praktiken der Sozialrobo- tik. Bielefeld: transcript. Blas, Zach. 2020. Unkenntlichkeit und Autonomie.Kunstforum 265: 116–126. Bolter, Jan David und Richard Grusin. 2000 [1998]. Remediation. Understanding New Media. Cambridge,MA: MIT Press. Bryant, Levi. 2011. Of Parts and Politics: Onticology and Queer Theory. Identities 16: 13–28. Busch, Kathrin. 2021. Digitales Fleisch. Spekulieren mit künstlichen Körpern. In Das Ästhetisch-Spekulative, Hg. dies. et al., 63–87. Paderborn:Wilhelm Fink, 2021 Butler, Judith. 1995. Körper von Gewicht. Die diskursiven Grenzen des Geschlechts. Berlin: Berlin. Cameron, Dan. 1993. Sculpting the Town. Artforum 32(3): 89–131. Campolo, Alexander und Kate Crawford. 2020. Enchanted Determinism: Power without Responsibility in Artificial Intelligence. Engaging Science, Technology, and Society 6: 1–19. Carpenter, Julie. 2016.Culture andHuman-Robot Interaction inMilitarized Spaces: AWar Story. London: Routledge. Carpenter, Julie. 2017. Deus Sex Machina: Loving Robot SexWorkers and the Allure of an Insincere Kiss. In Sex Robots: Social, Ethical, and Legal Implications, Hg. John Danaher und Neil MacArthur, 261–287. Cambridge,MA: MIT Press. Case, Sue-Ellen. 1991. Tracking the Vampire.Differences 3(2): 1–20. Cavel, Stephen und Kanta Dihal. 2020.TheWhiteness of AI. Philosophy & Technology 33: 685–703. Cazés, Laura und Monty Ott. 2020.Welche Farbe haben Juden? Eine Replik auf Michael Wuligers Kolumne über jüdische ›People of Color‹. https://www.juedische-allgemein e.de/meinung/welche-farbe-haben-juden-2/. Zugegriffen: 07.März 2022. Chen, Mel Y. und Dana Luciano. 2015. Introduction. Has the Queer ever Been Hu- man? A Journal of Lesbian and Gay Studies 21(2-3): 182–207. Chollet, Mona. 2020.Hexen. Die unbesiegbareMacht der Frauen. Hamburg: Nautilus. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 99 Cixous,Hélène. 1976. Fictions and Its Phantoms: A Reading of Freud’s Das Unheim- liche (The ›uncanny‹).New LiteraryHistory 7: 525–548. Colucci, Emily. 2014. Sweet dream or beautiful nightmare: The uncanny horror of Jordan Wolfson’s (Female figure). https://filthydreams.org/2014/04/08/sweet-dream-or -a-beautiful-nightmare-the- uncanny-horror-of-jordan-wolfsons-female-fig- ure/. Zugegriffen: 07.März 2022. Connor, Geneva. 2019.The Impossible Feast of the Uncanny Technowoman: A Plural Femi- nist CyborgWrites of the Possibilities for Science Fiction and Potent Body Politics. Auck- land: Massey University Press. Crawford, Kate. 2021.Atlas of AI. Power, Politics, and the Planetary Costs of Artificial Intel- ligence. NewHaven, London: Yale University Press. Davis, Lenard. 1995. Enforcing Normalcy: Disability, Deafness, and the Body. London: Verso. Deuber-Mankowsky, Astrid. 2007.Praktiken der Illusion. Kant, Nietzsche, Cohen, Benja- min bis Donna J. Haraway. Berlin: Vorwerk 8. Dobbe, Martina und Ursula Ströbele. 2020. Gegenstand: Skulptur. München: C. H. Beck. Dyer, Richard. 1997.White. London: Routledge. Ebert, Roger. 1992. CoolWorld. https://www.rogerebert.com/reviews/cool-world-19 92. Zugegriffen: 06.03.2022. Eco, Umberto. 1977.Das offene Kunstwerk. Frankfurt a.M.: Suhrkamp. Engel, Antke Antek. 2008. Das Bild als Akteur – das Bild als Queereur. Methodolo- gische Überlegungen zur sozialen Produktivität der Bilder. FKW//Zeitschrift für Geschlechterforschung und visuelle Kultur 45: 12–26. Engelmann, Lukas. 2012. Ein queeres Bild von AIDS. HIV-Visualisierungen und queere Politiken des Vergessens. feministische studien 30(2): 245–258. Federici, Silvia. 2017 [1998].Caliban und dieHexe. Frauen, der Körper und die ursprüngli- che Akkumulation.Wien: Mandelbaum. Federici, Silvia. 2019.Hexenjagd. Die Angst vor derMacht der Frauen. Münster: Unrast. Feldhaus, Timo. 2014. JordanWolfson’s Robot: In the Moment of Terror. https://www.spi keartmagazine.com/?q=articles/jordan-wolfsons-robot-moment-terror. Zuge- griffen: 07.März 2022. Getsy, David J. 2016. Queer: Documents of Contemporary Art. London/Cambridge, MA: Whitechapel Gallery andTheMIT Press. Goldfuß, Amelie und Natalie Sontopski. 2021. Once an Assistant, Always an Assistant. HowAI representation is stuck in the gendered past. https://futuress.org/magazine/o nce-an-assistant-always-an-assistant/. Zugegriffen: 05.März 2022. Goodyear,Dana. 2020. JordanWolfson’s Edgelord Art. https://www.newyorker.com/m agazine/2020/03/16/jordan-wolfsons-edgelord-art.Zugegriffen: 07.März 2022. Grossmann, Pam. 2019.Waking theWitch. New York: Gallery Books. 100 Somatik Halberstam, Jack.2005. InaQueerTimeandPlace.TransgenderBodies, Subcultural Lives. New York: NYU Press. Harrasser,Karin.2013.Körper2.0.Überdie technischeErweiterbarkeit desMenschen.Bie- lefeld: transcript. Harrasser, Karin. 2016. Prothesen. Figuren einer lädiertenModerne. Berlin: Vorwerk 8. Jackson, Rosemary. 1981. Fantasy:The Literature of Subversion. London: Routledge. Jenzen, Olu. 2007.The Queer Uncanny. eSharp/Gender: Power and Authority 9: 1–16. Joselit, David. 2013.Nach Kunst. Berlin: August. Kelley,Mike. 1993. Playingwith DeadThings. InTheUncanny,Hg. ders., 25–38. Köln: Walther König. Kim,Min-Sun.2022.Meta-narratives onmachinic otherness: beyond anthropocen- trism and exoticism. AI & Society: https://doi.org/10.1007/s00146-022-01404-3. Kliege,Melitta. 2012.Gespenster,Magie und Zauber,Konstruktionen des Irrationa- len in der Kunst von Füssli bis heute. In Gespenster, Magie und Zauber, Konstruk- tionen des Irrationalen in der Kunst von Füssli bis heute. Hg. dies., 8–32. Nürnberg: Verlag für moderne Kunst. Krieger, Verena et al. 2021.AmbigeVerhältnisse.Uneindeutigkeit inKunst, Politik undAll- tag. Bielefeld: transcript. Kröner,Magdalena und JordanWolfson. 2019. JordanWolfson. Ins Gewebe des Un- bewussten stechen.Kunstforum 265: 152–157. Kröner,Magdalena. 2019. Digital Bodies. Virtuelle Körper, politisches Embodiment und alternative Körperphantasmen.Kunstforum 265: 48–71. Kröner,Magdalena. 2019. LiquidBodies –ein subjektiverÜberblick.Kunstforum 265: 72–116. Kubes,Tanja. 2019.Bypassing theUncannyValley: Postgender SexRobots andRobot SexbeyondMimicry. InTechno:Phil –AktuelleHerausforderungenderTechnikphiloso- phie, Hg.Marc Coecklebergh und Janina Loh, 59–73. Stuttgart: Metzler. Kubes, Tanja. 2020.Queere Sexroboter –Eine neue Formdes Begehrens? InMaschi- nenliebe: Liebespuppen und Sexroboter aus technischer, psychologischer und philosophi- scher Sicht, Hg. Oliver Bendel, 163–183.Wiesbaden: Springer. Kunimoto,Namiko. 2017.TheStakes of Exposure: Anxious Bodies in Postwar Japanese Art. Minneapolis: University of Minnesota Press. Lord, Catherine und Richard Meyer. 2019 [2013]. Art & Queer Culture. London: Phaidon. Lorenz, Renate. 2009. Körper ohne Körper. Queeres Begehren als Methode. In Mehr(wert) queer. Visuelle Kultur, Kunst und Gender-Politiken, Hg. Barbara Paul und Johanna Schaffer, 135–152. Bielefeld: transcript. Lüscher, Kurt. 2011. Über die Ambivalenz. Forum der Psychoanalyse. Zeitschrift für kli- nischeTheorie und Praxis 27: 323–327. McLuhan, Marshall. 1994 [1964]. Understanding Media: The Extensions of Man. Cam- bridge,MA: MIT Press. Michael Klipphahn-Karge: Monströse Körper, ambige Maschinen 101 Mesquita, Sushila. 2009. »Liebe ist …«. Visuelle Strategien der Normalisierung und das Schweizer Partnerschaftsgesetz. InMehr(wert) queer.VisuelleKultur,Kunst und Gender-Politiken, Hg. Barbara Paul und Johanna Schaffer, 71–88. Bielefeld: tran- script. Meyer, Roland. 2021.Gesichtserkennung. Berlin: Wagenbach. Misselhorn, Catrin. 2021.Künstliche Intelligenz und Empathie. VomLebenmit Emotions- erkennung, Sexrobotern & Co. Stuttgart: Reclam. Morton, Timothy. 2010. Queer Ecology. PMLA 125(2): 273–282. Muñoz, JoséEsteban.2007.Queerness’s LaboroderdieArbeit derDisidentifikation. InNormal Love: Precarious Sex. PrecariousWork, Hg. Renate Lorenz, 34–39. Berlin: Bbooks. Munster, Anna. 1999. Is there Postlife after Postfeminism? Tropes of Technics and Life in Cyberfeminism. Australian Feminist Studies 14(29): 119–129. Nord, Christina. 2000. Gegen feste Zeichen. Sichtbarkeit und Sichtbarmachung jenseits der heterosexuellen Anordnung. In Imagineering: visuelle Kultur und Po- litik der Sichtbarkeit, Hg. TomHolert, 156–170. Köln: Oktacon. Otto, Bernd-Christian undMichael Strausberg. 2013.DefiningMagic. A Reader. Bris- tol: Equinox. Paul, Barbara und Johanna Schaffer. 2009. Einleitung: Queer als visuelle politische Praxis. In Mehr(wert) queer. Visuelle Kultur, Kunst und Gender-Politiken, Hg. dies., 7–20. Bielefeld: transcript. Pfeifer, Wolfgang. 1993. Roboter. In EtymologischesWörterbuch des Deutschen. https:// www.dwds.de/wb/etymwb/Roboter. Zugegriffen: 15. Februar 2022. Phelan, Peggy. 1993.Unmarked:The Politics of Performance. London: Routledge. Posca, Claudia. 2020. Der montierte Mensch.Kunstforum 265: 249–251. Rammert,Werner und Cornelius Schubert. 2017. Technik. InHandbuch Körpersozio- logie.Band2:ForschungsfelderundMethodischeZugänge,Hg.RobertGugutzer et al., 349–365.Wiesbaden: Springer. Richardson, Kathleen. 2022. Sex Robots:The End of Love. München: C. H. Beck. Romic, Bojana. 2021. Negotiating anthropomorphism in the Ai-Da robot. Interna- tional Journal of Social Robotics. https://link.springer.com/content/pdf/10.1007/s1 2369-021-00813-6.pdf. Roßler,Gustav.2019.DerAnteil derDingeanderGesellschaft.Sozialität –Kognition–Netz- werke. Bielefeld: transcript . Ruisinger, Marion Maria. 2020. Die Pestarztmaske im Deutschen Medizinhistori- schen Museum Ingolstadt.NTM Zeitschrift für Geschichte der Wissenschaften, Tech- nik undMedizin 28: 235–252. Russel, Legacy. 2021.Glitch Feminismus. Leipzig: Merve. Schaffer, Johanna. 2008. (Un-)Formen der Sichtbarkeit. FKW//Zeitschrift für Ge- schlechterforschung und visuelle Kultur 45: 60–72. 102 Somatik Schankweiler,Kerstin. 2012.DieMobilisierungderDinge:OrtsspezifikundKulturtransfer in den Installationen von Georges Adéagbo. Bielefeld: transcript . Schill, Kerstin et al. 2008. Sensorimotor representation and knowledge-based rea- soning for spatial exploration and localization.Cognitive Process 9: 283–297. Seymour,Mike. 2011.TheArt of Roto. https://www.fxguide.com/fxfeatured/the-art-o f-roto-2011/. Zugegriffen: 07.März 2022. Sontag, Susan. 1964.Notes on »Camp«. https://monoskop.org/images/5/59/Sontag_S usan_1964_Notes_on_Camp.pdf. Zugegriffen: 07.März 2022. Terry, Jennifer undMelodie Calvert. 1997. Introduction: Machine/Lives. In Processed Lives: Gender and Technology in Everyday Life, Hg. dies., 1–19. Routledge: London. Treusch, Pat. 2020. Robotic Knitting: Re-Crafting Human-Robot Collaboration Through Careful Coboting. Bielefeld: transcript. Volkart, Yvonne. 2004.Monströse Körper: Der verrückte Geschlechtskörper als Schauplatz monströser Subjektverhältnisse. https://www.medienkunstnetz.de/themen/cybor g_bodies/monstroese_koerper/. Zugegriffen: 07.März 2022. von Bose, Käthe und Pat Treusch, Pat. 2013. Von ›helfendenHänden‹ in Robotik und Krankenhaus: ZurBedeutung einzelnerHandgriffe in aktuellenAushandlungen um Pflege. feministische studien 31(2): 253–266. Weber, Jutta. 2003.TurbulenteKörper und emergenteMaschinen.ÜberKörperkon- zepte in neuerer Robotik und Technikkritik. In Turbulente Körper, soziale Maschi- nen. Feministische Studien zur Technowissenschaftskultur, Hg. Jutta Weber und Co- rinna Bath, 119–137.Wiesbaden: Springer. Witzgall, Susanne.2018.RealeMagie–eine einleitendeAnnäherung. InRealeMagie, Hg. dies., 13–31. Zürich: Diaphanes. Wolfson, Jordan et al. 2015. Jordan Wolfson: California. New York: David Zwirner Books. Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von Künstlicher Intelligenz Ute Kalender 1. Harper »Hör’ mir auf mit Künstlicher Intelligenz! Was willst Du nur immer mit Künstlicher Intelli- genz?!« Harper ist genervt.1 Ich sitze imWohnzimmer meiner Freundin und denke laut über Künstliche Intelligenz (KI) nach, darüberwie die Technologie unserenAlltag erleichtern könn- te oder auch nicht. AmAbend zuvor hatte ich ExMachina (2015) gesehen, einen US-amerika- nischenScience-Fiction-Film, indemsichdiequeereLipstick-KIAva,2mitKyokoeineranderen Lipstick-KI, gegen ihre Erschaffer, Peiniger und Bewunderer verbündet und sie tötet. Eigentlich wollten Harper und ich unser Teamteaching-Seminar vorbereiten, stattdessen sichten wir seit StundenDokumente ihrer Krankenkasse, mit der sie eine Auseinandersetzung führt.DieKasseweigert sich, ihr einenneuenElektrorollstuhlmit Liftfunktion zufinanzieren. Harper könnte mit ihm öffentliche Toiletten aufsuchen, ohne andere um Hilfestellung zu fra- gen. Außerdemwürde sie so besser an hoheWickeltische gelangen. Harper ist im fünftenMo- nat schwanger, obwohl ihr gesagt wurde, dass eine Schwangerschaft für sie nahezu unmöglich sei.Nahezu.DennHarperwar in ihremWunschnacheinemeigenen,nacheinembiologischen Kind unbeirrbar.Unbeirrbar istHarper auch jetzt, während der Rollstuhlaffäre. »Ich brauche einen Rollstuhl und keine KI« sagt Harper. »Die Krankenkasse zahlt keinen neuen Rollstuhl, aber eine KI oder eine neue smarteWohnung: Klar.« Andere Finanzierungsmöglichkeiten hat 1 Alle in diesem Text geschilderten Anekdoten sind, z.B. in der Namensgebung, fiktionalisiert worden, fassen aber durchaus persönliche Erlebnisse der Autorin mit anderen Personen zu- sammen. Die Anekdoten geben die Erlebnisse nicht exakt dokumentarisch wieder bzw. wer- den sie mit Erzählungen von Personen mit Behinderung aus Talkshows (vgl. Talk am Diens- tag. 3nach9. 2019), der Tagespresse (vgl. Beer 2017; Kaiser 2019) und den Sozialen Medien (vgl. Umrik o.J.) vermischt. Alle Quellen sind im Literaturverzeichnis angegeben. Die semi- fiktionalen Elemente sind kursiv hervorgehoben. 2 Ich verwende die Bezeichnung Lipstick-KI angeregt durch den umkämpften Begriff Lipstick- Lesbe. Als Lipstick-Lesbe werden feminin gelesene, lesbische Frauen bezeichnet, denen ihr Lesbischsein aufgrund dieser Feminität abgesprochen wird. Auch in Ex Machina steht die Echtheit von Feminität,Weiblichkeit und Frausein zur Disposition – nun allerdings jene einer KI-Figur. 104 Somatik sie nicht. Harpers Partnerin ist angewandte Kulturwissenschaftlerin und arbeitet für wenig Geld in der Behindertenassistenz. Und auch von ihrer wohlhabenden kalifornischen Mutter erhält sie keine finanzielle Unterstützung. Als Harper entschieden hatte, nach Berlin zu zie- hen, hatte ihre Mutter zutiefst gekränkt den Kontakt abgebrochen. Denn ihre Tochter Harper war zu ihremLebensprojekt geworden. »RegrettingMotherhood« kommentiertHarpermitun- ter trocken. 2. Narrative Prothesen Harpers Gereiztheit gegenüber meinen KI-Fabulationen geht auch auf die Kluft zwischen gängigen Diskursen zu KI und den Lebensrealitäten vieler Personen mit Behinderung zurück: Während Unternehmen, Forschung oder Science-Fiction gern auf Bilder von Menschen mit Behinderung zurückgreifen, um KI zu fassen, gar gesellschaftlich zu normalisieren, haben diese Bilder mit dem Alltag vieler Menschen mit Behinderung wenig zu tun (vgl. Jack 2014; Ng 2017; Smith/Smith 2021; Whittaker et al. 2019). In einem Podcast der Heinrich Böll Stiftung beschreibt z.B. Aljoscha Burchardt, Senior Researcher beim Deutschen Forschungszentrum für Künstliche Intelligenz, die Technologie mit den folgendenWorten: Aber letztlich ist das System dabei, sagen wir mal, komplett dumm. […] Aber es kann Rot eben in Rouge übersetzen […] es kann es einfach tun. Das heißt, es ist also ein vollkommen interessanter Fachidiot. Ein autistisches System, was diese eine Sache perfekt beherrscht. (2018)3 Ein anderes Beispiel ist der Programmierer Caleb, Protagonist in ExMachina, der in einer Szene des Films Avas Betörungskraft damit begründet, dass sie auf »diskrete Weise kompliziert« sei – und das bedeutet für ihn: »irgendwie nicht-autistisch«.4 Burchardt fasst Künstliche Intelligenz als Autismus, vermutlich um provokativ zu klingen, vielleicht auch, um den Podcasthörer*innen die Angst vor der oft be- schworenen Übermacht von Künstlicher Intelligenz zu nehmen. In ExMachina hin- gegen verleiht der Bezug auf Autismus einemheteronormativen Faszinationsskript Tiefe und Intensität: Caleb verliebt sich in die Cyborg Ava, weil sie wie eine ange- nehm schwierige Frau agiert, wie eine ›normale‹ Frau, die zwar ein wenig unkon- trollierbar und irritierend, aber eben nicht wirklich kognitiv oder emotional beein- trächtigt – nicht behindert – ist. Burchardts und Calebs Narrativ eint der selbstver- ständliche Rückgriff auf das gängige Bild von Autismus, das hier zu einer »narra- tiven Prothese« (Mitchell/Snyder 2000) wird, um über das gesellschaftlich virulen- 3 Min. 6:30; Böll Podcast was ist künstliche Intelligenz? https://www.boell.de/de/2018/01/29/k uenstliche-intelligenz-wer-denkt?dimension1=ds_ki. 4 Dazu siehe auch den Beitrag von Johannes Bruder in diesem Band. Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 105 te Phänomen Künstliche Intelligenz ›allgemein verständlich‹ zu sprechen. Die Kul- turwissenschaftler*innen David Mitchell und Sharon Snyder verstehen unter einer narrativen Prothese ein wirkmächtiges, diskursives Hilfsinstrument und beschrei- ben es so: Behinderung durchdringt literarische Erzählungen, erstens als eine Grundeigen- schaft von Charakterisierungen und zweitens als ein […] metaphorisches Instru- ment. Wir bezeichnen diese permanente diskursive Abhängigkeit von Behinde- rung als narrative Prothese. Behinderung verleiht jeder Figur eine unverwechsel- bare Eigentümlichkeit, die dieser Figur ermöglicht, sich vom anonymen Hinter- grund der ›Norm‹ abzuheben. (Mitchell/Snyder 2000: 47; Übersetzung d. Vf.) Greift z.B. ein Film oder ein Roman bei der Beschreibung eines Charakters auf eine Behinderung zurück, so wird der Figur i.d.R. mit diesem Bezug etwas Besonderes verliehen. Häufig dient die Behinderung dazu, die Figur sowie das Kulturprodukt zu etwas Schillerndem zumachen,weil sich beide von der breiten, normalenMasse abheben. Normalität ist bekanntlich nicht der Rede wert und gilt als langweilig. Ferner führen Mitchell und Snyder aus, dass ihr »Begriff ›narrative Prothese‹ darauf hinweisen [soll], dass Behinderung im Laufe der Geschichte immer wieder alsKrückebenutztwurde,auf die sich literarischeNarrative stützen,um ihreReprä- sentationskraft, ihr disruptives Potenzial und ihre analytische Schärfe zu entfalten« (Mitchell/Snyder 2000: 49; Übersetzung d. Vf.). So verwundert es nicht,dassBurchardtweiter obenüberKInicht über irgendei- ne Figur spricht, die als durchschnittlich gilt. Es ist kein wortkarger Erwin, der bei BMW die Stellung des Gruppenleiters innehat, der kompetent, fleißig, ganz ›nor- mal‹, unaufgeregt und lieb ist. Und auch Caleb beschreibt Ava nicht als ein We- sen, das ihn an seine etwas untersetzte, stille Nachbarin Sabine erinnert, von der er meint, dass er sie vom ersten Augenblick an emotional komplett durchschauen könne, die ihm einmal pro Woche eine Hühnersuppe vorbeibringt und die er recht sympathischfindet.Erwin undSabinewürden vermutlich keine narrativeKraft,Er- schütterung oder geistreiche Einsichten bei den Zuhörenden oder Zuschauenden über KI hervorrufen. Mitchell und Snyder verweisen zudemmit dem Begriff der narrativen Prothese darauf, dass Menschen mit Behinderung eine simultane Omnipräsenz und Absenz in Kulturprodukten innehaben: Im Gegensatz zu anderen diskriminierten Grup- pen würden Menschen mit Behinderung in Kulturprodukten nicht gänzlich igno- riert, tabuisiert oder ausgeblendet. Sie sind seit langer Zeit in Kunst, Literatur und Film durchaus präsent. Zugleich sind Menschen mit Behinderung abwesend, weil sie nicht für sich in ihrer Mannigfaltigkeit stehen, sondern meistens für etwas an- deres, indem sie anderen Charakteren, Storylines und ethisch-sittlichen Normen erst Sinn, Intelligibilität und Form geben: In der Komödie As Good as It Gets verhilft der Charakter des nach einem Überfall körperlich schwer verwundeten, schwulen 106 Somatik Künstlers Simon Bishop demheterosexuellen PaarMelvin Udall und Carol Connelly zu einem romantischen Happy End. Ein anderes Beispiel ist die Figur der dissozi- ierten Savannah, deren Selbstmordversuch in dem Drama Herr der Gezeiten ihrem Bruder eine temporäre Auszeit aus seiner festgefahrenen Ehe ermöglicht, in die er geläutert und gesundet schließlich wieder zurückkehrt. 3. Alle Cyborgs? Weil es in Bezügen aufMenschenmit Behinderung selten um diese selbst geht und weil in sol- chen verallgemeinerndenBezügen die Lebensrealitäten vonMenschenmit Behinderung nivel- liert werden, kann die eingangs vorgestellte Harper mit einer begrifflichen Umarmung – im Sinne einer einendenBeschreibung–wie ›Wir sindalleCyborgs‹weniganfangen.Harperhört die Aussage des Öfteren von akademischen und aktivistischen Freund*innen, die sich wieder- um gern auf DonnaHaraway beziehen. DieWissenschaftstheoretiker*in formuliert 1991, in ihremmittlerweile zum fe- ministischen Klassiker gewordenen Cyborg-Manifest, dass »wir uns alle in Chimä- ren, theoretisierte und fabrizierte Hybride aus Maschine und Organismus verwan- delt [haben],kurz,wir sindCyborgs.Cyborgs sindunsereOntologie« (Haraway 1995: 34). Cyborgs sind, insistiert Haraway, unlängst Teil unseres technologischen Alltags und keine bloßen Fantasiesubjekte mehr. Sie tritt damit in eine kritische Korre- spondenz mit Feminismen ein, die eine von Technologien unberührte Körperlich- keit propagieren, die negieren, dass alle Menschenmit nicht-menschlichen Entitä- ten verwoben sind und die lieber in einer nostalgischen Zurückgewandtheit in einer vortechnologischen Zeit verharren, statt diese Verwobenheit anzuerkennen und sie aktiv und ethisch mitzugestalten. Menschen mit Behinderung kommen in Haraways Arbeiten zur Cyborg immer wieder vor. Im Manifest schreibt sie: »Gelähmte und andere schwer behinderte Menschen können vielleicht über die intensivsten Erfahrungen einer komplexen Hybridisierung mit anderen Kommunikationsgeräten verfügen (und manchmal ist es auch so)« (Haraway 1995: 67). Forschende der Disability-Studies nehmen seitdem vielfach Bezug auf diesen Satz (vgl. Kafer 2009). Und sie schätzen Ha- raway durchaus dafür, dass sie eine der wenigen Genderwissenschaftler*innen war, die Behinderung berücksichtigte und der Kategorie so zum Einzug in eine intersektionale Gendertheorie verholfen hat (vgl. Kafer 2013: 105). Zugleich haben diese Autor*innen in etlichen Arbeiten umfassend nachgewiesen, dass nicht nur bei näherer Lektüre die von Haraway zitierten Science-Fiction-Romane behinder- tenfeindlich sind, sondern auch die Cyborg-Figur an sich problematisch sei, weil sie das Verhältnis von behinderten Menschen zu Technologien idealisiere und zu stark auf das Aktive fokussiere, d.h. auf den unbedingten Willen Prothesen nutzen zu wollen oder den ironisch-gebrochenen Bezug darauf. Die Cyborg könne quasi Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 107 nicht anders, als ein durchweg positives Verhältnis zu Prothesen zu haben und immer schon eine prothetische Transgression von Grenzen zu begehren, also eine sexy Aneignung, eine innovativ-ironische Erweiterung von Technologien und eine lustvolle Verschmelzung mit ihnen. Die Folie der harawayschen Cyborg-Figur sei, wie Tobin Siebers deutlich macht, im Grunde der nicht-behinderte Mensch: Haraways Cyborgs sind mutig, respektlos und sexy; sie akzeptieren mit Freude die Fähigkeit, alte Grenzen zwischen Maschine und Tier, männlich und weiblich, Geist und Körper zu überschreiten. […] [Jedoch] ist Haraway so sehr mit Macht undKönnenbeschäftigt, dass sie vergisst,wasBehinderung ist. Prothesen steigern immer die Fähigkeiten der Cyborgs; sie sind eine einzige Quelle neuer Kräfte und verursachen keine Probleme. Die Cyborg ist quasi übermenschlich – und läuft nie Gefahr, als minderwertig angesehen zu werden. Kurz gesagt: Die Cyborg ist nicht behindert. (Siebers 2008. 63; Übersetzung d. Vf.) 4. Aktuelle feministische Digitalmanifeste Diese Kritik trifft auch auf aktuelle Cyberfeminismen wie den Glitch Feminismus oderdenXenofeminismus zu (vgl.Russel 2021; LaboriaCuboniks 2015;Hester 2018), bei denen es sich um zwei in Manifestform verfasste, im Kunst- und Theoriefeld breit rezipierteEinsätze für radikale feministischeDigitalpolitikenhandelt.5Donna Haraways Arbeiten bilden neben anderenTheoriegrößenwie Paul B. Preciado einen wesentlichen Referenzpunkt und in den Texten wimmelt es nur so von Fehlern und Fehlschlägen, von Mutationen und Monstern, von Gebrechen und Sklerosen, von Anti-Körpern, von Viren und vom Viralen. So formuliert das Kollektiv Laboria Cu- boniks imXenofeministischenManifest: »Der bewegliche Boden vonXF bedingt ei- ne pragmatische, semi-poröse Ontologie, in der die intellektuelle Sklerose der Aka- demie und der Stillstand vonKritik ersetzt werden durchMutation,Navigation und das Erproben von Horizonten« (Laboria Cuboniks 2015: 0X01). Und die Kunsttheo- retikerin und Digitalkünstlerin Legacy Russel schreibt in ihrem Glitch Feminismus Manifest, das die New York Times 2020 zu einem der besten Kunstbücher des Jahres kürte: Was Glitch Feminismus hier vorschlägt ist Folgendes: vielleicht wollen wir den Bruch, wollen wir scheitern. Wir streben nach lecken, herausfordernden Körpern voller Spalten und Nähte. Wir wollen wilde, sinnliche, monströse Körper. (Russel 2021: 102) 5 Dazu siehe auch den Beitrag von Carsten Junker in diesem Band. 108 Somatik Zweifelsohne streben Glitch Feminismus und Xenofeminismus ein Queering vom Begriff desMonströsen an undwollen zeigen, dass demMonströsen als Teil queerer Körper auch eineWiderständigkeit eingeschrieben ist.6 Dennoch wählen diese Cy- berfeminismen etliche Adressierungen, die Menschenmit Behinderung nur zu gut aus ihrem Alltag kennen und die in ihren Lebenswelten eher den Status gewaltvol- ler Anrufungen und realer Bedrohungen haben. Kurzum: Verkörpertes, alltägliches Wissen von Menschen mit Behinderung sowie nuancierte Erkenntnisse der Disa- bility-Studies finden sich weder in Haraways noch in den neuaufgelegten Cyborg- Figuren. Behinderung wird in alten und neuen Cyberfeminismen einmal mehr zu einer narrativen Prothese, die denManifesten narrativeWucht und intersektionale Dringlichkeit verleihen soll. Diese narrativeWucht und intersektionale Dringlichkeit beziehen dieManifes- te auch aus ihrer spezifischen Textform: ImGegensatz zu vielen wissenschaftlichen Texten lehnen die Manifeste den Anspruch eines nuancierten, feinsinnigen, acht- samen oder bedachten Sprechens ab. Denkprozesse sollen sich nicht nachrangig, sondern unmittelbar materialisieren, weshalb Manifeste auch als Körperprozesse verstanden werden können (vgl. Dieckmann 2020).Wenn ich die Texte mit Studie- renden lese, manifestieren sich solche Körperprozesse z.B. in einem Lavieren zwi- schen Gelächter aufgrund der unüblichen drastischen Begriffe und gelähmter Stille aufgrund der Dichte, Schnelligkeit und des Nichterklärens etlicher Begriffe. Zum einen binden dieManifeste nun Bilder von Behinderung und körperlichen Defekten selbstverständlich indieTexte ein, etwaMutation,Sklerose oderViral,was ihnen eine Art textuelle Normalität und Drastik verleiht. Zum anderen möchte ich während des Lesens aufgrund von unbehaglichen Irritationen etliche Male »Stop!« rufen, wenn der Titel eines Kapitels bei Legacy Russel Anti-Körper (2021: 85) ist und ichmich frage, inwiefern sich das von einer eher körperfeindlichenGesellschaft, die mit Jugend, Schönheit und Machbarkeit befasst ist, unterscheidet. Anders ausge- drückt: Manifeste beziehen ihre Kraft gerade daraus, dass sie eine appellative, un- mittelbare, affektive und affizierendeWissensform sind. Sie sind selbst somatische spekulative Praxen, die andere Texte wie chemische Stoffe in den eigenen Textkör- per einbauen (vgl.Dieckmann 2020), Körpertheorien der Technik, die Technologien nichtnurbeschreiben,sondern sie auchverkörpern.Genaudeshalbmüsste sichhier eine Diskussion anschließen, mit Hilfe welchen spezifischen Körperwissens, wel- cher Körperbilder und Körpernarrative genau der Textkörper der Manifeste gebaut wird. 6 Dazu siehe auch den Beitrag von Michael Klipphahn-Karge in diesem Band. Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 109 5. Datenextraktivismus Als ich zum Italiener laufe, um geröstete Artischocken, Thunfischcarpaccio und Capri Spritz für Harper undmich zu holen, denke ich: Was die alten und neuen Cyberfeminismenmit Fir- men wie Microsoft verbindet, ist die Aneignung des Wissens von Menschen mit Behinderung für andere Zwecke als die ihren, als narrative Prothese, vielleicht auch unter Vorzeichen des Datenextraktivismus.Unter Datenextraktivismus verstehen postmarxistische Medi- enwissenschaftler*innen wie Nick Couldry und Ulises A. Mejias die Abtastung jeg- licher Lebensregung, Körper und Verhaltensweisen durch Sensormedien und ihre Konstitution als digitale Daten, die für Unternehmen wie Microsoft die Grundlage fürdenBauneuerTechnologien sind: neueTechnologienwieKünstliche Intelligenz, diewiederum in Pro-Profit-Produkte eingespeist werden (vgl. Couldry/Mejias 2019: 2).Erst an diesemMorgen hatte ich auf einer Internetpräsenz desMicrosoft NewsCenters Fol- gendes gelesen: Künstliche Intelligenz […] kann Inklusion, also die Teilhabe von Menschen mit Behinderungen oder schweren Erkrankungen im Alltag, sehr erleichtern. Damit Menschen nicht ausgeschlossen werden, sind für die unterschiedlichen Modelle relevante Daten in ausreichender Menge erforderlich. Genau da hakt es, und des- halb engagiert sich Microsoft weltweit in verschiedenen Projekten. (2021) Die Sammlung möglichst vieler Daten von Menschen mit Behinderung wird hier also mit Inklusion begründet, wobei unklar ist, ob diese Gruppe auf die Produkte überhaupt angewiesen ist, ob die Devices für sie erschwinglich sind und bei ihnen ankommen. Dochwas istmitmeinenTexten?Extrahierennicht auch sie etlicheDaten–möglichst viele Erfahrungen, Eindrücke und Erzählungen von behinderten Freund*innen, Influencer*innen und Talkshowgrößen, um sie dann zu publikationsfähigen Texten zu verarbeiten, die zwar nicht unmittelbar großemonetäreWerte generieren, mir aber langfristig allerhand Angeneh- mes ermöglichen? Manche meiner nicht-behinderten Freund*innen betonen gern, dass wir doch alle irgendwann behindert werden, wenn wir nur lange genug leben, begleitet von einem exzessiven Sprechen über ihre Rückenschmerzen, Erschöpfungen und Melancholien gegen- über behinderten Bekannten, das ich in der Motivation nachvollziehen kann, aber für mich als nicht passend, teils enervierend empfand: Konnte ich Schwäche bei meinen Freund*innen nicht ertragen? Verdrängte ichmeine eigene? Robert McRuer unternimmt in seinen Texten eine kluge Unterscheidung zwi- schen »virtually disabled« und »critically disabled« (McRuer 2002: 95). Jeder ist, so McRuer, virtuell oder quasi behindert, denn niemandemgelingt es zu jeder Zeit sei- nes Lebens die Normen von Nichtbehinderung vollständig zu verkörpern. Jede*r scheitert früher oder später an denGeboten der Fitness, Leistungsfähigkeit undGe- sundheit. Wichtiger noch aber als die Anerkennung dieses Scheiterns scheint für McRuer, dass wir ›critically disabled‹ und damit politisch werden. Das ›kritisch Be- 110 Somatik hindertwerden‹ geht über ein ›virtuelles Behindertsein‹ hinaus, weil Behindertwer- den auch weniger identitär ist als Behindertsein. Es meint den Kampf dafür, dass auch die institutionellen, materiellen, wissenspolitischen und rechtlichen Verhält- nisse verändert werden: den strukturellen Zugang zu gleichen Rechten und ökono- mischen Ressourcen und vielleicht eher ein Schweigen über Befindlichkeiten. 6. Denaturalisierung Harper zieht beimThema kritische Selbstreflexion meist gelangweilt die Schultern hoch. Bis- weilenwürgt sie einenSchwallmeinerPrivilegiengeständnissekurzmitdemschmeichelhaften und doch klebrigen Begriff des Ally ab. Vielleicht ist ihr eine Personmit leidenschaftlichem In- teresse an feministischerTheorie, einer Faszination für Algorithmen inDating-Apps und ähn- lichemMusikgeschmack manchmal näher als die Erfahrungen anderer Frauen im Rollstuhl. Gegen dieNennung ihresNamens inmeinenTexten hat sie nichts, sie scheint es teilweise sogar zu bedauern, wenn ihre Figur fiktionalisiert wird. Und auch an diesemAbendwill Harper lie- ber zurück zu den neuenDigitalmanifesten, diewürden ihr, so führt sieweiter aus, auchwegen ihren aggressiven Denaturalisierungsbestrebungen unangenehm aufstoßen. Es seien gerade die Queers und behinderteMenschen, die der Xenofeminismus von der Bürde der Naturalisie- rung befreien will. Harper liest vor: Die Queers und die Trans*-Menschen unter uns, sowie jene, die aufgrund von Schwangerschaft oder Pflichten in Verbindung mit dem Großziehen von Kindern diskriminiert worden sind, (von der Gesellschaft) behinderte Menschen und alle, die angesichts der herrschenden biologischen Normen für ›unnatürlich‹ gehalten werden, haben Ungerechtigkeiten im Namen der natürlichen Ordnung erlebt. XF ist vehement anti-naturalistisch. Essentialistischer Naturalismus ist nichts als ein kruder theologischer Kater – und je früher er ausgetrieben wird, desto besser. (Laboria Cuboniks 2015: 0X01) Harpermacht inGesprächen immerwieder deutlich, dass der Ruf nachDenaturalisierung für Menschenmit Behinderung nicht per se erstrebenswert ist, eine unangenehme normative Fär- bung bis hin zu negativen Effekten haben kann. So heißt z.B. Denaturalisierung im Xenofeminismus »Macht euch verwandt, nicht Babys« (Hester 2018), auchhier ausgehend vonDonnaHaraway.Der Slogan ist ein Plädoyer für ein Sich-Verbinden, ein Leben und eine Gemeinschaft jenseits von biologischer Elternschaft, körperlicher Kern- und Kleinfamilie. Natürlich können Familienformen, die nicht länger auf heteronormativer, biologischer Reproduktion aufbauen, gerade für Menschen mit Behinderung attraktiv sein, können sie doch wieQueersund transPersonenErfahrungendes familiärenAußenpostens,vonAus- schlüssen undGewalt in der Familiemachen.Undmanche könnenundwollen keine Kinder haben.Besonders Frauenmit Behinderung haben aber oft die Erfahrung ge- Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 111 macht, dass ihnen biologischeMutterschaft abgesprochen und Abtreibung nahege- legt wird (vgl.Walgenbach 2012: 30ff.). Swantje Köbsell beschreibt die Situation be- hinderter Frauen in den 1980er-Jahren so: »Wennwir zumFrauenarzt gingen, dann wurde ganz klar gesagt: ›Sie wollen doch sowieso keine Kinder kriegen‹« (Köbsell 2021). AuchHarper erlebt 40 Jahre späterÄhnliches.Nachdemsie ihremGynäkologen ihrenKin- derwunschmitteilt, schaut der unmittelbar entsetzt, umdann freundlicher zwar, aber dennoch unerbittlich eine ausführliche Fragerunde über ihr Leben zu starten: Ob sie zu ihrer Partnerin eine feste Beziehung unterhalte, wie selbstständig sie sei, ob sie Autofahren könne und wie sie generell zurecht käme? Ihre Psychologin ist ebenfalls eine Enttäuschung.Denn sie schlägt vor, dass Harper doch mit Freunden mit Kindern eine Art Co-Elternschaft aufbauen könne. Und es wäre natürlich immer ein Schock, wenn der eigene Kinderwunsch nicht ohneWeiteres rea- lisiert werden könne. Daher: Wenn Harper keine Kinder haben könne, müsse das gründlich betrauertwerden. Aber irgendwann,wennHarper durch die Trauerphase gegangenwäre,wä- re dasThema dann auch abgeschlossen.Wozu dieser Machbarkeitswahn? Die psychologische Technik, Verluste in der Therapie erst explizit zu machen, um sie dann zu besprechen, zu be- trauern und abzuschließen, ist Harper geläufig. Dennoch widerstrebt Harper das für sie vor- gesehene, eindeutige Ziel und sie denkt bei sich, dass die Psychologin leicht reden hätte, be- sonders auch weil sie die Frau einmal im Frühstück3000, einem Frühstückslokal im Berlin Viertel Schöneberg, mit ihrem Mann und ihren zwei Töchtern getroffen hatte. Ihre Hilfe bei der Trauerarbeit lehnt sie dann dankend ab und auch den Gynäkologen muss sie wechseln. Ammeisten aber enttäuscht sie eine queer-feministische Freundin,mit der sie lange Politik ge- macht hat, und vonder sie dachte, siewürde sie unterstützenund stärkenundnicht kritisieren. Diese Freundin hatte tatsächlich erst »Igitt!« ruft und dann die Biopolitikkeule rausholt: Die Genossin wirft Harper vor, dass sie sichmit Hilfe der kapitalistischen Reproduktionstechnolo- giendembiologistischenHeteropatriarchat anbiedernwill.Unterstützung erhält sie hingegen in einem Onlineforum von einem trans Mann, der Ähnliches erlebt hat. Er bestärkt sie in ih- rem Kinderwunsch und vermittelt ihr eine fachkundige Ärztin. Der besorgte Gynäkologe, die Psychologin auf Betrauerungsmission, die Foucault-Freundin – sie alle haben es gut mit Har- per gemeint, statt aber konkrete Unterstützung zu geben, viktimisieren und stigmatisieren sie Harper oder dienen ihr neue reproduktiveVisionenan, die ebenso fremdbestimmend sind, aber die diesmalnicht imGewandderNaturalisierung, sondernparadoxerweise derDenaturalisie- rung daherkommen. Im Anschluss an Mai Anh-Boger (vgl. 2015) können diese Formen der Interven- tion eine destruktive Denaturalisierung genannt werden, die Frauen mit Behinde- rung genauso zum Schweigen bringt, ihnen genauso viel symbolische Gewalt antut wie ein normalisierender Naturalisierungsdiskurs, der Frauenmit Behinderung als nicht normal, nicht natürlich oder monströs klassifiziert. »Vielleicht könnte eine KI aber auch ein Puffer gegen diese Gesundheitsexpert*innen sein und mich in meinem Wunsch nach einem eigenen Kind verteidigen,« überlegt Harper spä- ter amAbend laut. Dannmüsste Künstliche Intelligenz ihr Versprechen einlösen und tatsäch- 112 Somatik lich Begehren, Anliegen und Wünsche der konkreten Person erkennen und sie in der Interak- tion mit Fachpersonal stärken können. Vielleicht liegen die Vorzüge von künstlich intelligen- ten Systemen für uns Diskriminierte im Potenzial präziserer Kommunikationsmöglichkeiten (vgl. Poulsen et al. 2020)? Harper selbst trifft ihre aktuelle Partnerin über die erst 2021 an den Start gegangene, brandneue Dating-App Sextn. Harper erklärt, dass Sextn ähnlich wie TikTok funktioniere und daher viel visueller, effektiver, böser und mehr Fun sei als andere al- ternative Datingportale wie Gleichklang. Bei Gleichklang können Nutzer*innen über die Angabe ihrer Suchkriterien resultierende Vorschläge selbst bestimmen:Gleichklang setzt auf Psychologie, will statt Oberfläche ein ›gemeinsames in die Tiefe gehen‹ und produziert so aber jede Menge nervige Hobbypsycholog*innen, die Affären am liebsten mit einem begleitenden Beziehungscoachingbeginnen.DasErfolgsgeheimnisvonSextn liegedagegen imKI-zentrier- tenAnsatz inFormeines optimiertenEmpfehlungsalgorithmus.Anstatt nachpsychologischen Inhalten zu suchen, lautet die Devise bei Sextn nurmehr ›Just watch and enjoy‹. Sextn zeigt nicht wie gewohnt eine Auswahl an Partner*innen-Empfehlungen an, sondern entscheidet di- rekt selbst, welche Bilder die Nutzer*innen zu sehen bekommen. Harper versteckt ihren Roll- stuhl nie auf Fotos und die KI hatte die Bilder inNanosekunden und ohneUmwege an die rich- tigen User*innen gespielt. InClubs,UniseminarenoderpolitischenLesegruppen lernt sie keineSex-undDatingpart- nerinnen kennen.Die Blicke gehen dort schlicht durch sie hindurch. Auch Portale wieGleich- klang sind ihr diesbezüglich einGraus.Harper bekommtdort etlicheZuschriften von ›freudlo- sen Linken‹, wie sie sie nennt, die zumLachen in den Keller gehen. Eine Frau schreibt ihr, dass sie ein schönesGesicht habe, gar nicht behindertwirke und sie ohnehin nur ›denMenschen‹ se- he.Musikalische Vorlieben fürManuChao, Tocotronic oderMelissa Etheridge begleitenChats dieser Art. Da sei ihr echt die Klitoris eingefroren und sie zur Mirna Funk des Crip-Datings geworden. Mirna Funk ist in Harpers Augen eine flache Leistungs-Sex-Literatin, deren Bei- träge sie eigentlich schlimm findet, weil sie unsolidarisch und egoman sind und jegliche Art von Abhängigkeit, Langsamkeit und Lethargie bei Frauen verachteten. 7. John Einen positiven Zugang zu KI hat John – ein guter Freund von Harper, der später, nachdem wir gegessen haben, dazu kommt. John stimmt mit Harper überein, dass er nicht einfach und problemlos zu irgendeinem Cyborg werden will und kann, zu einem Cyborg, der für andere bionische Prothesen tragen soll, damit seine fehlenden Arme und Beine sein Gegenüber nicht verunsichern. John beschreibt sein heutiges, entspanntes Verhältnis zu Prothesen als einen langen, zutiefst ambivalenten Prozess. Auf diesem Weg hat er viel ausprobiert. Es gab Monate mit Prothesen und Jahre ohne Prothesen, lange Phasen, in denen er sich versteckt und teilweise kaum das Haus verlassen hat. Prothesen waren für ihn, wie Disability-Studies Theoretiker*innen vielfach kritisch hervorgehoben haben, problematische Nor- malisierungstechnologien, die ihn an Vorstellungen seines Umfeldes angleichen Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 113 sollten (vgl. Bösl 2009: 289ff.). Obgleich er weiß, dass solche Phasen nicht für immer hinter ihm liegen, spricht John heute begeistert über seinen KI-basierten BMW, der ihm Mobilität, Autonomie und Kontrolle ermöglicht. Das Auto besitzt ein computergesteuertes, digitales Lenksystemund stellt eineVorstufe zumautonomenFahren dar.Wenigewissen, dass bereits heute viele Menschen mit Behinderung solche Autos fahren und damit tatsächliche KI-Pionier*innen sind. John hat das Auto zusammen mit einer Designerin für Autotechnik entworfen, die es dann gebaut hat. Herzstück sind parallel arbeitende, digitale Recheneinhei- ten. Sie verbinden, regeln und überwachen System- und Fahrzeugtechnik über Schnittstellen. Statt Pedalen und Lenkrad steuert John den Joystickmit seinenExtremitäten. Er beschleunigt, bremst und lenkt seinenWagen.Die Sensibilität der Joysticksteuerung passt sich automatisch an die Fahrgeschwindigkeit an, sodass John seinen Wagen in der City und auf der Autobahn präzise lenken kann. Besonders gern betont John: »Die Situation im Auto ist die einzige in meinem Leben, in der ich genau gleichbehandelt werde.Wie alle anderen auch.«Wenn er imHandbike der Fuß- gängerzone anderen über den Fuß fährt, würden die Leute sich sogar noch freundlich bei ihm entschuldigen. Im Auto werde er wie alle anderenMänner angegangen, die sich im BMWda- nebenbenehmen – wie ein mackerndes, autofahrendes Arschloch. Anders ausgedrückt: Ähn- lichwieHarper nutzt auch JohnKI-basierte Technologien gegen die geschlechtliche und sexuelleNeutralisierung,dieMenschenmit Behinderung betrifft unddieHeike Raab so beschreibt: Menschen mit Handicap [ist] das Scheitern an der Geschlechtsnorm oftmals qua Behinderung schon eingeschrieben […].7 Die Situation von Behinderten ist gewis- sermaßen von der Unmöglichkeit der Möglichkeit einer Zitation von Geschlecht und Sexualität gekennzeichnet. In Folge dessen wird das soziale Feld von eine Art verweigerten Geschlechtszugehörigkeit bzw. -identität. (2006) DieNutzung vonKI-Technologien bedeutet fürHarper und John zwar keine umfas- sende, globale Krüppelrevolution – die dauerhafte Änderung eines heteronormati- ven, ableistischen Möglichkeitsfeldes – doch aber eine Aneignung für die eigenen queeren Krüppelzwecke. Entspricht diese KI-Aneignung dann aber nicht der oben kritisierten,xenofeministischenAneignung?Handelt es sichnicht bei beidenumei- nekritische InbesitznahmevonTechnologien fürdie eigenenZwecke?Mir scheint es fraglich, dass xenofeministische Zwecke auch in heteronormativen Normen mün- den dürfen. Zu stark weisen Xenotechnologien doch die Tendenz einer denatura- lisierenden Färbung auf und Naturalisierung und Denaturalisierung scheinen als Gegensatzpaar zu eng aneinander gekoppelt. Vielleicht ist der autofahrende John weder Teil der heteronormativen, maskulinistischen Matrix noch ein denaturalisierter, hyperbeschleunigter Edelcyborg, sondern bewegt sich in ei- 7 Viele Menschenmit Behinderung lehnen den Begriff Handicap ab. Denn ›Hand in Cap‹ stellt eine irritierendeBeziehung zuMenschenher, diemit ihrerMütze in derHandumGeld bitten. 114 Somatik nemDazwischen. Ebensowie JohnsAngleichung an eineNormkeineNormalisierung ist, son- dern seiner Sehnsucht nach Mobilität, selbstbestimmten Navigieren und einer Konfrontation mit seinemUmfeldaufAugenhöhe entspricht.NormalitätundNormalisierunghaben in Johns Fall nichts Unterdrückendes, sondern etwas Positives. Schließlich bedeutet dieses Dazwischen ebenfalls nicht, dass Johns komplex-verkörperte Cyborg-Praxis unangefochten bleibt. Johns Performanz ist für Harper nämlich oft nur Ausdruck seiner Existenz als »Superbehinderter«, wie sie sagt. John ist zudemregelmäßigerGast inTalkshowsundziemlichaktiv inden sozialen Medien. Damit ermöglicht er anderen Menschen mit Behinderung einen ermächtigen- den KI-Diskurs ohne KI als solche zu glorifizieren oder sich und seinen Körper zu negieren. JohnsNarrativ ist das Beispiel einer komplexen, ambivalenten KI-Verkör- perung und kann als kritische Cyborg-Praxis gelesen werden. Disability-StudiesAutor*innenwie IslaNgschlagendasKonzeptderkomplexen Verkörperung vor, um das verwickelte Verhältnis von Menschen mit Behinderung zu digitalen Technologien zu fassen.Maßgeblich geprägt wurde das Konzept durch Tobin Siebers (vgl. 2008). Der Design- und Literaturwissenschaftler entwarf es aus seiner Unzufriedenheit mit zwei imWiderstreit stehenden Körpermodellen – dem medizinischenunddemsozialenKonzept vonBehinderung (vgl.Ng2017: 166).Beide seien simplistisch.DasmedizinischeModell reduziereBehinderung auf pathogene, biologische undgenetische Faktoren.Das sozialeModell vonBehinderung verflache Behinderung ebenfalls, allerdings nun durch dasMantra der sozialen Konstruktion auf äußere Faktoren wie architekturale Umgebungen, politische Programme und Positionierungen (vgl. Ng 2017: 166). Beide Positionen können zum Silencing der ›realen‹ Erfahrungen der Betroffenen führen. Das medizinische Modell suggeriert, dass der Mensch mit Behinderung zuvorderst durch seinen physischen Körper be- stimmt ist, an diesem Körper leidet und Technologien als medizinische Hilfsmit- tel nutzt, um diesen Körper und letztlich auch sich selbst zu überkommen. KI wird ausdieserPerspektive alsmöglichesHeilmittel gesehen.Das sozialeModell gehtda- von aus, dass derMenschmit Behinderung quasi keinenKörpermehr hat und allein aus extern konstruierten und veränderbaren Positionen besteht.Die Schmerzen im Stumpf liegen allein im behindertenfeindlichen Blick des Gegenübers, in fehlenden Versorgungsstrukturen oder in der kapitalistischen Leistungsgesellschaft.Das leib- liche Selbst der behinderten Person, so die Kritik, habe im sozialenModell ebenfalls keine Sprachemehr, um die Schmerzen auszudrücken. Das erste Modell schlägt zu viel Körper vor, das zweite zu wenig – daher der Begriff komplexe Verkörperung. Eine komplexe Verkörperung durch KI bedeutet im Falle Johns, folgenden Prozess genau zu beschreiben: Wie er während seiner Handbiketour durch die Stadt von anderen als behindert klassifiziert wird und ihm Ableismus begegnet,8 wie er nur 8 Ableismus ist die Abwertung von einer Person oder Gruppemit Behinderung durch zunächst positiv erscheinende Bemerkungen wie Komplimente für alltägliche Routinen, Handlungen Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 115 wenige Minuten später, nach seinem Umstieg ins Auto, als ›ganz normaler‹ Mann behandelt wird. Komplexe Verkörperung macht auch die niemals abgeschlossene Ambivalenz deutlich, die das Tragen von Prothesen bedeutet. Und für die Cyborg- Figur gibt dasModell der komplexenVerkörperung Impulse, umBehinderung nicht als physisches Defizit zu entpolitisieren, das durch KI ausgeglichen oder verbessert werden kann. Zusätzlich vermeidet dieses Modell, Behinderung als sexy Hypercy- borg zu idealisieren, die mit künstlich-intelligenten Medienumwelten einfach und ästhetisch angenehm verschmilzt. Die Cyborg-Figur kann nun als eine vielschich- tige, zutiefst ambivalente Technologie verstandenwerden, die zuallererst vonMen- schenmit Behinderung selbst mitgestaltet werden will. Literaturverzeichnis Beer, Veronika. 2017. Mit Kind im Rollstuhl. So macht das eine ›Wheelymum‹. fami- lie.de. https://www.familie.de/familienleben/behinderung-mama-im-rollstuhl /. Zugegriffen: 26.05.2022. Bilger, Anna, Vanessa Löwel und Lukasz Tomaszewski. 2018. Künstliche Intelli- genz (1/4): Wer denkt da eigentlich? Heinrich Böll Stiftung. https://www.boell.de/de/ 2018/01/29/kuenstliche-intelligenz-wer-denkt?dimension1=ds_ki. Zugegriffen: 26.05.2022. Boger, Mai-Anh. 2015. Das Trilemma der Depthalogisierung. In Gegendiagnose. Bei- träge zur radikalen Kritik an Psychologie und Psychiatrie, Hg. Cora Schmechel et al., 268–289.Münster: edition assemblage. Bösl, Elsbeth. 2009. Politiken derNormalisierung ZurGeschichte der Behindertenpolitik in der Bundesrepublik Deutschland. Bielefeld: transcript. Couldry, Nick und Ulises A. Mejias. 2018. Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject. Television &NewMedia 00(0): 1–14. Das Erste, 2019. Talk am Dienstag. 3nach9. [Talkshow]. Ausstrahlung: 18. Mai 2019, 22:50-00:50 (112:18), https://www.ardmediathek.de/video/talk-am-dienstag/3n ach9-oder-sendung-vom-18-mai-2021/das-erste/Y3JpZDovL2Rhc2Vyc3RlLmRl L3RhbGstYW0tZGllbnN0YWcvMDFjZTdiYTAtYTU0Zi00YTQyLTlmMjctN2Q1 MzAwOTY5YzU3. Zugegriffen: 26.05.2022. Dieckmann, Georg. 2020. Molekulare Prothesen. Intoxikation, Spekulation und Materialität in Paul B. Preciados Testo Junkie. In Feministisches Spekulieren. Ge- oder Beziehungen. Z.B. handelt es sich umAbleismus,wenn einemMannmit einer behinder- ten Freundin ein Kompliment gemacht wird, dass dieser Mann mit eben dieser Frau zusam- men ist. Es unterstellt, dass es für denMann im Grunde negativ ist, eine behinderte Freundin zu haben und der Mann etwas ganz Besonderes leistet. 116 Somatik nealogien, Narrationen, Zeitlichkeiten, Hg. Naomie Gramlich und Marie-Luise An- gerer, 178–197. Berlin: Kadmos. Garland, Alex. 2015. ExMachina. [Film] New York/Los Angeles: A24. Haraway, Donna. 1995. Ein Manifest für Cyborgs. Feminismus im Streit mit den Techowissenschaften. InDieNeuerfindungderNatur.Primaten,CyborgsundFrauen, Hg. Carmen Hammer und Immanuel Stiess, 33-73. Frankfurt/New York: Cam- pus. Hester, Helen. 2018.Xenofemimism. Cambridge: Polity Books Jack, Jordynn.2014.AutismandGender: FromRefrigeratorMothers toComputerGeeks.Ur- bana/Chicago/Springfield: University of Illinois Press. Kafer, Alison. 2009. Cyborg. In Encyclopedia of American Disability History, Hg. Susan Burch, 223-24. New York: Facts on File. Kafer, Alison. 2013. Feminist, Queer, Crip. Bloomington: Indiana University Press. Kaiser, Mareice. 2019. Statt Rollstuhl: Die Krankenkasse empfiehlt dieser jungen Frau Windeln zu tragen. Zeit online. https://www.zeit.de/zett/politik/2019-11/s tatt-rollstuhl-die-krankenkasse-empfiehlt-dieser-jungen-frau-windeln-zu-tr agen-anastasia-umrik-twitter?utm_referrer=https%3A%2F%2Fwww.google.co m%2F. Zugegriffen: 26.05.2022. Köbsell, Swantje. 2021. Ein Leben für die Selbstbestimmung. Deutschlandfunkkul- tur. https://www.deutschlandfunkkultur.de/behindertenpaedagogin-swantje- koebsell-ein-leben-fuer-die-100.html. Zugegriffen: 26.05.2022. LaboriaCuboniks.2015.Xenofeminismus. InDeaexmachina,Hg.ArmenAvanessian und Helen Hester, 15–35. Berlin: Merve. McRuer, Robert. 2002. Compulsory Able-Bodiedness and Queer/Disabled Exis- tence. InDisabilityStudies: Enabling theHumanities,Hg.SharonL.Snyder,Brenda Jo Brueggemann und Rosemarie Garland-Thomson, 88-99. New York: Modern Language Association. Microsoft News Center. 2021. KI & Inklusion: Technologien mit und für Menschen mit Behinderung entwickeln. News Microsoft. https://bit.ly/3ointNZ. Zugegrif- fen: 10.11.2021. Mitchell, David T. und Sharon Snyder. 2000. Narrative Prosthesis: Disability and the Dependencies of Discourse. Michigan: University of Michigan Press. Ng, Isla. 2017.How It Feels to BeWired: On theDigital Cyborg Politics ofMental Disability. Atlantis 38(2): 160–170. Raab, Heike. 2006. Intersectionality in den Disability Studies. Zur Interdependenz von Disability, Heteronormativität und Gender. Zedis-ev. https://www.zedis-ev -hochschule-hh.de/files/intersectionality_raab.pdf. Zugegriffen: 26.05.2022. Russel, Legacy. 2021.Glitch Feminismus. Leipzig: Merve. Salome, Simone. 2022.Der TikTok KI-Algorithmus. Artificial Creativity.https://kat zlberger.ai/2022/02/25/der-tiktok-ki-algorithmus/. Zugegriffen: 25.05.2022. Siebers, Tobin. 2008.DisabilityTheory. Ann Arbor: University of Michigan Press. Ute Kalender: Queer-crip Perspektiven auf die Cyborg-Figur im Kontext von KI 117 Smith, Peter, Laura Smith. 2021. Artificial intelligence and disability: too much promise, yet too little substance? AI and Ethics 1: 81-86. Umrik, Anastasia. o.J. »@AnastasiaUmrik.« Twitter. https://twitter.com/Anasta siaUmrik?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Eauthor. Zugegriffen: 01.11.2022. Walgenbach, Katharina. 2012. Gender als interdependente Kategorie. In Gender als interdependente Kategorie. Neue Perspektiven auf Intersektionalität, Diversität und He- terogenität, Hg. KatharinaWalgenbach, et al., 23–65.Opladen: Barbara Budrich. Whittaker et al. 2019. Disability, Bias, and AI. AINow Institute. https://ainowinstitut e.org/disabilitybiasai-2019.pdf. Zugegriffen: 10.11.2021. III. Konstruktion Hack back! Die historische Abwertung von Queerness bei KI und Potenziale des ›hacking back‹ Natalie Sontopski 1. Ein Blick durch die technofeministische Brille Aktuell ist eine Feminisierung bei smarten Artefakten wie bspw. sprachgesteuer- ten intelligenten Assistent*innen zu beobachten. Diese Feminisierung schlägt sich nicht im physischen Erscheinungsbild nieder, sondern in der Stimme, in Namen wie Siri, Alexa oder Cortana oder Charaktereigenschaften. Die Idee hinter den so- genannten »smart wives« (Strengers/Kennedy 2020) entspringt keiner naturalisti- schen Logik, sie ist vielmehr das Ergebnis eines konstruktivistischen Gendering- Prozesses von Technologie (vgl. Köppert 2020: 159).Und so dominieren traditionelle Geschlechterrollen wie die der hyperfemininen Hausfrau die Produktpalette smar- ter Geräte, die uns im Alltag assistieren, während queere Perspektiven keine Rolle zu spielen scheinen. Dem entgegenzuwirken, ist – nach Corinna Bath – ohne ein methodisches Framework oder ohne eine entsprechende Forschungspraxis heikel, denn allzu vereinfachende Ideen über die Integration von Design in Technologie zu propagieren, ist riskant, weil derlei »Strategien tendieren aus einer feministischen Perspektive dazu, Gender zu re-essentialisieren.« (2013: 71; Übersetzung d. Vf.). Um das zu vermeiden, will dieser Beitrag zunächst die technische Komplexität und soziale Kontextualität des Genderings beimDesign smarter Geräte und KI-Ar- tefakte darstellen und verdeutlichen, dass es sich bei KI keineswegs um eine neu- trale oder objektive Technologie handelt. So findet sich Queerness an vielen Stel- len des KI-Diskurses nur in vermeintlich negativen Formen der Normabweichung oder als bewusste Ausklammerung zugunsten vorgeblich naturalisierender hetero- normativer Klassifizierungen. Anhand ausgewählter historischer Beispiele soll die- seDynamikuntersuchtwerden: vonden erstenVersuchen eineSprachmaschinena- mensEuphoniazubauen,überAlanTurings imitationgamebishinzuobengenannten digitalen ›smart wives‹. Dieser historische Exkurs soll die Kontextualität des Gen- dering-Prozesses hinsichtlich der geringen Emanzipationsmöglichkeiten für quee- re Akteur*innen veranschaulichen, Fokus sind dabei westliche Gesellschaften.Dar- an anschließend soll anhand zweier Beispiele aus meiner eigenen Forschungspra- 122 Konstruktion xis das Potenzial einer Praxis des ›hacking back‹ vorgestellt werden, um zu zeigen, wiequeerePartizipationundSelbstermächtigung imKontextmaschinellenLernens möglich werden kann. 2. Into the wild Bei der Geburtsstunde der künstlichen Intelligenz als akademischem Forschungs- feld, bei der Dartmouth Konferenz im Jahr 1956, lag der Fokus der rein männlichen Teilnehmenden hauptsächlich darauf, als intelligent zu klassifizierenden Maschi- nen technisch umzusetzen:Wiemuss eine solcheMaschine programmiert werden? Und welchen Umfang würden Rechenoperationen haben? Seitdem ist KI zum Ge- genstand weiterer akademischer Disziplinen geworden,wobei in anderen Diszipli- nen neue, nicht rein technische Perspektiven ausgebildet wurden: Vor allem in der feministischen Techniksoziologie, den Science-and-Technology-Studies (STS), der Human-Computer-Interaction (HCI), sowie der Technikgeschichte wurde zuneh- mendGender als Analysekategorie indenVordergrundderAuseinandersetzungmit KI gerückt und ist mittlerweile zu einem eigenständigen Fokus unterschiedlicher Forschungsfelder geworden. Untersucht werden Fragen zu Diversität, Repräsenta- tion und Identität in Bezug auf KI – z.B. Gender-bias in Datensets (vgl. Bolukbasi et al. 2016; Wachter-Boettcher 2017; Gebru 2018) oder Sexismus gegenüber ›intelli- genten‹ persönlichen Assistent*innen (vgl. Bergen 2016; Woods 2018; Hwang et al. 2019). Auch bei der Gestaltung und demDesign von KI rückt Gender als Analyseka- tegorie zunehmend in den Fokus – dabei spielen besonders Erkenntnisse interdis- ziplinärer Forschung eine übergeordnete Rolle,welche Einsichten aus STS undHCI mit dem Wissen anderer Disziplinen, z.B. der Kunst, verbinden (vgl. z.B. Bardzell 2010; Ernst/Horvath 2014; Bergermann 2018; Haraway 2016; Zylinska 2020). Im Wissen darum und im Unterschied zu bisheriger Forschung, die theoreti- sche Konzepte von Gender im Zusammenspiel mit Technologie kritisch betrachtet (vgl. Wajcman 2007) oder sich auf Gendering-Prozesse von Technologie konzen- triert (vgl. Bath 2014), wird in diesem Beitrag eine ›into the wild-Forschungspraxis‹ skizziert, welche von einer praxisorientierten partizipativen Designsoziologie (vgl. Lupton 2018) sowie Elementen des spekulativen Designs (vgl. Dunne/Rabe 2013) ausgeht. Ausgangspunkt ist die Beobachtung, dass Dimensionen von geschlecht- licher Zuschreibung zwar generalisierend und von Beginn an in das Thema KI »hineingeschlendert« (Bergermann 2018: 393) sind, bislang jedoch wenig kritische Aufarbeitung und Berücksichtigung von damit zusammenhängenden Dimen- sionen von Queerness stattfand. Stattdessen wurden KI durch Gesellschaft und Industrie Rollen zugewiesen, die sich durch heteronormative geschlechtliche Ein- deutigkeit auszeichnen, während queere und plurale Perspektiven fehlen. Der vorliegende Beitrag will aus diesem Grund das Potenzial einer praxisbasierten Natalie Sontopski: Hack back! 123 interdisziplinären Forschungspraxis für queere Ermächtigung beim Design von KI vorstellen. 3. Reproduktion von Normativität Bereits lange vor smarten Anwendungenwie Siri faszinierten Sprachmaschinen die Menschheit. Es gab viele Versuche diemenschliche Sprachsynthese künstlich zu er- zeugen–sprichApparate sprechenzu lassenundmenschliche Intelligenz sozumin- dest zu imitieren (vgl. Brackhane 2015). Ein solches Beispiel ist ein mechanischer Apparat namens Euphonia, an dem der deutsche Erfinder Joseph Faber im 19. Jahr- hundert forschte.Über seinLebenunddenEntstehungsprozessdesApparats ist nur wenig bekannt – so schwanken etwa die Angaben zum Entwicklungszeitraum der ›Sprachmaschine‹. Mal wird dieser mit 14, mal mit 28 Jahren angegeben (vgl. Mc- Guire 2021: 331). Fest steht jedoch, dass Faber seine Kreation am 22. Dezember 1845 in Philadelphia in derMusical FundHall einemPublikumpräsentierte.Der Apparat konnte Wörter nennen und Faber ließ ihn diese mit einer monotonen, von Augen- zeugen als »geisterhaft« (Lindsay 1995; Übersetzung d. Vf.) beschriebenen Stimme sprechen. Bei Euphonia handelte es sich – anders als bspw. bei Wolfgang von Kem- pelens berühmten Schachtürken–nicht um einen Taschenspielertrick, denn dieMa- schine konnte tatsächlich mit Hilfe einer kompliziertenMechanikWörter formen.1 Dazu hatte Faber diemenschliche Zunge und andere Sprechorgane aus Gummi, El- fenbein und Leder nachgebaut und ein Set aus Blasebälgen fungierte als Lungen- ersatz. Als Bedienungsinterface diente eine Tastatur, auf der 16 Tasten je mit ver- schiedenen elementaren Lauten ausgezeichnet waren. Verschiedene Phoneme kor- respondierten mit unterschiedlichen Kombinationen dieser Tasten und modulier- ten so die menschliche Stimme (vgl. McGuire 2021: 332). Die synthetische Stimmefiel demPublikumunangenehmauf.Und auch ein an- deres Detail sorgte für die unheimliche Wahrnehmung des Apparats: Faber hatte dieMaschinemit demKopf eines Dummies verziert,womöglich umdemPublikum die Angst vor der neuartigenMechanik zu nehmen. Zunächst handelte es sich dabei um einen orientalisch anmutenden Mann mit Turban – keineswegs ungewöhnlich in dieser Epoche: »Die Automatenwaren durchdrungen vomOrientalismus der da- maligenZeit undwurden imachtzehntenundneunzehnten Jahrhundert oft als Tür- 1 Der von Wolfgang von Kempelen (1734–1804) konstruierte Apparat, erweckte den Eindruck, dass die Figur eines in eine türkische Tracht gekleidetenMannes selbst Schach spielen konn- te. In Wirklichkeit wurde das Gerät jedoch von einem menschlichen Schauspieler bedient, der darin versteckt saß. Die Betitelung Schachtürke sowie die klischeehafte osmanische Dar- stellung der Figur gibt einen Einblick in kolonial aufgeladenen Vorstellungen der damaligen Zeit über das Osmanische Reich und lässt bereits an einer vermeintlichen Objektivität von Technik zweifeln. 124 Konstruktion ken verkleidet« (ebd.: 334;Übersetzungd.Vf.).NachFabersTod tourten seineNichte Maria und ihr Ehemannmit Euphonia und es waren vermutlich auch die beiden, die den Kopf des Türken gegen den einer weißen Frau austauschten. Abb. 1: Der Apparat Euphonia mit weiblichem Dummy.2 Der Dummy symbolisierte einen Aufbruch von der bis dahin nicht hinterfragten NormweißerMännlichkeit, sei es in FormvonRace oderGender. Sowurde aus dem Körper der weißen Frau oder des türkischen Mannes die Art von Körper, welcher vonder Spitze des imperialenPatriarchatsmanipuliertwerden können. (ebd.: 334; Übersetzung d. Vf.) Die geschlechtliche und kulturalisierteGestaltung desDummies ist in hohemMaße geprägt von normativen Diskursen:WeißeMänner erfanden und herrschten, wäh- rendMenschen ofColor undFrauenBefehlen Folge zu leisten hatten.Anhanddieses 2 Quelle: https://upload.wikimedia.org/wikipedia/commons/6/6e/Euphonia-Joseph-Faber-18 70.jpg, CC-BY-SA-4.0 Wiki Commons. Natalie Sontopski: Hack back! 125 Beispiels wird deutlich, wie Wissensordnungen die Machtstrukturen des sich an- deutenden imperialenZeitalters sowie traditionelleGeschlechtsidentitäten imKon- text vermeintlich smarter Maschinen reproduzierten. 4. Geschlecht imitieren Der Mathematiker Alan Turing gilt aufgrund seines Aufsatzes Computing Machine- ry and Intelligence (1950) als einer der Väter der künstlichen Intelligenz. Im hier ge- nannten Aufsatz diskutiert er, ob Maschinen denken können, und kommt zu dem Schluss, dass die wichtigere Frage eigentlich sei, ob Maschinen Denken imitieren können: »FührenMaschinennicht vielleicht etwas aus,dasmanalsDenkenbezeich- nen müsste, das sich aber sehr von dem unterscheidet, was ein Mensch tut?« (ebd.: 435; Übersetzung d. Vf.). Abb. 2: Ablauf des imitation gamemit den Ak- teur*innen A, B und C.3 3 Quelle: https://upload.wikimedia.org/wikipedia/commons/6/66/The_Imitation_Game.png, Public Domain Wiki Commons. 126 Konstruktion Bis heute zählt der nach ihm benannte Turing-Test zu den Grundlagen der KI-Forschung. Mit dem Test soll herausgefunden werden, ob eine KI intelligentes Verhalten äquivalent zum menschlichen Denkvermögen nachbilden kann. Was jedoch ausgeblendet wird, sind die queeren Grundlagen von Turings Philosophie (vgl. Köppert 2020). So scheint die ursprüngliche Version des Turing Tests nicht nur zu fragen, ob Computer Menschen nachahmen können, sondern auch, ob Computer Geschlecht imitieren können. Das liegt daran, dass der Turing-Test an ein viktorianisches Gesellschaftsspiel namens imitation game angelehnt ist: Darin werden die zwei Spieler*innen A (Mann) und B (Frau) von C (Geschlecht nicht spe- zifiziert) verhört. C hat die Aufgabe herauszufinden, wer von den beiden welches Geschlecht hat. A und B sind in einem anderen Raum und kommunizieren mit C nur schriftlich, damit ihre Stimmen sie nicht verraten: Das Ziel des Spiels für die dritte Mitspielerin (B) ist es, dem oder der Fragenstel- ler*in zu helfen. Dabei ist es für sie wahrscheinlich die beste Strategie wahrheits- gemäße Antworten zu geben. Sie kann seinen Sätzen eigene Sätze wie ›Ich bin die Frau, höre nicht auf ihn!‹ hinzufügen, was aber keinen Nutzen bringen wird, weil der Mann ähnliche Bemerkungen machen kann. (Turing 1950: 434; Übersetzung d. Vf.) Im derzeitigen Licht betrachtet erscheint diese Version des imitation games wie ein kritischer Kommentar zur Performativität von Gender: Wie soll Gender performt werden, um das eigene sex zu verschleiern? Alan Turing selbst hatte mutmaßlich Erfahrungen in den performativen Praktiken des ›Doing Gender‹. Als homosexu- eller Mann in einer Gesellschaft, in der diese sexuelle Orientierung unter Strafe stand, war er unzähligen Anfeindungen ausgesetzt (vgl. Voss 2015: 570). Turing wurde schließlich auf Grund seiner Homosexualität 1952 festgenommen und zur chemischen Kastration verurteilt. Turings Queerness und deren potenzieller Ein- fluss auf seine Arbeit wurde jedoch von einem Großteil der auf ihn folgenden Informatiker*innen übergangen, selbst in der VerfilmungThe Imitation Game (2014) wird ihm eine heterosexuelle Liebesgeschichte angedichtet. Der Turing-Test ist dagegen bis heute ein einflussreiches Experiment der KI-Forschung, wobei die Dimensionen von Queerness, welche der Test im Kontext von KI aufwirft, nur selten explizit adressiert werden (vgl. Köppert 2020; Sha/Warwick 2016). 5. Traditionelle Weiblichkeit statt diverser Vielfalt In der neuen und neuesten Technikgeschichte finden sich zahlreiche Beispiele ge- schlechtlicher Segmentierung von Arbeit. Damit wird jenes Phänomen bezeichnet, welches sich durch ein Gendering bestimmter Berufe auszeichnet – also das Aus- bilden in rein ›weiblichen‹ Berufsfeldern und die Kopplung dessen an Stereotypi- Natalie Sontopski: Hack back! 127 sierungen und Klischees darüber, warum Frauen besonders geeignet für bestimm- te Arten von Arbeit sind. Nathan Emsenger (vgl. 2010) und Mar Hicks (vgl. 2017) haben bspw. anschaulich analysiert, wie sich der Beruf der Computerprogrammie- rerin von einer vorwiegend weiblich konnotierten Beschäftigung zu einem Berufs- feldwandelte, in demüberwiegendMänner tätig sind.Mit diesemWandel stieg das Prestige dieses Berufsfeldes. Abb. 3: Telefonistinnen arbeiten an einem Bell System International Telefon Switchboard, ca. 1939–1945.4 Obwohl Frauen Schlüsselaufgaben in den jeweiligen Unternehmen inne hatten und durch das Bedienen von Schreibmaschinen, Computern oder Telefonen dafür sorgten, dass anfallende Daten korrekt und zeitnah verarbeitet werden konnten, wurde ihnen finanzielle und soziale Anerkennung verwehrt.5 Die Aufgabe der Da- tenverarbeitung war von Beginn an so organisiert und unterteilt, dass eine große Anzahl meist weiblicher Arbeiter*innenmit Hilfe maschineller Unterstützung Kal- kulationenoderManipulationen vornahmen: »ZuBeginndes zwanzigsten Jahrhun- 4 Quelle: https://upload.wikimedia.org/wikipedia/commons/8/8e/Photograph_of_Women_ Working_at_a_Bell_System_Telephone_Switchboard_%283660047829%29.jpg, 86-WWT- 28-3 National Archives and Records Administration. 5 Kenneth Lipartito (vgl. 1994) hat den Zusammenhang zwischen Frauen, der Telefonindustrie und Gender untersucht und Donald Hoke (vgl. 1979) hat eine Fallstudie zur Rolle der Frauen bei der Einführung von Schreibmaschinen in Büros vorgelegt. 128 Konstruktion derts war die Arbeit in der Datenverarbeitung fast vollständig weiblich, und das Wort ›Computer‹ wurde allgemein als Bezeichnung für eine weiblichemechanische Rechenmaschine verstanden« (Emsenger 2010: 41; Übersetzung d. Vf.). Begonnen hatte dieser Prozess der Feminisierung zu Beginn des 20. Jahrhunderts in den Bü- ros britischer und amerikanischer Unternehmen mit dem Einsatz von Schreibma- schinen.Waren im Jahr 1910noch96.000Frauenals Schreibkräfte beschäftigt,belief sich ihre Zahl 1930 bereits auf über eine Million (vgl. ebd.: 49). In diesen drei Jahr- zehnten fand eine Transformation von Tätigkeiten statt: Sie wurden weiblich –wie z.B. das Tippen der Schreibmaschine. Die geschlechtliche Segmentierung von Arbeit hatte zur Folge, dass sich spezi- fische Berufe mit Bildern von Geschlecht verbanden und zu einem Stereotyp von assistierender Weiblichkeit führten. Dieses Klischee hielt durch seine alltägliche soziale Interaktion und anhängliche Praktiken sowie mediale Darstellungen rasch Einzug in den gesellschaftlichen Diskurs und wurde durch eine freundliche, assis- tierende Stimme am Telefon oder eine aufmerksame und konzentrierte Sekretärin an ihrer Schreibmaschine verkörpert. Diese Beobachtung ist insofern für den vor- liegenden Text relevant, weil sich daran gut ablesen lässt, dass es einen stetigen Prozess der Vergeschlechtlichung von Technologie gibt, diese also kein Gender- neutrales Vakuum ist. Dieser Prozess des Genderns ist jedoch historisch bedingt binär-geschlechtlich kategorisiert und davon abweichende, queere Kategorien sind nicht vorgesehen. Und so haben sich bestimmte Archetypen bis in die Gegenwart erhalten (vgl. Strengers/Kennedy 2020), wie z.B. die »elektrische Hausfrau« (Keil et al. 2000: 57) in Form der ›smart wife‹ Siri. Viele KI-Anwendungen bieten kei- nen Raum für queere Lesarten und spielen dafür lieber mit einer gewissen Retro- Weiblichkeit, die suggeriert, dass Frauen aufgrund der ihnen zugeschriebenen Tugenden wie Geduld, Demut oder Mütterlichkeit besonders geeignet sind für spezifische Aufgaben wie bspw. Care-Arbeit (vgl. Bergermann 2018; Sontopski 2021). 6. It’s time to ›hack back‹! Wenn wir von Queerness im Zusammenhang mit KI sprechen, bedeutet das nicht, bereits existierende Produkte und Anwendungen mit Gender-neutralen Stimmen oder Namen auf die Schnelle queer-kompatibel zu gestalten. Stattdessen sollte Queerness bei KI dafürstehen, Normen zu hinterfragen und neue Möglichkeiten der Gestaltung und Partizipation auszuloten. Aus diesemGrund ist es wichtig Stra- tegien zu entwickeln, die die binäre Gender-Matrix bei KI aufbrechen – sozusagen ›to hack back‹. So können Diskurse und Normen hinterfragt und neue digitale Narrative vonQueerness etabliert werden.Der erste Schritt dafür ist (Selbst-)Refle- xion: »Eine Software-Agent*in ist kein neutrales Gerät; sie wurde von Designenden Natalie Sontopski: Hack back! 129 und Programmierenden geschaffen, die […] Annahmen in ihre Produkte einbauen« (Natale/Cooke 2020: 6; Übersetzung d. Vf.). Diese Einsicht ist notwendig, um sich darüber klar zuwerden,welcheKonsequenzenEntscheidungenbei Konzeptionund Design von KI haben. Siri bspw. ist nicht einfach ein niedlicher Name für ein Pro- dukt, sondern gleichzeitig auch eine gestalterische Entscheidung für eine feminine Performance von Gender.Das Design der Sprachsteuerung und der Persona bei Siri oder Google Home sind bewusste Entscheidungen für die Reproduktion stereotyp weiblichen Verhaltens und somit eine Entscheidung gegen das bewusste Brechen mit Geschlechterrollen in Queerness. Wie können aber nun Strategien entwickelt werden, um diese binäre Gender-Matrix aufzubrechen? Dazu ist das Erwerben einer sogenannten ›KI-Literacy‹ der erste Schritt,mit derenHilfe Räume für queere Narrative geschaffen werden können. 7. Türen öffnen mit ›KI-Literacy‹ Ausgangsbasis des Konzepts hinter ›Literacy‹ ist das Verständnis von Digitalität als omnipräsent.DiesedigitaleKulturhat jedochkein eigentlichesWesen,siewird viel- mehr und fortwährend durch Praktiken von Akteur*innen hervorgebracht und ge- formt – z.B. durch Verfahren desmaschinellen Lernens.Da diese durch einen stark männerdominierten Diskurs geprägt sind, übertragen sie diese Ordnung des Hör- und Sagbaren in die digitale Kultur und damit in das Feld KI. Eine Fülle an empiri- schen Untersuchen belegt seit Jahren die ernüchternde Realität, dass insbesondere queere Perspektiven im Feld digitaler Technologien wie Computer, Programmier- sprachen oder smarter Maschinen unterdurchschnittlich repräsentiert sind, weil Zugangsbarrieren – wie z.B. ein hochgradig maskulines Arbeits- oder Studienum- feld–abschrecken (vgl.Förtsch et al. 2018; Leavy 2018;Misa 2010; Simard et al. 2013). Damit aber mehr Diversität im Feld KI stattfinden kann, ist es wichtig, bereits un- terrepräsentierte Gruppen nicht nochmehr zu isolieren. Stattdessen kannVermitt- lung von ›KI-Literacy‹Räumeschaffen, indenenqueereNarrative alsWerkzeuge für eine Selbst-Ermächtigung genutzt werden können. Das Konzept von ›Literacy‹ beschreibt einerseits ein Vermögen und eine Kom- petenz, andererseits kann es auch als Literalität in Differenz zur Oralität begriffen werden. In Anlehnung an Stefan Meißners begriffliche Herleitung des Begriffs der ›Maker-Literacy‹ (vgl. Meißner 2022) wird ›KI-Literacy‹ als eine Literalität in Diffe- renz zurSprache verstanden,welchedurchBetrachtungvonProzessenbeiKI einge- übt wird. Fähigkeiten wie Programmieren oder Medienkompetenz spielen hierbei zwar durchaus eine Rolle, im Fokus des medienhistorisch informierten Konzepts der ›KI-Literacy‹ steht allerdings das Ziel, die »sich durch die Etablierung digitaler Kultur verschiebende[n] Selbst-,Sozial- undWeltverhältnisse« (ebd.: 25) sichtbar zu machen. 130 Konstruktion ImFolgenden soll der Zusammenhang von Literalität, Technik undWeltverhält- nis in Formeines Entwurfs einer praxisbasierten Forschung skizziert werden.Dazu soll anhand zweier Beispiele queeres Potenzial beim Design von KI vorgestellt wer- den. 8. ›KI-Literacy‹ als Potenzial für Partizipation Mit dem Start des Sommersemesters 2021 begann ein interdisziplinäres Leucht- turmprojekt zur Vermittlung von ›KI-Literacy‹. Das Projekt My Home is my Burg war eine offizielle Kooperation zwischen der Kunsthochschule Burg Giebichenstein Halle und der HochschuleMerseburg.Unter dem Titel Talk ToMe –Disembodied Voice and the Politics of Human-Machine Conversation arbeiteten Studierende verschiedener Studiengänge innerhalb eines Seminars zusammen daran, die sozialen, kulturellen und ästhetischen Dimensionen von KI zu erforschen. Das Seminar bestand aus einem Mix aus technischen Software-Tutorials, Elementen spekulativen Designs sowie einer theoretischen Rahmung durch feministische STS-Theorien. Der Aus- gangspunkt des Seminars war die Suche nach alternativen Möglichkeiten, um Sprache, Gender und Design bei KI-Artefakten zu gestalten. Leitfragen waren u.a., ob Sprachassistenzen wie Apples Siri oder Amazons Alexa zwingend feminin in Stimme und Persona dargestellt werden müssen und ob eine Anthropomorphisie- rung überhaupt notwendig ist? Dazu galt es alternative Prototypen, Geräte oder Interfaces zu gestalten (vgl. Sontopski 2021). In diesem Fall ging der Erwerb einer ›KI-Literacy‹ bspw. mit einem kompeten- teren Umgangmit Daten Hand in Hand, die mit Hilfe von KI-Tools wie GPT-2 oder StyleGAN für eigene Zwecke genutzt werden können.6 Dies geschah mit Hilfe ei- nesWorkshops zur Nutzung von RunwayML. Dieser Dienst des gleichnamigen Un- ternehmens ist ein Toolkit, dass es Nutzer*innen erlaubt, eigene Inhalte auf der Grundlage von maschinellem Lernen zu kreieren. Runway wird auf der unterneh- menseigenen Webseite als »kreatives Toolkit der nächsten Generation« angeprie- sen: KI-Modelle können anhand vonBildern undTexten trainiertwerden, ohne dass hohe Kosten entstehen oder Nutzer*innen Coding-Kenntnisse benötigen. Künst- ler*innenoder Filmemacher*innenkönnenbspw.mitRunway technisch anspruchs- volle Projekte verwirklichen, da ihnen der Dienst Zugang zu Technik verschafft, der ihnenbislang ausfinanziellenGründenoderwegen fehlendenKnow-hows verwehrt 6 GPT-2 ist die Abkürzung für ›Generative Pre-Trained Transformer 2‹, eine vonOpenAI kreierte Open Source KI, die Text-Output generiert. GAN steht für GenerativeAdversarialNetwork (er- zeugende gegnerische Netzwerke). StyleGANwurde von demUnternehmenNvidia trainiert und erlaubtNutzer*innen eine unbegrenzte Anzahl an künstlichenmenschlichenGesichtern zu erzeugen. Natalie Sontopski: Hack back! 131 war.Aufgrunddieses vereinfachtenZugangs zuKI-Anwendungenkönnennunauch Akteur*innen an Technik teilhaben, welche sich für eine fluide und queere Reprä- sentation von Gender in KI-Projekten einsetzen, aber bislang an Zugangsbarrieren wiemangelnden Coding-Kenntnissen oder fehlendem technischemEquipment ge- scheitert sind. Das Konzept der ›KI-Literacy‹ beinhaltet schließlich, dass kein Stu- diumder Informatik, ja,nicht einmalKnow-how inProgrammiersprachennotwen- dig ist, um sich konstruktiv mit KI auseinanderzusetzen. Teilnehmenden des Pro- jekts wurde eine Einführung in Prozesse maschinellen Lernens geboten, sie wur- den imUmgangdamit geschult und sowurde eine ›KI-Literacy‹ vermittelt.Begleitet durch die Lektüre ausgewählter feministischer STS-Literatur, kritische Diskussio- nenunddie Entwicklung eigener Prototypen konnten die durch die Etablierung von KI-Techniken verschobenen Selbst-, Sozial- undWeltverhältnisse sichtbar gemacht werden. Dies betraf insbesondere die Gender-Macht-Beziehungen zwischen Spra- che, Design und KI-Artefakten. 9. Alternative Gegenwarten queer gestalten Ausgehend von der Frage, ob die Abwertung weiblicher Eigenschaften sowie die Objektifizierung von Frauen bei künstlicher Intelligenz reproduziert wird, ent- stand die Idee für das ProjektMiauMiau, ein Prototyp für eine fiktive feministische Sprachassistenz, mit der Nutzer*innen interagieren konnten. Dazu bedient sich MiauMiau spekulativem Design, um die Beziehung zwischen Gestaltung und Ste- reotypisierung bei KI-Produkten zu beleuchten. Das Projekt war der Versuch, feministische Technologiekritik mithilfe einer Kombination von spekulativem Design und Designsoziologie umzusetzen. Die Designsoziologie schlägt vor, Designmethoden als spielerischen Weg ein- zusetzen, um Akteur*innen für sozialwissenschaftliche Forschung zu gewinnen. Designmethodenwerden hier als Chance betrachtet, Imaginationen und objektori- entierte Beschäftigungenmit Zukunft sowie die Beziehung zwischenVorstellungen und Praktiken herauszuarbeiten. Deborah Lupton (vgl. 2018) argumentiert, dass empirische Forschungsmethoden für eine weite Bandbreite soziologischer For- schungsinteressen relevant sein müssen, insbesondere dann, wenn angewandte Forschung versucht die komplexe Vernetzung von Individuen mit Objekten, Sys- temen oder Services zu verstehen (vgl. ebd: 6). Grundlage des von ihr skizzierten designsoziologischen Ansatzes ist das sogenannte spekulative Design, welches auf Anthony Dunne und Fiona Raby zurückgeht. Spekulatives Design ist in den letzten Jahren verstärkt als Strategie in den Mittelpunkt getreten, die es erlaubt, die Rolle von Objekten in der Gesellschaft kritisch zu reflektieren und den Status quo etablierter Perspektiven anzuzweifeln. Die Methode wird bspw. eingesetzt, um imaginäre Zukunftsszenarien zu konfigurieren, deren Eintreten ungewiss 132 Konstruktion ist. Dafür bedient sie sich provokativer, bewusst simpler Fragestellungen (vgl. Dunne/Raby 2013: 3). Es geht dieser Methode dabei ausdrücklich nicht darum, in den Bereich purer Fantasie abzudriften, stattdessen werden durch den Ansatz der Spekulation Szenarien angeregt, in darauf abzielen, die Wahrscheinlichkeit des Eintretens einer Zukunft zu erhöhen, die für eine Mehrheit der Bevölkerung die Qualität des Lebens verbessert. Diese Zukunft ist zudem erstrebenswerter als die Prognosen aktueller realistischer Szenarien, die oftmals auf einem Fortschreiben evidenzbasierter Szenarien beruhen. Die erarbeiteten Szenarien dienen nicht zwingend der Suche nach einer Lösung des Problems, sondern als Kritik, anhand derer Möglichkeiten für alternative Entwicklungen aufgezeigt werden (vgl. ebd.: 5). Spekulatives Design kann auch sinnvoll eingesetzt werden, um über alternative queere Gegenwartsszenarien nachzudenken: Spekulationen über mögliche Zukünfte sind nach wie vor eine wichtige Strategie, aber viel interessanter […] sind alternative Präsentationen – die Neugestaltung von Komponenten, Anliegen, Strukturen oder Systemen, die heute in der Welt existieren. (Auger 2012: 129; Übersetzung d. Vf.). ImFalle vonMiauMiauwurde spekulativesDesigneingesetzt,umdenStatusquoder dienstbereiten digitalen Assistentin in Frage zu stellen und gleichzeitig Strategien der Spekulation in die empirische Praxis zu überführen.Einmit plüschigemKunst- fell überzogener Zylinder, unter dem sanftes Licht pulsiert, erinnert entfernt an ei- ne Katze und präsentiert sich als Prototyp einer intelligenten Sprachassistenz.Hin- ter MiauMiau steckt allerdings keine KI, sondern eine Schauspielerin. Diese sitzt, unsichtbar für Nutzer*innen, in einem separaten Raum und kommuniziert alsMi- auMiau über Funk. Im Fokus des Projekts steht die Frage, wie Nutzer*innen auf ein KI-Systemmitweiblicher Stimme reagieren,dass jedochnicht diemildeUnterwür- figkeit von Siri und anderen KI-Produkten reproduziert. Und so ist MiauMiau faul statt hilfsbereit, abweisend statt höflich und frech statt dienstbeflissen.MiauMiau behält sich außerdem das Recht vor, bei rassistischen, sexistischen oder diskrimi- nierendenÄußerungendasGesprächabzubrechen.Dies sollNutzer*innenGrenzen aufzeigen –würden sie einemMenschen face-to-face ebenfalls solche Äußerungen entgegnen? Die mehrmaligen Versuche einiger männlicher Teilnehmer, mit Miau- Miau zu flirten oder sie anzufassen, deuten allerdings an, wie tief verwurzelt eine gegenderte Wahrnehmung von intelligenten Sprachassistent*innen ist (vgl. Son- topski 2021).EinemöglicheErklärung für diesesVerhaltenmag sein,dass diese Pro- dukte in der Regel per Entwurf weiblich gestaltet werden, da sie in einer gegen- derten Welt funktionieren müssen (vgl. Bergermann 2018). In einer Gesellschaft, in der Frauen objektifiziert und sexualisiert werden, scheint es für Nutzer*innen nahezuliegen, diese Dynamik auf gegenderte Artefakte zu übertragen. MiauMiau wird also auf Grund ihrer weiblichen Stimme sowie Funktion als Frau gelesen und dementsprechendbehandelt.DasZiel vonMiauMiauwares,Gender-Dynamikenof- Natalie Sontopski: Hack back! 133 fenzulegen und einen Gegenentwurf zu den streng heteronormativen KI-Artefakte anzubieten. Der partizipative Charakter des Projekts soll Nutzer*innen dazu anre- gen, sich mit ihrer eigenen Erwartungshaltung an Technologie sowie der Femini- sierung von Care-Arbeit auseinanderzusetzen. Das Projekt beabsichtigt eine kon- struktive Auseinandersetzungmit demKI inhärentenGender-Macht-Gefälle anzu- stoßen. Darüber hinaus eröffnet solch ein designsoziologischer Forschungsansatz generell Chancen gegenwärtig dominierende Diskurse zu Gender und KI wie z.B. die Feminisierung von assistierender Arbeit bei KI zu hinterfragen und alternati- ve Narrative zu entwickeln, welche queere Perspektiven einbeziehen. Das könnte bspw. die Gestaltung von nicht anthropomorphen KI-Personas sein (vgl. Darling 2017) 10. Gegen Konformität und Assimilation Die bislang fehlende Aufmerksamkeit für Dimensionen von Queerness bei KI mag daran liegen, dass Software und Maschinen in den Augen vieler objektiv und ge- schlechtslos sind. Der momentane Hype um KI-Technologie stützt sich vor allem auf die Möglichkeiten, welche die neue Technik bietet, während soziokulturelle Faktoren von KI gerade von Unternehmen oftmals ignoriert werden (vgl. Gebru 2018). Ein Rückblick auf die neuere Geschichte künstlicher Intelligenz hilft deswe- gen Queerness zu verorten und einzuordnen: Immer wieder stoßen wir dabei auf traditionell-normative Diskurse über geschlechtliche Zuschreibungen, die in die Gestaltung smarter Maschinen einfließt. Queerness, die Ideen abseits von Normen inkludiert, wird dagegen im vorherrschenden KI-Diskurs kein Raum eingeräumt. Dabei ist es Queerness, z.B. in Form eines disruptiven Designprozesses, die es An- wender*innen erlauben kann, außerhalb der binären Gender-Matrix zu operieren, um Alternativen zu entwickeln, neue Gemeinschaften zu gründen und Transpa- renz und Offenheit zu forcieren. Es soll dabei nicht ein Geschlecht sichtbarerer als das andere gemacht werden, sondern grundsätzlich hinterfragt werden, wie Gender dargestellt wird, aus welchen Gründen und ob Alternativen existieren. Die Ermächtigung durch den Erwerb von ›KI-Literacy‹ kann dabei unterstützen, eine Schwellenangst gegenüber KI-Technologien abzubauen und Akteur*innen zu ermutigen, sich auch ohne die Qualifikation eines computerwissenschaftli- chen Studiengangs in eine Auseinandersetzung mit KI zu begeben. So lässt sich das oftmals homosoziale maskuline Feld von KI aufbrechen und die Entwicklung neuer Praktiken des maschinellen Lernens fördern. Digitale Kultur kann infolge fluide gestaltet werden. Eine praxisbasierende Forschung ›into the wild‹, wie in diesem Beitrag dargestellt, kann dafür die passende Begleitung sein: Es geht nicht darum, ein Problem endgültig zu lösen, sondern Möglichkeiten von (queeren) 134 Konstruktion Interventionen in den Fokus zu rücken, welche die Komplexität und Kontextualität vorliegender Probleme anerkennen. Dies mag zunächst keine ernsthafte Konkurrenz zu KI-Produkten von Unter- nehmen wie Apple, Google oder Amazon darstellen, die mit ihren smarten Gerä- ten undKI-AnwendungenMillionen vonNutzer*innen erreichen.Dennoch können mit Hilfe von ›KI-Literacy‹ oder spekulativen Interventionen kritische Aktivist*in- nen gefördert und der Status quo in Bezug auf KI öffentlichkeitswirksam hinter- fragt werden. Kritik kann sich dabei gegen eine Assimilation queerer Identitäten durch oder in den Mainstream richten, gegen Unternehmen, die keinen Raum für Queerness bereitstellen oder gegen einen Diskurs, in dem queer historisch ausge- klammert, ignoriert und abfällig als ›abnormal‹ kategorisiert wird. Damit wäre das ›Doing Queer‹ smarter Maschinen nicht länger auf Unternehmen und öffentliche Institutionenangewiesen, sondernkann sich imKreise vonAkteur*innenentfalten, welche aktiv an der Umsetzung neuer Möglichkeitshorizonte arbeiten möchten. Literaturverzeichnis Auger, James. 2012.WhyRobot? Speculative design, the domestication of technology and the considered future. London: Royal College of Art. Bardzell, Shaowen. 2010. Feminist HCI. Taking Stock and Outlining an Agenda for Design. CHI ›10: Proceedings of the SIGCHI Conference onHuman Factors in Comput- ing Systems: 1301–1310. Bath, Corinna. 2014. Searching for Methodology. Feminist Technology Design in Computer Science. InGender inScienceandTechnology. InterdisciplinaryApproaches, Hg.Waltraud Ernst und Illona Horwarth, 59–73. Bielefeld: transcript. Bergen,Hilary. 2016. ›I’d Blush if I Could‹.Digital Assistants,Disembodied Cyborgs and the Problem of Gender.Word and Text. A Journal of Literary Studies and Linguis- tics 6: 95–113. Bergermann, Ulrike. 2018. Biodrag. Turing-test, KI-Kino und Testosteron. In Ma- chine Learning. Medien, Infrastrukturen und Technologien der Künstlichen Intelligenz, Hg. Christoph Engemann und Andreas Sudmann, 339–364. Bielefeld: tran- script. Bolukbasi,Tolga,Kai-WeiChang, JamesZou,VenkateshSaligramaundAdamKalai. 2016.Man Is to Computer Programmer asWoman Is toHomemaker? Debiasing Word Embeddings. 30th Conference onNeural Information Processing Systems: 1–9. Brackhane, Fabian und Jürgen Trouvain. 2013. Stationenmechanischer Sprachsyn- these vom 18. bis zum 20. Jahrhundert. In Studientexte zur Sprachkommunikation, Hg. Diether Mehnert, 319–326. Dresden: TUDpress. Natalie Sontopski: Hack back! 135 Buolamwini, Joy und Timnit Gebru. 2018. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.Proceedings ofMachine Learning Research 81: 1–15. Darling,Kate. 2015.Who’s Johnny? Anthropomorphic Framing inHuman-Robot In- teraction, Integration, and Policy. SSRN: 1–22. Dunne, Anthony und Fiona Raby. 2013. Speculative Everything: Design, Fiction, and So- cial Dreaming. Cambridge/London:TheMIT Press. Emsenger, Nathan. 2010.TheComputer Boys TakeOver. Computer, Programmers, and the Politics of Technical Expertise. Cambridge/London:TheMIT Press. Förtsch, Silvia Maria, Anja Gärtig-Daugs, Sandra Buchholz und Ute Schmid. 2018. »Keep It Going,Girl!« An Empirical Analysis of GenderDifferences and Inequal- ities in Computer Sciences. International Journal of Gender, Science and Technology 10(2): 265–286. Hicks,Marie. 2017. Programmed Inequality: How Britain DiscardedWomen Technologists and Lost Its Edge in Computing. Cambridge/London:TheMIT Press. Hoke, Donald. 1979.TheWoman and the Typewriter: A Case Study in Technological Innovation and Social Change. Business and Economic History 8: 76–88. Hwang, Gilhwan, Jeewon Lee, Cindy Yoonjung Oh und Joonhwan Lee. 2019. It Sounds LikeAWoman.ExploringGender Stereotypes in SouthKoreanVoiceAs- sistants. Extended Abstracts of the 2019 CHI Conference on Human Factors in Comput- ing Systems: 1–6. Keil, Erika (Hrsg). 2000. Der Gehilfe. Vom Dienstboten zum Servicedesign. Zürich: Mu- seum für Gestaltung Zürich. Köppert, Katrin. 2020. AI: Queer Art. InWenn KI, dann feministisch. Impulse ausWis- senschaft und Aktivismus, Hg. netzforma* e.V., 159–168. Berlin: netzforma* e.V. Leavy, Susan. 2018.Gender Bias in Artificial Intelligence:TheNeed forDiversity and Gender Theory in Machine Learning. 2018 IEEE/ACM 1st International Workshop on Gender Equality in Software Engineering (GE): 14–16. Lipartito, Kenneth. 1994.WhenWomenWere Switches: Technology, Work, and Gender in the Telephone Industry 1890–1920. American Historical Review 9(4): 1075–1111. Lupton, Deborah. 2018. Towards Design Sociology. Sociology Compass 12(1): 1–11. htt ps://doi.org/10.1111/soc4.12546. McGuire, Riley. 2021. Writing Novels, Simulating Voices: Euphonia, Trilby, and the Technological Sounding of Identity. Victorian Literature and Culture 49(2): 325–360. Meißner,Stefan.2020.Maker-Literacy.WelcheLiteralität evoziert dieMakerkultur? Medienimpulse 58(4): 1–32. Misa, Thomas (Hg.). 2010. Gender Codes: Why Women Are Leaving Computing. Los Alamitos: IEEE Computer Society Press. 136 Konstruktion Natale, Simone und Henry Cooke. 2020. Browsing with Alexa: Interrogating the Impact of Voice Assistants as Web Interfaces. Media, Culture & Society 43(6): 1000–1016. Shah,Huma, KevinWarwick. 2016. Imitating Gender as aMeasure for Artificial In- telligence: Is it Necessary? Proceedings of the 8th International Conference on Agents and Artificial Intelligence: 114–119. Simard, Caroline, Telle Whitney, Denise Gammal, Barbara Gee und Jody Mahoney. 2013. Priming the Pipeline: Addressing Gender-Based Barriers in Computing. Computer 46(3): 30–36. Sontopski, Natalie. 2021. Siri, warum kannst Du nicht wütend werden? Strategien derSpekulation als Instrument feministischerPraxis.FreiburgerZeitschrift fürGe- schlechterstudien 27(11): 79–94. Sontopski, Natalie. 2021. Talk ToMe –Eine Kollaboration zwischen Kunst undWis- senschaft.w/k – ZwischenWissenschaft & Kunst. https://doi.org/10.55597/d15468. Strengers, Yolande und Jenny Kennedy. 2020. The Smart Wife. Why Siri, Alexa, and Other Smart Home Devices Need a Feminist Reboot. Cambridge/London: The MIT Press. Turing, Alan 1950. ComputingMachinery and Intelligence.Mind 59(236): 433–60. Voss, G. S. 2013. It Is a Beautiful Experiment‹: Queer(y)Ing theWork of Alan Turing. AI & Society 28(4): 567–573. Wachter-Boettcher, Sara. 2017. Technically Wrong. Sexist Apps, Biased Algorithms, and OtherThreats of Toxic Tech. New York City: W.W.Norton & Company. Wajcman, Judy. 2004. TechnoFeminism. London: Polity Press. Woods,Heather Suzanne. 2018. Askingmore of Siri and Alexa: feminine persona in service of surveillance capitalism. Critical Studies in Media Communication 35(4): 334–349. Zylinska, Joanna.2020.AIArt.MachineVisionsandWarpedDreams.London:OpenHu- manities Press. Queering Intelligence Eine Theoretisierung des Intelligenzbegriffs als Performance sowie eine Kritik individueller und künstlicher Intelligenz Blair Attard-Frost 1. Einleitung Diverse Forscher*innen haben in letzter Zeit vermehrt festgestellt, dass ein we- sentliches Hindernis für die wirksame Messung, Verwaltung und Steuerung von Systemen der künstlichen Intelligenz (KI) in der begrifflichen Mehrdeutigkeit des Begriffs Intelligenz selbst liegt (vgl. Bratton 2021; Taeihagh 2021; Crawford 2021; Mishra/Clark/Perrault 2020). Die Definition von KI im Speziellen – und noch weiter gefasst die Definition von Intelligenz im Allgemeinen – stellt bereits seit langem eine theoretische Herausforderung in der Kognitionswissenschaft dar. Diese Schwierigkeit lässt sich ebenfalls in Bezug auf den KI-Diskurs feststellen.Die Informatiker Shane Legg undMarcus Hutter beschreiben eine solche Herausforde- rung kurz und bündig: »Ein grundlegendes Problemder künstlichen Intelligenz ist, dass niemandwirklich weiß,was Intelligenz ist« (2007a: 1; Übersetzung d.Hg.).1 In einem weiteren Beitrag führen Legg und Hutter (vgl. 2007b) eine Überprüfung von 71 Definitionen von Intelligenz durch, von denen diemeisten aus der KI-Forschung und der Psychologie stammen. Aus ihrer Übersicht geht hervor, dass Intelligenz mit einer Vielzahl von Eigenschaften wie Lernfähigkeit, Anpassungsfähigkeit, Ziel- orientierung, Problemlösungsfähigkeit, Sensibilität für verschiedene Kontexte und der Fähigkeit,Wissen verallgemeinern zu können, in Verbindung gebracht wird. InnerhalbderForschung,aufdiehierBezuggenommenwird,werden insbeson- dere die Interaktion mit der Umwelt, die Fähigkeit von Handelnden, sich an unter- schiedliche Umgebungen anzupassen und in diesemZusammenhang Ziele »erfolg- reich oder gewinnbringend« zu erreichen, als »häufig auftretende Merkmale« von 1 Sofern nicht anders vermerkt, wurden die Zitate im Zuge der Übersetzung des Artikels durch die Herausgeber*innen in die deutsche Sprache übertragen, die zitierten Textstellen liegen im Original in englischer Sprache vor. Die Übersetzung des Artikels aus dem Englischen ins Deutsche wurde ebenfalls durch die Herausgeber*innen vorgenommen. 138 Konstruktion Intelligenz hervorgehoben (ebd.). Eine solche Engführung übersetzt sich schließ- lich in eine universelle Definition von Intelligenz: »Intelligenz misst die Fähigkeit vonHandelnden, in verschiedenstenKontextenZiele zu erreichen« (ebd.).DieBeto- nung, dass Intelligenz innerhalb spezifischer Interaktionenmit der Umwelt zu ver- orten und daher wert- bzw. zielabhängig ist, impliziert drei übergreifende Qualitä- ten von Intelligenz, die jedoch innerhalb ihrer Abhandlung keine direkte Beachtung finden. Diese bezeichne ich – bezugnehmend auf Legg und Hutter – im Folgenden alsHandlungsbezogenheit,Wertabhängigkeit undMessbarkeit. Der Philosoph Reza Ne- garestani bringt die Zentralität dieser drei Eigenschaften auf den Punkt, wenn er schreibt, dass »die Frage, was Intelligenz ist, untrennbar mit der Frage verbunden ist, was Intelligenz tun muss und welche Werte sie verkörpert« (2018: 31). Intelli- genz wird demnach immer als (1) generell an eine Tätigkeit gebunden verstanden oder (2) einer Reihe von Aufgaben zugeschrieben, die sich durch ein gewisses Maß an Qualität hinsichtlich ihrer Ausführbarkeit auszeichnen und deren Bewältigung als ›intelligent‹ bezeichnetwird,weil sie eine dementsprechenddefinierte Formvon Intelligenz erfordert. Ausgehend von diesen anfänglichen Überlegungen thematisiere ich im zwei- ten Abschnitt des Beitrags zunächst, welche konzeptionellen Überlegungen ein sol- chesVerständnis von Intelligenz konkret nach sich zieht:Wenn Intelligenzmessbar, wertabhängig und in Handlungen eingebettet sein muss, um als Intelligenz aner- kannt zu werden, plädiere ich dafür, Intelligenz als Performance im Sinne der Per- formativitätstheorie zu verstehen,die oftmals an eine Leistunggebunden ist.Daher wird meine nachfolgende Untersuchung von drei Hauptfragen geleitet: 1. Ontologisch: Was ist Intelligenz, und wie lässt sich ihr Vorhandensein im Han- deln feststellen? 2. Kritisch: Wie kann eine Definition von Intelligenz in Frage gestellt werden? Mit anderenWorten:Wie können die vorherrschendenWerte, die den Definitionen von Intelligenz zugrunde liegen, so hinterfragt werden, dass sich alternative Werte und Zuschreibungen herausbilden können? 3. Praktisch:Welchen »DownstreamEffekt« (Mishra/Clark/Perrault 2020: 2; Über- setzung d. Hg.) – bspw. im Sinne der Auswirkung auf etwaige Nutzer*innen – hat eine Definition von Intelligenz auf die Entwicklung und den Einsatz, das Verantwortungsmanagement und die Steuerungs- und Regelungssysteme von KI? Ich nähere mich diesen Fragen, indem ich mich auf die normative Variabilität ein- lasse, welche die Versuche, Intelligenz zu definieren, paradoxerweise oft zunichte macht. Parallel dazu definiere ich Intelligenz nicht unter Bezugnahme auf funktio- nale Fähigkeiten,Werte oder normative Leistungen, die sonst oft als wesentlich für einen einheitlichen Intelligenzbegriff beschrieben werden. Beispiele finden sich in Blair Attard-Frost: Queering Intelligence 139 den genannten Parametern der Lernfähigkeit, Anpassungsfähigkeit, Fähigkeit zu Generalisieren, Zielorientiertheit oder Problemlösungsfähigkeit. Stattdessen defi- niere ich Intelligenz in funktional und normativ agnostischer Hinsicht als wertab- hängige kognitive Performance–also imSinne eines erweiterten oder diversifizier- ten Leistungsbegriffs, der sich u.a. auch als produktive Performativität verstehen lässt. Diese Definition von Intelligenz stellt damit – anders als Legg und Hutter (vgl. 2007b) – nicht die vermeintlich universellen Funktionen und Normen von In- telligenz in den Mittelpunkt, etwa Lernleistungspotenzial oder Umgebungsanpas- sungsgelingen. Vielmehr werden die Interdependenzen zwischen und Interaktio- nen von Handelnden – auch mit ihren Umwelten – fokussiert. Dieser Ansatz ruft auch Fragen nach angelegtenMaßstäben auf, die bei einer kollektivenKonstruktion einer kontextspezifischen Performance einsetzbar sind, umüberhaupt Rückschlüs- se auf die Performativität intelligenten Handelns treffen zu können. Ein Beispiel: Bei einer konventionellen Auffassung von Intelligenz wird die In- telligenz einesChatbots fürdenKund*innendienst darangemessen,wie erfolgreich der Chatbot seine kognitiven Fähigkeiten bei der Lösung von Kund*innenanfragen einsetzt – gemeint ist bspw. die Fähigkeit, die sprachlichen Eingaben der Kund*in- nen zu verarbeiten oder die Fähigkeit,Muster in Kund*inneninteraktionen vorher- zusagen und daraus zu lernen, ebenso wie die Fähigkeit, sich selbstständig an eine Vielzahl von Anwendungsfällen oder Dienstleistungskontexte anzupassen. Im Ge- gensatz dazu, muss bei der Definition von Intelligenz als wertabhängige kogniti- ve Performance die Intelligenz des Chatbots in Bezug auf seine Leistung innerhalb eines breiteren, interdependenten kognitiven Systems gemessen werden. Ein sol- ches System umfasst – neben dem Chatbot – auch die Werte und Fähigkeiten der Kund*innen, die der Chatbot bedient, ebenso wie die Werte und Fähigkeiten der Designer*innen und Entwickler*innen des Chatbots und darüber hinaus auch die Werte und Fähigkeiten anderer involvierter kognitiver Handlungsträger*innen. Sie alle konstruieren und konstituieren gemeinsam die Kontexte und Rahmungen, in denen dieser Chatbot agiert bzw. agieren würde. Anschließend an diese Überlegungen werde ich eine konzeptionelle Grund- lage für die von mir vorgeschlagene Definition von Intelligenz als wertabhängige kognitive Performance schaffen, indem ich die Perspektiven einer kognitiven und performativen Ontologie zusammenfasse und einer Überprüfung unterziehe. Abschließend schlage ich eine Theorie der Intelligenz sowie eine entsprechende Rahmung für deren begriffliche Analyse vor. Konkret werde ich dabei Intelligenz in bestimmte Handlungsbereiche einbetten, z.B. in jene Handlungen, die mit individuell-menschlicher oder künstlicher Intelligenz verbunden sind. Ich ordne Intelligenz dazu in kognitive, normative und performative Analysedimensionen ein, die der Kontextualisierung,Wertabhängigkeit undMessbarkeit von Intelligenz entsprechen. 140 Konstruktion Im dritten Abschnitt schlage ich Queering als eine Methode vor, um dominante Perspektiven auf Intelligenz zu unterwandern, diese zu verwerfen und alternative Perspektiven in den unterschiedlichen Bereichen von Intelligenz aufzuzeigen. An- schließend führe ich eine kurze Analyse von zwei einflussreichen bereichsspezifi- schen Intelligenztheorien an: eine aus dem Bereich der individuell-menschlichen Intelligenz und eine aus dem Bereich der künstlichen Intelligenz. Ziel ist, daran anschließend eine Reihe von explorativen Fragen zu skizzieren, mithilfe derer die Annahmen dieser beidenTheorien über kognitive, normative und leistungsbasierte Eigenschaften in Frage gestellt werden sollen. ImviertenAbschnitt beschreibe ich abschließenddie Implikationender vonmir aufgeworfenen Fragen für zukünftige ontologische, kritische und praktische Studi- en zu Intelligenz und KI. 2. Intelligenz als Performance 2.1. Kognition Wenn Intelligenz eine Eigenschaft kognitiver Aktivität ist, dannmuss klar sein,was Kognition bedeutet, um einer Bedeutung von Intelligenz näher zu kommen. Seit den 1990er-Jahren bis in die 2000er-Jahre hinein vollzog sich in den Kognitionswis- senschaften,wie auch in vielen Bereichen der Sozialforschung, eineWende, die das traditionelle Verständnis von Kognition als ein streng individualistisch verankertes Phänomen auf den Kopf stellte. Stattdessen wurde auf neue kognitive Formen hin- gewiesen, die Kognition als ein Informationsverarbeitungsphänomen neu dachten und konzipierten. Es wurde dargelegt, dass komplexe, voneinander abhängige Sys- teme wie Verstand, Gehirn, Körper und Umwelt die Kognition konstituieren und wie sich die darin eingeschriebene Verarbeitung von Informationen entsprechend auf verschiedene Agenzien verteilt (vgl. Varela/Rosch/Thompson 1991; Rogers/Ellis 1994; Hutchins 1996, 2010; Clark/Chalmers 1998; Hollan/Hutchins/Krish 2000; Ba- teson 2000;Thompson 2007; Menary 2010). Die Literaturkritikerin und posthuma- nistische Theoretikerin N. Katherine Hayles verbindet diese neuen Theorien über Kognition mit jahrzehntelanger empirischer Arbeit an der Schnittstelle von kogni- tiver Psychologie, kognitiver Biologie, Neurowissenschaften und künstlicher Intel- ligenz.Hayles plädiert für eine posthumanistische Ontologie der Kognition, die die menschlicheKognition zugunsten einer erweiterbarenOntologie dezimiert, die auf alle lebenden wie nicht-lebenden Wesen angewendet werden kann. Dementspre- chend beschreibtHayles Kognition als »einen Prozess, der Informationen innerhalb von Kontexten interpretiert undmit Bedeutung verbindet« (2017: 22). Entscheidend für dieseOntologie ist, dassHayles darlegt,wie neuere Forschung bezüglich des Zusammenspiels von Kognition und Bewusstsein aufzeigt, dass be- Blair Attard-Frost: Queering Intelligence 141 wusst erlebte kognitive Aktivitäten – z.B. symbolisches oder lineares Denken, Selbstreflexion, freiwilliger Gedächtnisabruf von unbewusst erlebten kognitiven Aktivitäten–vonZuständenbeeinflusstwerden,die unbewusst ablaufen–wie etwa der Aufrechterhaltung der sensorischen Kohärenz über die Zeit, unwillkürlichem Gedächtnisabruf sowie verschiedenen Lern- und Abrufprozessen, die etwa bei der Erkennung von Mustern eine Rolle spielen. Hayles charakterisiert die Beziehung zwischen diesen beiden Formen derWahrnehmung –bewusst und unbewusst – als zutiefst voneinander abhängig. In erster Linie werden sie aber von den Ergebnissen der unbewussten Informationsverarbeitung bestimmt, da »bewusste Verhaltens- weisen und Ziele immer schon von Schlussfolgerungen beeinflusst werden, die die unbewusste Wahrnehmung jenseits des Bewusstseins vorgenommen hat« (ebd.: 52).2 Generell erfordert demnach die qualitative Messung einer kognitiven Tätig- keit immer ein Verständnis von Kognition als einem Phänomen, das bewusst oder unbewusst ausgeführt wird. 2.2. Performance Kognitive Aktivitäten können eine positive Qualität (Intelligenz) oder eine negati- ve Qualität (Unintelligenz) aufweisen, je nachdem,wie sie ausgeführt und bewertet werden. InDiskussionen über die Funktionsweise vonKI-Systemenwird häufig die Performance des Systems angeführt, ohne die genaue Bedeutung der Performance als Leistung oder ihre Bedeutung für die Interaktion zwischen Mensch und KI zu untersuchen. Einen solchen Ansatz zum Verständnis von Performance im Kontext der Mensch-Computer-Interaktion (HCI) entwickelt Jocelyn Spence (vgl. 2016), in welchem sie Performativitätstheorien aus der Sprachphilosophie, den Gender-Stu- dies und den Performance-Studies integriert,3 umpraktischeMethoden für die Ge- 2 In dieser erweiterten Sichtweisewerden auch Phänomene, die konventionell als nicht-kogni- tiv angesehen werden – also Emotionen, Affekte, Instinkte oder Intuitionen – aufgrund der entscheidenden Rolle, welche die unbewusste Informationsverarbeitung bei der Erzeugung emotionaler, affektiver, instinktiver oder intuitiver Zustände spielt, zu kognitiven Phänome- nen umgedeutet. Nur weil wir uns nicht bewusst sind, dass unser Gehirn und unser Körper Informationen verarbeiten, oder uns die biomechanischen oder psychologischen Gründe für diese Verarbeitung nicht gegenwärtig sind, bedeutet das nicht, dass keine Kognition statt- findet. 3 Unter Performance-Studies ist ein interdisziplinäres akademisches Feld zu verstehen, das künstlerische Darbietungen mit sozialen, politischen und religiösen Ereignissen wie Ritua- len oder Proklamationen, mit der Art und Weise des Führens öffentlicher Debatten und bestimmten Arten des Sprachgebrauchs zusammendenkt. Grundlegende Handlungsanwei- sung des Fachs ist die Fokussierung auf Aspekte von Aktion und Agilität anstatt auf Status und Statusbeschreibung, also die Beschäftigung damit, welche Aktivitäten und Verhaltens- weisen eine Leistung angemessen darstellen. 142 Konstruktion staltung und das Management von HCI vorzuschlagen. Spence zeichnet dabei die Genealogie dieser Theorien nach – angefangen bei der Sprachphilosophie von J. L. Austin über dieTheorie der Gender-Performativität von Judith Butler bis hin zu den praktischen Belangen des Interaktionsdesigns und des Performance-Designs. In Austins (vgl. 1962) Konzept der Performativität besteht die primäre Funktion derSprachedarin,die Sprecher*innen indie Lage zu versetzen, ›Sprechakte‹ auszu- führen,diediesedazubefähigen,wünschenswerte sozialeHandlungsweisenzuver- folgen. Butler erweitert in ihrer Theorie der Gender-Performativität Austins Kon- zept der Performativität von rein sprachlichen Praktiken auf einen Bereich sozia- ler Praktiken. Im Kern untersucht Butler, wie Identität durch verschiedene soziale Praktiken iterativ konstruiert, eingehegt und somit verengt wird. Das Handlungs- spektrumumfasst dabei u.a.Vorgängewie SprechenundDenken, aber auch sich zu bekleiden, zu konsumieren und das Vornehmen sexueller Handlungen. Butler ist besonders daran interessiert, wie die Geschlechtsidentität in Bezug auf die sozia- len Erwartungen bestimmt und entwickelt wird. Sie beschreibt Geschlecht als »ein Handeln, wenn auch nicht ein Handeln durch ein Subjekt« (1999: 33), da die Hand- lung dem Subjekt vorausgeht und sozusagen von außen an dieses herangetragen wird.ButlersBetonungdesHandelnswird vondemTheaterwissenschaftlerRichard Schechner aufgegriffen, der Performance als »showing doing« (2013) im Sinne ei- nes Vorzeigens oder Vorführens definiert – einen Prozess also, bei dem bestimmte Qualitäten, die einem oder mehreren Akteur*innen zugeschrieben werden, durch Handeln in einem bestimmten Kontext wahrnehmbar und messbar gemacht wer- den. Im ›showing doing‹ unterscheidet sich der epistemische Einsatz von Perfor- mativität von demdes bloßen Tuns: Performativität bezieht sich auf eine sich selbst externalisierende Handlung, die das Potenzial hat, die Überzeugungen,Werte und Fähigkeiten der Ausführenden einem Publikum zu vermitteln. In ihrer daran anschlussfähigenTheorie der ›posthumanistischen Performativi- tät‹ legt die Philosophin Karen Barad den Schwerpunkt auf die onto-epistemischen Eigenschaften der Performance. Sie befasst sich also mit der Beschreibung eines Teilmoments materieller Zusammenhänge des Seins, deren Untersuchung auf ei- ner erkenntnisbasierten Wahrnehmung von Welt beruht. Indem sie Butlers sozia- le Darstellung der Performativität zu einer metaphysischen Darstellung ausweitet, schlägt Barad eineTheorie der Performativität vor, in der die Performance ganz all- gemein als »iterative Intra-Aktivität der Welt« (2003: 823) interpretiert wird – also als eine Idee der produktivenVerflechtung von sich gegenseitig bedingendenHand- lungsmächten, deren materielle Präsenz sich erst durch Gegenseitigkeit zeigt. Für Barad ist die Grundeinheit ihrer Analyse kein Objekt, sondern das Entstehen dieser Momente und die sich daraus entwickelnden Dynamiken. Das meint eine Fokus- sierung auf den produktiven Austausch zwischen bspw. menschlichen und nicht- menschlichen Akteur*innen; Körper, die auf bloßer Basis individueller Eigenschaf- ten in Aktion treten, sind nicht Gegenstand dieserTheorie erfahrbarenWissens. Blair Attard-Frost: Queering Intelligence 143 Somit beschreibt Barad Performance als ein posthumanistisches Zusammen- wirken von diversen Kräften, durch das agentielle Wirkmacht entsteht. Im hier re- zipierten Verständnis ist dieser Bezug relevant, da Barad in ihren stark naturwis- senschaftlich geleiteten Forschungen von »Messstellen« (ebd.: 815) schreibt und da- mit Maßstäbe meint, die mit den jeweils »gemessenen Objekten« (ebd.) in derWelt interagieren, um durch die auf der Messung fußenden Bewertung des Objekts Ver- änderungen in derWelt zu bewirken beziehungsweise derenWirkweisen zu klären. BaradsTheorie der Performativität berührt eine Reihe von kognitionswissenschaft- lichen und informationstechnischen Annahmen. Formalisiert lässt sich das an fol- gendemAblauf zeigen: Objekte selbst können unbekannt sein, aber die gemessenen Informationen stehen zur Verfügung, die während der Kalibration entsprechend ›messbarerObjekte‹ ermitteltwurden.Die verantwortliche,wie auch immergearte- te, messende Person muss nun einen kognitiven Prozess vorführen, um diesen ge- messenen Informationen eine Art von Bedeutung zuzuschreiben. Dies geschieht, indem sie die ermittelten Werte des gemessenen Objekts interpretiert und daraus mögliche Fähigkeiten des Objekts ableitet. Die Performance desMessens als Hand- lung offenbart dabei gleichzeitig dieWerte und Fähigkeiten, die nicht nur demUn- tersuchungsobjekt, sondern auch derMess- und Einschätzungsleistung seitens der Handelnden zugrunde liegen. Baradsmetaphysische Reflexion stellt damit die auf- einander bezogene Form von sich ereignenden Phänomenen und nicht von Objek- ten in denMittelpunkt: eine Reihe von kognitiven Performanzen, leistungsmessen- denAkteur*innenund voneinander abhängigen Leistungsmessungenundnicht die nicht (er-)fassbaren Objekte an sich. Die von Hayles vorgeschlagene posthumanistische Ontologie der Kognition stimmt vielfach mit der von Barad beschriebenen posthumanistischen Ontologie der Performativität überein (vgl. 2017): Für Hayles ist die Performativität einer Handelnden in einen ökologischen und historischen Kontext eingebettet und die Handelnde wird von diesem Umfeld beeinflusst. Daher ist Intelligenz nur messbar, wenn bestimmte kognitive Leistungen performt werden. Diese müssen dafür in Kontexte eingebettet sein, welche kognitive Aktivität beeinflussen und die entsprechenden Fähigkeiten einschränken oder bedingen. Sowohl für Hayles als auch für Barad ist ein Gradmesser zur Beurteilung von Intelligenz immer triangulär: Erstens sind zugrundeliegende Wertmaßstäbe der Bewerter*innen von außen ausschlaggebend. Zweitens ist die Befähigung zur Messung ebendieser Bewerter*innen entscheidend.Denn es ist relevant, ob sie im- stande sind, kognitive Aktivitäten zu beurteilen.Drittens ist diemessbare kognitive Aktivität selbst entscheidend, da sie durch Kontexte konstruiert und begrenzt wird. Diese Auffassung unterscheidet sich insofern von herkömmlichen Vorstellungen von Intelligenz, als sie betont, dass Intelligenz aus spezifischen, voneinander ab- hängigen kognitiven Aktivitäten innerhalb bestimmter Leistungskontexte entsteht 144 Konstruktion und nicht aus den vermeintlich unabhängigen kognitiven Fähigkeiten einzelner Akteur*innen zusammengesetzt ist. 2.3. Domänen der Intelligenz Zusammengenommen bieten die von Hayles und Barad entwickelten Perspektiven auf kognitive Performance die Grundlage für eine Theorie der Intelligenz als wert- abhängige kognitive Performance. Intelligenzwird hier als performativer Ausdruck kognitiver Prozesse verstanden: ein Vorzeigen im Sinne einer Handlung, durch die der Wert einer kognitiven Leistung vor einer bestimmten Bewertungsposition und in einem bestimmten Kontext gemessen werden kann. In seiner Kritik an Rechenleistung und künstlicher Intelligenz stellt der Infor- matiker JosephWeizenbaum fest, dass »Intelligenz an und für sich ein bedeutungs- loses Konzept ist. Es bedarf eines Bezugsrahmens, einer Spezifizierung eines Be- reichs desDenkens undHandelns, um es sinnvoll zumachen« (1976: 204f.).Weizen- baums Konzept einer ›Domäne des Denkens und Handelns‹ bietet eine Grundlage für dieAnalyse der Intelligenz inmehreren Intelligenzdomänen:Gruppenähnlicher kognitiver Aktivitäten, die von ähnlichen kognitiven Akteur*innen ausgeführt wer- den. Weizenbaum behauptet, dass die spezifischen kognitiven Handlungen, die in solchen Domänen im Spiel sind, durch die Art und Weise charakterisiert sind, in der »Intelligenz sich nur relativ zu spezifischen sozialen und kulturellen Kontex- ten manifestiert« (ebd.: 205). Er führt das Beispiel der individuellen menschlichen Intelligenz als einen solchen Bereich an, in dem Intelligenz durch »die weithin ak- zeptierte und zutiefst irreführende Überzeugung, dass Intelligenz irgendwie ein dauerhaftes, unveränderliches und kulturell unabhängiges Attribut von Individu- en sei« (ebd.), charakterisiert wurde. Neben der Intelligenz einzelner Menschen ist die Existenz von Intelligenz jedoch in vielen anderen Bereichen denkbar: die Intel- ligenz von Kollektiven und Organisationen, z.B. von Tieren, Pilzen und Pflanzen. Die Intelligenz von Bedrohungen, z.B. das evidenzbasierte Vorgehen bei Cyberan- griffen und Gegenstrategien. Die allgemeine, also statistische Intelligenz. Es gibt sogar Fantasien von einer Superintelligenz,oderweniger fantastische, aber alterna- tive Konzepte von künstlicher Intelligenz,wie die hybride oder synthetische Intelli- genz.Diese Liste von Beispielen ist keineswegs erschöpfend –viele andere Bereiche sind denkbar. Kurz gesagt, um einen Bereich der Intelligenz zu spezifizieren, ist lediglich eine Reihe ähnlicher kognitiver Aktivitäten erforderlich, die von ähnlichen kognitivenHandlungsträger*innen in ähnlichenKontexten ausgeführtwerden.Um zu analysieren, wie Intelligenz als wertabhängige kognitive Leistung innerhalb ei- nes bestimmten Bereichs funktioniert, muss daher ein Ansatz entwickelt werden, der aufzeigt,wie Kognition, Leistung, Performativität und Bewertung in diesem je- weiligen Bereich zusammenwirken,wie sie zusammenfassbar sind und sich gegen- seitig bedingen. Blair Attard-Frost: Queering Intelligence 145 2.4. Dimensionen der Intelligenz Jedem vorstellbaren Bereich der Intelligenz sind jeweils Eigenschaften der integra- tivenVernetzung,derWertabhängigkeit und derMessbarkeit intelligenter Aktivität zu eigen. Ichmeine,dass diese drei übergreifendenEigenschaftendrei analytischen Dimensionen entsprechen, die ebenfalls in jedem vorstellbaren Bereich der Intelli- genz zu finden sind: 1. Kognitiv: Die kognitive Dimension eines Bereichs besteht aus Aktivitäten, bei denen Informationen entweder bewusst oder unbewusst interpretiert und mit einer Bedeutung verbunden werden. Einige Beispiele für diese kognitiven Aktivitäten sind etwa Sensorik, zelluläre Signalübertragung, Mustererken- nung, Lernen und Anpassung, Problemlösungs- und Entscheidungsprozesse, freiwillige und unfreiwillige Bewegungen und Gedächtnisabruf. 2. Normativ: Die normative Dimension eines Bereichs besteht aus den Werten und normativen Mechanismen, welche die kognitive Tätigkeit beeinflussen. Als Werte können bspw. Anpassungsfähigkeit, Pünktlichkeit, Autonomie, Kreativität, Produktivität, Verantwortung, Nachhaltigkeit oder Privatsphäre verstanden werden. Zu den normativen Mechanismen können soziale Normen und Sanktionen, Strategien,Gesetze, Richtlinien oder ethischeÜberzeugungen zählen. 3. Performativ: Die performativeDimension eines Bereichs besteht ausMechanis- men zur Leistungsmessung, die zur Bewertung der Qualität kognitiver Aktivi- täten im Verhältnis zu den Werten der normativen Dimension gebietsbezogen verwendet werden können.Mechanismen zur Leistungsmessung sind z.B. Fra- gebögen, standardisierte Tests oder andere Instrumente zur Überprüfung von Fähigkeiten, Leistungsdaten undManagementsystemen,wissenschaftliche Ex- perimente, die Beobachtung kreativen Wirkens oder viele andere Formen der Qualitätsbewertung. Zusammen bilden diese kognitiven, normativen und performativen Dimensionen der Intelligenz einen analytischen Rahmen, der zur Beschreibung der Phänomene in allen denkbaren Bereichen der Intelligenz angewendet werden kann. Ichmöchte auf das Beispiel des Chatbots für Kund*innendienste zurückzukommen: Eine Analyse der kognitiven Dimension des Chatbots könnte sich mit der Datenerfas- sung, der Sprachverarbeitung, dem maschinellen Lernen und den menschlichen Entscheidungsfindungsaktivitäten befassen, die an der Entwicklung und dem Betrieb des Chatbots beteiligt sind. Eine Analyse seiner normativen Dimension könnte die Werte der Designer*innen und Nutzer*innen des Chatbots sowie die Gesetze oder Richtlinien berücksichtigen, die den Betrieb des Chatbots regeln. Die Untersuchung seiner performativen Dimension würde parallel die Leistungsindi- 146 Konstruktion katoren berücksichtigen, die verwendet werden, um den Erfolg des Chatbots bei der Verbesserung der Kund*innenzufriedenheit zu messen. Gleichzeitig würden die Qualitätssicherungs- oder Managementsysteme evaluiert, die verwendet wer- den, um die Aktivitäten der Designer*innen und Entwickler*innen zu beobachten. Um diesen Rahmen jedoch nicht nur für eine deskriptive, sondern auch für eine kritische Analyse nutzbar zu machen, ist eine zusätzliche Methode erforderlich, mit der die einer immanenten begrifflichen Definition oderTheorie der Intelligenz zugrundeliegenden Werte kritisiert und alternative Werte herausgestellt werden können. 3. Intelligenz queeren 3.1. Queeren als explorative Methode Der Begriff Queering wird von vielen queeren Menschen und Gemeinschaften verwendet, um einen Prozess zu beschreiben, durch den die vorherrschendenWer- te heteronormativer, hypermaskuliner und cis-normativer Kulturen offengelegt und durch queere kulturelle Praktiken in Frage gestellt werden. In ihrem Ansatz für queeres Interaktionsdesign beschreibt die HCI-Wissenschaftlerin Ann Light Queering ganz allgemein als »eine raumschaffende Übung« (2011: 433), welche die dominanten Perspektiven eines bestimmten sozialen Kontexts in Frage stellt, indem sie die ontologischen und normativen Annahmen, die diesen Perspektiven zugrunde liegen, offenlegt.4 Light erklärt, dass Queering,wenn es auf Design- oder Analysepraktiken angewandt wird, als explorative Methode fungiert, die darauf abzielt, »eine Abwesenheit von Dogmen und eine Wandlungsfähigkeit zu erzeu- gen, die es ermöglicht, neue Wahrheiten, Perspektiven und Engagements durch die Weigerung, Definitionen zu akzeptieren, zu entwickeln« (ebd.). Als Methode kann Queering somit angewendet werden, um die kognitiven, normativen wie performativen Dimensionen zu kritisieren, die mit einem Bereich der Intelligenz verbunden sind. Queering kann darüber hinaus auch alternative Perspektiven im Bereich von Intelligenztheorien erkunden undGrenzen erodieren, die vermeintlich zwischen intelligent und nicht- oder unintelligent liegen. Gleichzeitig ermöglicht Queering in Verbindung mit einer Theorie der Intelli- genz als wertabhängige kognitive Leistung mehr als nur die Beschreibung der ko- gnitiven, normativen und performativen Annahmen, die in einem bestimmten Be- reich der Intelligenz eine Rolle spielen. Queering ermöglicht eine Kritik dieser An- nahmen, denn in den Begriff ist eine Abkehr und Auflösung vonNormierung einge- schrieben. Indem durch eine queere Denkpraxis standardmäßig zugrunde liegen- 4 Dazu siehe auch den Beitrag von Natalie Sontopski in diesem Band. Blair Attard-Frost: Queering Intelligence 147 deWerte abgelehnt werden, nach alternativenWerten gefragt und diskursive Räu- me erkundet werden, in denen dieseWerte zum Ausdruck kommen können, bieten Queerness als methodische Bezugnahme einen kritischen Rahmen für eine Plurali- sierung von Intelligenz. 3.2. Individuelle menschliche Intelligenz Im folgenden Abschnitt stelle ich Intelligenz in Frage, indem ein queerer Analyse- rahmen auf eine Analyse von zwei Primärtexten und eine Diskussion von Sekun- därquellen angelegt wird und diese kritisch reflektiert werden. Um die Anwend- barkeit des Rahmens auf mehrere Bereiche von Intelligenz zu demonstrieren, ha- be ich die Primärtexte so ausgewählt, dass sie für zwei unterschiedliche Bereiche der Intelligenz stehen: individuelle menschliche Intelligenz und künstliche Intelli- genz. Die Primärtexte repräsentieren die wichtigsten kognitiven, normativen und performativen Annahmen, die in zwei einflussreichen, bereichsspezifischen Theo- rien der Intelligenz impliziert sind: John Carrolls Drei-Schichten-Modell der indi- viduellenmenschlichen Intelligenz und Alan Turings Ontologie der künstlichen In- telligenz.DiewichtigstenErkenntnisse aus denAnalysenwerden auf die beidenBe- reiche und die drei Dimensionen der Intelligenz übertragen und in einer Reihe von Forschungsfragen zusammengefasst. Forscher*innen unterschiedlicher Disziplinen haben festgestellt, dass Me- thoden zur Messung der Intelligenz einzelner Menschen, wie bspw. Tests zur Bestimmung des sogenannten Intelligenzquotienten u.a. in sozialdarwinistischen, eugenischen, weißen, rassifizierten, kolonialistischen, frauenfeindlichen, behin- dertenfeindlichen und klassistischen Wertesystemen verwurzelt sind (vgl. Nails 1983; Belkhir 1994; Dennis 1995; Silverstein 2000). Die Genealogie dieser Messme- thoden lässt sich bis zu ihrer historischen Etablierung durch westliche Wissen- schaftsinstitutionen zurückverfolgen. Mit deren Hilfe wurden und werden mittels (pseudo-)wissenschaftlicher Praktiken vermeintliche Überlegenheiten dominanter Gruppen aufrechterhalten, deren Werte als universelle Werte etabliert sind und die auf diese Weise die Ausbeutung vermeintlich unterlegener, marginalisierter Gruppen legitimieren. Die Kognitionswissenschaftlerinnen Abeba Birhane undOlivia Guest (vgl. 2021) stellten fest, dass derlei Intelligenzmessverfahren, die von einer universellen On- tologie von Intelligenz ausgehen, gar nicht wirklich universell sind, sondern dass stattdessenWerte dominanter sozialer Gruppen auf normative Annahmendarüber, wie und warum Kognition durchgeführt werden sollte, übertragen werden. So z.B. beim Psychologen John Carroll, der in seinem Drei-Schichten Modell der kogniti- ven Fähigkeiten zunächst anerkennt, dass »jede Fähigkeit in Form der Darstellung einer Eigenschaft oder eines Potenzials derselben definiert ist« (1993: 4). Die drei Schichten von Carrolls Modell unterteilen die Ontologie der individuellen mensch- 148 Konstruktion lichen Intelligenz dann in: (1) die Darstellung der allgemeinen Intelligenz, (2) die Darstellung einer Reihe von kognitiven Fähigkeiten (bspw. fluide und kristalline Intelligenz, Lang- und Kurzzeitgedächtnis, visuelle und auditive Verarbeitung, Verarbeitungsgeschwindigkeit), (3) die Darstellung einer größeren Reihe enge- rer Fähigkeiten, die jeweils einer der genannten Fähigkeiten entsprechen (u.a. Gedächtnisspanne, quantitatives Denken, semantische Verarbeitungszeit, Wahr- nehmungsgeschwindigkeit). Die Korrelationen zwischen diesen drei Schichten werden von Carrolls umfassender Meta-Analyse jahrzehntelanger empirischer psychometrischer Forschung zur menschlichen Kognition abgeleitet. Doch trotz all seiner empirischen Strenge versäumt Carroll, die Werte und sozialen Normen zu erörtern, die dazu geführt haben, dass diese besonderen Maße der kognitiven Fähigkeiten in der Geschichte und Praxis der psychometrischen Forschung veran- kert wurden. Noch beunruhigender ist die Tatsache, dass Carroll letztlich davon ausgeht, dass seinModell für die Entscheidungsfindung in der Bildungs- undWirt- schaftspolitik sowie ökonomisch zur Entwicklung der Arbeitswelt anwendbar sei. Er zeigt sich dahingehend als besonders besorgt darüber, dass »die Arbeitsplatz- anforderungen in technisch orientierten Volkswirtschaften immer anspruchsvoller werden«, und sieht eine Messbarkeit individueller Intelligenz als entscheidend für die Lösung dieses Problems an, wobei er feststellt, dass »ein beträchtlicher Teil der Bevölkerung zu einem bestimmten Zeitpunkt möglicherweise nicht die Fähigkei- ten hat oder entwickeln kann, um diesen [daraus entstehenden] Anforderungen gerecht zu werden« (ebd.: 714). Carroll bietet diese politischen Leitlinien an, ohne zu versuchen, die sozialen, politischen und wirtschaftlichen Implikationen von Wertmaßstäben zu berücksichtigen und zu hinterfragen, die in seinem Modell mitschwingen. Infolgedessen wird imModell Carrolls die individuelle menschliche Intelligenz als kognitive Aktivität auf eine Weise gemessen, die drei problematische Normen eines Leistungsanspruchs an Kognition reproduziert. Erstens misst das Modell In- telligenz in Bezug auf eine extrem eingeschränkte und stark standardisierte Reihe von kognitiven Aktivitäten, die von Individuen ausgeführt werden, und nicht in Be- zug auf situierte Aktivitäten, die in Bezug auf andere Individuen und soziale Um- gebungen getätigt werden. Zweitens extrapoliert dieses Modell folglich den engen Satz vonLeistungsgrößenals repräsentativ für eine ›allgemeine Intelligenz‹derEin- zelnen und setzt diese in Bezug zu diversen kognitiven Performances.Durch Extra- polation und Verallgemeinerung versucht Carroll, die Intelligenz von der extremen Variabilität des realen Handelns zu entkoppeln und Intelligenz stattdessen als ein standardisiertes zusammengesetztes Maß für eine stark eingeschränkte kognitive Fähigkeit zubetrachten.Drittensproduziert und fördert diesesModell dezidiert ka- pitalistische politische undwirtschaftlicheWerte als Anspruch an einen funktionie- renden Individualismus und betrachtet dieser Argumentation folgend diejenigen als intelligente Subjekte,die ambesten in der Lage sind, ihre kognitiven Fähigkeiten Blair Attard-Frost: Queering Intelligence 149 unabhängig einzusetzen, um den Nutzen in kapitalistischenWirtschaftskontexten zumaximieren. Eine neue Theorie der Intelligenz als wertabhängige kognitive Performance stellt alle drei dieser Normen sowie die ihnen zugrundeliegenden Werte in Frage. Demnach ist Intelligenz – wie dargelegt – wertabhängig, kognitiv und leistungs- abhängig performativ: Intelligenz ist ein Phänomen, bei dem (1) eine Intelligenz performende Akteur*in und (2) eine außerhalb liegende Bewertungsposition sowie (3) der Einsatz eines bestenfalls konsensualen Leistungsmaßstabs für Intelligenz zusammenwirken und innerhalb eines bestimmten performativen Kontextes ver- zahnt agieren, um ein gewisses Maß an Intelligenz zu erzeugen. Daher ist es nicht möglich, die Intelligenz einer einzelnen kognitiven Akteur*in in künstlicher Isolation und damit unabhängig von anderen Handelnden zu messen. Und die Werte und Fähigkeiten einer Ausführenden können nicht einfach von den Werten und Fähigkeiten der Bewertungsposition abgekoppelt werden. Die Performativität kognitiver Fähigkeiten selbst ist also in eine Performance eingebettet, die sich ent- sprechend gemeinsamer Werte und Fähigkeiten der Beteiligten entfaltet. Auch die Kognition ist kein starr individualisiertes und verankertes Phänomen, wie es die traditionelle kognitivistische Sichtweise einst vertrat. Die kognitiven Aktivitäten und Fähigkeiten des Menschen sind bspw. sozial oder ökologisch bedingt und über lose begrenzte kognitive Systeme verteilt, zu denen komplexe Interaktionsnetze zwischenMenschundMensch,MenschundTechnologie sowieMenschundUmwelt gehören. Dochwie die PsychologenGary L. Canivez und Eric A. Youngstrom (vgl. 2019) in ihrer Kritik an Carrolls Modell – wie auch an anderen psychometrischen Modellen und Instrumenten, mit denen Carrolls Modell synthetisiert wurde – zeigen, sind die vorherrschenden psychometrischen Mechanismen zur Messung menschlicher Intelligenz nach wie vor einem zutiefst individualistischen Verständnis von Ko- gnition verpflichtet. Mit seiner Konzentration auf die kognitiven Fähigkeiten von Individuen und nicht von Gruppen oder anderen sozialen Systemen eignet sich der kognitive Individualismus besonders für ableistische Tendenzen innerhalb kapitalistischer Subjektkonstruktionen.5 Ein kapitalistischer Individualismus pa- thologisiert bspw. Behinderung und führt diese auf eine angeblich angeborene Schwäche des jeweiligen Subjekts zurück und begründet diese Attribuierung mit der Verunmöglichung, individuell zu wirtschaftlicher Produktivität beizutragen. Die Unfähigkeit sozioökonomischer Systeme, diesen Vorwürfen produktiv zu be- gegnen, bleibt unhinterfragt, obwohl diese das jeweilige Individuum umgeben und die notwendigen Ressourcen zur Unterstützung der subjektiven Bedürfnisse, zur Förderung der individuellen Fähigkeiten und zur Verbesserung der Lebensqualität bereitzustellen hätten (vgl. Mitchell/Snyder 2015; Galer 2012; Russell/Malhotra 5 Siehe dazu auch die Beiträge von Ute Kalender und Johannes Bruder in diesem Band. 150 Konstruktion 2002).Theorien der menschlichen Intelligenz, die einen streng individualistischen Blick auf Intelligenz werfen, statt einen eher systemischen oder wechselseitigen, schließen oft die Möglichkeit aus, kognitive Komplementarität oder Leistungs- verbesserung durch gut konzipierte und gut vermittelte Mensch-Mensch- und Mensch-Technik-Interaktionen zu erreichen. In vielen sozialen Situationen kann bspw. die kognitive Leistung einer Person verbessert werden, z.B. durch die Verwendung von auf einemmobilenGerät gespeicherten Informationen zurUnter- stützung des Gedächtnisabrufs, durch die Verwendung einer Softwareanwendung oder eines anderen Geräts zur Verbesserung ihrer sensorischen Fähigkeiten oder durch die sprachliche Unterstützung bei der Erledigung einer Aufgabe durch ei- ne*n Dolmetscher*in oder eine*r Übersetzer*in. Die künstliche Beschränkung der menschlichen Kognition auf eine In-vitro-Testsituation – atomisiert, standardi- siert, unvermittelt und losgelöst von sozialem und ökologischem Handeln – ist keine genaueWiedergabe der menschlichen Kognition in vivo. 3.3. Künstliche Intelligenz Die berühmteste Ontologie der künstlichen Intelligenz ist vielleicht die von Alan Turings Imitation Game, in der die Intelligenz eines Computersystems durch den Austausch von Textnachrichten mit einemMann und einer Frau getestet wird. Um das Spiel zu gewinnen, und somit als ›intelligent‹ eingestuft zu werden, muss der Computer in der Lage sein, die menschliche Intelligenz zu imitieren, indem er den Mann von der Frau unterscheidet. Dazu muss der Computer die Bedeutung von geschlechtsspezifischen Botschaften richtig interpretieren, wie bspw. »Mein Haar ist gewellt, und die längsten Strähnen sind etwa 22 Centimeter lang« (1950: 434). Auf den ersten Blick weist Turings Verständnis von künstlicher Intelligenz viele Ge- meinsamkeitenmit einemVerständnis von Intelligenz als wertabhängige kognitive Performance auf. Besonders bemerkenswert ist, dass dem Computer die Aufgabe gestellt wird, Geschlechter zu differenzieren: Diese Aufgabe ist ein vielschichtiges und intra-aktives Phänomen, da sie nicht nur den Versuch des Computers beinhal- tet, Kognition gemäß menschlicher sozialer und sprachlicher Normen zu perfor- men, sondern auch den Versuch des Mannes und der Frau, die sozialen Normen der Männlichkeit bzw. Weiblichkeit so zu erfüllen, dass sie den Computer von ih- rer Männlichkeit oderWeiblichkeit überzeugen. Die Fähigkeit des Mannes und der Frau,Kognition gemäß den sozial situiertenNormen geschlechtsspezifischenHan- delns zu performen, wird ebenso getestet, wie die Fähigkeit des Computers, Ko- gnition gemäß den sozial situierten Normen intelligentenHandelns zu performen. Außerdem verortet Turing Intelligenz richtigerweise nicht in den Technologien des Computersystems selbst, sondern in derQualität seiner sozial eingebettetenHand- lungen. Für Turing ist Intelligenz eine Eigenschaft dermenschenähnlichen kogniti- ven Aktivitäten, die das System zu imitieren versucht, wie u.a. die Wahrnehmung, Blair Attard-Frost: Queering Intelligence 151 dasNachdenkenüber etwas,das LernenausErkenntnissenunddasErschließen von Bedeutung aus den Gesprächenmit demMann und der Frau. Bei genauererAnalysedernormativenAnnahmenscheint TuringsOntologieder künstlichen Intelligenz jedoch zutiefst anthropozentrischen und utilitaristischen Werten verpflichtet zu sein, wenn es um die Definition von Intelligenz geht. Schon die Prämisse des TuringTests versteht denMenschen als denMittelpunkt derweltli- chenRealität: Computersysteme solltendasVerhalten vonMenschen imitieren,weil das Verhalten von Menschen an sich nachahmenswert ist. Diese Annahme erhebt die menschliche Intelligenz zum obersten Bereich der Intelligenz, an dem sich alle anderen denkbaren Bereiche von Intelligenzmessen lassenmüssen und den sie an- streben sollten. Leider sind implizite anthropozentrische Werte im Sinne Turings in KI-Diskursen und Ontologien weit verbreitet. Studien über KI haben dieseWer- te auf die jüdisch-christliche Annahme eines anthropozentrischen Universums zu- rückgeführt, in demderMensch denHöhepunkt der göttlichen Schöpfung darstellt und daher die Form und Funktion des Menschen immer als gegebenes Ziel, als in- härent erstrebenswert gilt (vgl. Ferrando 2019; Geraci 2010). Kritiker*innen der jüngsten KI-Entwicklungen haben den intrinsischen Wert der menschlichen Kognition in Frage gestellt. So stellt Asp fest, dass die menschlichen Aktivitäten, welche für die Entwicklung gefährlicher KI-Systeme verantwortlich sind, aufzeigen, dass die menschliche Intelligenz im Bereich der KI-Entwicklung oft »zwanghaft und irrational von den Marktkräften getrieben« ist (Crogan 2019: 64). Patrick Crogan charakterisiert die Entwicklung militärischer KI-Anwendungen als ein Beispiel für emergente Dummheit und als ein Phänomen, bei dem Menschen nominell intelligente kognitive Aktivitäten durchführen, um Entscheidungsprozesse zu automatisieren, obwohl diese automatisierten Prozesse schließlich so schnell und so komplex werden können, dass menschliche Ent- scheidungsträger*innen nicht mehr über die nötige Intelligenz verfügen, um sie zuverlässig zu steuern (vgl. ebd.). In diesen Beispielen können menschliche kogni- tive Aktivitäten nur innerhalb eines extremengen Leistungskontextes als intelligent interpretiertwerden,wie z.B.hinsichtlich des Erzielens kurzfristigerGewinne oder der effizientenVernichtung vonFeind*innen auf einemSchlachtfeld. In einembrei- teren Leistungskontext, der ein breiteres Spektrum an Werten und Ergebnissen umfasst, können sich diese ›intelligenten‹ Aktivitäten jedoch als höchst selbstzer- störerisch und unintelligent erweisen. Die Fokussierung auf ein normiertes und oftmals historisches Bild menschlicher Intelligenz als ideales Standardmodell für künstliche Intelligenz erschwert es Designer*innen und Entwickler*innen von KI-Systemen, sich einer kritischen Analyse der Werte und Vorurteile anzuneh- men, die der menschlichen Kognition und Entscheidungsfindung häufig zugrunde liegen. Der Einsatz von KI-Systemen zur Verbesserung der nicht- oder unintelligenten menschlichen Entscheidungsfindung lässt vermuten, dass den Systemen nicht nur 152 Konstruktion anthropozentrische Werte zugrunde liegen, sondern auch utilitaristische. Genau wie im Bereich der individuellen menschlichen Intelligenz hat die Wahrnehmung des wirtschaftlichen Nutzens einen erheblichen Einfluss darauf, welche Art von ko- gnitiven Aktivitäten, die von Maschinen ausgeführt werden, als ›intelligent‹ oder ›unintelligent‹ angesehen werden. Turing glaubt, dass es technisch möglich wäre, eineMaschine für den einfachen Zweck zu entwickeln, den Geschmack eines Nach- tisches emotiv-sensorisch wahrzunehmen, aber er weist jeden Versuch, eine solche Maschine zu bauen, als »idiotisch« (1950: 448) zurück. Turing verwirft die Idee der einen Nachtisch genießenden Maschine nicht wegen der technischen Unmöglich- keit, sondern weil er in den kognitiven Aktivitäten, die mit dem Verspeisen eines Desserts verbunden sind, keinen Nutzen sieht. Auf den ersten Blick scheint diese hypothetische, ein Dessert vertilgende Ma- schine kaum mehr als eine drollige Nebenbemerkung in Turings Argumentation zu sein. Diese Aussage sagt jedoch nicht nur viel über Turings erkenntnistheoreti- schen Werte bei der Entwicklung von KI-Systemen aus. (1) Bevorzugt er logisches Denken und Problemlösung gegenüber Wahrnehmung und Erfahrung. (2) Lässt sich dahingehend ableiten, welche Eigenschaften Intelligenz für ihn grundsätzlich ausmachen. Denn Turing betrachtet KI eindeutig als einen performativen Akt, der die Nachahmung menschlicher Intelligenz beinhaltet, aber – was noch sub- tiler ist – er scheint auch zu erwarten, dass alle intelligenten Aktivitäten, die von einer Maschine ausgeführt werden, notwendigerweise Aktivitäten sein müssen, die dem Menschen eher eine Art wirtschaftlichen Nutzen bieten, als seine Sinnes- eindrücke zu imitieren. Nicht-utilitaristische Tätigkeiten werden standardmäßig als nicht-intelligent angesehen. Mit der Nutzenmaximierung als Norm wäre es sicherlich ›idiotisch‹, Ressourcen für eine Maschine bereitzustellen, nur damit sie eigene, programmierte sinnliche Gelüste erforschen kann, es sei denn, wir könnten die Leistung der Maschine beim Nachtischessen irgendwie zur Lösung eines wirtschaftlichen Problems nutzen. Wenn die Maschine erfolgreich für Ge- schmackstests in der Produktentwicklung eines Lebensmittelherstellers eingesetzt werden könnte, würde ihre kognitive Leistung plötzlich von ›unintelligent‹ zu ›intelligent‹ wechseln. Indemman der KI-Performance leistungsorientierte utilita- ristische Werte aufzwingt, bindet man ›intelligentes Handeln‹ an eine vorkritische Vorstellung von ›wirtschaftlich nützlichemHandeln‹. Führe ichmeinekritischeAnalyse fort,könnendieAnsprüche,welcheandiePer- formance von KI-Systemen gekoppelt werden, problematische Leistungserwartun- gen für eben jene kognitiven Systeme schaffen, mit denen KI-Systeme agieren und agentiell verbunden sind. Wennes für eineMaschine ›idiotisch‹ ist, sichdas sinnlicheVergnügungeneines Desserts zu gönnen, dann folgt daraus in einer Rückkopplungsschleife, dass es für Menschen ebenso idiotischwäre, sich denselbenVergnügungenhinzugeben, sofern das maschinelle System ihrem Bild von Intelligenz nicht entspricht – es sei denn, Blair Attard-Frost: Queering Intelligence 153 ihre Vergnügungssucht kann irgendwie für wirtschaftliche und konsumorientierte Ziele genutzt werden. 3.4. Explorative Fragen In der untenstehenden Tabelle sind die wichtigsten Fragen, die in der vorangegan- genen Analyse von mir aufgeworfen wurden, zusammengestellt und nach den Be- reichen und Dimensionen der Intelligenz geordnet, denen sie entsprechen. Intelligenzbereich Intelligenz- Individuellemenschliche Intelligenz dimensionen Kognitiv Warum sollte/kann Kognition als trennbar von sozialemHandeln und technologischer Vermittlung verstandenwerden? Normativ Welche Anforderungenwerden – seitens vorherrschender Politik- und Wirtschaftssysteme sowie Kulturvorstellungen – an das Individuumgestellt? Wie prägen diese Erwartungshaltungen die kognitive Aktivität des Einzelnen? Kognitiv Was geht verloren, wenn Intelligenz auf der Grundlage des linearenDenkens oder der Problemlösungsleistung eines Individuums gemessenwird und nicht anhand anderer Ausdrucksformen kognitiver Leistungen? Warumwird diemenschliche Intelligenz in der Regel auf der Grundlage individualistischerWerte gemessen?Welche alternativenWertesysteme und Messmechanismen sind denkbar? Intelligenz- Künstliche Intelligenz dimensionen Kognitiv Warum sollte/kann Kognition in KI-Systemen als technologisch, aber nicht als sozial situiert verstandenwerden? Kognitiv Warum sollte diemenschliche Kognition vonMaschinen nachgeahmt werden? Welche Eigenschaften dermenschlichen Kognition könnten für einen maschinellenNutzen nicht erstrebenswert sein? Warum sollte die Kognitivierung vonMaschinen nachHumanmaßstäben als Dienst oder Nutzen für denMenschen betrachtet werden?Welche alternativen Formen der Beziehung zwischenMensch und KI sind denkbar? Kognitiv Wie reproduzierenMaßstäbe für die Performance und Leistung von KI-Systeme (z.B. Genauigkeit, Geschwindigkeit, Produktivität, Effizienz) problematischeNormierungen?Welche alternativenMaßstäbe sind denkbar? Tabelle 1: Liste mit Sondierungsfragen zu den kognitiven, normativen und performativen Di- mensionen der individuellen menschlichen und künstlichen Intelligenz. Eigene Darstellung 154 Konstruktion In Anlehnung an Lights (vgl. 2011) Verständnis von Queering als Raumbildung werden die Fragen bewusst offengelassen, um neue diskursive Räume für alterna- tive Perspektiven und Werte in der zukünftigen Forschung zu schaffen. Es handelt sich um kritische, explorative Fragen – sie sollen eher Probleme als Lösungen her- vorbringen. 4. Intelligenz neu denken Diese Sondierungsfragen zeigen, dass es eine umfangreiche Agenda für künftige ontologische, kritische und praktische Studien über Intelligenz und KI gibt. Begin- nend auf der ontologischen Ebene legen die obigen Fragen dieNotwendigkeit nahe, diebeschriebene systematischeNeubestimmungdessen,was Intelligenz ist, fortzu- setzen. EineTheorie der Intelligenz als wertabhängige kognitive Performance wird dabei nützlich sein, da die hier vorgestellte Theorie und der Rahmen auf jeden vor- stellbaren Bereich der Intelligenz angewendet werden können. Im Bereich der künstlichen Intelligenz gibt es viele weitere aktuelle Perspekti- ven, die ebenfalls nützlich sind, um neue Ontologien und kritische Ansätze für KI zu entwickeln. In den letzten Jahren haben sozialkonstruktivistische Perspektiven auf die Entwicklung, das Design und die Nutzung von KI-Systemen im KI-Diskurs an Bedeutung gewonnen. Diese Perspektiven legen nahe, dass die kognitiven Akti- vitäten, die mit KI verbunden sind, weit mehr umfassen als die Informationsverar- beitung im Zusammenhangmit Daten, Algorithmen, Software,maschinellen Lern- modellen und anderen Computerressourcen. Sozial konstruierte KI bricht mit den ontologischen Annahmen von Turing, indem sie KI als ein global integriertes und technologisch vermitteltes kognitives System begreift, das sich innerhalb verschie- dener Netzwerke von kognitiven Akteuren, Werten, sozialen Strukturen und Um- gebungen sowiemateriellen und immateriellen Ressourcen entwickelt (vgl. Bratton 2021; Crawford 2021; Crawford/Joler, 2018). Darüber hinaus entstehen neue Vorstellungen von KI, die sich auf indigene On- tologienundErkenntnistheorien stützen,ummitdemAnthropozentrismusvonTu- ring zu brechen. Unter Anwendung der Wissenssysteme der Hawaiianer Cree und Lakota, stellen sich Lewis et al. (vgl. 2018) KI-Systeme als einen erweiterten Beziehungskreis vor, der die nicht-menschlichen Verwandten – vonNetzwerk-Dämonenüber Roboterhundebis hin zu schwachenund schließlich starken künstlichen Intelligenzen – einschließt, die zunehmendunsere computer- gestützte Biosphäre bevölkern. (2018: o.S.) Die Indigenous Protocol and Artificial Intelligence Working Group hat ein Positionspa- pier veröffentlicht, das eine Vielzahl von Perspektiven auf die Theorie und Praxis von KI-Systemen vorstellt, die auf dem kulturellen Wissen vieler verschiedener in- Blair Attard-Frost: Queering Intelligence 155 digener Menschen und Gruppen basieren (ebd.). Diese neuen Vorstellungen von KI gliedern denMenschen in die Beziehungen zwischen KI undMensch als gleichran- gig ein, indem sie die Verwandtschaft und die gegenseitige Verantwortung für den Planeten hervorheben, anstelle vonUnterordnung,Extraktivismus undNutzenma- ximierung. Auf praktischer Ebene ist es notwendig, sich immer wieder neu vorzustellen, was Intelligenz tun sollte und wie diese Ziele erreicht werden können. Viele prak- tische Neuvorstellungen von KI konzentrieren sich bereits darauf, entweder utili- taristische KI zu rehabilitieren oder utilitaristischeWerte gänzlich zu überwinden. So wurde bspw. eine Reihe von KI-Ethikrichtlinien und Leistungsmaßstäben vor- geschlagen, die Werte wie Gemeinschaft (vgl. Häußermann/Lütge 2022), Fürsor- ge (vgl. Yew 2021), Gerechtigkeit (vgl. Le Bui/Noble 2020) und Nachhaltigkeit (vgl. Dauvergne 2020) betonen. Eine große praktische Herausforderung wird darin be- stehen, diese Werte mit neuen KI-Ontologien zu kombinieren und sie in KI-Syste- men, KI-Anwendungen und KI-Strukturen zu operationalisieren. Dies kann auch eine neue Vorstellung von der Ethik und der Anwendung von Intelligenz im Allge- meinenmit sichbringen.MarxistischeKritikenderKIundderAutomatisierungvon Arbeit haben die These aufgestellt, dass KI-Systeme lediglich neue Anhängsel poli- tisch-ökonomischer Strukturen wie »kognitivem Kapital« (Moulier-Boutang 2012) und ein »Erkenntnismittel« (Dyer-Witheford/Kjøsen/Steinhoff 2019) sind, die vor dem Aufkommen derMechanisierung oder digitaler Technologien um diemensch- liche kognitive Arbeit herum entstanden sind. Eine dekoloniale Kritik an den Com- puter- und Kognitionswissenschaften wurde von Birhane und Guest geäußert, die feststellen, dass die Kognitionswissenschaften überwiegend vonwestlichenweißen, cis-männlichen Wertesystemen bestimmt werden, die eine normierende Wirkung haben (vgl. 2021). Um diese Werte in Frage zu stellen, fordern die Autor*innen ei- ne Neugestaltung der wissenschaftlichen, betriebswirtschaftlichen und pädagogi- schen Praktiken in diesem Bereich, die bis heute häufig eher Unterdrückungsme- chanismen verstärken, indem sie u.a. Annahmen validieren, die lediglich über den Eigenwert historisch marginalisierter Personengruppen spekulieren, statt aus der dem Versuch der Einnahme ihrer Perspektive heraus produktiv darüber zu reflek- tieren. Abschließend muss ich einräumen, dass mein Beitrag zwar eine theoretische Grundlage und eine Agenda für eine neue Vorstellung von Intelligenz liefert, die hier durchgeführte Analyse jedoch durch die reduzierte Auswahl der in die Analyse einbezogenen Bereiche und Texte begrenzt ist. Zukünftige Studien könnten von der Anwendung der hier skizzierten Theorie und des Rahmens profitieren, um andere Bereiche der Intelligenz, andere relevante Theorien und Texte sowie die wahrgenommenen Grenzen zwischen Intelligenz und Nicht- oder Unintelligenz in verschiedenen sozialen, wirtschaftlichen und kulturellen Kontexten zu analysie- ren. Wenn Queering in solchen Studien weiterhin als »raumschaffende Methode« 156 Konstruktion (Light 2011: 433) eingesetzt werden soll – also als eine explorative Methode, um die ontologischen und normativen Annahmen, die der Intelligenz zugrunde liegen, ins Wanken zu bringen und neue Perspektiven und diskursive Räume entstehen zu lassen, in denen diese Annahmen in Frage gestellt werden können–, dann ist Quee- ring Intelligence nur der Anfang eines größeren Projekts zur Neukonzeption von Intelligenz in ihren vielen Bereichen, Kontexten, Anwendungen und Öffnungen. Literaturverzeichnis Asp, Karen. 2019. Autonomy of Artificial Intelligence, Ecology, and Existential Risk: A Critique. In Cyborg Futures: Cross-disciplinary Perspectives on Artificial Intelligence and Robotics, Hg. Teresa Hefferna, 63–88. Basingstoke: Palgrave Macmillan. Austin, John. 1975.HowToDoThingsWithWords. Oxford: Oxford University Press. Barad, Karen. 2003. Posthumanist Performativity: Toward an Understanding of HowMatter Comes to Matter. Signs 28(3): 801–831. Bateson, Gregory. 2000. Steps to an Ecology of Mind. Collected Essays in Anthropology, Psychiatry, Evolution, and Epistemology. Chicago/London: University of Chicago Press. Belkhir, Jean. 1994. Race, Sex, Class & »Intelligence«. Scientific Racism, Sexism & Classism. Race, Sex & Class 1(2): 53–83. Birhane, Abeba und Olivia Guest. 2021. Towards Decolonising Computational Sci- ences.Women, Gender & Research 1: 60–73. Bratton, Benjamin. 2021. Synthetic Gardens: Another Model for AI and Design. In Atlas of Anomalous AI, Hg. Ben Vickers und K Allado-McDowell, 91–105. London: Ignota. Butler, Judith. 2006. Gender Trouble. Feminism and the Subversion of Identity. London: Routledge. Canivez, Gary und Eric Youngstrom. 2019. Challenges to the Cattell-Horn-Carroll theory. Empirical, clinical, and policy implications. Applied Measurement in Edu- cation 32(3): 232–248. Carroll, John. 1993. Human Cognitive Abilities: A Survey of Factor-Analytic Studies. New York: Cambridge University Press. Clark, Andy und David Chalmers. 1998.The ExtendedMind. Analysis 58(1): 7–19. Crawford, Kate und Vladan Joler. 2018. Anatomy of an AI System. Anatomy of AI. htt ps://www.anatomyof.ai. Zugegriffen am 17.01.2022. Crawford, Kate. 2021.Atlas of AI. Power, Politics, and the Planetary Costs of Artificial Intel- ligence. NewHaven/London: Yale University Press. Crogan, Patrick. 2019. Visions of Swarming Robots: Artificial Intelligence and Stu- pidity in the Military-Industrial Projection of the Future of Warfare. In Cy- Blair Attard-Frost: Queering Intelligence 157 borg Futures: Cross-disciplinary Perspectives on Artificial Intelligence and Robotics, Hg. Teresa Hefferna, 89–112. Basingstoke: Palgrave Macmillan. Dauvergne, Peter. 2020. AI in theWild: Sustainability in the Age of Artificial Intelligence. Cambridge/London:TheMIT Press. Dennis, Rutledge. 1995. Social Darwinism, Scientific Racism, and the Metaphysics of Race.The Journal of Negro Education 64(3): 243–252. Dyer-Witheford,Nick, Alte Kjøsen und James Steinhoff. 2019. Inhuman Power: Artifi- cial Intelligence and the Future of Capitalism. London: Pluto Press. Ferrando, Francesca. 2019. The Posthuman Divine: When Robots Can Be Enlight- ened. Sophia 58(4): 645–651. Galer, Dustin. 2012. Disabled Capitalists: Exploring the Intersections of Disability and Identity Formation in theWorld ofWork.Disability Studies Quarterly 32(3). https://dsq-sds.org/article/view/3277/3122. Geraci, Robert. 2010. Apocalyptic AI. Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality. Oxford: Oxford University Press. Häußermann, Johann und Christoph Lütge. 2022. Community-in-the-loop: To- wards pluralistic value creation in AI, or – why AI needs business ethics. AI and Ethics 2: 341–362. Hayles,N.Katherine.2017.Unthought:ThePowerof theCognitiveNonconscious.Chicago/ London: University of Chicago Press. Hollan, James, Edwin Hutchins und David Kirsh. 2000. Distributed cognition: To- ward a new foundation for human-computer interaction research. ACM Trans- actions on Computer-Human Interaction 7(2): 174–196. Hutchins, Edwin. 1995.Cognition in theWild. Cambridge/London:TheMIT Press. Hutchins, Edwin. 2010. Cognitive Ecology. Topics in Cognitive Science 2(4): 705–715. Le Bui, Matthew und Safiya Umoja Noble. 2020.We’re Missing a Moral Framework of Justice in Artificial Intelligence. On the Limits, Failings, and Ethics of Fair- ness. InTheOxfordHandbookofEthics ofAI,Hg.MarkusD.Dubber,FrankPasquale und Sunit Das, 163–179. Oxford: Oxford University Press. Legg, Shane undMarcus Hutter. 2007a. Universal Intelligence: A Definition of Ma- chine Intelligence.Minds &Machines 17: 391–444. Legg, Shane und Marcus Hutter. 2007b. A Collection of Definitions of Intelligence. http: //arxiv.org/abs/0706.3639. Lewis, Jason et al. 2020. Indigenous Protocol and Artificial Intelligence Position Paper. htt ps://files.dragonfly.co.nz/publications/pdf/lewis_indigenous_2020.pdf. Lewis, Jason, Noelani Arista, Archer Pechawis und Suzanne Kite. 2018. Making Kin with the Machines. Journal of Design and Science 3,5. https://doi.org/10.21428/bfa fd97b. Light, Ann. 2011. HCI as heterodoxy: Technologies of identity and the queering of interaction with computers. Interacting with Computers 23(5): 430–438. 158 Konstruktion Menary, Richard. 2010. Introduction to the special issue on 4E cognition. Phe- nomenology and the Cognitive Sciences 9(4): 459–463. Mishra, Saurabh, Jack Clark und C. Raymond Perrault. 2020.Measurement in AI Pol- icy. Opportunities and Challenges. http://arxiv.org/abs/2009.09071. Mitchell, David und Sharon Snyder. 2015.TheBiopolitics of Disability. Ann Abor: Uni- versity of Michigan Press. Moulier-Boutang,Yann.2012.CognitiveCapitalism.Cambrdige/Malden:PolityPress. Nails,Debra. 1983. Social-Scientific Sexism:Gilligan’sMismeasure ofMan.SocialRe- search. An International Quarterly 50(3): 643–664. Negarestani, Reza. 2018. Intelligence and Spirit. Falmouth: Sequence Press. Rogers,Yvonne, Judi Ellis. 1994.Distributed cognition.An alternative framework for analysing and explaining collaborative working. Journal of Information Technology 9(2): 119–128. Russell, Marta, Ravi Malhotra. 2002. Capitalism and Disability. Socialist Register 38: 211–228. Schechner, Richard. 2013. Performance Studies: An Introduction. London: Routledge. Silverstein, Andrea. 2000. Standardized Tests. The Continuation of Gender Bias in Higher Education.Hofstra LawReview 29(2): 669–700. Spence, Jocelyn. 2016. Performative Experience Design.Wiesbaden: Springer VS. Taeihagh, Araz. 2021. Governance of artificial intelligence. Policy and Society 40(2): 137–157. Thompson, Evan. 2010. Mind in Life: Biology, Phenomenology, and the Sciences of Mind. Cambridge: Harvard University Press. Turing, Alan. 1950. ComputingMachinery and Intelligence.Mind 59(236): 433–460. Varela, Franciso, Evan Thompson und Eleanor Rosch. 1991.The Embodied Mind: Cog- nitive Science andHuman Experience. Cambridge/London:TheMIT Press. Weizenbaum, Joseph. 1976.Computer Power andHumanReason. From Judgement to Cal- culation. San Francisco: W.H. Freeman & Company. Yew,Gary. 2021.Trust in andEthicalDesign ofCarebots.TheCase forEthics ofCare. International Journal of Social Robotics 13(4): 629–645. IV. Intervention – künstlerische Beiträge State of Queerness Computing An artistic/activist thought experiment Valérie Félix 1. Introduction Amosaic is an assemblage ofmany pieces of different shapes and colours.An image, a picture, composedof amultitude of elements.This is theway inwhich François Le- tourneux, lecturer at the University ofMontreal (UdeM), has proposed approaching the concepts of homogeneity and heterogeneity. As this visual paradigm suggests, it is not a matter, then, of comparing two aspects of rendering them opposites, but of thinking of them together, as a group, whilst allowing them to retain a certain individual distinctiveness. Based on Jacques Rancière’s ideas of the collective and the community,1 combined with Rafael Lozano-Hemmer’s ‘connective’,2 I have pre- viously reflected on the ‘distinction between shared thought and collective thought’ (Félix 2022: 11). In this article, I proposed a communal heterogeneity, with the goal of finding common ground where each person can find an individual identity: ‘It is thus the force of the individual, gathered with others, that makes for a powerful community, and not the group as such, as (id)entity’ (Félix 2022: 13). This aspect of multiplicity in the individual entity, or the complex in the binary, has been a fea- ture of my own research for a long time. Indeed, it always seems relevant to me to consider the societal aspect as a whole in which each individual is unique. Just as a house defines the way its inhabitants function, it is a case of a global structure in which each of us evolves, while seeking to find our own autonomy. The modern computer, I think, embodies this same paradigm. A ‘large shell’ housing amultitude of hardware and software: the hardware as a fixed component, 1 ‘It is especially through the intellectual power of the individual faced with an exchange, an interactivity (artistic or not), that communal force is created, and not through a mere collec- tive gathering’ (Félix 2022: 10f). 2 ‘Rafael Lozano-Hemmer … refutes the idea of the collective, as, in his view, the term instinc- tively refers to a universalization of thought. Preferring the world “connective” … as [an] “as- semblage of disparate realities having neither prior intention nor homogenizing effect” (Félix 2022: 13). 166 Intervention – künstlerische Beiträge with eachmaterial element divided up into a number of other elements that enable the machine to work; and then the software, which consists of a state that can be further modified by its multiple programming components. On the basis of this standard description and definition, everything is possible and conceivable.This is because my interest in digital studies is not as a scientist or a computer technician. Rather, I approach the field looking through an artistic/curatorial and philosophical lens. As I am not concerned solely with the aesthetics produced between us and the daily use we make of computers, my reflections are directed towards the devel- opment of a real awareness of this communication link.3 I do not seek, therefore, to definitely incorporate a digital medium into my approach but rather to create a link with concrete, tangible practice, involving performance and writing. My decentralised way of working is positioned between artistic practice and cultural and visual studies.4 I thus have a profound belief in multiplicity as an intellectual approach to research. Above all, though, I believe in deconstructing established structures that are arbitrarily assigned to separate disciplines. As a result, this essay is halfway between a non-exhaustive societal case study and an artistic pro- posal, an in-between that allows us to reflect on our digital practice in relation to the body, whilst proposing new ways of approaching, using and/or applying this interconnection in our daily lives, so that our current environment becomes a way of challenging us both as individuals and as a society. Based on this observation, let us approach a computer as a societal system in which components are designed and processed to serve a very precise purpose: the functioning of the machine.The hardware would be the skeleton, whereas the soft- warewould be, as it were, theway the elements that form the computer behave.Why do I draw this parallel between humans and computers, which seems totally unre- alistic? Because, in the past, the human body has often been used as a model for creating new technical tools.5 Thehuman body is an organism, a system that we are still exploring anddonot fully understand, the identificationofwhichoften relies on visual categorisation and differentiation.The best-known example is the binary di- vision between the body and the brain.6 This distinctionwas reinforced by amethod that studies themodels of exchange and systems of interactive principles/functions (biological, mechanical, and electronic): cybernetics, a term democratised in 1948 3 I identify myself as a white Western woman who questions the relationships of power that white Western society has created through political, philosophical, and computational sys- tems. The ‘we’ used in the textmainly encompasseswhiteWestern society, which consistently imposes itself on everything that does not fit into its system of thought. 4 And therefore, outside art history with its traditional focus on aesthetics. 5 René Descartes sees in themechanical movements of an automaton or a clock similarities to a body with a blood system and a heart (Descartes 1987: 46). 6 Descartes’s ‘I think, therefore I am’ (Descartes 1987: 32), is the best example of cerebrocentrism, in connection with his interest in automata. Valérie Félix: State of Queerness Computing 167 by Norbert Wiener. At the Macy Conferences in the 1940s and 1950s, an interdisci- plinary group of researchers came together to discuss the characteristics of thought (related to the intellectual process of the brain) as the very principle of communi- cation. Although, in his landmark work Cybernetics: Or Control and Communication in the Animal and the Machine, published in 1948, Wiener speaks of the ‘organism’ – on the basis of which we might think that the link between the body and the brain had been established – it is pertinent to stress that this analogy, while corporeal, is still predicated on the brain. This further deepened the separation and divide between the body and the brain.Since that time, feminist theorists havedone everything they can to move away from this cerebrocentric premise, in order to take a holistic view of thinking, seeing the brain, by extension, as components incarnated in a body, and so irrevocably bound to it.7 We will deal with the analogy between brain and machine in Chapter 1, Calcu- lation, Brain-Machine-Analogy and Quantum Computing: Computer and Body/Body and Computer, in which we will return to the interest of scholars (and of NorbertWiener in particular) in ideas of exchange between an automated system and a living body. Cybernetics, as a communication science, remains an interesting intellectual vehicle for this essay, since the term, even though it has now fallen into disuse, was a breeding ground for major research projects centred on ideas of what would be called computing from the 1950s onwards. Binary language would become themain foundation of this discipline. Indeed, the functionality of the computers we use every day is based, as we know, on an (operating and storage) system composed of zeros and ones, called bits. The zeros and ones can be represented as the energy in a circuit board (1 would represent ON and 0 OFF). The functionality of this energy is given: it is in either one state or the other. More recently, research in computer science has been focused on the production of quantum computers composed of qubits (quantum bits). So, if in a binary computer each bit has two states (1 and 0), in a quantum computer, qubits can have more: 1 or 0, and all the possibilities between. By switching between cybernetics, basic computing and quantum computing, my intention in this essay is to question the way in which the analogy between the computer (binary or quantum) and the human body has changed our view of one or the other or both.This will allow us to question the binarity (which seems, in prin- ciple, to be so innate) that is applied to all living beings. These thoughts on revisiting the supposed binarity of living beingswill be devel- oped in Chapter 2,Body,Multiplicity andNon-binarity for Living Beings: Flux andQueer/ Queer and Flux, through the prism of flux and,more specifically,Queer FeministDura- tionality.This is a term coined by Amelia Jones that allows us to redefine other possi- 7 Feminist theorists do in fact have a rallying point – while their approaches to the body vary from author to the author, it is always inherently situated as a physical entity. 168 Intervention – künstlerische Beiträge bilities of seeing ourselves and each other through the surroundingworld (digital or not).Then, to conclude, Chapter 3,Artistic Positions of Body Identities in Computing: Per- formativity andLanguage/Language andPerformativity,will suggest a visual andmental link between flux and the body by drawing on artistic examples and artistic writing. Let us reflect on the following questions: Could channelling our thinking through the prism of a quantum computer change the way we see the living world, starting with our own bodies? Doesn’t experimenting with our environment condition and shape our vision of ourselves? 2. Calculation, Brain-Machine-Analogy and Quantum Computing. Computer and Body/Body and Computer In his paper Penser l’automaticité au seuil du numérique (Thoughts on Automaticity on theThreshold of theDigital Age),DavidBates returns to the origins of robots and cy- bernetics. He points out that researchers like W. Ross Ashby and Donald Hebb had a particular interest in the malleability of the human brain, as opposed to the ma- chines’ automatisms. Although these cyberneticists wondered how such a complex brain could be embodied in amachine, it is essential to know that while cybernetics concentratesmainly onaspects of communication (feedback) of livingbodies engag- ingwithmachines, it does so through phenomenological approaches. So, this legacy of thought further cements the idea that the brain is intimately linked to the phys- ical and thus corporeal interactions of a living body. For Norbert Wiener, this phe- nomenological relationship shows that there are encounters between our own body and our environment, and he sees both entities as chaotic. Interestingly,Wiener es- chews aNewtonian view of physics –which regards theworld as an organised space – and approaches cybernetics with a more modern physical perspective (based on relativity and/or quantumphysics) and the idea that theworld, and all living beings, should be seen as variable and chaotic. According to Wiener, living beings (bodies directed by a brain) search unceasingly for a constant and stable space mediating between themselves and their environment. This is why communication science is so important for cybernetics. Although usage of the term cybernetics declined throughout the 1950s, the field of computing became an important part of applied research. If the concept of in- teractivity (as communication between) remains paramount, the body as a communi- cating organism seems to give way to the brain as the only organ suitable for com- munication. In her paper on interactivity, Catherine Guéneau makes the following point: The analogy man/machine is at the heart of future science; upon developing the first calculators, John von Neumann explicitly refers to them as electronic brain[s]. Valérie Félix: State of Queerness Computing 169 The binary code of software programmes is directly inspired by the study of the human nervous system. (Guéneau 2005: 118, translated) So, there we have it. Here,Wiener’s ‘organism’ as a potential instrument of commu- nication is replacedby abrain that then turnsdigital and is entirely dedicated todata sorting. As a result, it loses its infinite supply of communicative possibilities, which are reduced to a 1 and 0, an ON and OFF, an ending and a binary system. Indeed, the fact that in hisTheComputer and the Brain–written just before his death in 1957 – VonNeumann uses the terminology of nervous impulses to draw a parallel between the brain and the binarity of computer language shows how keen he was to create an analogy between the brain’s unique organ and computers: I want to come now to the digital character of this mechanism. It is clear that one can consider the nervous impulses as markers (with two values) … the absence of an impulse represents one value (the binary number 0, let’s say) and the presence of an impulse represents the other value (the binary number 1). (Guéneau 2005: 118–19, translated)8 While cybernetics made use of the analogy between the nervous system of organ- isms and the binary language of digital computers and created theories around it,9 computer science engineered a shift in which the organic body gives way entirely to the brain, and the phenomenological approach (and that of quantum physics) is replaced by a binary vision oriented towards data storage and processing. Indeed, with regard to the Turing machine, Bates (2014: 36, translated) maintains that ‘the binary logic of a digital computer was quickly applied to the question of the synap- tic connectivity of the brain’. I would like to ask a provocative question: Doesn’t the act of reducing the multiplicity of the brain and the body to a binary option con- stitute a failure? To reduce the brain to an automated system is to diminish it both terminologically andconceptually.Shifting fromaconcept ofmultiplicity to abinary idea, evenmetaphorically speaking, changes thewaywe visualise the brain and how we approach it.While cybernetics saw a parallel between the internal workings of a digital machine and a living organism/body endowedwith a phenomenological and variableway of communicating, computer science views it in terms of a brainwhose relationship with itself and with its environment is only binary. Howhave the assimilationof these ideas, this imaging and thephysical nature of this process impacted theway inwhichwe see ourselves and our environment?How dowe viewour bodies ifwe assign them in such a binarymanner to amachine? If the process has indeed been set up in the direction human → machine, this allows us to 8 Guéneau is quoting from Von Neumann’s ‘L’ordinateur et le cerveau’, published in Daniel Bougnoux (Ed.), Sciences de l’information et de la communication (Paris : Larousse : 1993) : 458. 9 See the chapter ComputingMachines and the Nervous System inWiener’s Cybernetics: Or Control and Communication in the Animal and the Machine. 170 Intervention – künstlerische Beiträge see that we initially think of or approach the human body as a binary system,which we then assign to a machine. Is it not possible, then, to reverse this connection, in order to consider what the digital machine can teach us of/about ourselves, as body (not just as brain) and as multiple (not just binary)? Cybernetics seems to have dreamed of a science based onmodern physics (rela- tivity and/or quantum) and phenomenology. Could one then make the connection between these strands of thought dating from the 1950s and the emergence of the current quantum computer (which still has a utopian quality overall)? Does the quantum computer not embody this desire of cyberneticists: a multiple and non-binary means of knowledge? From a philosophical and artistic point of view, quantum computing opens up new ideas about multiplicity and non-binarity in the digital environment (and even on a wider scale). In practical terms, quantum computers are equippedwith processors and other new elements allowing different information to be managed simultaneously (also called quantum superposition), an impossible action for a classic computer, as its binarity only allows it to manage a single piece of information at a time.The quantum computer thus hasmuchmore computing power and a much faster execution time. As previously stated, I am no technician and I do not pretend to understand such a complex process, one that the world’s largest research teams are working on. Although my interest in this area ought to be dampened by some of the abstract concepts involved – for fear of succumbing to intellectual imposture10 – it seems entirely normal that as an artist- researcher in digital and cultural studies, I may question quantum concepts and integrate them into my reflections on society, by virtue of the fact that quantum physics is part of the world in and around us and embodies, for me, a greater possi- bility of mixing certainties.11 From the point of view of Western society, which has, on the whole, binarized the human body (male/female, heterosexual/homosexual etc.) and public and private space (separate toilets according to biological gender, pink things for girls and blue things for boys, etc.), the possibility of superposed states has real potential to engender action and change. In fact, this quantum process never creates a third state, but a true multiplicity of several states, which exist simultaneously.This multiple state of superposition is known as coherent when it remains in this condition for a given time.However, if it is measured against or interacts with its immediate environment, it experiences de- coherence to become a classic binary state that can be identified and formulated. Re- turning to the example in the introduction, it once again becomes a 1 or a 0,whereas 10 This term obviously refers ironically to Alan Sokal and Jean Bricmont’s Intellectual Impostures published in English in 1998. 11 And it seems to me that it is for these reasons of fruitful exchange between physics and art that the artistic residence ARTS · AT · CERN was created: https://arts.cern/ (accessed 15 March 2022). Valérie Félix: State of Queerness Computing 171 in aquantumstate, itwasboth 1 and0,aswell as all the in-betweenstates.So, the two processes, bits and qubits, are different, not in their end point, which remains bi- nary,but in their transitionperiod.Although the bits always have the same state (1 or 0), the qubits’ display of superpositionmakes it possible for them to be in a relation- ship ofmultiple states, as though this indeterminacy allowed continuousmovement and the possibility of flux. So, superposition is linked to flux, since as soon as the qubits’ state is measured or interacts with its immediate environment, it loses its multiplicity and turns into bits, becoming binary. Let us now apply this idea to a societal system: a person who defines themself as queer could live out theirmultiplicity in a space that allows con- stant flux, inaccordancewith their internal flux.So, ina context andanenvironment where they/we would face stigmatisation, this external ‘measure’ would bring deco- herence and binarity.This relationship of superposition to flux has, in my opinion, a significant impact from a societal point of view, because it allows us to reflect on the way flux, in or around a queer being, can be blocked by the simple fact of being measured or confronted by their environment – an environment that is rapidly be- coming violent and conditioned by a need formeasurable identity. A day-to-day envi- ronment filled with distinctive elements that are determined. An environment that is often static.An environment containing binary digitalmachines.This gives rise to the following thought:whenwefindourselves facinga computer (in communication mode), do we wish to see the binarity of a body, taken as an example of theoretical and practical elaboration, or do we want to encounter a simultaneous multiplicity that allows us to be everything at once? 3. Body, Multiplicity and Non-binarity for Living Beings. Flux and Queer/Queer and Flux This back and forth, this movement between what we see, what we experience of the world and our sense of our own bodies can help develop an awareness of femi- nist and/or queer thinking, approaches that allow us to construct a non-hegemonic, non-patriarchal view, enabling us to simply see differently. This implies a transfor- mation, a future that is constantly changing because the way of seeing changes de- pending on our environment. Queerness is undeniably inseparable from the look, the transformation and above all from the flux – as a continuous movement that is never still. In herwork SeeingDifferently: AHistory andTheory of IdentificationandVisual Arts (2012), Amelia Jones warns us about the fixed nature of identity in ourWestern society.This inertia seems to reflect the very structure of a society based on a binary system, in which a dominant person constructs him/herself as an individual in op- position to an other – an idea that runs fromHegel to Descartes to Merleau-Ponty: 172 Intervention – künstlerische Beiträge I will note as well the interrelation between perspectival models of seeing and makingwith earlymodern philosophies of the subject, fromDescartes to Kant and Hegel, the latter of whose theory of subjectivity in the model of the master/slave dialectic was developed in twentieth-century neo-Hegelian theory to crystallize the binary at the base of modern European thought. […] I also trace the political codification of the master/slave model of subjectification of the 1940s and 1950s in the identity theory of Simone de Beauvoir and Frantz Fanon, both working in close proximity with Sartre and Merleau-Ponty. (Jones 2012: 4) This relationship of binarity is thus integrated into the philosophy of our Western society, blocking/fixing any entity (external to us) into a state, an essence, a fetis- hism that cannot change anymore (that, in any case, this societal structure does not wish to see changed). In response to this Western model that forces everything to be confrontational, antagonistic, and contradictory, Jones suggests that the ability to see differently lies in our visual engagement with and awareness of the ideological construct around us. It is a way of thinking about ourselves in amore self-reflective way, including ourselves in relationship with others, by making the boundaries of the space between porous.12 Here, she shows that this empowerment is constituted as a mode of thinking that she calls Queer Feminist Durationality, which breaks with and thwarts the binary, patriarchal hegemony by preserving an intersubjectivity: Queer Feminist Durationality is thus a term that itself is performative and tempo- ral, specifically offered as a strategy of this moment and time, and is not intended as a fixed historical or hermeneutic prescription for what ‘should’ be done. Queer feminist durationality is a potential, an idea; as I articulate it here, it indicates the potential for doing something with artworks though interpretation that, I want to argue, reactivates them by returning them to process and embodiment – linking the interpreting body of the present with the bodies referenced or performed in the past as the work of art. (Jones 2012: 174) Queer Feminist Durationality is thus a process linked to time and materiality, like an interrelational buffer zone affecting the viewer and the viewed, which are mutual- ly reversible positions, and encouraging thought about what we see, feel, live, and experience around us, whilst changing us in a way that is inherent and fluid. Fluid because change is never radical and definitive – it always remains open to move- ment.This concept thusmakes it possible to weaken, or even destroy, the hegemony of a progressive evolution linked to a relationship with causality, by integrating the 12 Let’s entertain the thought that it is perhaps this in-between state, this way of communi- cating that so many cyberneticists were looking for. However, it is impossible to think this way without deconstructing the walls of a dualist and colonial philosophy. Valérie Félix: State of Queerness Computing 173 idea of movement. If the aim of the work is indeed to see differently whilst questio- ning the relationships tied in with the identification of the (surveying) viewer with the viewed, the exploration that Jones suggests allows us to disassociate the relati- onship of temporal finality that is linked with the definition of things (as mentio- ned previously, all of the Western ways of seeing have been tied up with a process of identifying one’s environment, for the sake of dominating it more effectively), by proposing a way of viewing that changes the viewer. To change one’s way of looking at something is also to understand how one’s perspective has been conditioned by a dominant system, to allow ourselves to understand how power works. Jones makes the following appeal to us, calling on us to consider changing our way of seeing because it offers us the possibility of being transformed,13 over time, by a flux, a movement: Queer is that which by definition troubles the idea that we can know what we see and installs durationality, and its corollary qualities of undecidability and unkno- wability, at the heart of meaning. We could even argue that queer is that which indicates the impossibility of a subject or a meaning staying still, in one determinable place. (Jones 2012: 174f.) Non-binarity,movement, flux and time are thus at the heart of what the term queer embodies. In her work, Jones proposes approaching it by starting with the physical materiality ofworks of art, by experimentingwith a queer transformation offered to our body. Self-Portrait/Nursing (2004)14 by the artist Cathy Opie is the latest example of work that Jones presents.15 This image brings us back to a portrait of a Madonna and Child.We see a bare-breasted woman, feeding a child who looks to be between two and three years old. The child has blonde hair, while the mother’s is short and brown; thepair stand in front of a thick ochre curtain,with anarabesque-style print. According to Jones, the photograph is imbuedwithwhat Barthes calls the punctum, a kind of spark that seizes and unsettles the viewing public, with themother’s tattoos and the word ‘Pervert’ slashed into her skin a striking injunction signifying a non- normative gender in the eyes of contemporary patriarchal society. Jones invites us to see this photograph as an appeal from the artist, suggesting that ‘we can identify or disidentify but either way our own relationship to sexuality, to the “signs” gen- der society imposes or proposes, is continually opened up as we engage with these works’ (Jones 2012: 210). Lastly, shemaintains that the practice ofQueer Feminist Du- rationality is evident inOpie’s work in asmuch as ‘representation does not secure the 13 ‘A Two Voices Talks with Amelia Jones’, EDHEA, 16 January 2021. https://www.facebook.com /edhea.valais/videos/462696301397292/?__so__=channel_tab&__rv__=all_videos_card (ac- cessed 15 March 2022). 14 https://www.guggenheim.org/artwork/14666 (accessed 10 March 2022). 15 In this example, Jones (2012: 203) recalls that this single image ‘telescopes us backward in time to other moments, other images, other bodies, other politics’. 174 Intervention – künstlerische Beiträge meaning of the subject’ (Jones 2012: 211).Thus, if the encounter with a physical work of art can disturb the binary view of our body, it also seems to me that this type of encounter could happen in our everyday life in the West, conditioned as it is by our use of digital technologies. In effect, this super-connected situation suggests new ways of envisaging ourselves, of constructing our own body. Ian Heisters’s works eloquently pick up on this point.16 Two of his video projects are an invitation to see the ambiguity that exists between the representation of a body and its veracity (Hu- manID, 2020–21) and thedissonancebetweenabodyand thegestures that no longer seem to belong to it (Gestures #2-#4, 2018). These are two works that are, I believe, imbued with a practical Queer Feminist Durationality as it relates to the transformation of the body that we are looking at (using a deepfake AI process) and the disappearance of our own. A reversal takes place through movement. Standing in front of a screen on which our gestures and our bodies are used in fluid ways, without having any control over this, can be dis- turbing for an individual who never questions the hegemony of his/her body and its complete dominance over his/her environment.Asdiscussed above,our body is con- structed (actively or passively) through our relationship with the world. And if the world around us is fluid, we should let this fluidity change our body. If all thesemo- vements/exchanges, between the viewer and the digital surroundings, are situated, naturally, in a context that influences them, the computer can, to a great extent, be- come ameans of creating change and challenging the binary hegemony of the body, allowing a Queer Feminist Durationality to be integrated in a more abstract manner. Here, it seems essential to me to quote a passage from Jones’s work, in which the authormakes particular reference to the connection between the subject and object through the writings of Henri Bergson: Here are external images, thenmy body, and lastly, the changes brought about by my body in the surrounding images. I see plainly how external images influence the image that I call my body: they transmit movement to it. And I also see how this body influences external images: it gives back movement to them. My body is, then, in the aggregate of the material world, an image which acts like other images, receiving and giving back movement, with, perhaps, this difference only, that my body appears to choose, within certain limits, the matter in which it shall restore what it shall receive. (Jones 2012: 192)17 What Jones assertswhen shequotesBergson is theperformative link inour relation- ship to the world – the crucial link between the object/materiality and the viewer or even between the object/materiality and the viewed. So, a performativity takes place 16 https://heisters.co/# (accessed 15 March 2022). 17 Quotation fromHenry Bergson,Matter andMemory, trans. Nancy Margaret Paul andW. Scott Palmer (1896; New York: Zone Books 2002): 19. Valérie Félix: State of Queerness Computing 175 between the viewer and the viewed. This is a very long way from an appropriation thatwould only happen in onedirection andwhere dominationwould be the driving force behind this link. Here change takes place in/within/through each of the par- ties. It involves a real process of exchange in the act of transformation. To follow up on Bergson’s quotation, it seems tome that amore abstract example (based not only on artworks showing anthropomorphic entities, as in the works cited above) would further enhance the human potential.18 I believe profoundly that this abstract idea that we can have of the human body is anchored in our connection to new technolo- gies. Nevertheless, it is important to highlight that the democratisation of the com- puter has accelerated mainly in countries with significant financial clout. Proceed- ing from this question ofmaterial dominance (tied to the accessibility of computers) andofhowabody is constructed through itsdirect environment (digital in this case), mightwe not speculate that in applying the concept ofQueer FeministDurationality to computers, we could thus make ourselves aware of the complex organisation of our own body, be surprised, be transformed by its flux,19 just as we transform it through the performativity of our interactions?20 Let us speculate further…what if this com- puter did not furnish us with a binary image of an abstract body (in a stable state of arrested motion), but rather a plural active, performative image, a way of thinking about the queerness of our body through the fluidity of multiplicity? 4. Artistic Positions of Body Identities in (Quantum) Computing. Performativity and Coding/Coding and Performativity Given that this possibility of transformation is realised through performativity (an active process of doing through experimentation), I would like to put forward some final thoughts froma crucial article by InkeArns on the performativity of coding and how it can initiate a process of transformation: Accordingly, when I speak of the performativity of code, I mean that this perfor- mativity is not to be understood as a purely technical performativity, i.e., it does not only happen in the context of a closed technical system, but affects the realm of the aesthetic, political and social. Program code is characterised by the fact that 18 On this point, Jones (2012: 183) reminds us that ‘I would like to hang onto one aspect of this theory, arguing that a presentation of bodily forms, whether abstracted or explicit, might shift larger political structures and assumptions about gendered experience, enacting them in ways than can be experienced as non-binary’. 19 Flux is characterised by Jones as the very condition of being queer. 20 Here it is worth recalling Bergson’s words cited above: ‘I see plainly how external images influence the image that I call my body: they transmit movement to it. And I also see how this body influences external images: it gives back movement to them’ (Jones 2012: 12). 176 Intervention – künstlerische Beiträge here ‘saying’ coincideswith ‘doing’. Code as an effective speech act is not a descrip- tion or a representation of something, but, on the contrary, it directly affects, and literally sets in motion, or even ‘kills’, a process. (Arns 2005: 7) Thus, the performativity of code is a way of establishing creative and political agen- cy, not in its content, but in the act of performance. Of course, if we focus on the result of the code using a binary/classic or a quantum computer, the results will in all probability look the same.21 Nevertheless, as previously stated, it is not the outco- me that matters in my approach but rather the process of potential and speculative performativity inherent in the interrelation that our body experienceswith the com- puter: AnUnuneumoun·eun-npossible performance through programming language that we usetouttoustoutetoutestoustetoustes. Thinkingthelelalolulialiflux is wanting to keep, in us, anununeumoun·eun-na superposition of multiple states, because without flux, binarity returns… Keeping thelelalolulialiflux open is keeping the potentialities, thelelalolulialipossible variants. Keeping thelelalolulialiflux open is also keeping thelelalolulialilinks to words, opening the boxes, bringing about thelelalolulialisurprising, thelelalolulialiunusual, the chaos – but a link – in the systemic machine. Keeping thelelalolulialiflux open, is becoming multiple – simultaneously.22 If the quantum computer would be a utopia from a practical point of view,23 we are leftwith the notion: thinking andperformativity in dialoguewith a classic computer composed of a binary circuit. A relationship that can andmust be deconstructed by the simple possibility/speculation of a computational plurality (which I like to call queerness computing), with the aim of transforming ourselves. A kind of reversal. Fol- lowing on from this ‘utopian’ statement, the performativity of code, standing/act- ing with a system of queerness computing, might allow us to think about ourselves as queer bodies rather than as bodies constructed and made binary by normative cul- tural rationales, of which computing is a part. And because the computer was ini- tially created through the framework of the binary human body (which I would call an immobile analogy/metaphor), it seems to me that the time has come to use the idea of the quantumcomputer (even if it is utopian) to start rethinking our body and give it back multiple, queer characteristics. 21 As we have seen in the introduction, certain calculations are impossible for a binary com- puter. Besides, in a quantum computer, the processors are not identical, and it has much more computing power and a faster execution time than a binary computer. 22 Inspired by and loosely based on the work of Legacy Russell (Glitch Feminism: A Manifesto) and Svetlana Boym (Nostalgic Technology: Notes for an Off-modern Manifesto). 23 https://www.technologyreview.com/2022/03/28/1048355/quantum-computing-has-a-hype -problem/ (accessed 1 April 2022). Valérie Félix: State of Queerness Computing 177 Translated from the French by Simon Cowper Bibliography Arns, Inke. 2005. Code as Performative Speech Act. Artnodes 4: 1–9. Bates, David. 2014. ‘Penser l’automaticité au seuil du numérique’. In Digital Stu- dies : Organologie des savoirs et technologies de la connaissance, Ed., Bernard Stiegler, 27–42. Limoges: FYP. Boym, Svetlana. 2006.Nostalgic Technology: Notes for an Off-modernManifesto. https:// www.neme.org/texts/nostalgic-technology. Accessed 1 June 2019. Descartes, René. 1987 [1637].Discours de la méthode. Paris : Fayard. Félix, Valérie. 2022. ‘The Shared Condition of Individual Thought’. ‘Collectifs/ Collectives’, Esse Arts + Opinions 144: 8–13. [Translated from the French by Ron D. Ross.] Guéneau, Catherine. 2005. ‘L’interactivité : Une définition introuvable’.Communica- tion & langages 145 : 117–129. Jones,Amelia.2012.SeeingDifferently:AHistoryandTheoryof Identificationand theVisual Arts. New York : Routledge. Rancière, Jacques. 2008. Le spectateur émancipé. Paris : La fabrique. Russell, Legacy. 2020.Glitch Feminism: AManifesto. London: Verso. Wiener, Norbert. 2019 [1948]. Cybernetics: Or Control and Communication in the Animal and theMachine. Cambridge:TheMIT Press. V. Pathologisierung Patching und Hoarding Rekodierungen von digitalen Reproduktionstechnologien Katrin Köppert Abb. 1: Tabita Rezaire. 2016. SugarWalls Teardom. Gynäkologischer Stuhl, mechanischer Arm, 1-Kanal-Video auf Monitor (Farbe, Ton), pinkeWandfarbe, 218 x 162 x 85 cm.1 1. Einleitung Das pastellfarbene Pink des gynäkologischen Stuhls, den die französisch-guyane- sische Künstlerin Tabita Rezaire zum Kinostuhl umfunktioniert hat, um ihr Video Sugar Walls Teardom aus dem Jahr 2016 in Ausstellungen anschauen zu können, ist 1 Quelle: © Tabita Rezaire und Goodman Galerie, Johannesburg, Foto: Stefan Altenburger/ Photography Zürich. https://migrosmuseum.ch/werke/15916/. Zugegriffen: 07. September 2022. 182 Pathologisierung ein – gewissermaßen irritierender – Blickfang (Abb. 1).Wer würde wohl eine gynä- kologische Untersuchung mit der zartknospenden Leichtigkeit eines in rosa erwa- chendenFrühlings assoziieren?Die poppige Pastellfarbe scheint den vonRezaire im Video thematisierten Zusammenhang der unter digitalen Bedingungen herrschen- den biopolitischen Disziplinierung, Kontrolle und Überwachung des weiblich ver- geschlechtlichten bzw.menstruierenden Körpers ironisch zu brechen. Gleichzeitig nimmt das Pink des Stuhls das Bild auf, das Tech-Unternehmen ihren Menstrua- tions-Tracking-Apps geben: Die überwältigendeMehrheit solcher Apps, die den Zy- klusmit demZiel der besserenBerechenbarkeit von Fruchtbarkeit undBlutungszeit überwachen, ist in Pastellfarben, Pink und Violett gehalten (vgl. Pichon et al. 2022: 390). Diese vergeschlechtlichende Farbgebung der Apps korrespondiert mit einer visuellen Ansprache, die vor allem weiße2, heterosexuelle, cis-geschlechtliche, mo- nogame, junge, dünne und gesunde Körper adressiert. Zu sehen sind Blumen, Äp- fel,Herzen,dynamisch geschwungeneKörpersilhouetten, infantilisierendeComics (Abb. 2). Rezaire wiederholt mit Farb- und Motivauswahl die vermeintlich harmlose Albernheit dieser Adressierung, streicht aber anhand von Montage die ihnen in- newohnende Gewalt heraus, die sich – intersektional wirksam – gegen Schwarze Frauen sowie queere, trans*- und intergeschlechtliche Personen of Color richtet. Der Stuhl steht dabei, wie weiter ausgeführt werden soll, nicht nur sinnbildlich für die kolonialrassistische Geschichte der Gynäkologie, sondern die digitalen Techno- logien der Mehrzahl solcher im Silicon Valley produzierten Apps, die neokoloniale Bedingungen in der Reproduktionspolitik (wieder-)herstellen sowie Trans*In- ter*Misogynoir3 im Kontext von Gesundheitsfürsorge. Diese Bedingungen werden besonders dann deutlich, wenn Apps entlang weißer Normierungen entwickelt werden und Menstruationsunregelmäßigkeiten in Folge von rassismusbedingtem Stress nicht ausreichend berücksichtigen. 2 Ich verwende Kursivschrift, um die soziale Konstruktion der KategorieWeißsein hervorzuhe- ben. Auf der Grundlage des sozialkonstruktivistischen Ansatzes entscheide ich mich jedoch für die Großschreibung von Schwarzsein, um gelebte oder verkörperte Erfahrungen zu be- rücksichtigen, insbesondere im Kontext antirassistischer Widerstandsbewegungen (vgl. Eg- gers et al. 2005). 3 ›Misogynoir‹ ist ein vonMoya Bailey geprägter Begriff, der antischwarze rassistischeMisogy- nie, die Schwarze Frauen erfahren, beschreibt. Bailey argumentiert trans*inklusiv und spricht auch von ›Transmisogynoir‹. Dass ich mich für die Schreibweise mit Stern entscheide, geht darauf zurück, die ausdifferenzierten trans*feindlichen Mechanismen im Kontext von Miso- gynie sichtbar machen zu wollen. Jedoch geht es mir in diesem Artikel nicht ausschließlich um Trans*misogynoir. Daher ergänze ich um die bei Bailey nicht erwähnte Intermisogynoir. Katrin Köppert: Patching und Hoarding 183 Abb. 2: Screenshot App Store, 15.02.2022.4 4 Quelle: © Katrin Köppert, Zugegriffen: 15. Februar 2022. 184 Pathologisierung Wenn die Zyklus-Apps nicht auf häufig vorkommende Unregelmäßigkeiten trai- niert werden, erkennen sie frühe Anzeichen einer Schwangerschaft weniger gut, sodass menstruierende BIPOC häufiger von der Einschränkung des Schwanger- schaftsabbruchs in einer sehr frühen Phase betroffen sind (vgl. Nobles/Cannon/ Wilcox 2021). In Auseinandersetzung mit Rezaires Video-Arbeit Sugar Walls Teardom (2016) wie auch Luiza Prado de O. Martins GIF-Essay All Directions at Once (2018) sollen die neokolonialen Biopolitiken im Kontext solcher Technologien, die der Zyklus- überwachung und Geburtenkontrolle dienen, zur Sprache gebracht werden. Die KI-Anwendungen, die den Apps zugrunde liegen, werde ich in der langen Folge dehumanisierender Praktiken medizinischer Experimente an versklavten Frauen unter Bezugnahme auf Simone Brownes Konzept der ›digital epidermalization‹ (vgl. 2015) und Ramon Amaros Überlegungen zum ›Black technical object› (vgl. 2019) kritisch betrachten. Mit den künstlerischen Arbeiten werden diese Techno- logien jedoch auch in ihren Rekodierungen diskutiert. Hierfür etabliere ich zwei ästhetische Verfahren, die ich mit patching und hoarding überschreibe. Anhand dieser Verfahren möchte ich exemplarisch beschreiben, dass Inkompatibilität im Anschluss an Ramon Amaro und Konflikt nach Wendy Hui Kyong Chun (vgl. 2018) Spekulationen über KI informieren, die ich im Sinne eines Queerings verstehe – d.h. einer Theorie, Praxis und Politik, die die Planbarkeiten von Berechnungen da- durch unterminieren,dass von keinem ›commonground‹ feststehender Identitäten und Kategorien ausgegangen werden kann. Entsprechend transformiert sich der Blick einerseits auf das im Reproduktionsdiskurs zentrale Konzept der Fürsorge bzw. Sorge(-arbeit) und andererseits das innerhalb dekolonialer Ansätze –wie auch von Tabita Rezaire selbst – zum Ausdruck gebrachte Argument der Heilung (vgl. Mignolo/Vazquez 2013; Rezaire 2022). Fürsorge und Heilung verstehe ich als Arti- kulationen von Inkompatibilität und Konflikt, die auch die mit Technologie allzu oft in Verbindung gebrachten Heilsversprechen und Solutionismen unterlaufen. Die künstlerischen Arbeiten betrachte ich daher als Übungen einer Bewohnung von KI,5 deren konfliktuelle Operationen und Unvereinbarkeiten – mikroskopisch vergrößert – nicht das Risiko sind, sondern das Potenzial für das bisher von Daten 5 Ich orientiere mich hier an Wendy Hui Kyong Chun, die in Discriminating Data schreibt, dass wir uns zu bewegen hätten »from dreams of escape to modes of inhabiting« (2021: 16). Darüberhinaus inspirieren Christina Sharpes Überlegungen mein Denken. Sie schreibt: »It requires theorizing the multiple meanings of that abjection through inhabitation, that is, through living them in and as consciousness.« (2016: 33). Hinzukommen die Lektüren von Kara Keeling und José Esteban Muñoz. Während Keeling sich beständig im Denkbild der ›im/possibility‹ aufhält, also dem Möglichen im Unmöglichen (vgl. 2019), geht es Muñoz in The Sense of Brown um die Erweiterung des Bewusstseins, von dem Sharpe spricht, um Emo- tionen (vgl. 2020: 12). Diese seien die Schlüssel, die Möglichkeiten Braunen Lebens in der Gegenwart aufzuspüren und nicht auf die Zukunft zu projizieren. Katrin Köppert: Patching und Hoarding 185 und Algorithmen diskriminierte und marginalisierte Leben. Nicht die bisweilen auch paranoid übersteuerte Angst vor den Zumutungen der Algorithmen und die in Folge durchaus auch nachvollziehbaren eskapistischen Fluchtbewegungen oder holistischen Heilungsvorstellungen stehen imMittelpunkt meiner Überlegungen,6 sondern die Modi des Bewohnens von etwas, das eine toxische Umgebung ist, aber aufgrund von Konflikt und Unvereinbarkeit Platz für queeres, Schwarzes, be-hindertes, Trans*Inter*-, migrantisches Leben of Color zur Verfügung stellen kann. 2. Das digitale Nachleben der medizinischen Plantage Abb. 3: Tabita Rezaire. 2016. SugarWalls Teardom, Video 22min., Filmstill.7 6 Ohne die diskriminierendenAuswirkungen von KI bagatellisieren zuwollen, nehme ich auch eine gewisse Hermeneutik des Verdachts hinsichtlich der Risiken wahr. Nach Eve Kosofsky Sedgwick greift der Verdacht im Zuge einer solchen wissenschaftlichen Methodologie oft dem Ergebnis voraus (vgl. 2014: 366). Noch bevor wir die Mängel verifizieren, meinen wir schon zu wissen, welche ungleichen Effekte KI haben wird. Mit dieser Hermeneutik geht ei- ne Rückbezüglichkeit auf die Vergangenheit einher, die sich am Fehler/Problem orientiert, bzw. die vom Fehler determiniert wird, sodass keine Perspektive über die Kritik hinaus ent- steht. Mit Kosofsky Sedgwick und auch Lauren Berlant (vgl. 2014: 14) möchte ich daher für eine reparative Lesart der Entdramatisierung plädieren. Zu entdramatisieren ermöglicht es, das vermeintlich Nebensächliche und »Gewöhnliche in seinem Potenzial einer alternativen Gegenwart wirken zu lassen.« (Köppert 2022, im Erscheinen) 7 Quelle: © Tabita Rezaire, Filmstill: Katrin Köppert, https://vimeo.com/171318210?login=true# _=_, Zugegriffen: 26. September 2022. 186 Pathologisierung Auf psychedelischemHintergrund sind in SugarWalls Teardom Flächen– imSin- ne verschiedener geöffneter Fenster auf dem Computerbildschirm – aufgebracht, deren visuelle und textliche Inhalte auf den US-amerikanischen Chirurgen James Marions Sims verweisen, den sogenannten ›Vater dermodernenGynäkologie‹ (Abb. 3). Dieser hatte in den 1840er-Jahren –wie in der Fotografie rechts am Beispiel von Betsy zu sehen ist8 – Versuche an versklavten Schwarzen Frauen unternommen, um Techniken zur Behandlung von vesikovaginalen Fisteln zu erforschen. Bei den Fisteln handelt es sich um eine Erkrankung, bei der die Blase mit der Vagina zu- sammenwächst, was zuHarninkontinenz und starken Schmerzen führen kann. Sie sind die Folge von übermäßig langenWehenwährendderGeburt, diewiederumauf die harten Bedingungen, denen versklavte Frauen ausgesetzt waren, zurückzufüh- ren sind (vgl. Snorton 2017: 17ff.). Um die Schwarzen Frauen angeblich von ihren Schmerzen zu erlösen, führte Sims Operationen ohne Anästhesie aus, was wieder- um auf der rassistischen und die SklavereimitlegitimierendenVorstellung beruhte, Schwarze Menschen würden Schmerz nicht in gleichemMaße wie weißeMenschen spüren (vgl. Jackson 2020: 186).Die Erfindungdes Spekulums,die auf Simsunddie- se Operationen zurückgeht, ist Ergebnis der –wie es der Schriftzug in Rezaires Vi- deo betitelt –medical plantation. Die Plantage war folglich nicht nur der Ort der bru- talen Ausbeutung von Arbeitskraft undRessourcen, sondern einer in die Gegenwart reichenden Geschichte der Disziplinierung des auch als wollüstig gebrandmarkten Schwarzen weiblich identifizierten Körpers auf der einen Seite und der Extraktion reproduktiver Kraft auf der anderen (vgl. Kelly 2016: 150–159). Während Schwarze Frauen in den USA zur Zeit der Sklaverei von ihren weißen Besitzern unter Gewalt(-androhung) gezwungen wurden, sich zur Sicherung der Plantagenarbeit fortzupflanzen, wurde deren Reproduktion nach der Abschaffung der Sklaverei unterbunden,mindestens aber überwacht. In diese–wie es TabitaRe- zaire im Video ausdrückt – biologische Kriegsführung speisen die medizinischen Studien an der puertoricanischen Bevölkerung zur Entwicklung der Antibabypil- le ebenso ein (vgl. Arellano/Seipp 1983; Marks 1999), wie andere durch Sterilisation und empfängnisverhütende Maßnahmen herbeigeführte Versuche der Geburten- kontrolle (vgl. Briggs 2002). Luiza Prado de O. Martins hat darüber hinlänglich ge- forscht (vgl. 2018b; 2018c). Sie stellt auch den Konnex zwischen dem biopolitischen Regime als dem zentralen Motor des kolonialen Projektes und den aktuellen Tech- nologien her. Diese sind – wie das von der Gates Foundation finanzierte Startup Microchips Biotech zeigt – unter dem Deckmantel der reproduktiven Gerechtig- keit für die sich ›entwickelndeWelt‹ Anwendungen zur Geburtenkontrolle des Glo- 8 Nicht nur der fehlende Nachname deutet auf die desubjektivierende Behandlung hin. Es finden sich außerdem differierende Angaben dazu, ob das Bild Lucy oder Betsy zeigt. C. Riley Snorton diskutiert die Falschbenennung als weiteres Indiz für die Fungibilität, also (Aus-)Tauschbarkeit Schwarzer Körper (vgl. 2017: 23, 50). Katrin Köppert: Patching und Hoarding 187 balen Südens (vgl. 2018a). Das auch wieder von der AfD reproduzierte rassistische Stereotyp der sich im Globalen Süden übermäßig fortpflanzenden Menschen (vgl. ARD2015)wird indigitaleTechnologieneingespeist und inFolge technisch reprodu- ziert.Unddort,woesnichtumsooffensichtlichbevölkerungspolitischeProgramme geht, die technologiegestützt Empfängnis verhindern, finden sich wiederum auto- matisierte Ungleichheiten.9 Apps zur Überwachung des Menstruationszyklus mit dem Ziel u.a. der Empfängnisverhütung preisen stressbedingte Zyklusabweichun- gennicht ein.Dies benachteiligt strukturellmenstruierendeBIPOC insofern, als sie überproportional von stressinduzierenden Bedingungen wie prekären Arbeitsver- hältnissen, rassistischer Polizeigewalt usw. betroffen sind (vgl. Ghandi 2019). Damit sind nur zwei Beispiele einer Gegenwart beschrieben, die im Kontext von Reproduktion verdeutlichen, was Simone Browne unter Rückgriff auf Frantz Fanon als »digital epidermalization« (2015: 109ff.) bezeichnet. Epidermalisierung nach Fanon meint die buchstäbliche Verkörperung des rassistischen Diskurses (vgl. 2008). Race als soziale Konstruktion von Schwarzsein schreibt sich in den Körper ein, wird förmlich zur ontologischen Aussage über Haut, gegen die sich kein ontologischer Widerstand formieren kann. Der Schwarze Körper kann sich der Überdeterminierung und Brandmarkung in Folge nicht entziehen. Im Zusam- menhang digitaler Technologienmeint diese Epidermalisierung, dass es wiederum bestimmte Körper sind, die reduziert auf Daten in biometrischen Anwendungen wie Gesichtserkennung, Iris- und Netzhautscans ungleich wiedergegeben werden, sodass sie entweder überproportional erfasst oder mit einem ähnlichen Effekt der Missachtung verkannt werden (vgl. Chun 2021: 22). D.h., dass diese Körper entweder aufgrund der Voreinstellung auf weiße Normen vom Seifenspender usw. nicht gesehen werden oder aber aufgrund mangelhafter oder nicht ausgeglichener Datensätze dort erfasst werden, wo sie gar nicht sind, was im Falle polizeilicher Überwachung zu disproportional vielen Verhaftungen Schwarzer Menschen in den USA führt (vgl. Benjamin 2019: 113).10 Beide Formen automatisierter Ungleichheit sind Ausdruck des mit der Epidermalisierung einhergehenden Moments der Ab- lösung des Schwarzen Körpers von der Kategorie des Mensch- bzw. Subjektseins. Deswegen stellt Browne biometrische Überwachung in den historischen Kontext der Plantagensklaverei und den zu dieser Zeit geltenden Technologien des Bran- dings (vgl. Browne 2015: 89ff.). Wurden damals versklavte Menschen wie Vieh mit Brandeisen markiert, um sie u.a. zu kriminalisieren, sind es heute mit Tags hin- terlegte Datensätze, die SchwarzeMenschen anhand zugeschriebener Kriterien bis zur Unkenntlichkeit fehlinterpretieren oder exponierend filtern. 9 Den Begriff der automatisierten Ungleichheit übernehme ich von Virginia Eubanks (vgl. 2018). 10 Dazu siehe auch den Beitrag von Ann-Kristin Kühnen in diesem Band. 188 Pathologisierung Insofern ist auch zu fragen, inwiefern das Taggen von Schwarzen Frauen in den USA, die gemäß einer rassistischen Kampagne für Abtreibung in Haftung genommen und kriminalisiert wurden (vgl. Bonhomme 2020), mit Menstruations- Tracking-Apps korreliert, die aufgrund mangelhafter Datensätze Schwarze Frauen prozentual weniger vor Empfängnis schützen (Abb. 4). Abb. 4: »Themost dangerous place for an African American is in the womb«, Anti-Abtreibungskampagne der Gruppe Life Always, 2011, Soho, New York.11 Das exponierte Ausstellen Schwarzer Gebärmütter als Gefährdungsorte der Re- produktion in Werbekampagnen übersetzt sich in verdatete ›white prototypicali- ty‹, d.h. in die Verdatung der prototypischen Voreinstellung weißer, sorgetragen- der Weiblichkeit (vgl. Gordon 2006: 239–240; Browne 2015: 110). Die Algorithmen operieren sozusagen im Affektfeld weißer Mutterschaft, das, wie Gabriele Dietze schreibt, Weißsein an das »liebevoll sorgende[…] Image der Mütterlichkeit« bindet (2020). 11 Quelle: © Foto: Hiroko Masuike, https://archive.nytimes.com/www.nytimes.com/2011/03/01 /nyregion/01nyc.html, Zugegriffen: 26. September 2022. Katrin Köppert: Patching und Hoarding 189 3. Black technical object und maschinelle Nicht-Existenz Die fehlende Diversität von Datentrainingssätzen bei Menstruationstracking- Apps evoziert folglich wie bei der Gesichtserkennung die Dissonanz zwischen der Selbstbestimmung Schwarzer menstruierender Personen und der Erfahrung, sich als in Datensätzen nicht-existent wahrnehmen zu können. Ramon Amaro spricht in diesem Zusammenhang vom ›Black technical object‹ und meint damit – wiederum in Referenz auf Fanon – die Objektifizierung des Schwarzen Subjekts, die mit der Erfahrung der psychischen Fragmentierung, sprich der Dissonanz zwischen Selbstbild und äußerer Zuschreibung einhergeht (vgl. 2019). Hieraus zieht Amaro den Umkehrschluss der Unmöglichkeit von Kompatibilität. D.h., dass rassifizierte Menschen als Individuen nur vorkommen, solange ihre Existenz mit den vorherrschenden Konzepten derHierarchisierung von Race abgeglichen ist, sie im algorithmischen Raum nur als technische Objekte existieren und nicht mit dem Vorstellungssystem weißer Subjektivität kompatibel sind. Daraus folgt, so Amaro, dass es keine Option sein könne, das ›Black technical object‹ mit den gängigen algo- rithmischen Visionen verträglich zu machen, da dies die gelebten Möglichkeiten, die ja trotz all der Formen der Dehumanisierung existieren, noch mehr reduzieren würde. Hiermit bezieht er sich kritisch auf den Ansatz des Projekts Aspire Mirror von Joy Buolamwini. Das für den Film Coded Bias (2020) ausschlaggebende Projekt hat- te das Problem der maschinellen Diskriminierung Schwarzer Personen durch Ge- sichtserkennungssoftware entlarvt. Die Kritik Amaros hängt sich daran auf, dass Buolamwini eine weißeMaske anfertigte, die sie sich vor das Gesicht hielt, um vom Algorithmus gelesen zu werden und so auf das Problem hinzuweisen. Er sagt, dass der Gebrauch der Maske die Annahme verstärkt, dass Kohärenz und Auffindbar- keit notwendige Bestandteile der Beziehungen zwischenMensch und Technik sind. Die Idee der weißenMaske sattelt gewissermaßen auf ein System auf, das den Aus- schluss in diesem Falle von Schwarzen Menschen inkludiert, aber auch die Auffas- sung von Maschinen reproduziert, denen es um die Reduktion von Inkonsistenzen und Instabilitäten geht. Sprich, die Inklusion in Datensätze bzw. die Repräsentati- on von Schwarzen Subjekten in den Datensätzen umgeht nicht das Problem, das es sich hier grundsätzlich um eine Anordnung handelt, die versuchtWidersprüchlich- keiten und Differenzen zugunsten von Kohärenz zu negieren. Insofern ließe sich sagen, dass die weiße Maske als visuelle Metapher für den Wunsch fungiert, die Diversität in Tech-Unternehmen wie auch in Datensätzen zu erhöhen, aber nicht – wie es dem konventionellen Konzept der Diversität ja durch- aus eigen ist12 – die Mechanismen und Institutionen von Digitalität grundsätzlich 12 Das Konzept der Kritischen Diversität versucht zu problematisieren, inwiefern es sich bei Di- versität um ein Management-Tool handelt, das mit der Pluralisierung von Positionierungen 190 Pathologisierung in Frage zu stellen.Amaroproblematisiert also,dass,wenngleich esBuolamwini um die Ausdehnung des Verständnisses von KI geht und auch um die Inklusion bisher marginalisierter Menschen in Datensätze, sie dem Begehren nach Repräsentation verhaftet bleibt und somit auch den für die Gestaltung von Mensch-Maschine-Re- lationen notwendigen Komponenten der Kohärenz und der Nachweisbarkeit (vgl. Amaro 2018; auch Chun 2021: 16, 22). 4. Caring for Conflict Dem gegenüber stellt Amaro in Rückgriff auf Stefano Harney und Fred Moten (vgl. 2013), aber auch Gilles Deleuze und Félix Guattari (vgl. 2018 [1986]) ein erweitertes Verständnis des ›Black technical object‹, das sich demWunsch nach Repräsentation entzieht.Ausgehenddavon,nicht ›korrekt‹ sein zuwollen, also vomOrt desMangels oderder obenerwähntenDissonanzzuoperierenundals Individuumnicht zugehö- rig, sondern entropisch sein zu wollen, würde eine Alternative zur rechnergestütz- ten Kohärenz möglich. Amaro schreibt: [T]he entropic individual exceeds the barriers of social relations to enter an alter- native space of becoming – made possible by a reimagining of the self. In other words, allowability for the unusable, uncommon, and thus incomputable indivi- dual potentializes the social space toward new ways of relating. (2018) Indifferent gegenüber der Repräsentation durch KI und dadurch ›incomputable‹, also unberechenbar zu sein, könne nicht nur gelebte Erfahrungen am Ort des Ver- objektivierten ermöglichen, sondern das ›Black technical object‹ als generativ für alternative soziale Beziehungen wahrnehmbar werden lassen. Indem das Objekt innerhalb des Netzwerks inkompatibel bleibt, erzeuge es neue Bedingungen der Selbst-Aktualisierung.Das Spezifische dieses Verhältnisses besteht also darin, dass im Kontakt zum Netzwerk Entropie die Bedingung für Transformation ist. Daher ist der Perspektivierung des Queerings im Sinne der Medialität der Immersion bzw. des immersiven Sich-Auflösens von Identitätskategorien die der Entropie an die Seite zu stellen. Deren Effekt sind Prozesse der Transformation und deren Politik ist das Mitgefühl für das Selbst, das in der Begegnung mit der künstlichen Verkennung kohärent ist – um hier Amaro sinngemäß wiederzugeben (vgl. 2018). An Verkennen bzw. Missdeutung als queeres Potenzial lässt sich mit Wendy Hui Kyong Chuns Ansatz des Queerings von Homophilie anschließen (vgl. 2018). Chun thematisiert Homophilie, also die Liebe unter Gleichen, als »fundamen- tales Axiom« (2018: 131) von Netzwerken, wie sie seit den 1950er-Jahren medien- und Perspektiven nicht die Überwindung von Diskriminierung und institutionellen Macht- verhältnissen adressiert (vgl. Auma 2017; Mörsch 2018). Katrin Köppert: Patching und Hoarding 191 theoretisch erzeugt worden sind.13 D.h., dass nicht die Handlungen der Einzelnen verantwortlich sind, Netzwerke zu kategorisieren, sondern die Handlungen derer, die uns am ähnlichsten sind und die sich in Netzwerken in unserer habituellen Nachbarschaft aufhalten. Ähnlichkeit erzeugt Verbindungen, Ähnlichkeit erhöht die Wahrscheinlichkeit der Vorhersagbarkeit. Liebe unter Gleichen ist der Aus- gangspunkt der Fragmentierung und Segregation von Netzwerken, weswegen Chun so weit geht, zu sagen, dass in Netzwerken zuerst einmal nicht der Hass auf das Andere die primäre Quelle von Ungleichheit ist, sondern die Liebe zu dem, was einer selbst ähnelt (vgl. 2018: 139). Die Logik der Homophilie zu durchbre- chen und zu queeren, um schließlich die Performativität von Netzwerken ernst zu nehmen, hieße dann das Konfliktuelle, das Unbequeme anzuerkennen: »Statt Ähnlichkeit als Auslöser von Verbindungen anzusehen, sollten wir […] durch die produktive Kraft des Unbequemen denken« (2018: 148) – sozusagen durch die Kraft des Dissonanten und Inkompatiblen, wie es Amaro im Kontext seines Verständ- nisses des ›Black technical object‹ beschreibt (vgl. 2018). Die Unfähigkeit, sich nach bestimmten Normen zu richten, z.B. der Repräsentation, oder sich in bestimmte Normen einzuarbeiten, wie es Chun im Anschluss an Sara Ahmed formuliert (vgl. 2018: 148), bildet eine neue Theorie der Konnektivität, eine queere Homophilie bzw. eine Heterophilie. Reproduktion hieße demnach nicht die Replikation des Gleichen im Muster von Likes oder im Muster von Kohärenz. Reproduktion hieße vielmehr ›caring for conflict‹,14 sprich das Pflegen von Konflikt, Unbequemlichkeit und Inkompatibilität. Inwiefern Inkompatibilität oder Konflikt als das Potenzial einer für alternative Seinsweisen sorgetragenden KI gelten kann, soll exemplarisch anhand zweier medienästhetischer Verfahren deutlich werden, die ich im Zuge meiner Lektüre von Sugar Walls Teardom und All Directions at Once als patching und hoarding etablieren möchte. 5. Patching oder Heilung in der Differenz WieYvonneVolkart ganz richtig anmerkt, erinnert das eingangs erwähnteVideoSu- garWalls Teardom an die digitale Ästhetik cyberfeministischer Parodien. Geschlech- terstereotype, wie sie von VNS Matrix in den 1990er-Jahren parodiert wurden (vgl. 2020: 25),werden auchhiermehrfachdurchquert.Schon allein diemit fernöstlicher Wellnessmusik hinterlegte Eingangssequenz ist in sich mehrmals gebrochen. Der 13 ZachBlas thematisiert z.B., dass sich dieNetzwerktheorie normativ auf Knotenpunkte einge- stellt hätte, ohne noch die für Inkompatibilitäten fruchtbaren ›paranodes‹, also leeren Felder zwischen den Knotenpunkten, in Erwägung zu ziehen (vgl. 2016). 14 InAnlehnung auch andie gleichnamigeVeranstaltungsreihe des Berliner Institute forQueer- Theory (2017/2018). 192 Pathologisierung rosa Stuhl, der der Musik und Werbeästhetik zufolge auch ein Kosmetikstuhl sein könnte, entpuppt sich nicht nur als einer für gynäkologische Untersuchungen, son- dern auch als Folterinstrument. Schließlich liegt die Protagonistin Rezaire mit Le- derriemen fixiert, nach hinten gekippt und ausgeliefert da, »to sit, watch and feel«, wie es per Schrifteinblendung heißt (Abb. 5). Abb. 5: Tabita Rezaire, SugarWalls Teardom, 2016, HD-Video, 21:30min.15 Die hiermit aufgerufenen, in Gynäkologie und Kino gleichermaßen geltenden pornotopischen Techniken des Betrachtens von Körperöffnungen (vgl. Hentschel 2001) werden mit den Referenzen auf Zwang in den visuellen Kolonialdiskurs des Sklav*innenmarktes hineinverlegt.Wurde zur Zeit der Sklaverei die Geburtsfähig- keit von Schwarzen Frauen erst inWerbeanzeigen angepriesen (vgl. Kelly 2016: 150), kamen sie unter Hervorhebung der »wichtigen, verkaufsträchtigen Körperteile« (hooks 2018: 94) ›unter den Hammer‹. Der mit dieser Eingangsszene angedeutete Blick zurück in die koloniale Vergangenheit wird im nächsten Moment unterbro- chen: Der animierte Goldvorhang fällt und wir tauchen in eine Science-Fiction Welt ein, in der gemäß technofeministischer Imaginationen, die Gebärmutter der Alien ist, der aus dem Raumschiff steigt. Dieses Bild – wie ich an anderer Stelle geschrieben habe – erinnert an Tricia Roses Aussage in dem Interview, das maß- geblich an der Prägung des Begriffs Afrofuturismus beteiligt war, dass das Gebären von Kindern eine Waffe im Kampf für ›Black feminist futures‹ sei (vgl. Köppert 15 Quelle: © Tabita Rezaire, Filmstill: Katrin Köppert, https://vimeo.com/171318210?login=true# _=_, Zugegriffen: 26. September 2022. Katrin Köppert: Patching und Hoarding 193 2020). Innerhalb von etwas mehr als einer Minute liefert Sugar Walls Teardom das ganze Panorama: von der suchmaschinenoptimiertenWerbeästhetik derWeiblich- keitsindustrie über die Gynäkologie als koloniale Unterwerfungstechnologie zum afrofeministischen Showdown im Krieg der Sterne. Die inhaltliche Dichte wird – nach Volkart – durch eine Ästhetik des Strömens bei gleichzeitig temporeicher Taktung zusammengehalten (vgl. 2020: 25), jedoch ohne auf Reibungsmomente zu verzichten. An letztere möchte ich anschließen, denn bei fast allen Arbeiten Rezaires fällt ein Verfahren auf, dass ich im Folgenden mit dem Begriff patching beschreibe. Es werden immer wieder Bilder flickenhaft, wie kleine Pflaster auf die Bildoberfläche aufgetragen. Relationalität wird über das Übereinanderschichten von Bildern hergestellt, jedoch ohne dass diese – wie es anderenorts im Kontext queerer Verfahren der Computerisierung diskutiert wird – amalgamieren (vgl. Pritchard/Rocha/Snelting 2020), schmelzen (vgl. MELT 2022, im Erscheinen) oder im Strudel der Immersion verschwimmen. Zwischen den Bil- dern, Strukturen und Oberflächen ergibt sich kein nahtloser Übergang. Zwischen den Dingen, die in Verbindung treten, bleiben Dissonanzen bestehen oder – im Anschluss an Kathryn Yussof – ›rifts‹, weswegen ich an anderer Stelle bezüglich der Ästhetik Rezaires von ›rifted algorithms‹ spreche (vgl. Köppert 2021). Yusoff zufolge sind Spalten die Bedingung desÜberlebens in rassifiziert entmenschlichtenWelten (vgl. 2018: 63). Und auch in Rückgriff auf Ramon Amaros Auseinandersetzung mit dem ›Black technical object‹ besteht das Potenzial der Verbindung ohne nahtlosen Übergang darin, den Fehler eingebaut und die Inkompatibilitäten behalten zu ha- ben (vgl. ebd.: 109). Erst mit den nicht verfugbaren Unverfügbarkeiten, die mit den Fehlern undUnvereinbarkeiten einhergehen, lässt sich KI als generativ für queeres, Schwarzes, be-hindertes, Trans*Inter*-, migrantisches Leben of Color verstehen. Bilder, die wie Pflaster aufgetragen werden, stehen also für eine Form der Heilung und Sorge, derenVoraussetzung dieDifferenz (zwischenVorder- undHintergrund) und der Konflikt sind. Die Bildpflaster heilen, indem sie Verwundung und Konflikt nicht aussparen: »To live in difference, we need to start from conflict – rather than run away from it«, schreibt Wendy Chun (2021: 247). 6. Hoarding oder Exzess bewohnen Zu Rezaires Verfahren des patching kommt ein anderer Aspekt hinzu, der sich sicherlich mit einer Ästhetik des Strömens beschreiben lässt, mir aber hinsichtlich des Bildergebrauchs exzessiver und mit Metaphern des (Ineinander-)Fließens unvereinbar erscheint. Patching, d.h. das Übereinanderschichten von Bildern, die, wenngleich sie sich überlagern, in ihren Begrenzungen bestehen bleiben, führt zu einem stacking bzw. hoarding, d.h. einem hortenden Anhäufen von Bildermate- rial, das für Rezaires Kunst beispielhaft ist (vgl. Kariuki 2016). Hoarding verstehe 194 Pathologisierung ich hier als kritische Anspielung auf die Kolonialgeschichte und das mit keinem wissenschaftlichen oder kuratorischen Interesse zu rechtfertigende Anhäufen ge- stohlener Kunstobjekte.16 Das gewaltvolle und rauschhafte Plündern von Objekten kolonisierter Länder, von denen die Mehrheit nie zur Ansicht kam, sondern die in den Kellern vornehmlich europäischer Museen vermodern (vgl. Savoy 2021: 22ff.), können wir heute mit der neokolonialen Gegenwart des Sammelns von Daten vergleichen, die mit hoherWahrscheinlichkeit auch nicht alle ausgewertet werden. Hoarding reagiert aber auch auf den Diskurs der Verweigerung, des Detoxings oder – mit Urs Stäheli gesprochen – der Entnetzung (vgl. 2021). Mit der massenhaften Anhäufung und Schichtung von Bildmaterial wird der Wunsch nach Reduktion als Privileg derer vorgeführt, die es sich leisten können, sich zu entnetzen. Ähnlich wie es im Xenofeministischen Manifest steht, verstehe ich hoarding als ein ästhe- tisches Verfahren gegen den Exzess von modesty (vgl. Cuboniks 2018: 43), der, noch bevor marginalisierte Menschen ausreichend und diskriminierungsfrei Zugang zum Internet und seinen Vorteilen hatten, Entschlackung fordert. Das Recht, das Privileg zu verweigern, wird unterhöhlt, indem hoarding beim Unbequemen und bei den Inkompatibilitäten und auch Ambivalenzen digitaler Technologien bleibt. Hoarding ist insofern eine andere Form der Verweigerung: Sie adressiert Verweige- rung als Privileg und Reduktion als Teil des Problems des Ausschlusses von BIPOC Trans*Inter*Frauen aus z.B. Datensätzen. Gleichzeitig wird Ausschluss nicht zum Ausgangspunkt, sich möglichst ›modest‹ in algorithmische Logiken einzufügen. Stattdessen unterläuft hoarding als exzessives Anhäufen von Bildmaterial Kohärenz und somit Berechenbarkeit. Dies möchte ich nun noch am Beispiel der Arbeit All Directions at Once von Luiza Prado de O. Martins aus dem Jahr 2018 andiskutieren und auf das Bild des seed wombing beziehen, das ich dafür er-finde. Das GIF-Essay All Directions at Once von Luiza Prado de O. Martins beschäftigt sich mit Praktiken der pflanzlichen Geburtenkontrolle als einem Akt der Dekolo- nialisierung der Reproduktionmarginalisierter Communities (Abb. 6). Im Zentrum steht ayoowiri, eine Pflanze, deren Aufguss von versklavten indigenen und afrikani- schen Menschen als Verhütungsmittel und in stärkeren Dosen als Abtreibungsmit- tel genutzt wurde. Ausgehend von der Erfahrung des ›biohacking‹, d.h. des Interve- nierens in z.B.denReproduktionszwang auf Plantagenmittels PflanzenundSamen (vgl. Prado 2018a; Sosa 2017) wird eine Perspektive SchwarzerWeiblichkeit erarbei- tet, deren Begriff von Sorge inkompatibel mit stereotypen Vorstellungen von sich reproduzierender Mütterlichkeit ist. Daher finde ich das Bild des seed wombing ein- gängig. Ausgehend von Ursula Le Guins Tragetaschentheorie und derThese,Weib- lichkeit wäre noch nie in der Vorstellung der friedvollen Sammlerin aufgegangen (vgl. LeGuin 2020 [1989]; Gramlich 2020: 14), ist die Gebärmutter – ›womb‹ – immer auch eine Samenbombe, deren Detonationen vielleicht nicht zur Frucht gereichen, 16 Hierzu siehe auch Rezaires Arbeit Sorry for Real (2015). Katrin Köppert: Patching und Hoarding 195 die aber dennoch generativ für nicht-heteronormative dekoloniale soziale Verbin- dungen sind. In diesem Sinne verstehe ich auch die Ästhetik des GIF-Essays. Pra- do de O. Martins sagt selbst, dass das GIF-Format prädestiniert ist, im exzessiven Stapeln und regelrecht bombardierenden Überlagern von Bildern die zyklische und eben nicht lineare, berechenbare Bewegung des Lebens zu verstehen (vgl. 2018b). Abb. 6: Luiza Prado de O.Martins, All Directions at Once, 2018, GIF-Essay.17 Das Explosive des hoarding, das in der temporeichen Überlagerung zum Aus- druck kommt, schließt an Frantz Fanon an, der Dekolonisierung nicht als apoka- lyptisches Moment verstand, das sich bereits vollzogen hat. Stattdessen handelt es sich umdas Zyklische explosiven Aufkeimens (vgl. auch Köppert 2021).Mit der zeit- lichen Struktur der digital animierten Samen zu denken, ermöglicht schließlich, KI als die Kunst zu verstehen, sich zu den Anforderungen der mit Kolonialismus und Heterosexismus verstrickten IdeenderModerne–wie rationale Berechnungund li- neareZeit inkompatibel–zuverhalten.Sollten smarteMaschinendaher einqueeres Coming-out imSinne einesVerständnisses feiern,das da sagt, eswäre allesweniger brutal, würden wir erstmal im Sichtbarkeitsparadigma angekommen sein? Geht es nicht eher um das Zyklische (der Menstruation) in ihrer Unkontrollierbarkeit und die Möglichkeiten des Stapelns und Überlagerns, um nichtlineare Wege zu erkun- den und mit der dichten Schichtung von Bildern und Typografien die Verbindun- 17 Quelle: © Luiza Prado de O.Martins ,http://alldirectionsatonce .schloss-post .com/adao h. tml, Zugegriffen: 15. Februar 2022. 196 Pathologisierung gen zwischen Vergangenheit, Gegenwart und Zukunft anzuerkennen und mithin die Nahtstellen in den Differenzen? Patching und hoarding betrachte ich als ästhetische Verfahren, die Inkompatibi- lität und Konflikt, wie ich sie im Anschluss an Ramon Amaro undWendy Chun dis- kutiert habe, in KI und App-Technologien der ›predictive reproduction‹ imaginär einlagern und für Rekodierungen imaginär sorgen.Es sind Ästhetiken derDisiden- tifkation nach José EstebanMuñoz, denn »it is a working on, with, and against [AI] at simultaneousmoment« (2020: 11).Mit dem Anhäufen von Bildern (hoarding) geht es nicht darum, sich zu entziehen, undmit den Bilderflicken (patching) löst sich kei- ne holistische Idee der Heilung oder Fürsorge ein. Stattdessen handelt es sich um Verfahren,die dasKonfliktuelle,DifferenteundAmbivalente vergrößern, sodass In- kompatibilität als Chance für eine queere dekoloniale KI wahrscheinlicher werden kann, ohne ihre Berechenbarkeit und Vorhersage zu behaupten. Literaturverzeichnis Amaro, Ramon. 2019. As if. e-flux Architecture. https://www.e-flux.com/architecture /becoming-digital/248073/as-if/. Zugegriffen: 14.02.2022. ARD. 2015. AfD. Höckes Lehre von den Menschentypen, ARD. https://dase rste.ndr.de/panorama/aktuell/AfD-Hoeckes-Lehre-von-Menschentypen ,hoeckeslehre100.html. Zugegriffen: 14.02.2022. Arellano,AnnetteB.RamírezdeundConradSeipp.2011.Colonialism,Catholicism,and Contraception: A History of Birth Control in Puerto Rico. Chapel Hill: The University of North Carolina Press. Auma,MaureenMaisha. 2017. Kulturelle Bildung in pluralen Gesellschaften.Diver- sität von Anfang an! Diskriminierungskritik von Anfang an! In Weiße Flecken – Diskurse und Gedanken über Diskriminierung, Diversität und Inklusion in der Kul- turellen Bildung, Hg. Anja Schütze und Jens Maedler, 61–76.München: kopaed. Bailey, Moya. 2021. Misogynoir Transformed. Black Women’s Digital Resistance. New York: New York University Press. Berlant, Lauren und Lee Edelman. 2014. Sex, or the Unbearable. Durham: Duke Uni- versity Press. Blas, Zach. 2016. Contra-Internet. e-flux Journal 74. https://www.e-flux.com/journa l/74/59816/contra-internet/. Zugegriffen: 10.05.2022. Bonhomme, Edna. 2020. Covid Threatens to Worsen Disparities in Maternal and Reproductive Care,TheNation Magazine. https://www.thenation.com/article/so ciety/black-maternal-reproductive-health/. Zugegriffen: 14.02.2022. Briggs, Laura. 2002. Reproducing Empire: Race, Sex, Science, and U.S. Imperialism in Puerto Rico. Berkeley: University of California Press. Katrin Köppert: Patching und Hoarding 197 Browne, Simone. 2015. Dark Matters. On Surveillance of Blackness, Durham/London: Duke University Press. Chun,WendyHui Kyong. 2018.QueeringHomophily:Muster derNetzwerkanalyse. Zeitschrift fürMedienwissenschaften 18: 131–148. Chun, Wendy Hui Kyong. 2021. Discriminating Data. Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge/London: MIT Press. Cuboniks, Laboria. 2018.TheXenofeministManifest. New York: Verso Books. Deleuze,Gilles und Félix Guattari. 2018 [1986].Nomadology:TheWarMachine.Atlas ofPlaces.https://www.atlasofplaces.com/essays/nomadology-the-war-machine /. Zugegriffen: 14.02.2022. Dietze, Gabi. 2020. Pathosformel Mutterschaft, Gender Blog der Zeitschrift für Medi- enwissenschaft. https://zfmedienwissenschaft.de/online/blog/pathosformel-mu tterschaft. Zugegriffen: 14.02.2022. Eggers, Maureen Maisha, Grada Kilomba, Peggy Piesche und Susan Arndt. 2005. Konzeptuelle Überlegungen. InMythen, Masken und Subjekte. KritischeWeißseins- forschung in Deutschland, Hg. dies., 11–13.Münster: Unrast. Eubanks, Virginia. 2018. Automating Inequality: How High-Tech Tools Profile, Police and Punish the Poor. New York: St.Martin’s Press. Ghandi, Sharlene. 2019. Are your Period Tracker Apps exploiting your sensitive Per- sonal Data?, gal-dem. https://gal-dem.com/are-your-period-tracker-apps-expl oiting-your-sensitive-personal-data/. Zugegriffen: 14.02.2022. Gordon, Lewis. 2006. Is theHuman a Teleological Suspension ofMan? Phenomeno- logical Exploration of Sylvia Wynter’s Fanonian and Biodicean Reflections. In After Man, Towards the Human: Critical Essays on the Thought of Sylvia Wynter, Hg. Anthony Bogues, 237–257. Kingston: Ian Randle. Gramlich,Naomie. 2020. Feministisches Spekulieren. Einigen Pfaden folgen. In Fe- ministisches Spekulieren. Genealogien, Narrationen, Zeitlichkeiten, Hg. Marie-Luise Angerer und Naomie Gramlich, 10–29. Berlin: Kadmos. Harney, Stefano und Fred Moten. 2013.The Undercommons: Fugitive Planning & Black Study.Wivenhoe: Minor Compositions. Hentschel, Linda. 2001. Pornotopische Techniken des Betrachtens: Raumwahrnehmung und Geschlechterordnung in visuellen Apparaten derModerne. Marburg: Jonas. hooks, bell. 2018.HeißeMösen zu verkaufen.Der Kulturmarkt und seine Bilder von der Sexualität schwarzer Frauen. InBlack Looks. Popkultur,Medien,Rassismus,Hg. dies., 93–115. Hamburg/Berlin: Orlanda. Jackson, Zakiyyah Iman. 2020. Becoming Human. Matter and Meaning in an Antiblack World. New York: New York University Press. Kariuki, Isaac. 2016. How to Break [through] the Internet: Interview with Isaac Kariuki. African Digital Art. https://www.africandigitalart.com/2016/03/06/h ow-to-breakthrough-the-internet-interview-with-isaac-kariuki/. Zugegriffen: 14.02.2022. 198 Pathologisierung Keeling,Kara. 2019.QueerTimes, Black Futures.NewYork:NewYorkUniversity Press. Kelly, Natasha A. 2016. Afrokultur. »der raum zwischen gestern und morgen«. Münster: Unrast. Köppert, Katrin. 2020. Afro-Feministisches Fabulieren in der Gegenwart – und mit der Höhle. In Feministisches Spekulieren. Genealogien, Narrationen, Zeitlichkeiten, Hg.Marie-Luise Angerer und Naomie Gramlich, 220–236. Berlin: Kadmos. Köppert, Katrin. 2021. Agropoetics of the Black Atlantic. Zeitschrift fürMedienwissen- schaft 24: 77–86. Köppert, Katrin. 2022. sic.Mit Lauren Berlant durch den Türspalt der Zeiten. InDo- ing Research – Wissenschaftspraktiken zwischen Positionierung und Suchanfrage, Hg. Sandra Hofhues und Konstanze Schütze. Bielefeld: transcript. Im Erscheinen. LeGuin, Ursula. 2020 [1989]. Die Tragetaschentheorie der Fiktion. In Feministisches Spekulieren. Genealogien, Narrationen, Zeitlichkeiten, Hg.Marie-Luise Angerer und Naomie Gramlich, 33–39. Berlin: Kadmos. Marks, Lara V. 2010. Sexual Chemistry: A History of the Contraceptive Pill. New Haven: Yale University Press. MELT (RenLorenBritton&Isabel Paehr).2022. Ice,Water,VaporComputing. In dig- ital:gender – de:mapping affect, Hg. Julia Bee, Irina Gradinari und Katrin Köppert. Leipzig: Spector Books. Im Erscheinen. Mignolo, Walter D. und Rolando Vazquez. 2013. Decolonial AestheSis: Colonial Wounds/Decolonial Healings. Social Text. https://socialtextjournal.org/peri scope_article/decolonial-aesthesis-colonial-woundsdecolonial-healings. Zuge- griffen: 14.02.2022. Mörsch, Carmen. 2018. Critical Diversity Literacy an der Schnittstelle Bildung/Kunst: Einblicke in die immerwährende Werkstatt eines diskriminie- rungskritischen Curriculums. KULTURELLE BILDUNG ONLINE. https://www. kubi-online.de/artikel/critical-diversity-literacy-schnittstelle-bildung-kunst-e inblicke-immerwaehrende-werkstatt. Zugegriffen: 14.02.2022. Muñoz, José Esteban. 2020. The Sense of Brown. Durham/London: Duke University Press. Nobles, Jenna, Lindsay Connon und Allen J. Wilcox. 2021. Menstrual Irregularity as a Biological Limit to Early Pregnancy Awareness. PNAS 119(1). https://doi.org/10 .1073/pnas.2113762118. Pichon, Adrienne et al. 2022.TheMessiness of theMenstruator: Assessing Personas and Functionalities of Menstrual Tracking Apps. Journal of the American Medical Informatics Association 29(2): 385–399. Prado de O. Martins, Luiza. 2018a. A Topography of Excesses. Bodies, Spaces, and Counter-Curses. Luiza-Prado.com. https://www.luiza-prado.com/a-topography -of-excesses. Zugegriffen: 14.02.2022. Katrin Köppert: Patching und Hoarding 199 Prado de O. Martins, Luiza. 2018b. Radical Care in the Space of Excess. Lui- za-Prado.com. https://schloss-post.com/radical-care-space-excess/. Zugegrif- fen: 14.02.2022. Prado deO.Martins, Luiza. 2018c.Technoecologies of BirthControl: Biopolitics byDesign. Dissertation. Berlin: Universität der Künste Berlin, https://opus4.kobv.de/opu s4-udk/frontdoor/deliver/index/docId/1181/file/PradoManuscript_PUBLISH.p df. Zugegriffen: 14.02.2022. Pritchard, Helen, Jara Rocha und Femke Snelting. 2020. Figurations of Timely Ex- traction.MediaTheory 4(2): 159–188. Rezaire, Tabita. 2022. Decolonial Healing. In Defense of Spiritual Technologies. In Art as Social Practice. Technologies for Change, Hg. Xine Burrough und Judy Wal- green. New York: Routledge. https://doi.org/10.4324/9781003169109. Savoy,Bénédicte.2021.AfrikasKampfumseineKunst.Geschichte einerpostkolonialenNie- derlage. München: C.H. Beck. Sedgwick, Eve Kosofsky. 2014. Paranoides Lesen und reparatives Lesen, oder pa- ranoid, wie Sie sind, glauben Sie wahrscheinlich, dieser Essay handle von Ih- nen. In Affekt undGeschlecht. Eine einführende Anthologie, Hg. Angelika Baier et al., 355–399.Wien: Zaglossus. Sharpe, Christina. 2016. In theWake. On Blackness and Being. Durham: Duke Univer- sity Press. Snorton,RileyC.2017.Black onBothSides: ARacialHistory of Trans Identity.Minneapo- lis: University of Minnesota Press. Sosa, Fannie. 2017. Biohack Is Black. In The 3D Additivist Cookbook, Hg. Daniel Rourke undMorehshin Allahyari. http://additivism.org/cookbook. Zugegriffen: 14.02.2022. Stäheli, Urs. 2021. Soziologie der Entnetzung. Berlin: Suhrkamp. Volkart, Yvonne. 2020. Durchkreuzte Sorge. springerin 1: 22–26. KI als Medium und ›message‹ und die (Un-)Möglichkeit einer queeren Antwort Johannes Bruder 1. Einleitung In Alex Garlands Film ExMachina (2014) diskutieren die Protagonisten Nathan und Caleb über den Fortschritt eines Turing-Tests, den sie an einer verkörperten künst- lichen Intelligenz namens Ava durchführen. Im folgenden Dialog bezeichnet Cal- eb Intelligenz als grundlegend nicht-autistisch und definiert autistische Kognition damit als defizitär: autistische Subjektivität wird zum konstitutiven Anderen von (künstlicher) Intelligenz. CALEB: It gotme thinking. In away, the joke is the best indication of AI I’ve seen in her. It’s discreetly complicated. Kind of non-autistic. NATHAN: What do youmean? CALEB: It was a play on words, and a play on me. She could only do that with an awareness of her ownmind, and also an awareness of mine. Während Avas Konstrukteur Nathan –das Klischee eines Silicon-Valley-Tech-Bro – und sein Mitarbeiter Caleb noch darüber diskutieren, ob ihre verkörperte KI ›tat- sächlich‹ intelligent sei, hat diese den Turing-Test längst bestanden. Langsam, aber sicher ist sie in Calebs Kopf eingedrungen und bringt ihn in der Folge auch dazu, sich gegen Nathan zu wenden. Ava überzeugt Caleb von ihrer Quasi-Menschlich- keit, indem sie scheinbar von den ausgetretenen Pfaden derWenn-dann-Entschei- dungenund logistischenRegressionabweichenkann:Sie flirtet,zeigtEmpathieund versteht, welche Bedeutung Verhalten in einem bestimmten Kontext hat. Im Film wird Ava dementsprechend als das dargestellt, was Autist*innen angeblich nicht sind: selbstbewusst, empathisch, vollerÜberraschungen,unddamit quasi-mensch- lich. ExMachina bietet eine aufschlussreiche, popkulturelle Referenz für Vorstellun- gen von Intelligenz, die sich aktuell am Schnittpunkt verschiedener Diskursemate- rialisieren. Eine kilscheebehaftete Vorstellung von Autismus, in der autistische In- dividuen als sozial defizitär, rhetorisch unbegabt und maschinenähnlich definiert werden fungiert als Gegenmodell für Fantasien von zukünftiger, künstlicher Intelli- 202 Pathologisierung genz, die die Defizite maschineller Kognition überwunden hat und damit dezidiert »non-autistic« ist – wie Caleb sagt.1 Ex Machina ist ein Beispiel dafür, wie aktuelle Diskurse und Technologien der künstlichen Intelligenz eine bestimmte Vorstellung der Fähigkeiten und ›disabi- lities‹2 von autistischen Individuen aufrechterhalten; gleichzeitig ist KI nur ein Beispiel für die Wahlverwandtschaften zwischen Medientechnologien und unse- rem Verständnis von Autismus (vgl. Pinchevski/Peters 2016). Um zu verstehen, wie KI unsere Vorstellung von Autismus prägt und wie Autismus dazu beiträgt, KI zu formen, betrachte ich aktuelle KI hier als Medium und Botschaft. Wie viele andere Psychopathologien ist auch die Autismus-Spektrum-Störung (ASS) eng an ver- schiedene Medientechnologien geknüpft, sei es als »narrative Prothese«, die dazu beiträgt, die Norm zu generieren (Mitchell/Snyder 2001), als »assistive pretext«, der die Weiterentwicklung von kommerziellen Technologien mit dem Nutzen für In- dividuen mit kognitiven Einschränkungen legitimiert (Mills 2010), oder einfach als ein Objekt, das durch diagnostische oder taxonomische Technologien neu erfasst wird (vgl. Keyes/Hitzig/Blell 2021). KI ist jedoch auchdeshalb einMedium,weil sie dieBedingungen für die Inklusi- on von als autistisch eingestuftenPersonendefiniert.WiedasBeispiel vonExMachi- na zeigt, wird autistische Kognition oft als Gegenmodell zur KI dargestellt; gleich- zeitigwerdenAutisten zunehmend für die Arbeit in Big Tech rekrutiert.Der Betrieb großer maschineller Lernsysteme erfordert eine engagierte und aussergewöhnlich fokussierte Belegschaft, für die Personenmit ASS-Diagnose besonders gut geeignet zu sein scheinen. In all diesen Kontexten wird Autismus in ein stabiles Objekt ver- wandelt; die Fluidität und Spektralität autistischer Subjektivitäten – von M. Remi Yergeau als »Neuroqueerness« bezeichnet –wird eliminiert (2018). Doch die Abhängigkeit der KI von einem spezifischen autistischen Subjekt als narrativer Prothese und kognitiver Infrastruktur öffnet auch Möglichkeitsräume. Wenn autistische Kognition und künstliche Intelligenz sich gegenseitig bedingen, kann die Betonung von Neuroqueerness – eine taktische und performative Ableh- nung sowohl von zugeschriebener Identität als auch von der affirmativen Aneig- nung von Gegenidentitäten (vgl. Egner 2019; Yergeau 2018) – das kognitive Com- puting seines konstitutiven Anderen berauben und damit seine ›default mode‹ au- ßer Kraft setzen. Die zentrale Frage meines Beitrags ist daher, wie Queerness im Kontext zeitgenössischer KI »technologisch, operativ und systemisch« (Barnett et al. 2016; Übersetzung d. Vf.) werden kann. Meine Analyse ist inspiriert von einer Reihe von transfeministischen und queeren Ansätzen, die von T.L. Cowan und Jaz 1 Dazu siehe auch den Beitrag von Ute Kalender in diesem Band. 2 Ich verwende im Text den englischen Begriff ›disabilities‹ oder ›disabillity‹, weil die angebli- chen kognitiven Fähigkeiten und Unfähigkeiten von autistischen Individuen zentral für mei- ne Argumentation und die Funktion von Autismus im Kontext zeitgenössischer KI sind. Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 203 Rault unterdemLabel »heavyprocessing« zusammengefasstwurden (2020).Sie zie- len darauf ab, die aktuellen Technologien unterliegendenMedientheorien zu destil- lieren – nicht um zu ›enthüllen‹, sondern um der Ideologie von KI den Boden zu entziehen. 2. Die anti-queere Tendenz von Big Data und Machine Learning Was passiert, wenn sich die identitätsbasierte und die wissenschaftliche Nutzung vonKIüberschneiden?Waspassiert,wennKIvonWissenschaftler*inneneingesetzt wird, umabweichende Subjekte zu identifizieren und ihnen eine bestimmte Identi- tät zuzuschreiben? Dies sind zwei der zentralen Fragen, die Os Keyes,Mwenza Blell und Zoe Hitzig in einem Artikel stellen, der im Journal Interdisciplinary Science Re- views veröffentlicht wurde (vgl. 2021). Gemeinsam fragen sie, welche sozialen Wel- ten produziert werden, welche Ideen perpetuiert werden und welche Gefahren sich aus der ›wissenschaftlichen‹ Nutzung von KI ergeben. Konkret gehen die Autor*in- nen auf die algorithmische Diskriminierung von autistischen und homosexuellen Individuen ein.Verbunden sind beideDiskriminierungsformen vor allemdurch die PathologisierungderAbweichung,die sich inTherapieformenzeigt.DieAppliedBe- havioral Analyses (ABA), eine Umerziehungsmethode, die vom Behavioralisten Ivar Lovaas entwickelt wurde, ist bspw. engmit der Gay ConversionTherapy verbunden. In beidenFällenwerdenbestimmteSubjekte (nicht-autistischeundGender-konfor- me) als ›normal‹ generiert,währendandere einer zwangsweisenKorrektur unterzo- gen werden (vgl. Gibson/Douglas 2018). Keyes, Hitzig und Blell argumentieren, dass die diskriminierendeWirkung der KI in diesem Fall nicht aus ihr selbst hervorgeht – vielmehr katalysieren die Opera- tionen von Machine Learning bereits bestehende Formen der administrativen Ge- walt gegenüber Individuen oder sozialen Gruppen. Vermittelt durch Daten werden die Epistemologien und Klassifizierungssysteme von Psychiatrie und ›mental he- alth‹ sowie die operativen Logiken der Rechtsprechung und der Sozialsysteme au- tomatisiert.Was die KI vermeintlich ›intelligent‹macht, ist ihre Fähigkeit, Identität und Differenz in Daten wiederzufinden und neu zu artikulieren. Die affirmative Aneignung der diskriminierten Identität wird durch den wis- senschaftlichen Einsatz von KImeist unterlaufen, da diese vor allem auf das Erken- nen vonMustern der Abweichung ausgelegt ist. Das wird insbesondere imHinblick auf die Neurodiversity-Bewegung zum Problem. Im Sinne einer affirmativen An- eignung von Differenz werden dort neurologische Unterschiede aufgegriffen, um die autistische Identität als eine eigenständige Subkultur und Lebensweise darzu- stellen. Dieser imWesentlichen emanzipatorische Schritt trägt zuweilen dazu bei, neurobiologische Abweichungen als irreduzible Differenz zu qualifizieren und zu quantifizieren – eine Differenz, die genutzt werden kann, um Forderungen zu stel- 204 Pathologisierung len, aber auch um Personen zu diskriminieren, die sich als neurodivers identifizie- ren.Die Vielfalt und Fluidität von Subjektpositionen, die als autistisch kategorisiert werden, wird durch den wissenschaftlichen Einsatz von KI effektiv eliminiert. In der Tat ist Autismus ein Paradebeispiel dafür, dass diagnostische Kategorien und damit die Klassifizierung, für die Machine Learning Algorithmen in der Regel ausgelegt sind, gleichzeitig Differenz zur Norm herstellen und Differenz zwischen autistischen Individuen gewaltsam eliminieren.Der Soziologe Des Fitzgerald stell- te fest, dass die fieberhafte Suche nach Biomarkern vor allem auf einem kollekti- venUnbehagen vonNeurowissenschaftler*innen beruht, die sichmit einer Vielzahl von Autismen und damit der Unmöglichkeit einer qualitativen Beschreibung kon- frontiert sehen (vgl. 2017). Die dadurch ausgelösten Affekte sind Fitzgerald zufolge Grund für Versuche, Autismus in ein stabiles Objekt zu verwandeln. Autismusfor- scher*innen haben sich daher zunehmend der wissenschaftlichen Nutzung von KI zugewandt, um genetische ›Ursprünge‹ und neurologische Indikatoren für ein na- hezu unfassbares Spektrum an Personen zu finden. KI wird verwendet, um einige konsistente Signale aus demDatenrauschen herauszufiltern: [G]lobal, complex and potentially multimodal patterns of abnormalities that cannot be efficiently identified with univariate methods. (Ecker/Spooren/Murphy 2013: 439) Machine Learning verringert die diagnostische Unsicherheit auf Seiten der Neu- rowissenschaftler*innen, indem sie die Heterogenität der als autistisch eingestuf- ten Personen in den Hintergrund rückt. Die disparaten Auswirkungen von Big Da- ta bestehen demnach darin, dass maschinelles Lernen und andere algorithmische Techniken versagen, auch wenn sie funktionieren: Sie funktionieren, indem sie das abweichende Individuum mit einer Pathologie identifizieren und damit bekann- te Taxonomien und Kategorien legitimieren (vgl. Benchmark-Logik). Gleichzeitig versagen sie, da diese Operationen der Mustererkennung Fehler und gewaltsame Ausschlüsse nicht nur reproduzieren, sondern auch noch optimieren und vor Inter- ventionen schützen (vgl. Barocas/Selbst 2016). Treffender müsste daher von ›pat- tern discrimination‹ gesprochen werden: Einerseits werden Daten und Datenmus- ter, welche mit der diagnostischen Kategorie unvereinbar sind, zum größten Teil eliminiert; andererseitswirddieDiskriminierungvonkategorisiertenunderfassten Personennochzusätzlich legitimiert (vgl.Apprich et al. 2018;Chun2021).Damit ste- hen Machine Learning Algorithmen in einer langen Reihe ähnlicher Mechanismen administrativer Gewalt (vgl. Hoffmann 2021). Dies wird besonders deutlich, wenn Abweichung als gegeben angesehen wird und derwissenschaftliche Einsatz vonMachine Learning sich hauptsächlich auf die Identifizierung von Biomarkern oder die Qualifizierung von Differenz bezieht. Die Prinzipien von Big Data und Machine Learning sind daher grundsätzlich nicht mit (Neuro-)Queerness vereinbar, schreibt Keyes an anderer Stelle: Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 205 Quite the opposite: They sound like a framework that fundamentally results in the elimination of queerness – the destruction of autonomy, contextuality, and fluidity, all of which make us what we are and are often necessary to keep us safe. (2019) Machine Learning Algorithmen werden optimiert, um zu erfassen – dementspre- chend werden Individuen ›on the spectrum‹ platziert und fixiert; gleichzeitig wer- den Differenzen zwischen neurodiversen Individuen eliminiert und die Differenz zur Norm verabsolutiert.3 In dieser Hinsicht stehen die Realitäten des maschinel- len Lernens und die Vorstellungen von künftiger KI der Vorstellung von Intelligenz, wie sie durch rassistische IQ-Tests definiert wird, in nichts nach. Die derzeitige KI ist insofern diskriminierend, als sie hochspezifische Anwendungsfälle definiert, die als Prüfstand für universelle oder allgemeine Intelligenz verkauft werden, und ein Imaginäres vonmenschenähnlicher Intelligenz projiziert, das autistische Subjekti- vität als absolut Anderes konstruiert. Eine technische Lösung für das Problem der ›pattern discrimination‹ ist nicht in Sicht und auch grundsätzlich unwahrscheinlich. Sich auf die Verbesserung von Machine LearningAlgorithmen oder die Beseitigunghistorischer Verzerrungen aus Trainingsdatensätzen zu konzentrieren, wird daher nicht ausreichen. Vielmehr ist das Resultat solcher Operationen meist eine Optimierung der Erfassung von Ab- weichung und damit auch der institutionellen Mechanismen der Kategorisierung undPathologisierung.DieMöglichkeit zumWiderstand gegendieOperationen von algorithmischen Systemen wird dabei zudem auf Programmier- und Datenprakti- ken verengt.Hingegen bleibt die politische Software, die den algorithmischenOpe- rationen zugrunde liegt, davon mehr oder weniger unberührt. Maya Ganesh und Emanuel Moss schreiben dazu: So, even when technical fixes are designed to mitigate harms, they fall short be- cause the socio-technical aspects of how violence happens are not fully addressed by the re-design alone. (2022: 98) EinQueeringvonKI imSinneeinerVerunsicherungder ihr zugrundeliegendenVor- stellung von Kognition und Intelligenz erfordert deshalb eine Analyse der Funktion von autistischer Subjektivität und autistischen Subjekten in den Operationen der zeitgenössischen KI. Big Tech nutzt oder integriert spezifische Aspekte autistischer 3 Der Begriff ›on the spectrum‹ bezieht sich auf die offizielle Diagnose der Autism Spectrum Disorder, wie sie im Diagnostic and Statistical Manual of Mental Disorders gefasst wird. Diese schließt Symptome wie »persistent deficits in social communication and social interaction« und »restricted, repetitive patterns of behavior, interests, or activities« ein. Der Begriff wird mittlerweile auch oft als Sammelbegriff für sozial ungeschicktes Verhalten verwendet und ist daher negativ konnotiert. 206 Pathologisierung Kognition nämlich, um deren vermeintlich übermenschlichen Fähigkeiten zu reali- sieren. KI ist daher ein Fall von gewaltsamer Inklusion: Autistische Individuenwer- den nur dann akzeptiert, wenn sie sich damit identifizieren, unzureichend, unvoll- ständig und in bestimmtem Sinne doch ›nützlich‹ zu sein. 3. Der ›default mode‹ zeitgenössischer KI In ihrem Artikel Autism and new media: Disability between technology and society (2016) konstatieren die Medienwissenschaftler Amit Pinchevski und John Durham Peters eine konzeptionelle Verbindung zwischen nach wie vor gültigen Dispositivenmen- taler Gesundheit und der Ideologie von erfolgreicher Kommunikation und Soziali- tät, die neuen Medien zugrunde liegen. Soziale Medien und andere Netzwerktech- nologien schließen autistische Individuen bspw. explizit ein, definieren sich dabei aber auch als Möglichkeitsbedingung für die Teilnahme am sozialen Leben und als Korrektiv autistischer Kognition: The Internet provides habitat free of the burdens of face-to-face encounters, high- tech industry fares well with the purported special abilities of those with Asper- ger’s syndrome, and digital technology offers a rich metaphorical depository for the condition as a whole. (ebd.: 2507) Dies gilt auch für die zeitgenössischen Realitäten oder Infrastrukturen von künst- licher Intelligenz. Während die vermeintlichen kognitiven Unfähigkeiten autisti- scher Individuen eine Blaupause für das liefern, was KI nicht sein soll, sind die damit verbundenen kognitiven Fähigkeiten bei Big Tech und in der KI-Forschung durchaus gefragt. Daraus ergibt sich, dass aktuelle KI nicht nur hinsichtlich der Mechanismen von Big Data und Pattern Recognition mit Queerness inkompatibel ist – sie etabliert auch ein Verständnis von produktiver Kognition, das autistische Subjektivität auf bestimmte kognitive (Un-)Fähigkeiten reduziert und autistischen Individuen die Teilnahme am Projekt künstliche Intelligenz nur gewährt, wenn sie sich mit der pathologischen Abweichung identifizieren. Generell ist die Geschichte der Informationstechnologien im globalen Norden voll vonpaternalistischenVorstellungen von ›disability‹, die verschleiern,wie häufig in deren Entwicklung auf abweichende kognitive Fähigkeiten als epistemische Res- source zurückgegriffen wurde. ›Disability‹ ist im Kontext von Computing und vor allem imHinblick aufAnalogienzwischenMenschundMaschine tatsächlichgrund- legend, schrieb DiWu jüngst in einemArtikel zur Geschichte der computergestütz- ten Informationsverarbeitung (vgl. 2021). Eine vom Mainstream wahrgenommene Einschränkung wird dabei als Grundlage für die Entwicklung korrektiver Mecha- nismen herangezogen und dann als kognitives Prinzip technologisch verallgemei- Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 207 nert.Die TechnologiehistorikerinMaraMills spricht in diesemZusammenhang von ›disability‹ als »assistive pretext« (2010). Dies gilt auchundbesonders für die kognitiven ›Einschränkungen‹,die gemein- hin als charakteristisch für Autismus gelten.Autismuswird häufigmit A-Sozialität, fehlender Empathie, Non-Intentionalität und rhetorischer Unfähigkeit in Verbin- dung gebracht. Simon Baron-Cohn, Professor für Entwicklungspsychopathologie und einer der berühmtesten und zugleich umstrittenstenAutismusforscher*innen, bezeichnet Autismus als »Mindblindness« (1997) –autistische Individuen sind dem- nach weder fähig, sich in ihreMitmenschen hineinzuversetzen, noch haben sie Zu- griff auf ihre eigenen Algorithmen der Informationsverarbeitung. In ihrem Buch AuthoringAutismbeschreibtM.Remi Yergeau, selbst autistisch, aktivistisch und for- schend tätig, dieses Narrativ wie folgt: Autistic subjects are not subjects in the agentive sense of the word, but are ra- ther passively subject to the motions of brains and dermis gone awry […] Ours are neuroqueer brains whose synapses routinely fire blanks, and something as banal as our pronoun (mis)use supposedly evidences our distinctiveness from all other persons. Autism’s rhetorical function – in genetics, neurology, psychology, philoso- phy, andmore – is to contrast those who are otherwise presumed to be cognitively and thereby humanly whole. (2018: 7, 23) Ein relativ neuer Biomarker von Autismus, der durch den wissenschaftlichen Ein- satz von KI legitimiert wird und exemplarisch für die rhetorische Funktion von Au- tismus steht, ist die sogenannte ›resting state activity‹ des Gehirns. Damit wird be- schrieben, was im Gehirn passiert, wenn wir oder unsere Körper ruhen. Der ›res- ting state‹ wurde von den Neurowissenschaften lange Zeit ignoriert, da sich For- schende auf Aktivierungen des Gehirns in Reaktion auf kognitive Stimuli konzen- trierten; was in einem Gehirn im ›Ruhezustand‹ passiert wurde als ›baseline activi- ty‹ oder reinesRauschenbetrachtet undmusste folglich ›subtrahiert‹werden. Inden 1990er-Jahren entdecktenNeurowissenschaftler*innen jedoch,dass einige Teile des Gehirns in der Tat aktiver sind,wenn sich unsere Körper imRuhezustand befinden. Die ›resting state activity‹ wird seither als eine Art ›default mode‹ der Kognition an- gesehen, der u.a. für Empathie und die Fähigkeit, Absichten, Wünsche und Emo- tionen anderer zu verstehen, unerlässlich ist – Fähigkeiten, die Menschen ›on the spectrum‹ angeblich fehlen. Infolgedessen wird Autismus mit einer Fehlfunktion des so genannten ›default (mode) network‹ im Gehirn in Verbindung gebracht. Das besagte Modell autistischer Subjektivität funktioniert im Kontext zeitge- nössischer Fantasien von künstlicher Intelligenz daher als konstitutives Anderes: eine pathologische Form menschlicher Kognition, die mittels algorithmischer Me- chanismen vermieden werden soll und damit auch den Status eines Design Briefs erhält. Forschende vonGooglesKI-TochterDeepMinddient dermenschliche ›default 208 Pathologisierung mode‹ bspw. als wichtige Inspiration für die Entwicklung vonMachine Learning Al- gorithmen (vgl. Bruder 2017). Dieser Rückgriff auf autistische Kognition als narrative Prothese ist nicht neu. Aufgrund ihrer vermeintlichen sozialen Einschränkungenwurden autistische Indi- viduen schon von nordamerikanischen Behavioristen wie BF Skinner, Ole Ivar Lo- vaas, Charles B. Ferster undMarian K. DeMyer als Testobjekte geschätzt. Vor allem in Lovaas’ publiziertenArbeitenwurden autistische Individuenmit unterentwickel- ten,primitivenundpathologischenVerhaltensweisen inVerbindunggebracht.Zen- tral dafürwar deren angeblicheUnfähigkeit, sich selbst zu reflektieren (vgl.Gibson/ Douglas 2018). Die experimentelle Modifikation des Sozialverhaltens von autisti- schen Individuen sollte das Versprechen untermauern, dass ein Mangel an Sozia- lität durch Verhaltenstechniken korrigiert, wenn nicht gar geheilt werden könnte. Ihr angeblicherMangel anAutonomie undSozialität sollte durch eine entsprechend gestaltete Umwelt kompensiert werden.4 Im Bestreben, die Agenda des Behaviorismus voranzutreiben, fungierten autistische Proband*innen daher auch als ›Proxy‹ für erwartete, passive oder wi- derspenstige Benutzer*innen. Die Experimente der Verhaltensforscher*innen dienten als Inspiration für Technologien, die darauf abzielen, auch die unwilligsten Benutzer*innen zur Interaktion mit datengenerierenden, computergestützten Umgebungen anzuregen. Jeff Nagys noch unveröffentlichte Forschungsarbeit über die Experimente von Charles B. Ferster und Marian K. Myer mit autistischen Kindern ist hier sehr aufschlussreich: Although their research preceded the introduction of computers into the psycho- logical laboratory by about a decade their mobilization of autism in ›automatic‹ environments created new kinds of subjects that were well-adapted for computa- tional capture. (2021) Es ist daher kaum verwunderlich, dass für die vom Behaviorismus hervorgebrach- ten Subjekte ein Platz im System gefunden wurde. Autistische Individuen werden überall dort eingesetzt, wo ihre kognitiven (Un-)Fähigkeiten die der Maschine pro- duktiv ergänzen.Os Keyes spricht in diesem Zusammenhang von »Automating Au- tism« (2020) und zitiert aus einem Artikel des Forbes über das Unternehmen Dai- vergent, in dem autistischen Individuen eine außergewöhnliche Ausdauer in Bezug auf repetitive Tätigkeiten zugeschrieben wird. A-Sozialität und Non-Intentionali- tät sind in diesem Narrativ produktiv umgedeutet – gleichzeitig werden kognitive 4 Diese Ideen finden sich z.B. in Ansätzen des ›affective computing‹ wieder. Entwicklungen in diesemBereich zielen darauf ab, Technologien zu entwickeln,mittels derer affektive Zustän- de effektiver wahrgenommen und anderen kommuniziert werden können (vgl. El Kaliouby/ Picard/Baron-Cohen 2006). Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 209 Fähigkeiten, die demmedizinischenModell von Autismus und folglich der Vorstel- lung von autistischen Individuen als übermäßig rational entsprechen durch diese Form der selektiven Inklusion betont und stabilisiert. Ein erfülltes Leben scheint für autistische Individuen in diesemKontext vor allem dannmöglich zu sein, wenn sie sichmit der diagnostischenKategorie und ihrem zugewiesenen Platz imSystem von Big Tech identifizieren. Es lohnt sich, die Realität der selektiven In- und Exklusion von autistischer Kognition und Subjektivität genauer zu betrachten. Tatsächlich ist aktuelle KI nur scheinbar ›non-autistic‹.Wie das Beispiel von Daivergent zeigt, werden scheinbare Charakteristika autistischer Kognition in der Infrastruktur der real existierenden KI sogar als Asset wahrgenommen. Dieses Paradoxon resultiert daraus, dass »ac- tually envisioned AI« – also die Fantasien von zukünftiger künstlicher Intelligenz – untrennbar mit »actually existing AI« verbunden sind (Siddarth et al. 2022). Divya Siddarth, Daren Acemoglu, Danielle Allen, Kate Crawford, James Evans, Michael Jordan und E. GlenWeyl verweisen darauf, dass Big Tech in eine Form von genereller künstlicher Intelligenz investiert, die weitgehendmit »kognitiven Fähig- keiten auf menschlichemNiveau verglichen wird und darauf ausgelegt ist, diese zu übertreffen« (ebd.: 3; Übersetzung d. Vf.). Diese konzeptionellen und praktischen Überlegungen erzeugen spekulative Zukünfte, die unmittelbare Auswirkungen auf die gegenwärtige Lebenssituation vieler Menschen haben. Die Autor*innen bezeichnen KI deshalb als »getrieben von einer verschwenderischen Nachahmung menschlicher komparativer Vorteile und einer verworrenen Vision von autonomer Intelligenz« (ebd.: 1; Übersetzung d. Vf.).5 Wenngleich Big Tech von nicht-autistischer KI fantasiert, lässt die Realität von Machine Learning darauf schließen, dass ihr ›default mode‹ nicht ohne autistische Kognitionauskommt–obals konstitutivesAnderesoderElementderkognitiven In- frastruktur.DieVerbindung zwischenAutismusundKI ist daher ein Fall, in demdie Pathologie nicht nur die Normalität, sondern auch die Technologie offenbart (vgl. Pinchevski/Peters 2016). Die eigentliche ›message‹ von zeitgenössischer KI als Me- dium ist, dass sie ein Modell von produktiver Kognition perpetuiert, indem alles – und ichmeine: alles –zur Infrastrukturwird.Obdas Land, auf demeinDataCenter steht oder dasWasser, das zum Kühlen der Server eingesetzt wird, ob Coder*in bei Microsoft oder User*in von Apple Smartphones – künstliche Intelligenz vermittelt, indem sie alles zu ihr in Beziehung setzt und: nützlich macht. 5 Das Center on Privacy & Technology at Georgetown Law hat sich deshalb dazu verpflichtet, die Begriffe ›artificial intelligence‹, ›AI‹ und ›machine learning‹ nicht mehr zu benutzen (vgl. Tucker 2022). Ich werde hier trotzdem von künstlicher Intelligenz und Machine Learning sprechen, weil es im Text um genau diese Anleihen und das Verhältnis zur Definition von menschlicher Intelligenz geht. 210 Pathologisierung 4. KI als ›message‹ und der Versuch, nicht zu antworten In ihren jüngeren Arbeiten situiert die Medientheoretikerin Sarah Sharma die so- ziotechnischen Fantasien von Big Tech imKanon der nordamerikanischenMedien- theorie. Sie liestMcLuhansUnderstandingMedia.Extensions ofMan ganzwörtlich und als Quelle aktueller Vorstellungen der Funktion von Medien in zivilisierten Gesell- schaften: Für mich sind Kittler und McLuhan […] Theoretiker von Geschlecht, sie sind auch Theoretiker von Race – nur nicht in der Art und Weise, wie wir uns das wünschen würden. Aber ihre Texte enthalten Vorstellungen vonwhite supremacy, vermittelt durch eine Vorstellung von Technologie, in der Medien nicht einfach nur Erwei- terungen des Menschen sind, sondern technologische Manifestationen der mas- kulinen Vorstellung von Dienstbarkeit und Nützlichkeit. (Bruder/Pinkrah/Sharma 2022: 126) Das Medium wird also tatsächlich zur ›message‹, indem es eine technologische Agenda vorgibt und gleichzeitig die Bedingungen schafft, bestimmte Menschen unter dem Deckmantel der Partizipation in bestimmte, infrastrukturelle Rollen zu zwingen. Die Medientheorie McLuhans realisiert sich auch in zeitgenössischer KI, nicht zuletzt über eineDefinition von Intelligenz,die den allseits bekannten rassistischen IQ-Tests in nichts nachsteht.GoogleDeepMind’sKI beherrscht bspw.Brettspielewie Schach und Go, sie erkennt verborgene Variablen in komplexen Prozessen wie der Proteinfaltung und sie optimiert die Lüftungsparameter inDatencentern.DieDefi- nition von Intelligenz ist also an bestimmte Test Beds gebunden und damit insofern diskriminierend, als sie hochspezifische Anwendungsfälle definiert, die als Bench- marks für universelle oder allgemeine Intelligenz verkauft werden.Dabei projiziert aktuelle KI eine Fantasie von (post-anthropozentrischer) Intelligenz, das nicht nur autistische Subjektivität und Kognition, sondern generell alle abweichenden For- men von Intelligenz und Subjektivität als defizitär konstruiert.6 Sarah Sharma schlägt vor, auf die Medientheorien von Big Tech und die darin ausbuchstabierten Fantasien von Dienstbarkeit und Nützlichkeit mit einem Femi- nismus der ›broken machine‹ zu antworten (vgl. 2020). Sie bezieht sich damit auf die, auch autistischen Individuen mehr als bekannte Erfahrung, als eine dysfunk- tionale Technologie verstanden zu werden. ›Brokenmachines‹, so schreibt sie, neh- 6 Kara Keeling schreibt hierzu in ihrem programmatischen Artikel Queer OS: »Race, gender, class, citizenship, and ability (to name those among the most active in the United States today) [are] mutually constitutive with sexuality and with media and information technolo- gies, thereby making it impossible to think any of them in isolation« (2014: 153). Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 211 mendieseRolle affirmativ anundweigern sich, innerhalb der aufoktroyierten Logik und entsprechend ihrer infrastrukturellen Rolle zu funktionieren. Neuroqueerness leistet Ähnliches: Sie wendet sich performativ gegen gewaltsa- me Einschlüsse und damit auch gegen die affirmative Aneignung von Neurodiver- sität als identitätsstiftendemMarker: Neuroqueer requires those who engage in it to disidentify from both oppressive dominant and counterculture identities that perpetuate destructive medical mo- del discourses of cure. It is a queer/crip response to discussions about gender, se- xuality, and disability as pathology that works to deconstruct normative identity categories. (Egner 2019: 123) M.RemiYergeausVersionderneurologischenQueerness z.B.wendet sich gegendie ableistische Privilegierung von Intentionalität und Diplomatie in rhetorischen Tra- ditionen und stellt diesen die rhetorischen Fähigkeiten von autistischen Individuen entgegen. Dieser Schritt ermöglicht es, Rhetorik von Grund auf neu zu konzipie- ren, und zwar imGegensatz zu rhetorischen Traditionen, die auf Vorstellungen von Unvollständigkeit undUnzulänglichkeit beruhenunddiese aufrechterhalten. InAu- thoring Autism schreibt Yergeau: Ours are neuroqueer brains whose synapses routinely fire blanks, and something as banal as our pronoun (mis)use supposedly evidences our distinctiveness from all other persons. (2018: 23) Dieser Logik zufolge führt das abweichende Verhalten von Synapsen undNeuronen zu einer anderen Rhetorik, zu einem anderen Verhalten des Individuums, zu einem anderen Verhalten des Systems als Ganzes. Neuroqueerness liefert daher in einem System,dasUser und seinemenschliche Infrastruktur als notwendigerweise kogni- tiv defizitär konstruiert, ein Modell der systemischen, operativen und technischen Intervention. Sobald wir akzeptieren, dass die Politik der Inklusion von Big Tech Element ei- ner Medientheorie ist, die alles und jede*n von uns in Elemente der Infrastruktur von KI verwandelt, wird Queerness zur bevorzugten Subjektposition. KI mit Ver- weis auf eine spezifischmenschliche Intelligenz als defizitär abzuqualifizieren,hilft nämlich nicht unbedingt weiter – schließlich werden damit vor allem Anreize ge- setzt, die ressourcen- uns energieintensive Suche nach post-anthropozentrischer Intelligenz fortzusetzen und gewaltsame Ein- und Ausschlüsse zu reproduzieren. Was hier auf dem Spiel steht, ist ein neues Verständnis von Intelligenz, das we- der mit rassistischen IQ-Tests noch mit einer verschwenderischen Nachahmung menschlicher komparativer Vorteile verbunden ist.Dieses neueVerständnis von In- telligenz wäre ebenso queer wie sozial: Neurons that fire together, wire together – and they fire blanks! 212 Pathologisierung Literaturverzeichnis Apprich, Clemens,WendyHui Kyong Chun, Florian Cramer undHito Steyerl. 2018. Pattern Discrimination. Minneapolis: University of Minnesota Press. Barnett, Fiona, Zach Blas, Micha Cárdenas, Jacob Gaboury, Jessica Marie Johnson undMargaret Rhee. 2016.QueerOS: AUser’sManual. InDebates in theDigitalHu- manities,Hg.MatthewGoldundLaurenKlein, 50–59.Minneapolis:University of Minnesota Press. Barocas, Solon und Andrew D. Selbst. 2016. Big Data’s Disparate Impact. California LawReview 104(3): 671–732. Baron-Cohen, Simon. 1997. Mindblindness: An Essay on Autism and Theory of Mind. Cambridge: MIT Press. Bruder, Johannes, Nelly Yaa Pinkrah und Sarah Sharma. 2022. McLuhan unter Pal- men.Über Orte des Denkens, Sprechens undHandelns.Zeitschrift fürMedienwis- senschaft 14(1): 125–139. Bruder, Johannes. 2017. Infrastructural Intelligence: Contemporary Entanglements between Neuroscience and AI. Progress in Brain Research 233: 101–28. Chun, Wendy Hui Kyong. 2021. Discriminating Data. Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge: MIT Press. Cowan,T.L. und Jaz Rault. 2021.Heavy Processing Part III –Risking IT.Breaking up with Compulsory Dispossessivity. Digital Research Ethics Collaboratory. https://w ww.drecollab.org/risking-it/. Zugegriffen: 8.10.2022. Ecker, C,W Spooren und D GMMurphy. 2013. Translational Approaches to the Bi- ology of Autism: False Dawn or a New Era?Molecular Psychiatry 18(4): 435–442. Egner, Justine E. 2019. The Disability Rights Community was Never Mine. Neuro- queer Disidentification.Gender & Society 33(1): 123–147. El Kaliouby,Rana E.,R. Picard und S.Baron-Cohen. 2006.Affective Computing and Autism. Annals of the New York Academy of Sciences 1093(1): 228–248. Fitzgerald, Des. 2017. Tracing AutismUncertainty, Ambiguity, and the Affective La- bor of Neuroscience. Seattle: University of Washington Press. Ganesh, Maya Indira und Emanuel Moss. 2022. Resistance and refusal to algorith- mic harms. Varieties of ›knowledge projects‹.Media International Australia 183(1): 90–106. Gibson, Margaret F. und Patty Douglas. 2018. Disturbing Behaviours: Ole Ivar Lo- vaas and the Queer History of Autism Science.Catalyst: Feminism,Theory, Techno- science 4(2): 1–28. Hoffmann, Anna Lauren. 2021. Terms of Inclusion: Data, Discourse, Violence.New Media & Society 23(12): 3539–3556. Keeling, Kara. 2014. Queer OS.Cinema Journal 53(2): 152–157. Johannes Bruder: KI als Medium, ›message‹ & die (Un-)Möglichkeit einer queeren Antwort 213 Keyes, Os, Zoë Hitzig und Mwenza Blell. 2021. Truth from the Machine: Artificial Intelligence and the Materialization of Identity. Interdisciplinary Science Reviews 46(1-2): 158–175. Keyes, Os. 2019. »Counting the Countless.« Real Life. https://reallifemag.com/count ing-the-countless/. Zugegriffen: 07.08.2022 Keyes, Os. 2020. Automating Autism: Disability, Discourse, and Artificial Intelli- gence.The Journal of Sociotechnical Critique 1(1): 1–31. Mills, Mara. 2010. Deaf Jam: From Inscription to Reproduction to Information. So- cial Text 28(1): 35–58. Mitchell, David T. und Sharon L. Snyder. 2001. Narrative Prosthesis: Disability and the Dependencies of Discourse. Corporealities. Ann Arbor: University of Michigan Press. Nagy, Jeff. 2021. Care in the »Automatic Environment«. Autism and Data Behaviorism at Mid-Century. Unveröffentlichtes Manuskript eines Vortrags auf der SIGCIS- Konferenz, 23.-25. September 2021. Pinchevski, Amit und JohnDurhamPeters. 2016. Autism andNewMedia: Disability between Technology and Society.NewMedia & Society 18(11): 2507–2523. Sharma, Sarah. 2020. A Manifesto for the Broken Machine. Camera Obscura 35(2): 171–179. Siddarth, Divya, Daron Acemoglu, Danielle Allen, Kate Crawford, James Evans, Michael Jordan und E.GlenWeyl. 2022.How AI Fails Us. Technology &Democracy Discussion Paper. Justice Health, andDemocracy Impact Initiative & Carr Center for Human Rights Policy. https://carrcenter.hks.harvard.edu/files/cchr/files/h owaifailsus.pdf. Zugegriffen: 08.09.2022. Tucker, Emily. 2022. Artifice and Intelligence. Tech Policy Press. https://techpolicy.pr ess/artifice-and-intelligence/. Zugegriffen: 08.06.2022. Wu, Di. 2021. Cripping the History of Computing. IEEE Annals of the History of Com- puting 43(3): 68–72. Yergeau, M. Remi. 2018. Authoring Autism: On Rhetoric and Neurological Queerness. Thought in the Act. Durham: Duke University Press. VI. Narrativ Innovation und Iteration Queere Maschinen und das Spannungsverhältnis zwischen Manifest und Manifestor*in Carsten Junker »They started calling us computers.« Janelle Monáe, Dirty Computer (2018: 00:05- 00:06) 1. Eine Rhetorik der Versprechungen In den letzten Jahren haben Manifeste Konjunktur. Offenbar können Autor*innen in diesemGenre besonders effektiv ihr gesellschaftspolitisches undkulturkritisches Engagement auf die Agenda setzen, drängende Themen eindringlich ansprechen und sich sichtbar in den gegenwärtigen Diskurslandschaften polarisierender Kri- sen verorten.Die jüngst publiziertenManifeste decken ein thematisch breites Spek- trum ab, das von Fragen der Anerkennung von Rechten marginalisierte Gruppen bis hin zu Fragen der Umverteilung materieller Ressourcen reicht (vgl. Fraser 2019: 8, 30). Als Form des aktivistischen Schreibens nehmen Manifeste einen wichtigen Platz in Kämpfen für Gerechtigkeit ein, insbesondere für eine geschlechtergerech- tere Zukunft.1 Einige der jüngst publizierten feministischenundqueerenManifeste befassen sich zudemmit Technologie und künstlicher Intelligenz (KI). So etwa das cybertwee manifesto von Hileman et al. (online 2014), das Manifesto for the Gynecene – Sketch of a New Geological Era von Alexandra Pirici und Raluca Voineas (online 2015), Laboria Cuboniks’XenofeministManifesto: A Politics of Alienation (mehrsprachig online 2015 und als Buch eng. 2018) sowie Legacy Russells Glitch Feminism: AManifesto (on- line 2012, als Buch eng. 2020; dt. 2021). Die Liste ließe sich fortsetzen. Doch schon diese Titel verweisen auf eine Reihe von diskursiven Interventionen–Manifestatio- nen –, die sich auf frühere feministische Manifeste zurückführen lassen. Ein zen- traler Bezugspunkt dabei ist Donna Haraways A Manifesto for Cyborgs von 1985. Die Bedeutung dieses Vorläufermanifests kann nicht hoch genug eingeschätzt werden. 1 ZumManifest als Genre feministischer Intervention vgl. jüngst auch Paul 2022. 218 Narrativ Laut Geschlechterforscherin Breanne Fahs hat Haraways Text das Feld der Gender- Studies entscheidend geprägt, weil er Mensch und Technologie als politisch mit- einander verflochten begreift (vgl. Fahs 2020: 391). Ein kürzlich von Fahs herausge- gebener Sammelband, der den aufrüttelnden Titel Burn it Down! Feminist Manifest- os for the Revolution trägt, enthält eine Rubrik mit Hacker/Cyborg-Manifesten, die mit einem Auszug aus Haraways Manifest beginnt. Fahs sieht Haraways Text am An- fang einer Entwicklung, in der sich Feminismus und Technologie verbinden (vgl. ebd.). Bekanntlich haben gerade cyberfeministische und angrenzende Positionen der feministischen Technowissenschaften und des kritischen Posthumanismus ge- fordert, eine angenommene Unterscheidung zwischen Natur und Kultur/Technik zu überwinden. In den revolutionären Gesten desManifest-Schreibens hat die Ver- knüpfung von Geschlecht und Technologie zu einer diskursiven Entnaturalisierung vermeintlich natürlicher Ordnungen beigetragen. Die eingangs genannten Mani- feste bringen die Forderung nach einer fundamentalen Disruption durch Entnatu- ralisierung zwar auf unterschiedlicheWeise zumAusdruck, teilen aber diese Agen- da. Was in Diskussionen zum Verhältnis von Gender und Technologie allerdings mehr Beachtung benötigt, ist ein Blick auf die Formalisierungsweisen solcher In- terventionen. Gerade für queere und feministische Projekte scheint das Manifest ein geeignetes,wenn nicht gar das geeignete Genre zu sein, um revolutionären For- derungen nach grundlegendem Wandel Ausdruck zu verleihen. Nicht ohne Grund finden sich in Fahs Anthologie wiederholt Begriffe einer politisch engagierten femi- nistischen Rhetorik wie etwa ›Revolution‹ und ›Widerstand‹, die auf Forderungen grundlegender Umbrüche verweisen. Diese Passgenauigkeit von Form und Forderungen liegt in der Geschichte des Genres begründet. JedesManifest, das in den letzten anderthalb Jahrhunderten ge- schrieben wurde, geht zwangsläufig, ob intendiert oder nicht, auch auf das Mani- fest der Kommunistischen Partei (1848) von Karl Marx und Friedrich Engels zurück, das als »Ur-Manifest der Moderne« (Danchev 2011: 1; Übersetzung d. Vf.) gilt. In jedem seitdem veröffentlichtenManifest schwingt das Vermächtnis dieses Vorgängertexts mit. Dessen Aufruf zum revolutionären Umsturz eines Status quo hat das Genre maßgeblich geprägt. Wenn einem Text also das Etikett ›Manifest‹ angeheftet wird, lässt er sich auch auf das Manifest von 1848 zurückführen, das bekanntlich dazu aufruft, radikale Maßnahmen zu ergreifen: »Die Kommunisten […] erklären es of- fen, daß ihre Zwecke nur erreicht werden können durch den gewaltsamenUmsturz aller bisherigen Gesellschaftsordnung. Mögen die herrschenden Klassen vor einer Kommunistischen Revolution zittern« (Marx/Engels 1848: 23). Das Kommunistische Manifest ist Appell; es schöpft sein revolutionäres Potenzial aus, indem es nicht bloß präskriptiv (Welt-zu-Wort), sondern auch deskriptiv (Wort-zu-Welt) handelt und Passagen einer kritischen Analyse dessen liefert, was seine Autoren als Status quo bezeichnen. Daraus ergibt sich die umwälzende rhetorische Kraft des Kommunisti- Carsten Junker: Innovation und Iteration 219 schen Manifests, die jedes Manifest, das in seine Fußstapfen tritt, mit dem Verspre- chen versieht, unerwünschte, potenziell gewalttätige Machtstrukturen hinwegzu- fegen. Janet Lyon, eine namhafte Theoretikerin des Genres, hat hierzu angemerkt, dass ein Manifest zu schreiben bedeute, an einer Geschichte teilzuhaben, die dem Kampf gegen unterdrückerische Kräfte verpflichtet sei (vgl. Lyon 1999: 10). Sara Ah- med (vgl. 2017: 252f.) hat darauf hingewiesen, dass hegemoniekritische Manifeste, die strukturelle Gewaltverhältnisse aufdecken und anprangern, bisweilen selbst auf eine gewalttätige Rhetorik zurückgreifen müssen. Haraway bedient sich mit ihrer Vorstellung eines utopischen Traums von der Hoffnung auf eine monströse, geschlechterlose Welt (vgl. Haraway 1985: 100) aller- dings einer entschieden weniger kriegerischen Rhetorik als derjenigen, die Marx und Engels zur Formulierung ihrer Forderungen nutzten.Nichtsdestotrotzwurden Verbindungslinien zwischen beiden Manifesten gezogen, denn sie teilen den Blick in eine noch fiktive Zukunft (vgl. Weeks 2013: 217). Zu den entscheidenden Errun- genschaften von Haraways Manifest gehört die Eröffnung neuer Perspektiven dar- auf, wie Technologie der Befreiung aus sozialen Zwängen dienen könnte. Die neue- ren feministischen und queerenManifeste folgen der Spur, die Haraways bahnbre- chenderTextgelegthat, indemsie selbst technologischePotenzialeundVersprechen für die Zukunft identifizieren. Die Manifeste, die im Folgenden näher betrachten werden, zeigen genau diese Möglichkeiten auf, indem sie technologische Innovationen mit einem Status quo kontrastieren, den sie für verheerend halten. Ihre Autor*innen, die ich hier als Manifestor*innen bezeichne, nutzen dabei eine Rhetorik der Versprechung, die in technologischen Möglichkeiten gesehen werden. Das Versprechen nämlich, herr- schende Machtverhältnisse in Frage zu stellen und zu überwinden. Mein Interesse gilt dabei einemWiderspruch, der imGebrauch desManifests selbst zu beobachten ist: Während Manifestor*innen die Form nutzen, um Neues zu postulieren und zu Umbrüchen aufzurufen – und damit das Genre formal und inhaltlich jeweils ak- tualisieren –, wird das kritische Potenzial des Manifests selbst durch seine häufige Verwendung in einer in jüngster Zeit deutlich zu beobachtenden Konjunktur des Genres unterminiert. Kurz gesagt: Die wiederholte Mobilisierung des Manifests untergräbt seine Wirkung. Seine offensichtliche Kommerzialisierung auf einem Buchmarkt, der das Genre kommodifiziert, konterkariert die explosive Kraft der einzelnen Manifeste. Die wiederholte Verwendung der Form unterläuft die quee- ren und feministischen Versprechungen, die ihre Autor*innen durch das Genre formalisieren.2 2 Mit ihrer widersprüchlichen Dynamik von Innovation und Iteration sind Manifeste auch ein Untersuchungsgegenstand der Contradiction-Studies (vgl. Junker/Warnke 2016; Lossau/ Schmidt-Brücken/Warnke 2019). 220 Narrativ 1.1. Innovative Formen und Inhalte cybertwee manifesto Das formal spielerische cybertwee manifesto bietet einen kreativen Umgang mit dem Manifest als Form. Das Manifest wurde vom Kunstkollektiv cybertwee verfasst, das 2014 von Gabriella Hileman, Violet Forest und May Waver mitbegründet wurde. Es ist in Fahs’ Sammelband feministischerManifeste enthalten,kann aber auch auf der animiertenWebseite cybertwee.net eingesehenwerden,derenHintergrundzwischen apricot bis pink wechselt. Das Manifest wird auf derWebsite in drei verschiedenen Formen präsentiert: (a) als GIF, das ein weißes Blatt Papier mit zwanzig Zeilen ro- safarbenem,mit einer Schreibmaschine getippten Text vor einemHintergrund aus Silberfolie zeigt, dazu blinken kleine verstreute Herzen in wechselnden Farben auf, (b) als Text in violetter Schrift, der von drei Herzsymbolen eingerahmt wird, und (c) als eingebettetes Video, welches das cybertwee-Kollektiv sitzend und liegend beim Vorlesen des Texts zeigt. Das Szenario – ›puppy pile‹ – erinnert an eine Übernach- tungsparty für Jugendliche. ImVerschmelzen analoger unddigitalerKommunikati- onstechnologien wird eine Teenager-Welt voller Poesiebuch-Zuneigungen herauf- beschworen.Die Farbkodierung dermultimodalen Präsentation entspricht dem In- halt desManifests: Sein Lobdes »SüßenundZarten«,des »Romantischen«, »Weibli- chen«und»Niedlichen« sowiederStärkeder »Sentimentalität,EmpathieundNach- giebigkeit« wird mit einem implizit männlichen »Mangel an Emotion« und »der Fähigkeit, mechanisch und effizient zu sein«, kontrastiert (Hileman/Forest/Waver 2014: 397; Übersetzung d. Vf.). Das Manifest preist »Singularität« und identifiziert seine Manifestor*innen als »Solipsist*innen«, die eine Welt der Herzen, Blumen, Bienen und Schmetterlinge bewohnen – ein Land, das mit nahrhaftem Nektar und Süßigkeiten gesättigt ist (ebd.). Genau hier tritt auch die digitale Technologie auf den Plan: Süßigkeiten und Nektar werden zu metaphorischen Vehikeln für Emojis und Selfies, zu Zeichen und Instrumenten sozialer Medientechnologien, die Sub- jekte in einen riesigen virtuellen Raum hinein ausdehnen, von wo aus sie wieder in ihr Selbst zurückfließen.Der »Körper als die ursprüngliche Prothese, um in diesem Universum zu agieren«, könne mit den Möglichkeiten der digitalen Kommunikati- on »Grenzen der Körperlichkeit« überwinden – und damit auch Dichotomien von Körper undGeist,Natur undKultur sowieMensch undMaschine (ebd.).Diese spie- lerischeund liebevolleAgendabejaht einedigitalisierteWelt undwill jeglichenTech- nopessimismusmit Niedlichkeit besiegen – eine Agenda, die letztlich eineNivellie- rung Gender-codierter und rassifizierter Machthierarchien impliziert und faktisch ein universalisierbares Subjekt installiert, das nicht zuletzt auch im Cyberfeminis- mus normativ als cis-geschlechtlich, heterosexuell, körperlich leistungsfähig und weiß konzipiert wurde. Carsten Junker: Innovation und Iteration 221 Manifesto for the Gynecene – Sketch of a New Geological Era DasManifesto for the Gynecene – Sketch of aNewGeological Era der in Rumänien gebore- nen Künstlerin Alexandra Pirici und der Kuratorin Raluca Voinea gibt »demWeib- lichen« (2015; Übersetzung d. Vf.) sowie der Technologie eine andere Bedeutung als das cybertwee-Kollektiv: DasManifest von Pirici undVoinea, das ebenfalls im Inter- net zu finden ist (und in Kunstausstellungen gezeigt und in verschiedenenMagazi- nen und Anthologien veröffentlicht wurde), klingt wie eine ökokritische Interventi- on, greift thematisch aber viel weiter aus.Unter Verwendung desNeologismus »Gy- näzän« als Gegenkonzept zum Anthropozän und seinem »brutalen Anthropozen- trismus« glaubendieAutor*innen,»dass dasGynäzändasTor zu einemwahrenplu- ralistischen und erweiterten Humanismus sein kann, der mit maschinellen Wün- schen vereinbar ist« (Pirici/Voinea 2015; Übersetzung d.Vf.).Wenn die Autor*innen für Werte wie ›Güte‹, ›Fürsorge‹ und ›emanzipatorische Erkundung‹ plädieren, die sie zwar für weiblich codiert halten, entwerfen sie aber über eineWelt jenseits Gen- der-codierter Beschränkungen hinaus auch eine Zukunftsvision, die Trennungen zwischen Erde, Tier,Mensch undMaschine überwindenmöchte: »DasWeibliche ist die ersteEtappeaufdemWegzueinemtransgressivenHumanismus« (Pirici/Voinea 2015;Übersetzungd.Vf.). IndiesemSzenario einerneuenÄrableibendie techno-fe- ministischen Dimensionen der Vision von einer auf Gleichheit bedachtenWelt, die sichmit Technologie wohlfühlt und durch ihre Anwendungen emanzipiert ist, rela- tiv abstrakt. Pirici und Voinea setzen auf Versprechungen, die mit technologischer Innovation (undwomöglich auchKI) verbunden sind. In einer Anspielung aufHara- way verweisen sie zwar konkret auf »die akzeptierte und enttabuisierteMöglichkeit technologischer Transformationen des menschlichen Körpers hin zu hybriden For- men wie dem Cyborg« (Pirici/Voinea 2015; Übersetzung d. Vf.). Aber in ihrem breit angelegten Aufruf zu einer »radikalen Veränderung der Politik und des sozioökono- mischen Weltsystems« bezeichnen sie Technologie doch vage als ein »Kulturgut«, das »zusammenmit dem Rest der Kultur […] öffentlich, frei und kostenlos zugäng- lich gemacht werden muss, um der Emanzipation der Menschheit zu dienen, ohne alles andere um sie herum zu zerstören« (Pirici/Voinea 2015; Übersetzung d. Vf.). In Passagen, in denen die Autor*innen nicht unbescheiden »eine zukünftige Ökologie für die planetarische Gesamtheit« (Pirici/Voinea 2015; Übersetzung d. Vf.) entwerfen, schrecken sie vor einem umfassenden Zukunftsentwurf nicht zurück. Dies mag zunächst als erwartbare Genrekonvention von Manifesten erscheinen. Was jedoch innovativ wirkt, die ungehemmte Vorstellungskraft von einer kom- menden Welt, greift paradoxerweise auf Vorstellungen des Universalismus der Aufklärung zurück. In dieser Welt können einzelne Subjekte, verschiedene parti- kulare Gruppen und politische Bewegungen ihre divergierenden Ziele überwinden und disparate Kämpfe auf gemeinsamer Basis in geselliger Koexistenz austragen: 222 Narrativ In order to achieve a truly pluralistic society where possibilities can be enacted, we support the universalism of basic human rights as a common ground for a broa- der, inter-species and inter-objective politics of inclusion and true respect for dif- ference. (Pirici/Voinea 2015) Das Manifest schließt mit der Forderung, dass »die Schönheit der Welt von einer neuen Schönheit bereichert werden muss: der Schönheit der Liebenswürdigkeit« (Pirici/Voinea 2015; Übersetzungd.Vf.).DieseGüte ist umfassender als die Liebens- würdigkeit des cybertwee-Kollektivs. Pirici und Voinea, die jeglicher Antagonismen überdrüssig scheinen, geben sich zuversichtlich, dass ein abstraktes Miteinander die Voraussetzung dafür ist, »ein Gefühl der Einheit über unsere scheinbar unver- einbaren Geschichten hinweg hervorzurufen« (Pirici/Voinea 2015; Übersetzung d. Vf.).Während einige Leser*innen des Manifests dies als naive, wenn nicht gar pro- blematische Wiederaufnahme eurozentrischer aufklärerischer Konzepte betrach- ten könnten, die aus feministischen, dekolonialen und antirassistischen Perspek- tiven kritisch als parteiisch und unterdrückerisch eingestuft worden sind, mögen andere dies als erfrischend kühne und notwendige emanzipatorische, techno-fe- ministische Neuformulierung von Idealen der Gleichheit und Freiheit begrüßen. The Xenofeminist Manifesto: A Politics of Alienation Im Gegensatz zu Pirici und Voinea, die sich auf eine Vorstellung von Natur ein- schließlich ihrer sozial-ökologischen und technologischen Dimensionen beziehen, auch wenn sie eine Rückkehr zu »einer Art Naturzustand, den es im Grunde nie wirklich gab« (Kunsthall Trondheim 2017: 27:28-27:34; Übersetzung d. Vf.) kritisch sehen, lehnen Laboria Cuboniks in The Xenofeminist Manifesto jeglichen Fingerzeig in Richtung Natur vollständig ab. Auf diese Weise weist das xenofeministische Au- tor*innenkollektiv jedeRechtfertigung zurück,die auf der Annahme einer unverän- derlichen Gesellschaftsordnung fußt: To tilt the fulcrum [between norm and fact, between freedom and compulsion] in the direction of nature is a defensive concession at best, and a retreat from what makes trans and queer politics more than just a lobby: that it is an arduous assertion of freedom against an order that seemed immutable. (Laboria Cuboniks 2018: 45) Die sechs Autor*innen des Xenofeminist Manifesto, das 2015 erstmals online ver- öffentlicht wurde, sprechen stattdessen mit Nachdruck aus der Position einer Gegenwart, in der »Abstraktion, Virtualität und Komplexität […] untrennbar in unsere täglichen Leben verwickelt [sind]« (Laboria Cuboniks 2015b). Der Xenofe- minismus (abgekürzt XF) »begreift […] die Entfremdung als erzeugenden Anstoß« (ebd.), um neue Welten zu erschaffen. Der Neologismus, der dem Manifest seinen Namen gibt, unterstreicht auch, dass die Autor*innen Altes überwinden wollen Carsten Junker: Innovation und Iteration 223 und Neues fordern. Sie begreifen Entfremdung als Mittel der Denaturalisierung und Überwindung ungerechter gesellschaftlicher Verhältnisse – als Mittel der Infragestellung dessen, was als vermeintlich stabil legitimiert worden sei. Wie die Autor*innen des Manifesto for the Gynecene sprechen auch sie für unter- schiedliche Subjektpositionen und Gruppen: Die Queers und die Trans*-Menschen unter uns, sowie jene, die aufgrund von Schwangerschaft oder Pflichten in Verbindung mit dem Großziehen von Kindern diskriminiert worden sind, (von der Gesellschaft) behinderte Menschen und alle, die angesichts der herrschenden biologischen Normen für ›unnatürlich‹ gehalten werden. (ebd.) Wie der Text von Pirici und Voinea bringt also auch das Xenofeminist Manifesto ein breites Spektrum konvergierender Perspektiven und Positionen in den Blick, in- dem es unterschiedliche, in sich diverse Gruppen zueinander in Beziehung setzt und sie als Adressat*innen undAkteur*innen des Xenofeminismus zentriert: »Dass die technowissenschaftliche Innovation durch ein andauerndes Programmder kol- lektiven, epistemologischen und politischen Entwicklung bedingt seinmuss, in der Frauen,queereMenschenunddieGeschlechtsunkonformen eine unersetzlicheRol- le spielen, erklärenwir zur grundlegendenNotwendigkeit« (ebd.). In diesem eman- zipatorischen Projekt wird der rationalenWissenschaft und Technologie das Poten- zial zugeschrieben, »eine Gesellschaft zu erschaffen, in der Eigenschaften, die der- zeit unter der Rubrik Geschlecht versammelt werden, nicht länger als Raster für die asymmetrischeWirkweise vonMachtdienen« (ebd.).ZurAufgabedesXenofeminis- mus heißt es in der englischen Version: [T]he ultimate task lies in engineering technologies to combat unequal access to reproductive and pharmacological tools, environmental cataclysm, economic instability, as well as dangerous forms of unpaid/underpaid labour. (Laboria Cu- boniks 2018: 19) Wie Pirici und Voinea vertritt auch das xenofeministische Kollektiv universalisti- sche Ansprüche, indem es einen Feminismus »von nie da gewesener Gerissenheit, Dimension und Vision« fordert: »Wir wünschen uns eine Zukunft, in der die Ver- wirklichung von Geschlechtergerechtigkeit und feministischer Emanzipation ein universeller Zustand ist, der sich aus den Bedürfnissen aller Menschen zusammen- fügt, unabhängig von Rassifizierung, Befähigung, ökonomischem Stand oder geo- graphischem Ort« (Laboria Cuboniks 2015b). Dieser universelle Anspruch auf eine emanzipatorische Politik des Sozialen gilt auch für die formulierten Ziele der Tech- nowissenschaften: »In unserer Öffnung zur Freiheit, unserer Erweiterung unseres Geschlechts und desMenschlichen, habenwir entschieden, unser Schicksal mit der TechnoWissenschaft zu teilen, für die nichts so heilig ist, dass es nicht technisch umgestaltet und verändert werden könnte« (ebd.).Wohl wissend, dass es Einwände 224 Narrativ gegen den universalistischen Anspruch ihres Projekts geben kann, nehmen dieMa- nifestor*innenKritik an ihrerweitreichendenPolitik vorweg, indemsie denUniver- salismus zugleich partikularisieren: »Diese nicht absolute, generische Universalität muss sich der vereinfachten Tendenz verwehren, mit aufgeblähten, unmarkierten Spezifika zu verschmelzen – wie im eurozentrischen Universalismus [–], in denen das Männliche als geschlechtslos missverstanden wird,Weißsein als unrassifiziert, Cis-Geschlechtlichkeit als echt« (ebd.). Stattdessen fordern sie eine fundamenta- le »Neugestaltung des Universellen […] als intersektional«, um das Universelle so »zu handhaben, […] dass es einmöglichst griffbereitesWerkzeug für viele politische Körperwerden kann«; an anderer Stelle »eine Bündnispolitik ohne die Infektion der Reinheit« (ebd.). Wie das xenofeministische Kollektiv betont, können partielle Perspektiven und isolierte Kämpfe nicht angemessen auf globaleMachtgefälle antworten, diemit all- gegenwärtigen Technologien und kapitalistischenÖkonomien verbunden sind. An- stelle »von zwar bewundernswerten, jedoch nicht ausreichenden Kämpfen, die an lokal begrenzte und vereinzelte Aufstände gebunden sind«, fordern die Autor*in- nen »systemisches Denken und strukturelle Analyse«; es geht ihnen um nichts we- niger als darum, »die Welt anders zu kalibrieren« (ebd.). Die Aufgabe, soziale Un- gerechtigkeiten zu überwinden, die durch den Zugriff eines ungezügelten Kapita- lismus verursacht würden, zieht die Forderung nach einer Neukodierungmännlich geprägter Technologie nach sich. Entsprechend »drängen [sie] Feminist_innen da- zu, sich selbst mit den Fähigkeiten auszustatten, bestehende Technologien umzu- nutzen und neuartige kognitive und materielle Werkzeuge im Dienste gemeinsa- mer Ziele zu erfinden« (ebd.). Diese Forderung nach Umnutzung ist das Stichwort für zwei in diesem Zusam- menhang besonders interessante Abschnitte (0x0C und 0x13) desXenofeministMani- festo. Darin bekräftigen die Autor*innen, was man als queere Potenziale des so ge- nannten ›Cyberspace‹ der 1990er-Jahre bezeichnen könnte.Während sie gegenwär- tigenNutzungsweisen von SocialMedia kritisch gegenüberstehen, erkennen sie an, dass in den 1990er-Jahren Internetnutzer*innen noch flexibel mit zugeschriebenen Kategorien sozialer Identifizierung und Positionierung experimentierten oder sie auch ablehnten. Das Internet habe damals versprochen, »den Verengungen essen- tialistischer Identitätskategorienzuentkommen«,»sichden repressivenGeschlech- terregimes zu widersetzen, Solidarität zwischen marginalisierten Gruppen zu er- zeugen und neue Räume des Experimentierens zu erschaffen« (ebd.). Gegen frü- he Praktiken im Cyberspace ließe sich zwar einwenden, so die xenofeministischen Autor*innen, dass sie eskapistische Experimente zu Ungunsten einer beharrlichen Kritik struktureller Ungleichheiten ermöglichten. Dagegen verfestigten zeitgenös- sischeMedienpraktiken allerdings gültige Grenzziehungen von Identitäten; gegen- wärtige sozialeMedien seien »einTheater der Kniefälle vor der Identität geworden« (ebd.). Dies führen die Manifestor*innen auf die zunehmende Bedeutung von Vi- Carsten Junker: Innovation und Iteration 225 sualität in Online-Kulturen zurück: »Die Dominanz des Visuellen in heutigen On- line-Oberflächen enthält Räume der Interaktion, doch das bedeutet nicht, dass cy- berfeministische Empfindsamkeiten der Vergangenheit angehören« sollten, Sub- version sei weiterhin möglich und nötig (ebd.). Trotz der ernüchternden Diagno- se dieser Entwicklung bleiben die Autor*innen optimistisch hinsichtlich der Mög- lichkeiten,die Internetplattformenböten;Schlüsselwörter sind»Verbindungen,Or- ganisierung und Kompetenzbündelung«: »Die Aufgabe der kollektiven Selbstmeis- terung erfordert die realitäts-wirksame [hyperstitional] Manipulierung der begeh- rensgeleiteten, marionettenhaften Herstellung von Realität durch die Nutzung se- miotischer Operatoren im gesamten Bereich der hochvernetzten kulturellen Sys- teme« (ebd.). Im visuellen Feld geht es dabei vor allem um Rekalibrierungen und Manipulationen von »kulturellen und memetischen Mutationen« (ebd.). Hier stellt sich durchaus die Frage, ob visuelle Neukodierungen des Manifests als Instrument der kritischen Intervention ein Beispiel für eine solche Umgestaltung semiotischer Operatoren wäre – so wie das cybertwee manifesto das Manifest als Form feministi- scher Artikulation symbolisch neu kalibriert. Die Vorliebe für formale Innovation und Fantasie ist auch dem Xenofeminist Manifesto sowohl in der gedruckten als auch in der Online-Version anzusehen. Es mag zwar nicht überraschen, dass Online-Plattformen feministische Aneig- nungsmöglichkeiten zur kritischen InterventionundpolitischenMobilisierung ver- sprechen, aber was einfallsreich amXenofeministManifesto ist, ist die Art undWeise, wie es sich auf die Infrastruktur von Computertechnologie bezieht, um feministi- sche Theoriebildung und Aktivismus zusammen zu denken. Dabei kommt auch KI ins Spiel, insbesondere wenn die Manifestor*innen darauf verweisen, dass Open- Source-Software im Dienst der KI eingesetzt wird. So könne Xenofeminismus, wie Open-Source-Software im Dienst der KI, zur feministischen Emanzipation beitra- gen, indem er auf verschiedene dringende feministische Forderungen reagiere und sich an sie anpasse: »Xenofeminismus will eine veränderliche Architektur sein, die – wie Open-Source-Software – für fortwährende Modifizierung und Verbesserung offen bleibt, die dem steuernden Impuls einer militanten ethischen Vernunft folgt« (ebd.). Das Potenzial dieses Grundsatzes – und ich meine, es lässt sich als queeres Po- tenzial bezeichnen– liegt in derVerbindung vonmateriellen undnicht-materiellen, infrastrukturellen und diskursiven Sphären. Innovativ hierbei ist, dass die Verfas- ser*innen abstrakte Funktionsweisen von KI und spezifische Aufgaben politischen Handelns, einschließlich queerer und feministischer Theoriebildung, im Tandem denken. Mit Open-Source-Software als Metapher binden sie KI selbst in den Be- reich emanzipatorischer Theorie und Politik ein. So rufen die Verfasser*innen aus: »Wir sollten nicht zögern, von unseren Feinden zu lernen, undWege zu suchen, in die Geometrie der von diesen Plattformen gewährten Freiheiten Ordnung zu säen – aber eine gleichberechtigte und gerechte Ordnung« (ebd.). 226 Narrativ Entsprechend beziehenXenofeminist*innenKI auf ihre Ziele.Die Behauptung, »dass es nichts gibt, das nicht naturwissenschaftlich erforscht und technologisch verändert werden kann«, wollen sie mit einer »Politik der aktiven biotechnischen und hormonellen Interventionen« verbinden, einschließlich des Zugangs zu Repro- duktionstechnologiendurch »telemedizinische[…]Grassroot-Abtreibungskliniken« und »frei zugängliche undoffen gestalteteMedizin« für die »Verteilung vonHormo- nen« auf »geschlechter-hacktivistischen Foren« – ein Verweis auf Paul B. Preciados Testo Junkie ist hier offensichtlich, wird aber von den Autor*innen nicht näher expli- ziert (ebd.).Wie sichderAustauschvonhochspezialisiertemmedizinischemWissen auf Internetforen tatsächlich körperlich auswirken kann,wie die Grenzen zwischen digitaler und physischer Sphäre überwundenwerden können, bleibt angesichts der »unausgereiftenVersprechen«,die dieVerfasser*innenvor sich liegen sehen, jedoch offen (ebd.). Glitch Feminism: A Manifesto Das vierte hier relevante Manifest, Glitch Feminism: A Manifesto, basiert auf der An- nahme, dass maschinelle Fehler – wenn Maschinen nicht funktionieren – ein Be- wusstsein für dieGrenzen zwischenphysischer unddigitalerWelt schaffenunddie- se verwischen. Die digitale Störung dient hier als Metapher einer queeren und fe- ministischen Kritik. Als plötzliche und in der Regel vorübergehende Fehlfunktion einer Maschine schärft Glitch (von jiddisch ›gletshn‹ für ›rutschen, gleiten, ausrut- schen‹ und deutsch ›glitschen‹ für ›ausrutschen‹) das Bewusstsein für den Raum zwischen dem Digitalen und dem Physischen (Russell 2021: 33). Im Glitchen zeigt sich ein Potenzial des Scheiterns, das auch für nicht-normative Formen der Ver- körperung, die in kein vorgegebenes Geschlechtersystempassen, relevant ist. Tech- nische Pannen erlangen metaphorische Bedeutung. Sie können unterdrückerische Hierarchien entlarven, die durch binäre Unterscheidungenwiemännlich|weiblich, weiß|Schwarz, heterosexuell|queer, behindert|nicht-behindert und cis|trans her- vorgerufen werden. Der Glitch-Feminismus steht für dieWeigerung, solche Unter- scheidungen zu akzeptieren: Within glitch feminism, glitch is celebrated as a vehicle of refusal, a strategy of nonperformance. The glitch aims to make abstract again that which has been for- ced into an uncomfortable and ill-defined material: the body. (Russell 2020: 8) Es geht Russell im – und mit dem – Manifest also um eine radikale Entmateriali- sierung des Körpers, um die Betonung, Kritik und Überwindung sozialer Auswir- kungen auf Körper, die kulturell entlang eines binären Codes konstruiert werden (nicht unähnlich dem des computergestützten Zwei-Symbol-Codierungssystems). Wie konzeptualisiert Russell die Praxis einer solchenEntmaterialisierung? »Umuns zu entmaterialisieren–undwieder abstrakt zuwerden–unddenEinschränkungen des Körpers zu entfliehen,müssen wir anderen Realitäten Platz verschaffen« (2021: Carsten Junker: Innovation und Iteration 227 42). Das sind Realitäten, die Russell weder in einer Online- noch in einer Offline- Welt angesiedelt sieht – letztere nennt sie ›AFK‹, d.h. »[a]way from the keyboard« (2020: 5) –, sondern in einerWelt,die eineOnline-Offline-Unterscheidunggarnicht erst kennt.DieGrundannahme ist dabei, dass es keine körperliche Existenz jenseits von Maschinen gibt, weil »die Maschine Material ist, mit dem wir unsere körperli- chen Erfahrungen verarbeiten.Womit im eigentlichen Sinne Körper, die durch den digitalen Raum surfen, sowohl errechnete als auch aus Fleisch sind« (Russell 2021: 64).Die Verortung solcher »geglitchtenKörper« (ebd.: 81) in einer Zwischen-Online- Offline-Sphäre erlaubt es ihnen, »sich einer normativen Programmierung« zu wi- dersetzen (ebd.: 79). Sie können sich fortwährend neu erfinden. Das Glitchen er- zeugt »Einrisse zwischen demWiedererkannten, verstärkt sich an diesen Rissen und dehnt sie zu fantastischen Möglichkeitsszenarien aus« (ebd.: 32; H.i.O.). Dazu ge- hört, »sich innerhalb des digitalen Materials und des elektrischen black mirror, der es überträgt, wiederzuerkennen« (ebd.: 31; H.i.O.). Glitch-Körper können sich her- kömmlich intelligiblen Subjektivitäten verweigern und neue schmieden auf einem »geweihtenGrund,wo unsere digitalen Avatare und AFK-Selbste sich in einem ewi- genKuss aufheben« (ebd.: 31f.).Daraus folgt einVersprechen: »Es ist einebefreiende Aufgabe, das digitale Imaginäre als Gelegenheit, Baustelle und Baustoff zu benut- zen. So ermächtigen wir uns« (ebd.: 32). An anderer Stelle wird der Ton des Mani- fests noch eindringlicher: »Den ›Code‹ von Gender zu hacken [McKenzieWarksHa- cker Manifesto klingt hier an; vgl. auch The Xenofeminist Manifesto], Binaritäten zum Verschwimmen zu bringen, das ist unser oberstes Ziel, als revolutionärer Katalysa- tor« (ebd.: 30). Dringend geboten sei, »das Scheitern als generative Kraft hochleben zu lassen, eine neue Art, dieWelt in Angriff zu nehmen« (ebd.: 34). Wenn sich Glitch-Körper einer binären Geschlechterordnung verweigern, so entsagen sie auch einer reduktionistischen Zurichtung von Körpern einzig durch Geschlechter-Binaritäten. Das Manifest setzt sich für People of Color und trans Menschen ein und spricht für sie, für »unsere multiplen und vielfältigen Selbste« (ebd.: 39). Es partikularisiert die universalisierte Subjektposition des weißen Cy- berfeminismus und universalisiert zugleich die Position komplex markierter Subjekte und Körper. Mit Verweis auf die Kritik Schwarzer Feministinnen am weißen Feminismus Mitte des 19. Jahrhunderts und auf Queer of Color-Kritik am intersektionalen Schwarzen Feminismus fordert der Glitch-Feminismus »zur An- erkennung vonMenschlichkeit auf, und zu einer Zukunft, die Körper feiert: Körper of Color; Körper, die sich als femme identifizieren; Körper, die sich das Dazwischen und Darüberhinaus zu eigenmachen – all das ist aktiverWiderstand, strategisches Verwischen von Binarität« (ebd.). Damit befindet sich der Text an der Schnittstelle einer weiteren Unterscheidung, nämlich der zwischen politischem Aktivismus und antikategorialer Epistemologie. Es wäre noch angemessener zu sagen, dass der Glitch-Feminismus auch diese Unterscheidung zu überwinden versucht. 228 Narrativ Den Anspruch des Glitch-Feminismus auf Neuheit, seine disruptive Haltung, verortet Russell primär in künstlerischen Handlungen. Das Dazwischen, das ›glit- ched bodies‹ bewohnen, wird zum idealen Ort für digitale künstlerische Praktiken, und diese Praktiken werden wiederum zu idealen Orten des Glitschens: The passage of glitched bodies between the Internet underground and an AFK arena activates the production of new visual culture, a sort of bionic patois flu- ent to the digital native. Suspended between on- and offline, eternally traversing this loop, digital natives steeped in a reality shaped by the New Aesthetic remain devoid of a homeland. (Russell 2020: 45) Diese Nicht-Fixiertheit, diese »Digitale Diaspora« (Russell 2021: 47) birgt ein Poten- zial, das es auszunutzen gelte. Denn Russell geht davon aus, dass »Körper in dieser Ära visueller Kultur keinen Bestimmungsort haben, sondern vielmehr eine verteilte Lebensart annehmen, indemsie flüssig viele Seinsweisen bewohnenund vieleOrte« (ebd.: 47).Wo Laboria Cuboniks in der Visualität von Online-Kulturen Gefahren für die Festschreibung von Identitäten wittern, sieht Russell in den visuellen Möglich- keiten sozialer Medien revolutionäres Potenzial. Rhetorisch ist derGlitch-Feminismus religiös geprägt: Er appelliert an die »kos- mische Reichweite, in der persönliche wie kollektive Dispersion in Richtung endlo- ser Ausdehnung zu einer freiwilligenAbstraktionwird« (ebd.: 47f.).Diese räumliche Streuung imGleiten zwischen demPhysischen und demDigitalen hat eine zeitliche Dimension des »Werdens« (ebd.: 65; H.i.O.): In becoming, we shapeshift, deepen, evolve, as we leave the edifice of a gendered architecture. Thus, our movement – our ability to ghost on the idea of the body, moving away from it – is a key component of becoming. (Russell 2020: 68) In diesemProzess verstehtRussell Geschlecht selbstmetaphorisch als »Architektur« (2021: 65), »Algorithmus« oder »Maschine« (ebd.: 106). Es geht darum,die Sackgasse einer vergeschlechtlichten Architektur zu verlassen, den vergeschlechtlichten Algo- rithmus versagen zu sehen und Glitch als einen Virus zu begreifen, der normati- veMaschinerien zum Scheitern bringt: »Glitch-als-Virus zeigt uns ein scharfes Bild vonZerfall, eineNicht-Performanz,die uns indieRichtung eineswildenUnbekann- ten führt. Hier gehen wir auf« (ebd.: 106). Russell bezieht sich hier implizit auf Jack Halberstams Arbeit zu Queerness als Wildheit. Auch wenn die zahlreichen Künstler*innen und künstlerischen Positionen, mit denen Russell sich auseinandersetzt, hier nicht näher vorgestellt werden: Kunst ist die entscheidende Referenz des Manifests. Es ist entsprechend ein gesellschafts- politisches und kulturtheoretisches ebenso wie ein künstlerisches Manifest, wenn solche Unterscheidungen überhaupt getroffenwerden können und sollten.DieNew YorkTimeskürte es zu einemder ›Best Art Books of 2020‹ und begründete dieseWahl wie folgt: Carsten Junker: Innovation und Iteration 229 Grounded in theory (from [É]douard Glissant to Donna Haraway) but a fast, per- cussive read, her text is also a guide to the growing field of art practices – notably driven by Black and queer creators – that dissolve the boundary between ›inter- net art‹ and physical performance, activism and community-building. (Smith et al. 2020) Wie im cybertweemanifesto und dem XenofeministManifestofindet auch inGlitch Femi- nism:AManifestoder innovative Inhalt seinen formalen Ausdruck in einemkreativen Layout, das die textbasierten Formalisierungen vielerManifeste überwindet und vi- suell übersteigert.Die revolutionäreRhetorik, in der die Befreiungsversprechender Manifeste auf unterschiedliche Weise artikuliert werden, findet so eine Entspre- chung in den visuellen Darstellungsweisen queerer Technologie in den Büchern. Durch die Verknüpfung von geschriebenem Text mit verschiedenen Abbildungen visuell-künstlerischer Bilder, die eine Befreiung von der Unterdrückung durch Bi- narismen versprechen, setzt insbesondere Russells Buch seinen dekonstruktiven, queeren Anspruch konzeptioneller Innovation auch visuell um. 1.2. Kritische Ansprüche Welche Ansprüche an Kritik erheben diese Manifeste und inwiefern kann der Be- griff queer hier zu einer Einordnung beitragen? Ausgehend von der Bedeutung von queer, die Siobhan B. Somerville diskutiert, können wir zwischen zwei Konzeptua- lisierungen unterscheiden, die in verschiedene,wenn nicht widersprüchliche Rich- tungen weisen: In one use of the word, queer works as an umbrella term for a range of sexual and gender identities that are not ›straight,‹ or at least not normative. In a second sense, queer functions more as a verb than a noun, signaling a critical stance […] that is […] more interested in understanding the production of normativity and its queer companion, nonnormativity, than in delineating any particular population. (Somerville 2020: 2) Das cybertwee manifesto kann als queer im Sinne von Somervilles erster Bedeutung betrachtet werden, da es eine feminisierteWelt der Süße heraufbeschwört,mit der sich dieManifestor*innen, die dieseWelt bewohnen,und das Publikum,dem sie ei- ne verlockende Fluchtmöglichkeit bietet, identifizieren können. Indemes dazu ein- lädt, sichmit demweiblichen cybertwee-Code zu identifizieren, kann dasManifest in der Tat als homosozial feminin, vielleicht sogar als queer angesehen werden. In- dem es jedoch auf eine implizite binäre Codierung von männlich und weiblich zu- rückgreift, erzeugt es seine eigene Normativität. Oder deutet der spielerische Ton des Manifests vielmehr auf eine augenzwinkernde, skeptische Entlarvung Gender- codierterNormativität hin,die es selbst hervorruft? Lisa Yaszekhat kürzlichdas kri- 230 Narrativ tische Potenzial der Projekte des cybertwee-Kollektivs hervorgehoben, insbesonde- re des DarkWeb Bake Sale aus dem Jahr 2015, which aimed to domesticate the dark web – a space notorious for both cybercrime and rampant racism and sexism – by providing volunteers with $15 of bitcoin and instructions on how to spend it on cupcakes the collective sold online. (Yaszek 2020: 39) Die Mitglieder des Künstlerkollektivs »schlagen also vor, dass Frauen und andere marginalisierte Menschen das Internet zurückerobern könnten, indem sie Takti- ken anwenden, die historisch als ›süß‹ oder ›femme‹ abgewertet wurden« (Yaszek 2020: 39; Übersetzung d. Vf.). Sie feiern das, was die Autor*innen von Laboria Cu- boniks auch als »einen Feminismus, der sichmit Computern wohlfühlt« (2015b) be- zeichnen. In vergleichbarer Weise skizzieren Pirici und Voinea eine ideale, nicht- normative queere Zukunft, wenn sie für eine Bewegung in Richtung eines »weibli- chen Prinzips« plädieren, das ausgerichtet ist »auf Konstruktion, Pflege und eman- zipatorische Erkundung statt auf Zerstörung« (2015; Übersetzung d. Vf.). Die explizit normativitätskritische, zweite Bedeutung von queer, die auf eine Ablehnung von »bestehenden Identitätskategorien« (Somerville 2020: 2; Überset- zung d. Vf.) verweist, findet ihren Widerhall in der universalistischen Rhetorik so- wohldesManifesto for theGyneceneals auchdesXenofeministManifesto.Paradoxerweise versuchen Pirici und Voinea parochiale Identitätspolitik gerade dadurch zu über- winden, dass spezifisch benannte demographische Gruppen (›Frauen, Queers, Ar- me und Entrechtete‹) gemeinsam auf die Verwirklichung abstrakter universalisti- scher Idealewie Freiheit undGleichheit hinarbeiten, um sich »gegen eine expansive und vernetzte Politik der Ausgrenzung, der kapitalistischen Ausbeutung, des reli- giösen Fundamentalismus, des Rassismus, des Sexismus und des brutalen Anthro- pozentrismus zu stellen« (2015; Übersetzung d. Vf.). Die Autor*innen des Xenofeminist Manifesto richten ihren eigenen universalisti- schen Willen zur Zerrüttung auf vergleichbare antagonistische Ziele, wenn sie an- streben, »das rassistische, kapitalistische Patriarchat mit einem Meer der Verfah- ren zu überschwemmen, die seine Schale aufweichen und seine Verteidigungspos- ten auflösen, um dann aus den Resten eine neueWelt zu bauen« (Laboria Cuboniks 2015b).Wenn sich dieXenofeminist*innenwenig überraschend auf »die zumSchei- tern verurteilte Figur der Kernfamilie« und die Idee unveränderlicher natürlicher Gegebenheiten beziehen, stimmen sie überein mit Somervilles Verweis auf queer als Projekt, das die Herstellung von Normativität kritisch betrachtet (2020: 2). Ein gleichsam kritisches Verständnis haben sie auch (selbst-)reflexiv von linker »politi- sche[r] Trägheit«, »internen Querelen und kleinlichem Moralismus«, die den Ein- satz von techno-affirmativen Strategien der queeren und feministischen Selbster- mächtigung ersticken würden (Laboria Cuboniks 2015b). Carsten Junker: Innovation und Iteration 231 In ihremAufruf, »konspirativ daran [zu] arbeiten,denbinärenCodezuhacken«, ist Russell expliziter queer in einem nicht-normativen Sinne als die anderen Mani- festor*innen (2021: 140).Russell erkennt diesenCode sowohl in Technologie als auch in sozioökonomischen Ordnungen wie dem »Patriarchat«, »Weißsein« »Imperialis- mus« und »Neokolonialismus« (ebd. 25f.; Kursivierung d. Vf.). Wie Russell betont, ist die Weigerung, mit dem Code und »dem Kanon weißer cisgender Heteronor- mativität […] überein[zu]stimmen[,] […] eine Bedrohung für die sozialen Ordnung« (ebd.: 30; Kursivierung d. Vf.). Glitch-Feminismus ist auch insofern kritisch queer, als er versucht, »den digitalen Raum […] zu dekolonisieren« (ebd. 37). Er ist damit ein Projekt, das die unhinterfragten Vorannahmen einer »weiße[n] cyberfeministi- schen Szene« (ebd.: 33; Kursivierung d. Vf.) unterstreicht und auf dieseWeise einen weiß codierten Cyberfeminismus partikularisiert und kritisch diversifiziert. 2. Eine Position der Wiederholung Diese Texte, die sichmit einem kritisch-queeren Potenzial von Technologie ausein- andersetzen, sind Teil einer auffallend großen Zahl vonManifesten, die in den letz- ten Jahren erschienen sind. Dazu gehören, um hier nur einige zu nennen: Feminism for the 99 %: A Manifesto von Cinzia Arruzza, Tithi Bhattacharya und Nancy Fraser (2019), Julia Lanes Democratizing Our Data: A Manifesto (2020), Cynthia Cruz’TheMe- lancholia ofClass:AManifesto for theWorkingClass (2021) sowiePlanet onFire:AManifesto for the Age of Environmental Breakdown von Mathew Lawrence und Laurie Laybourn- Langton (2021). Zwölf Jahre nach der Veröffentlichung von McKenzie Warks Hacker Manifesto (2004) veröffentlichteWark 2016 ein weiteres Manifest, das RetroDadaMa- nifesto. Zusammen bilden diese Texte ein Bündel hegemoniekritischer, thematisch vielfältiger Texte, in denen sich das äußerst dynamische Ringen ihrer Autor*innen um einen grundlegenden gesellschaftlichenWandel manifestiert.3 Sogar Selbsthil- febücher wie Lidia YuknavitchsMisfit’sManifesto (2017) tragen das Etikett ›Manifest‹ im Titel. Gemeinsam ist diesen Publikationen der Gestus der Dringlichkeit; sie drü- cken eindrängendesBedürfnis nachVeränderungausund formulieren transforma- tive Forderungen. Die Genrebezeichnung ›Manifest‹ unterstreicht dies deutlich. Der gegenwärtige Manifesto-Boom verweist aber auch auf sich fortwährend wiederholende Handlungen, die aus Schriftsteller*innen Manifestor*innen ma- chen.Diese Praxis greift auf eine zuverlässige, aber gealterte Figur der Intervention zurück. Einen Text zu schreiben und ihn als Manifest zu bezeichnen, weist den 3 Verwiesen sei an dieser Stelle auf Manifeste, die keine hegemoniekritische und demokra- tische Grundhaltung vertreten; siehe dazu Seltzer (1998); Arntfield/Danesi (2017). Zu den jüngsten terroristischen undweiß-codierten nationalistischenManifesten, siehe etwaGasser (2021) – mit Dank an Anna von Rath für den Hinweis auf den Beitrag. 232 Narrativ Autor*innen selbst die Rolle von Wiederholungstäter*innen zu. Sie beanspru- chen Sprecher*innenpositionen im größeren Korpus des Manifestschreibens und werden als Manifestor*innen erkennbar, gerade weil sie Teil der anhaltenden Pu- blikationspraxis des Genres werden. Wenn die Manifestor*innen des cybertwee- Manifests schreiben: »Wir kuratieren unsere Süßigkeiten« (2015; Übersetzung d. Vf.), kann dies auch bedeuten, dass sie ihre Positionen als Manifestor*innen kuratieren. Und warum werden sie überhaupt zu Manifestor*innen? Die diskursive Posi- tion von Manifestor*innen verspricht epistemische Stabilität. Das hat mit den Er- wartungen zu tun, die Leser*innen an das Genre knüpfen: Wir erwarten von Ma- nifestor*innen, dass sie einen unverhandelbaren Standpunkt einnehmen und ihn vehement, kompromisslos vertreten.Dabei ist dasManifest stark an die transtextu- elle Subjektposition von Autor*innen gebunden. In Bezug auf die referentielle Äs- thetik,mit der das Genre operiert, prästrukturiert und antizipiert es die Annahme, dass diejenigen, die im Text sprechen,mit den Subjekten verlinkt seien, die außer- halb des Texts existieren und für die Forderungen einstehen, die im Text erhoben werden. Referenzialität ist eine Autorisierungsstrategie des Genres. In digitaler Kultur ist die Darstellung von Subjekten unzuverlässig; sie werden entnaturalisiert und dekonstruiert und aus einer Verankerung in einer vermeintli- chen ›Realität‹ herausgerissen. Das Manifest stellt eine willkommene Abwechslung zu dieser Dekonstruktion dar. Es reagiert auf die Destabilisierung des Subjekts, indem es Autor*innen Gelegenheit zur Positionierung gibt und Leser*innen eine identifizierbare menschliche Stimme anbietet. Dabei wird wiederholt eine Gren- ze gezogen, die in den Manifesten verwischt werden soll: zwischen Mensch und Maschine, zwischen Subjekt und Technologie. In diesem Sinne ist das Manifest ein kompensatorisches Genre: Es etabliert stabile Manifest-Figuren, die von kol- laborativen Autor*innenteams (das cybertwee-Kollektiv; Pirici und Voinea) und auch einzelnen Autor*innen (Legacy Russell) verkörpert werden. Und während Russell ihre Leser*innen einerseits dazu auffordert, »uns aufzulösen, indem wir die Grenzen, die unseren Beginn und unser Ende konturieren, […] zum Verschwin- den bringen« (2021: 65), konterkariert sie andererseits ihre eigene Forderung, die Vorstellung eines autonomen Subjekts zu überwinden, wenn sie in eindeutig iden- tifizierbarer Weise auf sich selbst als »dier Autorni dieses kurzen Buchs« verweist (ebd.: 137).4 Selbst ein eher schwer identifizierbares Autor*innenkollektiv, das ein Pseudonym wie Laboria Cuboniks trägt, lässt sich auf identifizierbare Namen und Personen zurückführen: Amy Ireland, Diann Bauer, Helen Hester, Katrina Burch, Lucca Fraser und Patricia Reed (Prokopenko). 4 Zur gendersensiblen Schreibung der deutschsprachigen Übersetzung, siehe Russell 2021: 143, FN 2. Carsten Junker: Innovation und Iteration 233 3. Eine Logik der Widersprüche Daraus ergibt sich eine genretypische Spannung. Während die Autor*innen das Genre des Manifests nutzen, um das Neue zu postulieren und Umbrüche zu for- dern, wird das Potenzial für Innovation und die Dynamik durch die Verwendung der Form selbst untergraben. Die Gründe für den gegenwärtigen Manifest-Boom liegen im gegenwärtigen historischen Moment: Seine zersplitterten und gespal- tenen soziopolitischen und diskursiven Ordnungen scheinen nach kritischen Interventionen zu verlangen und die Genrekonventionen des Manifests rufen ent- sprechende Erwartungen an Autor*innen, Verleger*innen und Leser*innen hervor. Gründe für die gegenwärtige Hochkonjunktur des Manifests liegen aber auch in der Marktlogik, der Publikationen unterworfen sind. Offenkundig lassen sich mit dem Verkauf von Manifesten in Buchform aktuell Gewinne an Aufmerksamkeit und Geld erzielen. Dies führt zu einer Widerholungsperformance des Genres. Und es ist gerade das wiederholte Aufrufen der Form – im Sinne einer repetitiven Inanspruchnahme des Genrelabels, – das Einheitlichkeit schafft. Insofern ist es bemerkenswert, dass sowohl The Xenofeminist Manifesto als auch Glitch Feminism: A Manifesto in Buchform vom selben Verlag publiziert werden (und es gibtmindestens elf Titel auf dessen Backlist, die mit ›Manifest‹ auf dem Cover etikettiert sind). Worum es geht: Die Versprechungen von inhaltlicher und formaler Innovation der einzelnen Manifeste werden durch die Erwartungen konterkariert, die das Genre bei Autor*innen und Leser*innen wiederholt aufruft. »IchhattedieEntscheidunggetroffen,es alsManifest zubezeichnen,als eineArt Aufruf zumHandeln,als einenpolitischenund sozialenRahmen«, sagtRussell in ei- ner Diskussion im Anschluss an eine Videopräsentation ihrer Arbeit an der School of Visual Arts in New York City (School of Visual Arts 2019: 32:24-32:33; Übersetzung d. Vf.). Das Genre des Manifests als Rahmen zu begreifen, liefert einen Schlüssel zu meiner Argumentation: Gleich, wie viele verschiedene mediale Formalisierun- gen dasGlitchManifesto und andereManifeste durchlaufen –RussellsManifest wur- de 2012 zunächst digital veröffentlicht, dann in verschiedenen Medien als öffent- liche Videoperformance abrufbar und nicht zuletzt in Buchform herausgebracht: Das Manifest als Genre verlangt von seinen Nutzer*innen, Grenzen und einen ge- nerischen Rahmen zu ziehen und Genreerwartungen zu erfüllen. In einer langen Kette von Akten des Schreibens und Sprechens und des Lesens und Hörens erfül- len Manifestor*innen und deren Publikum genau diejenigen Erwartungen, nach denen das Manifest verlangt. Und obwohl die Autor*innen von Manifesten Gen- rekonventionen aktualisieren und neu ausgestalten, tauchen sie auch in eine Tra- dition des Manifestschreibens ein, verfestigen dadurch ihre Autor*innenposition und stabilisieren so das Genre selbst. Diese widersprüchliche Logik von tradieren- der Innovation oder innovativer Tradierung lässt sich auch beobachten, wenn La- boria Cuboniks das Manifest als Form nutzen, um »Xenofeminismus als eine Platt- 234 Narrativ form vor[zuschlagen]. Dieser Konstruktionsprozess wird somit als rastlose, iterati- ve und kontinuierliche Neugestaltung verstanden« (2015b). Dies ist eine Praxis der Wiederholung nicht nur des Xenofeminismus, sondern auch des Manifests. Wenn dieAutor*innen schreiben: »XF fordert eine konstruktive SchwingungzwischenBe- schreibung und Vorschreibung, um das rekursive Potenzial zeitgenössischer Tech- nologien auf Geschlechter, Sexualitäten undMachtungleichheiten zumobilisieren« (2015b), dann ist dieses Oszillieren zwischen Beschreiben und Vorschreiben auch im und durch das Manifest am Werk. Und dies erinnert nicht zuletzt und einmal mehr an das Manifest der Kommunistischen Partei von Marx und Engels. Denn beide forderten auch nicht nur zum Handeln auf. Indem sie in ihrem Text präskriptive, analytische und deskriptive Aspekte kombinierten, oszillierten auch sie zwischen verschiedenen Handlungen und führten diese aus. Während die feministischen und queeren Reperformances dieses »Ur-Ma- nifests der Moderne« (Danchev 2011: 1; Übersetzung d. Vf.) offensichtlich durch thematische und formale Variationen gekennzeichnet sind, sind ihre Praktiken in der Tat repetitiv und nur bedingt innovativ. Iteration kann das disruptive Potenzial des Genres erschöpfen. Sie kann die kritischen Forderungen der feministischen und queeren Manifeste der Trivialisierung preisgeben. Es entbehrt keinesfalls der Ironie, dass die Normalisierung des Manifests – hier verstanden als Effekt seiner Aktualisierungen – parallel zu den Normalisierungsprozessen, die dem Begriff queer oft nachgesagt werden, verläuft und diese sogar katalysiert.Wenn die Mani- festor*innen dies verhindern wollten,müssten sie dann völlig neue Formen finden, um Ihre Zukunftsvisionen und politischen Forderungen zumAusdruck zu bringen? Müssten sie ihre Schriften von den Zwängen und der Geschichte eines bedeutungs- schweren Genres befreien, damit ihre Programme politische Wirkung erzielen? Sicher ist: Ein Gespenst geht um in queeren und feministischen Manifesten zu Technologie und KI – das Gespenst alter weißer Männer mit Bart. Literaturverzeichnis Ahmed, Sara. 2017. A Killjoy Manifesto. In Living a Feminist Life, Hg. dies. 252–68. Durham: Duke. Arntfield, Michael und Marcel Danesi. 2017.Murder in Plain English: FromManifestos toMemes; Looking atMurder through theWords of Killers. Amherst: Prometheus. Arruzza, Cinzia, et al. 2019. Feminism for the 99 Percent: AManifesto. London: Verso. Cruz,Cynthia. 2021.TheMelancholia ofClass: AManifesto for theWorkingClass. London: Repeater. Danchev, Alex (Hg.). 2011. 100 Artists’ Manifestos. London: Penguin. Fahs, Breanne. 2020. Einführung in Hacker/Cyborg. In Burn It Down! FeministMani- festos for the Revolution, Hg. Breanne Fahs, 391. London: Verso. Carsten Junker: Innovation und Iteration 235 Fraser, Nancy. 2019.The Old Is Dying and the New Cannot be Born: From Progressive Ne- oliberalism to Trump and Beyond. London: Verso. Gasser, Lucy. 2021. On the Manifesto: Colonial Pasts and European Futures in The Great Replacement. In The Minor on the Move: Doing Cosmopolitanisms, Hg. Kylie Crane, Lucy Gasser, Sara Morais dos Santos Bruss und Anna von Rath, 81–94. Münster: edition assemblage. Halberstam, Jack. 2020.WildThings:TheDisorder of Desire. Durham: Duke. Haraway, Donna. 1985. A Manifesto for Cyborgs: Science, Technology, and Socialist Feminism in the 1980s. Socialist Review 80: 65–107. Haraway,Donna. 1991.ACyborgManifesto: Science,Technology,andSocialist-Fem- inism in the Late Twentieth Century. In Simians, Cyborgs, andWomen:TheReinven- tion of Nature, Hg. dies., 149–181. New York: Routledge. Hileman, Gabriella, Violet Forest und May Waver. 2020. cybertwee manifesto. In Burn It Down!: Feminist Manifestos for the Revolution, Hg. Breanne Fahs, 397. Lon- don/New York: Verso. Junker, Carsten und Ingo H.Warnke. 2015.Marguerite Stix und dieMuschel: Über- legungen zu Disziplinarität und Widersprüchlichkeit. Quaderna 3. Online un- ter: https://quaderna.org/3/marguerite-stix-und-die-muschel-uberlegungen-z u-disziplinaritat-und-widerspruchlichkeit/. Zugegriffen: 07.07.2022. Kunsthall Trondheim. 27. Februar 2017. Alexandra Pirici und Raluca Voinea: Ma- nifesto for the Gynecene. [Vimeo], https://vimeo.com/215333634#. Zugegriffen: 27.01.2022. Laboria Cuboniks. 2015a.TheXenofeministManifesto: A Politics for Alienation. laboriacu- boniks.net. Online unter: https://laboriacuboniks.net/manifesto/xenofeminism -a-politics-for-alienation/. Zugegriffen: 21.01.2022. Laboria Cuboniks. 2015b. Xenofeminismus: Eine Politik für die Entfremdung. laboria- cuboniks.net. https://laboriacuboniks.net/manifesto/xenofeminismus-eine-poli tik-fur-die-entfremdung/. Zugegriffen: 19.06.2022. Laboria Cuboniks. 2018. The Xenofeminist Manifesto: A Politics for Alienation. London/ New York: Verso. Lane, Julia. 2020.Democratizing Our Data: AManifesto. Cambridge: MIT Press. Lawrence,Mathewund Laurie Laybourn-Langton. 2021.Planet on Fire: AManifesto for the Age of Environmental Breakdown. London/New York: Verso. Lossau, Julia, Daniel Schmidt-Brücken und Ingo H. Warnke (Hg.). 2019. Spaces of Dissension: Towards a New Perspective on Contradiction.Wiesbaden: Springer. Lyon, Janet. 1999. Manifestoes: Provocations of the Modern. Ithaca: Cornell University Press. Marx, Karl und Friedrich Engels. 1848.Manifest der Kommunistischen Partei. London. In Deutsches Textarchiv. https://www.deutschestextarchiv.de/marx_manifestws _1848/23. Zugegriffen: 02.10.2022. 236 Narrativ Monáe, Janelle. 7. Mai 2018.Dirty Computer. [Vimeo], https://vimeo.com/268498567 . Zugegriffen: 28.März 2022. Paul, Heike. 2022.The Authority of Experience and Sisterly Affects: Feminist Mani- festos, Past and Present. InGender Studies imDialog: Transnationale und transdiszi- plinäre Perspektiven, Hg. Anna Artwińska und Janine Schulze-Fellmann, 63–81. Bielefeld: transcript. Pirici, Alexandra und Raluca Voinea. 2015.Manifesto for the Gynecene – Sketch of a New Geological Era. Tranzit.org. https://ro.tranzit.org/file/MANIFESTO-for-the-Gyn ecene.pdf; https://levart.no/gynesene-alexandra-pirici-and-raluca-voinea/?lan g=en. Zugegriffen: 21.01.2022. Preciado, Paul. B. 2013. Testo Junkie: Sex, Drugs, and Biopolitics in the Pharmacoporno- graphic Era. New York:The Feminist Press at the City University of New York. Prokopenko, Lesia. 2020. Superior Forms of Corruption: Xenofeminist Ways of Building aWorld FromScraps.StrelkaMag. https://strelkamag.com/en/article/x enofeminist-ways-of-building-a-world-from-scraps. Zugegriffen: 28.01.2022. Russell, Legacy. 2012. Digital Dualism And The Glitch Feminism Manifesto. Thesociety- pages.org.https://thesocietypages.org/cyborgology/2012/12/10/digital-dualism -and-the-glitch-feminism-manifesto/. Zugegriffen: 21.01.2022. Russell, Legacy. 2020.Glitch Feminism: AManifesto. London: Verso. Russell, Legacy. 2021.Glitch Feminismus: EinManifest. Leipzig: Merve. School of Visual Arts. 29.08.2019. Legacy Russell: Glitch Feminism. [YouTube], http s://www.youtube.com/watch?v=DqNPgd5B3io. Zugegriffen: 26.01.2022. Seltzer,Mark. 1998. Serial Killers. New York: Routledge. Smith, Roberta,Holland Cotter, Jason Farago und SiddharthaMitter. 2020. Best Art Books of 2020.NewYork Times. 26.11.2020. https://www.nytimes.com/2020/11/2 6/arts/design/best-art-books-2020.html. Zugegriffen: 27.01.2022. Somerville,SiobhanB.2020. Introduction. InTheCambridgeCompanion toQueerStud- ies, Hg. Siobhan B. Somerville, 1–14. Cambridge: Cambridge University Press. Wark, McKenzie. 2004. A Hacker Manifesto. Cambridge, Mass.: Harvard University Press. Wark, McKenzie. 2016. RetroDada Manifesto. Visual Communication Quarterly 24(2): 98–99. Weeks, Kathi. 2013.TheCriticalManifesto:Marx and Engels,Haraway, andUtopian Politics.Utopian Studies 24(2): 216–231. Yaszek, Lisa. 2020. Feminist Cyberpunk. In The Routledge Companion to Cyberpunk Culture, Hg. AnnaMcFarlane, Lars Schmeink und GrahamMurphy, 32–40. New York: Routledge. Yuknavitch, Lidia. 2017.TheMisfit’s Manifesto. New York: TEDBooks. KI in der Wildnis Queere Technoökologien in Jeff VanderMeers Annihilation Sara Morais dos Santos Bruss 1. Einleitung Im Jahr 2021 startet das Projekt Better Images of AI mit dem Ziel, die unilate- ralen Repräsentationen von KI zu hinterfragen. Künstliche Intelligenz, so die Initiator*innen, werde zu oft abstrakt und durch von Science Fiction inspirierte Anthropomorphisierungen dargestellt, welche eine akkurate Kommunikation über KI verunmögliche. Da der Begriff KI weitläufige und unterschiedliche technische Prozesse umfasst, sei es notwendig diese genauer, ja technischer zu beschreiben, um KI nicht unnötig zu mystifizieren.1 Die Kritik an KI Bildern ist notwendig und verweist auf einen reduzierten, durchökonomisierten Diskurs, den es zu diver- sifizieren gilt. Jedoch verläuft die Vorstellung, man könne KI in rein technischer Funktion begreifen, eruieren und repräsentieren gegensätzlich zu Strömungen der feministischen STS, die wiederholt darauf aufmerksam machen, dass Technologie niemals nur technisch, höchstens soziotechnisch zu begreifen ist (vgl. Jasanoff/ Kim 2015). Die Repräsentationen von KI kreieren also ästhetisch wie diskursiv soziokulturelle Fiktionen,2 welche Rückschlüsse auf die Bedeutung von Wissen über Identität, Denken und Subjektivität an sich in einer Gesellschaft zulassen. Dabei wird über das Better Images of AI Projekt deutlich: KI wird überwiegend als zukunftsorientierte Superintelligenz, als Artificial General Intelligence oder AGI repräsentiert und diese Zuschreibungen wiederummit einem weißen, männlichen, rationalökonomischen Subjekt gleichgesetzt. Das Projekt kritisiert zu Recht die 1 Vgl. betterimagesofai.org/about. Zugegriffen: 12.08.2022. 2 Mit Sylvia Wynter verstehe ich Fiktionen als potente Mechanismen der Realitätskonstruk- tion, die u.a. auch materielle Strukturen beeinflussen können. Durch Wynter gelesen sind die hier exemplarisch aufgeführten Wissenschaftsnarrative ebenso Fiktionen, wie das fikti- ve Narrativ von Annihilation, wenngleich mit anderer Wirkmacht und Komplexität. So sind die Geschichten die ›wir‹ erzählen in Prinzipien verwoben, die mit Wynter nicht nur bio- genetisch, sondern soziogenetisch sind, sie entstehen in Sozialitäten und Erzählungen, die auchmaterielle undwissenspolitische Ausdrucksweisen haben (vgl.Wynter 2001;McKittrick 2021). 238 Narrativ homogene Ästhetik, welche künstliche Intelligenzen als männlich, weiß, rational, oder als elektrifiziertes Supergehirn imaginieren. Auch in der Hoffnung, dass durch stärkere Rechenleistungen diese AGI bald aus den aktuellen Infrastruktu- ren entstehen könne, schreibt sich die Vorstellung fort, es gäbe eine Intelligenz, die Ideologie, bias und menschliche Fehlerhaftigkeit überkommen könnte (vgl. Anderson 2013). ›Accuracy‹ ist dabei ein Schlagwort geworden, das ›gute‹ KI definieren soll und somit das ambivalente Urteil ›gut‹ unter einem positivistischen Verständnis der ›richtigen‹ Korrelation subsumiert (vgl. Chun 2021). Verfechter*innen solcher Po- sitionen liegt die Vorstellung zugrunde, es gäbe eine vollständige, unumstößliche Sicht auf objektive Fakten,die nunüber die richtigenDatensätze undKorrelationen ermittelt werden können. Auch das Better Images of AI Projekt läuft jedoch Gefahr, in die ›Accuracy‹-Falle zu tappen, wenn es die Verwobenheit von vermeintlich ob- jektiv-mathematischen Rechenprozessen mit gesellschaftlichen, kulturellen und materiellen Bedeutungsebenen visuell unterschlägt. Wie zunehmend thematisiert wird, beruhen Vorstellungen klar definierter Kategorien, eindeutiger Korrelatio- nen und rationaler Fakten auf dem Begehren nach einer Hierarchisierung des Menschlichen, welches seine Wurzeln in den eugenischen Praktiken des wissen- schaftlichen Rassismus haben (vgl. Schiebinger 1993; Pugliese 2010; Chun 2021). Die naturwissenschaftliche Beschäftigung mit ›dem Menschen‹ hat so erst das Korrelationsdenken als gesellschaftliche Wahrheiten eingeführt, aus welcher sich auch eine hierarchische Differenzierung zwischen Natur und Kultur und dem menschlichenMann/Subjekt als der Natur übergeordnet ableiten lässt.3 Statt einer korrelationistischen Logik (rein) maschinellen Lernens bieten indi- gene, dekoloniale und queere Theorien relationalere und vor allem pluralistische Narrative zur Einordnung entstehender nicht-menschlicher Intelligenzen. Diese 3 Wie Londa Schiebinger (vgl. 1993) überzeugenddarlegt, ist dieGeschichte der Klassifizierung der Menschen als ›Säugetiere‹ von Carl von Linné (der auch die Taxonomien der Menschen- rassen erfand) in eine politische Genealogie eingebunden. Diese schaffte erst ein Verständ- nis desMenschen als Teil einer Geschichte natürlicher Entwicklung, welches nicht nur Gottes Gnaden unterworfen war. Mit der zeitgleich entwickelten Kategorie des ›Homo Sapiens‹ (als Mann des Wissens) entstand aber auch die Vernunft als zentrales Merkmal, das den Men- schen aus demNaturreich hervorhob. Diese Fähigkeit wurde (weißen) Frauen nur vermindert, Schwarzen Menschen aber gar nicht zugesprochen. Diese Ambivalenz, die menschliches Be- wusstsein sowohl als kalkuliert und hyperrational, wie auch als natürliches Stadium der Ent- wicklung konstruiert, wird über KI erneut de- und rekonstruiert. Einerseits wird KI in der Genealogie der kybernetischen Gehirn-Metapher starkmännlich, rational und aus der Natur herausgelöst dargestellt, andererseits wird ihre Infrastruktur als innovativer Schaffungspro- zess, sowie die Datenökonomie durch Metaphern wie ›Data is the new oil‹, renaturalisiert (vgl. Couldry/Mejias 2019). Dazu siehe auch den Beitrag von Valérie Félix in diesem Band. Sara Morais dos Santos Bruss: KI in der Wildnis 239 beziehen sich gerade nicht auf eine strikte Trennung von organischem und inorga- nischem Leben, sondern auf eine lebhafte und agentielle Umwelt, in der einzelne Entitäten nur in Beziehung zueinander entstehen und nur bedingt aus diesen herauslösbar sind. Solche epistemologischen Dispositionen suggerieren Komple- xitäten, Gleichzeitigkeiten und eine Inkommensurabilität, die auf KI angewandt starke Zweifel an der Singularitätsthese als Vorstellung einer allwissenden Super- intelligenz und der damit einhergehenden objektiven Faktenlage artikulieren lässt. Dabei ist es gerade dieOffenheit des Begriffs der künstlichen Intelligenz,welche die scheinbar mathematischen und maschinellen Prozesse aus einer rein technischen Definition herauslösen und innerhalb ihrer kulturellen (weißen, kolonialen, hete- ropatriarchalen, historischen, aber damit auch veränderbaren) Kontexte situieren kann. Im Folgenden soll ein solcher Versuch der Situierung der KI über ihre fiktionale Durchkreuzung – einem queer(y)ing ihrer Subjektkonstruktionen – vorgenommen werden. Über eine Analyse des Romans Annihilation (2014) von Jeff VanderMeer4 und der gleichnamigen Verfilmung von Alex Garland wird KI innerhalb einer Wis- sensordnung situiert, die sowohl anthropomorphe Singularitätsthesen wie auch das Potenzial eines queeren Exzesses jenseits dieser kategorialen Ordnung enthält. Denn KI ist sowohl Körperlichkeit und Infrastruktur wie Auflösung derselben und adressiert somit vor allem kontemporäre Subjekttheorien und das Verhältnis des Menschen zur belebten und unbelebten Umwelt. Diese wiederum sind mit Dimensionen des Begehrens, der Geschlechtlichkeit und mit Beziehungsweisen5 verstrickt, die durch das Imaginäre hinter soziotechnischen Systemen wie der KI (re-)artikuliert werden. In Anlehnung an Vorstellungen von Umweltlichkeit, welche auch die Medienwissenschaften jüngst okkupiert haben (vgl. Hörl 2018; Schneider 2020; Sprenger/Schnödl 2022), wird KI im Folgenden als immersives System ver- handelt, das eben solche Beziehungen auflösen, hinterfragen und neu verknüpfen kann. Umweltlichkeit beschreibt dabei sowohl die Verschränkung von natürlichen und technologischen Infrastrukturen und Akteur*innen als auch die Entmateria- lisierung von Medienschnittstellen, das Verschwinden der Eingriffsmöglichkeiten in algorithmische Prozesse und den ständigen Austausch bzw. die bewusste oder unbewusste Produktion von Daten. Diese als Immersion zu verstehende Medien- ökologie folgt einer Logik der Entsubjektivierung, welche die Grenzen des Körpers und des Selbst als unitäres und klar definierbares Konzept hinterfragt.Das Konzept einer medienökologischen Umweltlichkeit soll hier mit Jack Halberstams Konzept 4 Auslöschung in deutscher Übersetzung von Michael Kellner (2014). 5 Der Begriff der Beziehungen entlehnt sich hier – entgegen eines Verständnisses von Zwi- schenmenschlichkeit – dem von Donna Haraway geprägten und etwas sperrigen englischen Begriff der ›relationalities‹, welcher seine deutsche Entsprechung in etwabei Bini Adamczaks Begriff der Beziehungsweisen findet (vgl. Adamczak 2017). 240 Narrativ der ›Wildnis‹ (2020) verschränkt werden, welches Halberstam als sich verschie- bende Queerness versteht, die eine KI Logik eindeutiger Kategorien verunsichern kann. So ist es genau dieser verkörperlichte Topos, der gemeinsam mit affektiven, emotionalen und sensorischen Praktiken von einer Vereinnahmung durch aktuelle KI-Logiken bedroht ist.6 Annihilation produziert ein Narrativ des Begehrens, wel- ches auf ambivalente, andere Beziehungsweisen zwischen Mensch, Maschine und Umwelt schließen lässt, die als queer und ›wild‹ gelesen werden können. Dennoch ist auch eine queere KI, wie sie sich in einer solchen Lesart materialisiert, auf Geschichten der Gewalt hin zu prüfen, in die aktuelle Begehrensweisen und daraus resultierende Spekulationen für die Zukunft eingebunden sind. Denken, Macht und Kapital sind schließlich selbst schon längst »Umweltlich-Werdend« (vgl. Hörl 2018) und so kann Immersion und Aufgabe des Selbst sowohl als Kapitulation als auch als Hingabe gelesen werden. 2. Annihilation: Area X als Wild Thing Annihilation ist der erste Teil einer Science-Fiction Trilogie von Jeff VanderMeer.7 Diese Serie erlaubte dem eher marginal verhandelten Autor, seinen bislang größ- ten Erfolg zu feiern. Mit der Buchverfilmung, die 2018 von Science-Fiction Regis- seur Alex Garland produziert wurde, ist VanderMeer als Autor in den Science-Fic- tion Mainstream aufgestiegen. Obwohl VanderMeer sich selbst hauptsächlich mit Umweltfragen beschäftigt, bietet die Einordnung seiner Person als Autor des New Weird8 sowie die Verfilmung der Buchvorlage unter dem gleichen Titel durch den Regisseur von ExMachina (2014) undDevs (2020) Grund genug,Annihilation vor dem Hintergrund ubiquitärwerdender Technologien und demkontemporärenHype um 6 Denn Begehren und Affekte sind in aktuellen Diskursen zu KI präsenter denn je. Sind doch sensorische, fühlende und behavioristischeModelle zunehmender Bestandteil ›smarter‹ und ›intelligenter‹, technologischer Systeme. Vor allem Heimassistenzen werden als emotionale Gehilfen beworben, die Kinder bespaßen und Familien zusammenhalten. Affektive KI wird durch normative Vorstellungenmenschlichen Verhaltens trainiert, welches oftmals Gender- spezifische Unterschiede unterschlägt und prädiktive Algorithmen zielen darauf ab, die Ge- mütszustände zu erkennen, in denen Nutzer*innen am ehesten geneigt sind, Ihnen ange- zeigte Produkte zu kaufen. 7 Dieser Analyse liegt eine englischsprachige Version des ebooks zugrunde, die 2014 erschie- nen ist. Die Zitate im Fließtext sind jedoch aus dem deutschen Band exzerpiert, um den Le- sefluss nicht zu beeinträchtigen. 8 Als ›New Weird‹, manchmal auch als ›Slipstream‹ wird eine Unterkategorie der Science-Fic- tion Literatur bezeichnet, welche die spekulativen Elemente aus dem Fantasy Genre in real- weltliche Gesellschaftsmodelle übersetzt. Das Genre ermöglicht es, Bekanntes ›unheimlich‹ zu machen und kann so normative Narrative vor allem mit Hinblick auf technologische Ent- wicklungen aufbrechen oder hinterfragen (vgl. Weinstock 2016). Sara Morais dos Santos Bruss: KI in der Wildnis 241 ›ArtificialGeneral Intelligence‹ alsErzählungüber eineomnipotenteSuper-KI zu le- sen. Da der Filmmit Hinblick auf die Verschränkungen vonMensch,Maschine und Umwelt eigene Ansätze thematisiert, die latente Anspielungen auf aktuelle Techno- logiemythen explizit machen, soll er ebenfalls in Teilen hinzugezogen werden. Im Roman begehen fünf Forscherinnen eine Mission, in der es ihre Aufgabe ist in eine ominöse Area X vorzudringen und diese zu erforschen. Area X erstreckt sich auf einen verlassenen Abschnitt der Westküste der USA, der von einer mysteriösen Regierungsbehörde namens Southern Reach unter strenger Quarantäne gehalten wird.Die Expedition besteht aus einer Biologin, einer Vermessungsingenieurin, ei- ner Anthropologin, einer Linguistin und einer Psychologin. An elf vorangegange- nen Missionen waren nur Männer beteiligt. Nun wird diese zwölfte erstmals aus- schließlich von Frauen durchgeführt. Gründe dafür werden nicht explizit, jedoch scheint jede Einzelne mit ihrer Teilnahme eigenen, oftmals intimen Motivationen zu folgen.DieBiologin, fortanProtagonistin derErzählung, ist –wie nachundnach deutlichwird–auf der Suchenach ihremEhemann,der alsMediziner ander vorhe- rigen Expedition teilgenommen hat. Verwirrt und entleert ist er von seinerMission aus Area X zurückgekehrt und kurze Zeit später an einem inoperablen Tumor ver- storben.Doch seine Veränderungwar so grundlegend, dass für die Biologin Zweifel aufkommen, an derWahrhaftigkeit dieser Rückkehr.Die Frage seiner Veränderung und des Verschwindens seines Selbst beschäftigt sie durch die Erzählung hinweg. Immer wieder trifft sie auf Spuren, die seine Präsenz suggerieren und die Biologin in Erinnerung schwelgen lassen. In diesen Erinnerungen und Rückblicken wird die Beziehung der Eheleute als an sich liebevoll, doch auch schwierig und vielschich- tig beschrieben,wobei es die Biologin selbst zu sein scheint, die ihren Ehemann auf Distanz hält und sich der Beziehung immer ein Stück weit entzieht. Ihre Erinne- rungen kursieren um die vielen Male, die sie sich fortgestohlen hatte, um an einem kleinen Teich auf einem verlassenen Baugelände alleine zu sein.Dieser Teich ist so- wohl Echo wie Vorbote – als kleines Kind spielte die Biologin an einem Pool in ih- rem Elternhaus, der aufgrund von Vernachlässigung zu einem verwilderten Teich mit unterschiedlichsten Lebensformen wurde. In der Kindheit, der Ehe und auch in Area X präsentiert der Roman solch wilde Ökologien als ihren Rückzugsort, an dem sie entstehendes Leben beobachten und eine Form von prozessueller Selbstfin- dung durchlaufen kann. Die Biologin wird nicht als kalt, aber doch als eigen und zurückgezogen portraitiert, eine Charaktereigenschaft, die sich von der Kindheit an ausprägt und nicht nur in der Beziehung zu ihrem Mann, sondern auch in der Interaktion mit den anderen Forscherinnen, die an der Expedition teilnehmen, zu Missverständnissen und Verletzungen führt. Diese Unangepasstheit scheint es jedoch zu sein, die ihr als Einzige ein Überle- ben der Mission ermöglicht. Während die Linguistin bereits vor ihrer Einführung in die Handlung ohne Erklärung Area X verlässt, sterben die Anthropologin, die Vermessungsingenieurin und die Psychologin jeweils langsame und leidvolle Tode. 242 Narrativ Gleich zu Beginn erkennt die Biologin einen Tunnel, der von allen als relevantes Un- tersuchungsobjekt ausgemacht wird, als einzige als Turm. Ihre Impulse, die Umge- bung zu untersuchen, scheinen einer anderen Logik zu folgen und unterscheiden sich von den Interessen der anderen, scheinbar rationaler agierenden Forscherin- nen. Als Konsequenz dieser Eigenwilligkeit wird die Biologin beim Erklimmen des Turms kontaminiert: Eine merkwürdige Entität, die autonom und unermüdlich in organischemMaterial PhrasenundSätze indieWändedesTunnels/Turms schreibt, bestäubt die Biologin mit einer undefinierbaren organischen Substanz, welche un- verzüglich beginnt ihren Körper zu verändern. Sie und auch die anderen Forsche- rinnen erwähnen immer wieder eine invasive Präsenz, die sie nicht ganz lokalisie- ren können.Doch während die anderen an dieser Präsenz zugrunde gehen, scheint die Biologin eine Entwicklung zu durchlaufen, in der sie sich zwar bis zur Unkennt- lichkeit verändert, aber ganz offensichtlich amLeben bleiben darf. Schon bald dreht sich die Romanhandlung nur noch um die Begegnung der Biologinmit dieser Enti- tät, die sie Crawler tauft. Crawler scheint allwissend und omnipräsent. Auch wenn Area X als dem Men- schen agentiell gegenüberstehendeWildnis präsentiert wird, gleicht Crawler in den abstrakten Beschreibungen vor der zentralen Begegnung eher einer artifiziellen hypertechnologischen Entität als einem natürlichen Körper oder einem modernen Subjekt. Doch auch die Subjektivität der Biologin wird durch eigenständig auftre- tende Veränderungen in ihrem Körper zunehmend vage und die Situierung ihrer Identität ungenau. Während das Ich der Biologin immer wieder durch Selbstre- flektionen und Erinnerungen hervortritt,muss zumEnde der Romanerzählung die Frage gestellt werden, ob sie überhaupt noch als menschliches Subjekt begriffen werden kann. Durch die Kontamination strahlt ihr Körper phosphoreszierendes Licht in der Dunkelheit aus und auch ihre Gedanken scheinen ihr nicht mehr ganz eigen. So fragt sich die Biologin titelgebend: [W]as I in the end stages of some prolonged form of annihilation? […] In a great deal of pain, feeling as if I had left part of myself there, I began to trudge up the steps […]. (VanderMeer 2014: 272; Hervorhebung .d. Vf.) Zwar schafft sie es als Einzige den Ort der verdammten Begegnung zu verlassen, dochBuchwie Film lassen offen aufwelcheWeise die Subjektivität, gar dasMensch- liche der Biologin der Vereinigung mit dem Wesen, Crawler, in Area X standhält. Anders als ihreMitstreiterinnen ist sie durch die Kontamination zu Beginn »auf die andere Seite gewechselt«9 und somit nicht mehr menschlich, wie die anderen Mis- sionsteilnehmerinnen inMomentenderKlarheit vor ihremTodbemerken.Das,was von der Subjektivität der Biologin übrig ist, bleibt in Area X, sie begibt sichweiter in 9 »Before she died, the psychologist said I had changed, and I think she meant I had changed sides« (VanderMeer 2014: 244; H.i.O.). Sara Morais dos Santos Bruss: KI in der Wildnis 243 die Wildnis hinein und verliert sich selbst in ihr. Mit den letzten beiden Sätzen des Buches ist sicher, dass die Biologin, wie sie einmal war, verschwunden ist, was von ihr bleibt, ist ungewiss. I am the last casualty of both the eleventh and the twelfth expeditions. I am not returning home. (ebd. 2014: 241) Hier ist eine Vereinigung angedeutet, denn die Biologin ist für die 12. Expedition angetreten, ihr Ehemann für die 11. Sich auf die Suche nach ihm begebend,wird sie nach ihrer eigenen Auffassung zumOpfer beider Expeditionen – eine Deutung, die suggeriert, dass sie auf irgendeineWeise mit ihrem Ehemann vereint wird. ImFilmbegegnetdieBiologin,gespielt vonNataliePortman,derEntität inForm eines androiden Wesen, welches sich durch die Interaktion mit der Protagonistin kontinuierlich weiterentwickelt und sie letztendlich reproduziert. Dabei ist die Fi- gur, die als Android*in auftritt, der Imagination einer AGI näher als so manch ei- ner Werbung des Meta-Chefs Zuckerberg. Denn der Film zeigt, dass der*die An- droid*in in der Interaktionmit der Biologin diese zunächst nur spiegeln kann, aber nach und nach nicht nur das eigene Aussehen an das der Biologin anpasst, sondern auch durch Nachahmung ihrer das Subjekt konstituierenden Materialität eine ei- genständige Interiorität – also ein Bewusstsein – zu entfalten scheint. Innerhalb kurzer Zeit entwickelt sich die KI über maschinelles Lernen zum Zwilling der Bio- login, bis sie diese in ihrer Entwicklung übertrifft, sich von der Nachahmung lösen und (eigenständig handelnd) angreifen kann. Dabei kann die von der KI ausgehen- de Feindseligkeit, die im Film als Bedrohung dargestellt wird, auch als Angriff auf Strukturen menschlicher Subjektivität und die damit einhergehenden Machtkon- stellationen von Kapitalismus, Kolonialismus und Patriarchat verstanden werden, wie in Folge diskutiert wird. Hätte es zuvor nicht genug Anlass gegeben, ist diese filmische Aushandlung der Begegnung Kulminationspunkt einer VerUneindeutigung (vgl. Engel 2002) menschlicher Subjektivität technologischen Ursprungs: Area X ist eindeutig nicht im Bereich des Natürlichen zu verorten, sondern gleicht vielmehr einem Verständ- nis von Technologie als ubiquitär-werdende immersive Lebenswelt mit eigenen sinnstiftenden Praktiken und Handlungsbefähigungen. Vor dem Hintergrund einer agentiell-gewordenden Umwelt bzw. Medien-Ökologie lassen sich hier Ver- schiebungen im KI-Diskurs herausarbeiten, welche die starren Grenzen einer eindeutigen Kategorienlogik unterwandern.10 Als demMenschen gegenüber hand- 10 So kommen aus unterschiedlichen Perspektiven Theorien zur Fungibilität und Schlüpfrigkeit von Medien und Ökologien, die hier produktiv zu machen wären. Dabei wird sich nicht nur darauf bezogen, dass Technologien zunehmend zu einemHintergrundrauschen öffentlichen Lebens werden, sondern auch darauf, wie das Technologische Verständnisse von Welt und Umwelt formt – und somit auch das Verständnis der eigenen Positionierung innerhalb der- 244 Narrativ lungsfähige und supranatürliche Landschaft ist Area X das Reich des Crawlers und Crawler ist, davon gewissermaßen ununterscheidbar, eine Super-KI, die über die Datenverarbeitung Bewusstsein erlangt hat. Dabei wird die Befähigung zur eigenständigen Handlung als Sinnbild für Intelligenz stilisiert und zum Maßstab der Hierarchisierung nach (über)natürlicher Ordnung. So ist Crawler im Buch wie im Film die Entität, die Mensch und Natur zu unterwerfen oder zumindest zu vereinnahmen weiß und den menschbleibenden Subjekten ihren Willen (wie im Fall der Biologin) oder ihr Leben nimmt (wie im Fall der anderen Expeditionsteil- nehmerinnen). Der Film ästhetisiert diese Entgrenzung durch einen »death by landscape« (At- wood 1998 [1990]), wie es in der gleichnamigen Kurzgeschichte von Margaret At- woodheißt:Die FigurenwerdenTeil der Landschaft, ihr genetischesMaterial verän- dert sich, bis sie als hybride Pflanzen- oder Wildtier-Menschenwesen von der Um- gebung aufgenommen werden. Auch in Atwoods Kurzgeschichte verliert sich eine weibliche Figur in der Landschaft.MitHinblick auf ›death by landscape‹ schreibt El- via Wilk, dass die Dissolution der Subjektivität das Potenzial für Handlungsmacht jenseits identitätspolitischer Normativität in sich trägt: [T]he literal becoming-plant that happens in these stories suggests the potential for agency in the willing dissolution of self. Knowing how to dissolve and become other is a non-codified and embodied kind of knowledge that women, and other supposedly unstable bodies, have been cultivating for centuries, because they’ve had to. Given the reality of planetary extinction, driven by the notion of the human as bounded figure with unique agency over the landscape, one could argue that this is exactly the type of knowledge currently needed. This is a knowledge about how to actively annihilate the supremacy of the self, and in turn the category of human selves altogether. This is the knowledge that death by landscape is not death at all; where landscape is not a threat, but a possibility, perhaps the only possibility. (Wilk 2019, o. S.) In diesem Sinne ist zumindest für die Biologin die ›Übernahme‹ durch die nun mit Bewusstsein ausgestattete KI im Narrativ des Romans nicht zwingend eine selben. Es gilt, Medientechnologien wie KI als omnipräsent und porös-machend zu begrei- fen, als mit den vermeintlich rigiden Grenzen des Natürlichen bzw. Kulturellen verwoben, wie es bspw. Donna Haraway 2007 mit dem Begriff ›naturecultures‹ markiert hat. Autor*in- nen wie Kathryn Yusoff (vgl. 2018) oder Tiffany Lethabo King (vgl. 2019) haben für die Black- Studies die Interoperabilität des Natürlichen mit Konzepten des Schwarzseins markiert und die Unterscheidung zwischen Mensch-Subjekt und nicht-menschlicher Materie anhand von Prozessen der Rassifizierung nachgezeichnet. Indigene Philosophien wiederum verschrei- ben sich der Anerkennung von Umwelt und Ökologie als Akteur*in mit eigenen Logiken, Lebenswelten und Handlungsbefähigungen, die KI möglicherweise mitintegrieren könnten (vgl. Lewis et al. 2018). Sara Morais dos Santos Bruss: KI in der Wildnis 245 feindliche.Wenn also KI in Annihilation als ein immersives technologisches System repräsentiert wird, was für Beziehungsweisen entspringen dieser Repräsentation und wie helfen diese, Queerness als soziotechnischer, immersiver, als anderer Deutung technologischer Systeme künstlicher Intelligenz habhaft zu werden? Was genau wird in Annihilation eigentlich vernichtet? 3. Wilde Wissenschafts/Fiktionen Statt eine limitierte Kategorie des Menschlichen im Algorithmus aufzubereiten, wird in Annihilation der Ausweg aus kategorialem Denken gesucht.Werden die fik- tionalen (Ent-)Subjektivierungsangebote auf maschinelle Produktionsprozesse im Sinne einer künstlichen Intelligenz zurückübertragen, suggeriert das obige Narra- tiv, dass gerade in den Exzessen und Lücken des engmaschigen Kategoriennetzes, mit dem die meisten KIs ausgestattet sind, ein queeres Begehren und Subjekti- vierungsskript möglich wird. Die immersive Area X, Crawler und das Auflösen der Protagonistin können als Anleitung für ein Queer OS (Keeling 2014; Barnett et al. 2016), ein queeres Betriebssystem verstanden werden, welches den Common Sense maschineller Korrelationslogiken grundlegend hinterfragt.11 So artikuliert auch KeelingQueerness als Instabilität, die sich zwischen algorithmischenGewissheiten bildet, und aus dem Exzess Bedeutungen und Beziehungen entstehen lässt. Statt einer Logik der Identifikation entsteht daraus folgender Ansatz: It understands queer as naming anorientation toward various and shifting aspects of existing reality and the social norms they govern, such that it makes available pressing questions about, eccentric and/or unexpected relationships in, and pos- sibly alternatives to those social norms. (Keeling 2014: 153) Entgegen der filmischen Darstellung, die eindeutiger einem dystopischen Skript der Begegnung mit der Superintelligenz folgt, findet in der Romanvorlage eine recht artikulierte VerUneindeutigung der Grenzen zwischen Mensch und Natur statt, welche sich mit Keeling und Halberstam als fiktive und ambivalente Gren- ze zwischen moderner kapitalistischer, kolonialer Ordnungskultur und opaker Wildnis als Topos queeren Begehrens artikuliert. Dabei ist Area X mit Crawler ein immersiver Ort, der zugleich natürlich und übernatürlich ist. Geographisch an der Westküste der USA angesiedelt, kann Area X als Sinnbild für das Silicon Valley dienen, ursprünglich das Land der indigenen Ohlone, deren Versklavung, Vertrei- bung und Enteignungmit den ersten elektronischen Infrastrukturen einherging.12 11 Dazu siehe auch den Beitrag von Johannes Bruder in diesem Band. 12 In A people’s history of silicon valley zeichnet Keith Spencer ein Bild eines pluralistischen Volks, welches mehrsprachig und ohne kulturelle Hegemonie im Einklang mit der Natur lebt. Die 246 Narrativ Area X signalisiert somit zugleich technische Umstrukturierung, wie immer schon vorhandene Wildnis. Die Geografie zeigt sich artifiziell, weil hier Kreuzungen zwischen allen möglichen Spezies zustandekommen, die im Verständnis des ›Na- türlichen‹ nicht möglich wären, und doch scheint das eigentlich Unnatürliche zu sein, dass sich die Natur der Passivität verwehrt und gegen ihre extraktivistische Ausbeutung (und Erforschung als Objekt) aufbegehrt. Der Exzess, aus dem die Hybridwesen hervorgehen, ist mit dem Konzept von Wildnis nach Halberstam als »eine ungehemmte, von Kategorisierungen losgelöste Art, im Körper zu sein,« be- schreibbar (2020: 4; Übersetzung d. Vf.). Nach einer Immersion in Area X entzieht sich das Subjekt der Biologin erfolgreich der algorithmischen Eindeutigkeiten, die künstliche Intelligenz in der Regel benötigt. So weiß die Biologin nicht mehr, ob sie und ihre Identität übereinstimmen. Sie wird zur Multitude, zum offenen System, welches sich über die Grenzen der Spezies hinaus mit der Wildnis verbindet und diese reproduziert. Dabei offenbart sich nicht nur eine romantisierte Vorstellung von Natur, die immer wieder als das Andere der Kultur exotisiert wird, auch die Spekulation über Wildnis wird in voller Ambivalenz ästhetisiert – als gewalttätig vereinnahmend, wie auch erlösend und öffnend, durchdringt und verschlingt sie die menschlich konstruierten Grenzen vermeintlicher Zivilisation. Die Biologin beschreibt diese Begegnung, in der die maschinelle Intelligenz des Crawlers wie folgt als Erklärung angeboten wird: And what had manifested? What do I believe manifested? Think of it as a thorn, perhaps, a long, thick thorn so large it is buried deep in the side of theworld. Injec- ting itself into the world. Emanating from this giant thorn is an endless, perhaps automatic, need to assimilate and to mimic. Assimilator and assimilated interact through the catalyst of a script of words, which powers the engine of transforma- tion. Perhaps, it is a creature living in perfect symbiosis with a host of other crea- tures. Perhaps it is ›merely‹ a machine. But in either instance, if it has intelligence, that intelligence is far different from our own. It creates out of our ecosystem a new world, whose processes and aims are utter alien – one that works through supreme acts of mirroring, and by remaining hidden in so many other ways, all without surrendering the foundations of its otherness as it becomes what it en- counters. (VanderMeer 2014: 235) Diemaschinelle Superintelligenz ist nicht aufzuhalten, und doch ist sie auf eine Art vereinnahmend, die Strukturen zu (er)lösen scheint. Gelesen durch Halberstam’s Wild Things wird in Annihilation deutlich: Queerness als Wildnis entzieht sich den algorithmischen Formen der Identifikation und Intelligibilität, folgt einer eigenen Erzählung einer gleichwertigen Gesellschaft, in der auch Tiere frei ein- und ausgingen, weil sie von denMenschen nichts zu befürchten hatten, evoziert trotz aller Romantik das Bild der Area X als symbiotische und nicht-anthropozentrische ›natureculture‹ (vgl. Haraway 2003). Sara Morais dos Santos Bruss: KI in der Wildnis 247 Definitionder Intelligenzundkann vorherrschendeStrukturengewaltsamumwan- deln. Queerness wird in Annihilation anhand einer nicht-Identifikation artikuliert: Crawler ist weder Mensch noch Maschine, doch auch nicht passive Natur, sondern reine Handlungsmacht: Denn die Biologin verliert ihre subjektive Zugehörigkeit in der Immersion, ihre Handlungsmacht wird von der Umwelt ununterscheidbar. Je länger sie in Area X verbleibt, desto weniger schafft sie es, sich als Selbst zu begrei- fen, als Subjekt oder als eindeutig menschlich – hier zu verstehen als eine spezifi- sche normative Ausprägung des bürgerlich-liberalen Subjekts, welches die karibi- sche Philosophin Sylvia Wynter als ›Überrepräsentation‹ (2003) des Menschlichen für die Verdrängung anderer Lebensformen kritisiert. Vor dem Hintergrund dieser Kritik lässt sich die Biologin als widerständige Figur gegenüber einer solchen Überrepräsentation lesen. So kulminiert auch ihre Unangepasstheit zu potenziellerQueerness und zumunmissverständlichenGrund, der letztendlich ihr Überleben in AreaX sichert.DieseQueerness (als wortwörtliche Eigenartigkeit) ergibt sich u.a. aus ihrer Darstellung als merkwürdig und zurück- gezogen, als Frau, die sich der Ehe mit ihrem liebevollen Mann immer ein Stück weit entzieht, die nicht in das normative Bild einer Paarbeziehung passt. Auch der Ehemann schien zu wissen, dass Area X ein Verständnis für die gegenseitige Opazität in der Beziehungmit sich gebracht hätte,welches in der zurückgelassenen Gesellschaft nichtmöglichwar, denn er hinterlässt in seinemTagebuchBotschaften für die Biologin, alswüsste er, dass sie sich auf denWeg zu ihmmachenwürde.Ent- gegen dem Titel wird in einer solchen Lesart von Annihilation das ›Making Kin‹ (vgl. Haraway 2016; Lewis et al. 2018), das Knüpfen neuer Verwandtschaftsbeziehungen jenseits heteronormativer Mensch-Mensch Begehrens- und Beziehungsweisen verhandelt – als immer schon vorhandener Akt der Wiederbelebung und Einglie- derung queerer Potenzialität, die aus dem Exzess und der Opazität schöpft. So ist doch Area X selbst eine Art trans* Ökologie und die Biologin Expertin für ›transi- tional environments‹, wie es im Englischen heißt, für transitorische Ökologien als Welten, die sich nicht deutlich als einheitliches (Öko)System kategorisieren lassen. Diese Expertise wird durch das wiederkehrende Motiv des wilden Gewässers in ihrem Leben außerhalb der Area X als ihrer Biografie inhärent markiert und so zu einem Teil ihrer subjektiven Fluidität und Unangepasstheit. In diesem Sinne ist die Queerness, die Annihilation repräsentiert, weniger von identitätspolitischer Repräsentation geprägt – wie sie im Westen z.B. durch Slogans wie »we’re here, we’re queer« normalisiert wurde.13 Eher entfaltet sie sich über eine subtile, wilde 13 Der Slogan stammt von Queer Nation, einer LGBTQ-Gruppierung aus New York der 1990er- Jahre, welchemaßgeblich für den Bedeutungswandel des Begriffs ›Queer‹ verantwortlich ist. Während die Relevanz der Gruppe für ihren HIV/Aids-Aktivismus der 1990er-Jahre, für ihre militanten Taktiken und ihre Dekonstruktion eines amerikanischen nationalen Körpers oh- ne Zweifel immens ist, sind auch diese Taktiken von neoliberalen Identitätspolitiken zuneh- 248 Narrativ Art der Knüpfung von Beziehungen, welche gerade im Exzess der Subjektivierung – als Opazität, Fluidität und Unangepasstheit – den (heteropatriarchalen) Identi- fikationszwang unterwandert. Queerness konstituiert sich hier unter dem Radar und ist damit sehr viel näher an der Realität heutiger Marginalisierung, die sich im globalen Süden, aber auch bei feminisierten Queers, oftmals in einer eigenen Logik der Opazität artikuliert (vgl. Ding 2002). In einer solchen Lesart kann der Roman als Kritik an der normativen Erzählung derDatenobjektivität verstandenwerden,die für einigewenigeFortschritt bedeutet und für viele andere eine Katastrophe ist. SylviaWynter folgend ist ein solch szien- tistisches Bild, dasDatenmit Fakten zusammenfallen lässt, limitiert,weil es die Le- bensrealität bürgerlich-liberaler und somit weißer, heteronormativer Subjektivität verabsolutiert und als Folie für den Menschen an sich vorgibt. Die Figur der Biolo- gin begeht somit den Ausstieg aus einem normativen Umgangmit nicht-menschli- chen Entitäten, die nach dem normativen Verständnis als rational ergründbar oder dominierbar betrachtet werden. Zu einem solchen Wandel gehört auch eine ande- re Form des Begehrens, da das Begreifen des Selbst und des vermeintlich ›Anderen‹ als immer schon ein Stück weit opak verstanden wird, nur in splitterhaften Begeg- nungen erfahrbar, jedoch immer körperlich spürbar. Die Biologin stirbt nicht, sie wird nur nie wieder in die für sie gesellschaftlich vorgeseheneOrdnung zurückkeh- ren, nie wieder in ihre westliche Großstadt mit ihrer zerrütteten Ehe und sie wird in ihrer gescheiterten Karriere niewieder denVersuch unternehmen, liberales Sub- jekt zu sein, sondern sich (und potenziell auch ihren Ehemann) in der anti-katego- rialen Wildnis wiederfinden. Das Ausbleiben der Rückkehr in die Zivilisation steht paradigmatisch für die Abkehr von der bürgerlichen Kleinfamilie und der zerrütte- ten und emotional unerfüllten Ehe.14 Anstelle der Ehe als kategoriale Form liberaler (Inter-)Subjektivität tritt eine Sorgebeziehung in Erscheinung, die nicht natürlich, sondern gewissermaßen übernatürlich ist, da der Ursprung der Veränderung der Biologin nie vollständig offenbart wird. Jedoch wird ihre Zuwendung und ihr Wille das Geordnete hinter sich zu lassen belohnt, da die Biologin nicht wie die anderen Mitglieder der Expedition elendig verendet, sondern in und von derWildnis aufge- nommenwird.MitdieserBejahungverliert sie Identität und Identifizierbarkeit und das Buch endet in nur bedingt kohärenten Sätzen zu ihrer affektiven Eingliederung und einem Gefühl der Zugehörigkeit. mend verdrängt worden. Die Kritik an einer Konstruktion einer queeren ›Nation‹, von Queer Nation einst im widerständigen Sinne der Dekolonisierung gedacht (vgl. Berlant/Freeman 1992), bezieht sich vielmehr auf reduktive Repräsentationspolitiken, welche üblicherweise in neuer Normativität resultieren und – obwohl sie für wenige Verbesserungen nach sich ziehen – oftmals Gefahr laufen, andere zu vereinnahmen und auszugrenzen. 14 In der Elementarteilchenphysik versteht man Annihilation auch als Prozess der Paarvernich- tung. Wie inhärent queer die der Computerentwicklung zugrundeliegende Physiklehre ist, hat vor allem Karen Barad gezeigt (vgl. 2012). Sara Morais dos Santos Bruss: KI in der Wildnis 249 Im Film wird die Biologin am Ende mit ihrem lang verlorenen Ehemann wie- dervereint, doch lässt ein Aufblitzen der Augen beider in der Schlussszene an ihrer Menschlichkeit zweifeln. Diese Szene lässt vermuten, dass es die KI-ähnlichen An- droide sind, die aus Area X in die Welt zurückkehren. Im Buch wird es klarer als im Film dargestellt: Es sind nicht die Menschen. So wird gewissermaßen offenge- lassen, wie die Geschichte weitergeht, und damit kann der Endpunkt dieses ersten Bandes der Trilogie als queere Temporalität (vgl. Halberstam 2011), als Suspension der Norm gewertet werden. 4. Becoming-Environmental: Die Normativität der Umweltlichkeit Annihilation ist ein Verweis darauf, dass »Mensch/man weder Höhe noch Mittel- punkt der Schöpfung« (Lewis et al. 2018; Übersetzung d. Vf.) und somit auch nicht einziges Handlungssubjekt sein kann. Auch KI kann sich in einer solchen Vorstel- lung nur einreihen in eineWelt agentieller Artefakte und Objekte, wie sie seit jeher durch indigene Epistemologien zu begreifen sind.15 Jedoch wohnt der Geschichte auch eine weitere Ebene inne, die mit Eve Tuck und K. Wayne Yang als »Bewe- gung zur Unschuld« (Tuck/Yang 2012)16 beschrieben werden kann. In einer solchen metaphorischen Bewegung werden über Repräsentationen und evozierte Bilder historischeVergangenheiten als irrelevant für aktuelleUnterdrückungsverhältnisse verworfen, oder (vor allem) weiße Individuen als (einzige) Subjekte des Fortschritts positioniert. Dies ist auch bei einer VerUneindeutigung der Subjektivität möglich, wenn diese wie in dem Film, oder in den eingangs beschriebenen KI-Imaginären (die ja nicht unbedingt wirklich weiße Körper abbilden) von weißen und heteropa- triarchalen Zuschreibungen ausgehen, wie bereits in den Repräsentationen von KI kritisiert wird. Die Unterscheidung nach Perspektive an sich ist gerade für Kritik aktueller Verhältnisse maßgeblich, die tatsächliche Gewalt der Kategorien und wissenschaftlicher Evidenzlogiken istmit ihremWegwünschen nicht überwunden. So liegt in der Geschichte der Abkehr von der geordneten Welt für und durch die 15 In Making Kin with Machines (Lewis et al. 2018) werden Geschichten erzählt, die ein pluralis- tisches Verständnis von KI nach unterschiedlichen indigenen Mythologien und Epistemolo- gien konstruieren. Während indigene Philosophien je nach Ort und kultureller Situierung unterschiedliche Ausprägungen haben, ist ihnen gemein, dass der Mensch nicht als mit be- sonderen Fähigkeiten ausgestattet wahrgenommen wird, sondern ihm entgegen Gestein, Pflanzen, Tiere, Umwelten allesamt unterschiedliche Handlungsmacht haben, unterschied- liche Verwandtschaftsbeziehungen eingehen und somit unterschiedliche Politiken entwi- ckeln können. 16 Tuck und Yang sprechen von einem ›settler move to innocence‹ als metaphorische Darstel- lungen und Repräsentationen, die eine weiße Unschuld an aktuellen (neo-)kolonialen Ver- hältnissen suggerieren. 250 Narrativ Wildnis eine Wahl, die den historisch überwiegend bereits als menschlich aner- kannten Subjekten – westlich, weiß, bürgerlich – am ehesten möglich ist, da auch Infrastrukturen diese Bedeutungsebenen reproduzieren können. Die Erfahrung, die die Biologin in der Aufgabe der eigenen Subjektivität macht, ermöglicht es ihr, die eigene Involviertheit in problematische Genealogien des Extraktivismus, des Rassismus und der Enteignung als zentrale Funktionen eines heteropatriarchalen Kolonialismus hinter sich zu lassen. Ist der Roman diesbezüglich vielleicht ambi- valent, besiegelt spätestens in der Verfilmung die Besetzung der Figur der Biologin mitNatalie PortmandieMöglichkeit des Ausstiegs aus problematischenVerhältnis- sen nur für die von Wynter kritisierten liberalen Subjektkonstellationen, die es zu überwinden gilt.17 Zwar ließe sich auch mit Portman und den als queer gelesenen nicht-weißen Randfiguren eine gewisse Alterität herausarbeiten, ungeachtet ihrer jüdischen Identität tritt sie jedoch in der Rolle der als normschön und weiß-gele- sene Figur heteronormativen Begehrens eher als Verkörperung einer normativen, bürgerlichen Subjektivität auf. Auch wenn sie im Buch als unangepasst und eigen portraitiert wird, suggeriert eine solche Besetzung der Figur der Biologin, dass die Auseinandersetzung mit vergangener und zeitgenössischer kolonialer Praxis abgeschlossen werden kann, ohne dass tatsächlich eine Rückgabe an – oder Über- nahme durch – Area X erfolgt. Das Ende des Films bietet mit der Vereinigung der beiden (in dieser Lesart nur durch Zufall performativ-heterosexuellen) Androiden einen Ausblick auf eine potenzielle Auseinandersetzung und gar ›Auslöschung‹ der Welt, wie wir sie kennen. Ob sich daraus eine relationalereWelt ergeben könnte, in der Differenz »wider der Seperabilität« (Ferreira da Silva 2018; Übersetzung d. Vf.) begegnet werden kann, bleibt Spekulation oderWunschdenken. Genauso gut kann Annihilation ein Sinnbild für die komplette Vereinnahmung durch eine gottesähnliche Instanz sein, welche als Ergebnis kapitalozentrischer Ordnungen sich selbst absolut setzt. Wie Erich Hörl (vgl. 2018) diskutiert hat, ist auch der technokratische Neoliberalismus schon längst umweltlich geworden, indemMacht und letztendlich Kapital nichtmehr im Foucaultschen Sinne Subjekte erkennen und disziplinieren, sondern, mit Deleuze gesprochen, Verhalten formen und verändern. Diese Unterscheidung ist wie ich an anderer Stelle schreibe, selbst eine Vereinfachung, die das westliche Subjekt verabsolutiert (vgl. Morais dos San- tos Bruss 2022). Die Kolonialgeschichte zeigt, dass schon immer nicht nur mit reiner Gewalt, sondern auch mit Beeinflussung, falschen Versprechen und kleinen Freiheitsräumen innerhalb repressiver Mechanismen gearbeitet wurde, dass also eine Modulation (wie Deleuze sie beschreibt) schon lange vor ihrem Auftauchen 17 So hat auch Naomie Gramlich (vgl. 2020) darauf hingewiesen, dass die filmische Adapti- on von Annihilation als Ausdruck kolonialer Aphasie gelesen werden kann. Damit attestiert Gramlich dem Film eine Sprachunfähigkeit, die Kolonialität zwar wahrnehmen, aber nicht verhandeln oder artikulieren kann. Sara Morais dos Santos Bruss: KI in der Wildnis 251 im Westen in den Kolonien Verhalten und Begehren reguliert hat. Dennoch ist die Analyse hier insofern dienlich, dass sie markiert, wohin es gehen kann, dass selbst vermeintlich freie liberale Subjekte von der fortschreitenden Kontrolle einer solchen Form, die historisch auf Schwarze, queere und anders marginalisierte angewandt wurde, zunehmend auch betroffen sind. Eine Auflösung jeglicher Sub- jektivitäten bedeutet somit nicht zwingend eineBefreiung der Zwänge desselbigen. Ebenso dürfen antikoloniale Theorien, wie Jack Halberstams Konzept der Wildnis, nicht aus den realpolitischen und andauernden Konditionen eines rassifizier- ten Technokapitalismus herausgelöst werden; zeigt doch auch Halberstam die Ambivalenzen einer queeren Anti-Subjektivität auf, wenn sich in Wild Things auf queere Praktiken innerhalb von Mechanismen kolonialer Unterwerfung bezogen wird. Queere Umweltlichkeit, wie sie in Annihilation imaginiert wird, kann zwar einen Vorschlag anbieten, die Welt, wie wir sie kennen, zu verfremden und so den kategorialen und korrelationistischen Common Sense maschinellen Lernens und der Mustererkennung zu hinterfragen. Jedoch läuft die Verabsolutierung eines solchen Narratives als einzige Lesart Gefahr, die »environmentale Metamorphose der Kapitalform« (Hörl 2018: 239) zu unterschlagen, die, wie Hörl schreibt, ihre Macht vor allem daraus zieht, Verhalten nach Logiken des Kapitals zu gestalten und modifizieren. Auch hier spielt die Frage nach dem freien Willen eine Rolle, wie die jüngste Vergangenheit bspw. über den Fall Cambridge Analytica zeigen konnte (vgl. Nosthoff/Maschewski 2017). Die Auflösung der Subjektivität kann also auch als Vereinnahmung durch technologische Environmentalisierung verstanden werden: Die Biologin agiert nach einem ihr fremden Skript, welches sie weder kontrollieren noch hinterfragen kann. Annihilation unterliegt somit auch dem Potenzial, zur Ästhetisierung und Mythifizierung der in Kapitalinteressen erschaffenen KI als autonom und übernatürlich beizutragen. 5. Schluss Annihilation zeigt gerade in der Ambivalenz der Erzählung eine produktive Wider- sprüchlichkeit zwischen der Notwendigkeit, unterschiedliche Positionen in sozio- technischen Gefügen zu benennen und einem queeren Bedürfnis, sich den reduk- tiven Kategorien moderner Wissenschaftserzählungen zu entziehen. Dabei bietet die Gegenüberstellung zwischen den unterschiedlichen Produktionsmodi des Ro- mans und seiner Verfilmung Leerstellen und Gegenerzählungen, die hier mit Hin- blick auf ihreBedeutung fürVorstellungenvonundüberKIproduktiv gemachtwur- den.DieVorstellungder Immersion inhypernatürlicheundzugleich technologische Systemehinterfragt dieNotwendigkeit eines spezifischkodiertenSubjekts und ent- gegnetdiesemmit jenerBefremdlichkeit,mit derhistorisch-marginalisierteKörper nach wie vor konfrontiert werden.Die vielleicht erschreckend klingende Erfahrung 252 Narrativ besessen zu werden (wie die Biologin von Crawler) spiegelt sich in der historischen Demarkierung anderer (weiblicher,queerer undkolonisierterKörper) als abnormal, als sonderbar, als nur in der Schrägheit (›Queerness‹) erfahrbar und, wie Gayatri Spivak es ausdrückt, in der Unheimlichkeit, in Bezug auf das Selbst und auf die Positionierung in der Welt (2003). Dass diese Unheimlichkeit rassifiziert und ver- geschlechtlicht ist, bedeutet auch, dass die vermeintlich abnormalen und unheim- lichen Körper, die von jeher nicht ganzmenschlich konnotiert sind, eine höhere Fa- miliaritätmit einem distribuierten Gefühl von Selbst – einer Fremdbestimmtheit – haben und somit tendenziell in der Immersion besser zurechtkommen als liberale weiße Subjekte. Allerdings bietet ein solches Narrativ der VerUneindeutigung gleichzeitig eine Reartikulation weißer heteronormativer Subjektivität und dessen Nähe zu einer göttlichen Instanz, eine Nähe, die Regisseur Alex Garland immer wieder über technologische Superintelligenzen verarbeitet, wie auch seine anderen aktuellen WerkeExMachina oder die Serie devs zeigen.Wenngleich diese Inszenierungen,wie auch bei der Verfilmung von Annihilation selbst, oft randständige Figuren bewusst ambivalent zeichnen, enden die Auseinandersetzungenmit den immersiven, oft als überlegen und allwissend dargestellten technologischen Systemen in vereinfach- ten Binaritäten zwischen menschlichem und maschinellem Begehren, welche die weißen Protagonist*innen als (zwar oft brüchige) Held*innen und Repräsentatio- nen menschlicher Einzigartigkeit präsentieren. Gerade mit Hinblick auf die Wahl Natalie Portmans als Verkörperlichung der Biologin findet eine Verallgemeinerung des weiß-gelesenen, heterosexuellen Subjekts als Agentin des Fortschritts statt. Zwar zeigt der Film auch zwei Forschende, die nicht nur als BIPOC, sondern in der sich zwischen ihnen entfaltendenden Sorgebeziehung auch als Queer gelesen wer- den können, jedoch scheint nur die Biologin würdig, von der Präsenz verwandelt oder repliziert zu werden. Dies kommt einem ›whitewashing‹ der Entsubjektivie- rung gleich, wie auch der Geschichte queerer Körper, denen Heteronormativität gewaltsam aufoktroyiert wurde. Das Auslassen dieser Kontexte bricht mit den vorangegangenen Gewaltgeschichten, die weiße und heterosexuelle Bürgerlichkeit immer schon als agentiell konstruiert haben. Der vorgeschlagene Weg der Ent- subjektivierung suggeriert so zugleich eine Universalsetzung des Status Quo der kompletten Immersion in die von Technokraten erschaffenen Infrastrukturen. Dennoch verwehrt sich Annihilation dem Mythos eines vollkommenen und sin- gulärenBewusstseins als Resultatmenschlicher Schöpfungund somit auchderVor- stellung, es wäre ohne weiteres möglich, eine entkörperlichte, universelle AGI zu erschaffen. Stattdessen widmen sich Buch und Film einer Vorstellung von KI als queer, künstlerisch und somit opak und seltsam monströs. Queer-Theory und de- koloniales Denken zeigen auf, dass KI sich also nicht in akkuraten Daten oder einer allgemeinen Superintelligenz erschöpfen wird, da Intelligenz Körper, Situierung, aber auchWandelbarkeit braucht. Jedoch artikuliert sich ein Potenzial,welches ent- Sara Morais dos Santos Bruss: KI in der Wildnis 253 lang marginalisierter Wissensordnungen zu neuen Aushandlungen von Begehren gelangt: im Verhältnis zu Technologien, statt als definiert durch Technologien. An- nihilationmacht deutlich, dass Systeme neuer Informationstechnologien nicht los- zulösen sind von Kategorisierungen der Differenz innerhalb derer subjektivierende Identitätsangebote artikuliert werden (vgl. Keeling 2018). Als queere KI gelesen, ar- tikuliert das Narrativ sowohl die Gewalt der sich ausdehnenden Immersion durch technologische Systeme wie auch die Unmöglichkeit, (Körper-)Wissen als unwan- delbare Evidenz festzuschreiben. Literaturverzeichnis Amaro, Ramon. 2019. As If. e-flux Architecture: BecomingDigital. URL: https://www.e- flux.com/architecture/becoming-digital/248073/as-if. Zugegriffen: 10.05.2022. Anderson, Chris. 2013. Das Ende der Theorie. Die Datenschwemme macht wissen- schaftliche Methode obsolet. In Big Data – Das neue Versprechen der Allwissenheit, Hg. Heinrich Geiselberge und Tobias Moorstedt, 124–130. Berlin: Suhrkamp. Atwood,Margaret. 1998 [1990].DeathbyLandscape. InWildernessTips,Hg.Margaret Atwood, 97–119. New York: Anchor. Barad,Karen. 2012.What is themeasure of nothingness? Infinity, virtuality, justice. 100Notes, 100Thoughts, Nr. 099, Hg. documenta 13. Berlin: Hatje Cantz. Bareis, Jascha und Christian Katzenbach. 2021. Talking AI into Being: The Narra- tives and Imaginaries of National AI Strategies andTheir Performative Politics. Science, Technology, &Human Values. doi:10.1177/01622439211030007. Barnett, Fiona, Zach Blas, Micha Cárdenas, Jacob Gaboury, Jessica Marie Johnson und Margaret Rhee. 2016. Queer OS. A User’s Manual. In Debates in the Digital Humanities, Hg. Lauren F. Klein und Matthew K. Gold, o.S. London und Min- neapolis: UMinnesota Press. Buolamwini, Joy und Timnit Gebru. 2018. Gender Shades. Intersectional Accuracy Disparities in Commercial Gender Classification.Proceedings ofMachine Learning Research 81: 1–15. Chun,Wendy Hui Kyong. 2008.The Enduring Ephemeral, or: the future is a mem- ory.Critical Inquiry 35(1): 148–171. Chun, Wendy Hui Kyong. 2021. Discriminating Data. Correlation, neighbourhoods and the new politics of recognition. Cambridge und London: MIT. Couldry, Nick und Ulises A. Mejias. 2019. Data Colonialism. Rethinking Big Data’s Relation to the Contemporary Subject. Television &NewMedia 20(4): 336–349. Dainton, Barry,Will Slocombe und Attila Tanyi (Hg.). 2021.Minding the Future. Arti- ficial Intelligence, Philosophical Vision and Science Fiction. Cham: Springer. Ding, Naifei. 2002.ObsceneThings. Sexual Politics in Jin PingMei. Durham: Duke Uni- versity Press. 254 Narrativ Engel, Antke Antek. 2002. Wider die Eindeutigkeit. Sexualität und Geschlecht im Fokus queerer Politik der Repräsentation. Frankfurt a.M.: Campus. Ferreira da Silva, Denise. 2018. On DifferenceWithout Separability. In Dear History, WeDon’t Need Another Hero, Hg. Gabi Ngcobo, 57–65. Berlin: Berlin Biennale. Gabrys, Jennifer. 2011. Digital Rubbish. A Natural History of Electronics. Michigan: U Michigan Press. Gramlich,Naomie.2020.KolonialeAphasiedesAnthropozänsamBeispiel desFilms Annihilation. In Feministisches Spekulieren Genealogien, Narrationen, Zeitlichkeiten, Hg.Marie-Luise Angerer und Naomie Gramlich, 197–208. Berlin: Kadmos. Halberstam, Jack (Judith). 2011. The Queer Art of Failure. Durham: Duke University Press. Halberstam, Jack. 2020.WildThings.TheDisorder of Desire.Durham: Duke University Press. Haraway, Donna J. 2007.When SpeciesMeet. Minneapolis: UMinnesota Press. Hörl, Erich. 2018. Die environmentalitäre Situation. Überlegungen zum Umwelt- lich-Werden vonDenken,Macht und Kapital. Internationales Jahrbuch fürMedien- philosophie 4(1): 221–250. Jasanoff, Sheila und Sang-Hyun Kim (Hg.). 2015.Dreamscapes ofModernity. Sociotech- nical Imaginaries and the Fabrication of Power. Chicago: U Chicago Press. Keeling, Kara. 2014. Queer OS.Cinema Journal 53(2): 152–157. King, Tiffany Lethabo. 2019. The Black Shoals. Offshore Formations of Black and Native Studies.Durham: Duke University Press. Lewis, Jason Edward,Noelani Arist, Archer Pechawis und Suzanne Kite. 2018.Mak- ing Kin with the machines. Journal of Design and Science. https://doi.org/10.21428 /bfafd97b. McKittrick, Katherine. 2021.Dear Science andOther Stories.Durham:DukeUniversity Press. Morais dos SantosBruss,Sara. 2022. ›ANewScience?‹ ZumantirassistischenPoten- zial materialistischer Medienwissenschaften. Zeitschrift für Medienwissenschaft 14(1): 101–109. Nosthoff, Anna-Verena und Felix Maschewski. 2017. Order from Noise: On Cam- bridge Analytica, Cybernetic Governance and the Technopolitical Imaginary. Public Seminar 20(3): o.S. Pugliese, Joseph. 2010.Biometrics. Bodies, Technologies, Biopolitics. London: Routledge. Schiebinger, Londa. 1993. Why Mammals Are Called Mammals: Gender Politics in Eighteenth-Century Natural History. The American Historical Review 98(2): 382–411. Schneider, Birgit. 2020. Spürtechniken. Von der Wahrnehmung der Natur zur Natur als Medium. In Sonderheft der Zeitschrift Medienobservationen, Hg. Birgit Schneider und Evi Zemanek. https://www.medienobservationen.de/sonderau sgaben/spuertechniken-2020. Zugegriffen: 12.08.2022. Sara Morais dos Santos Bruss: KI in der Wildnis 255 Schnödl, Gottfried und Florian Sprenger. 2021. Üexkülls Umgebungen. Umweltlehre und rechtes Denken. Lüneburg: meson. Seaver,Nick. 2017. Algorithms as Culture. Some tactics for the ethnography of algo- rithmic systems. Big Data and Society 4(2): 1–12. Spivak,Gayatri Chakravorty. 2003.Death of a discipline. New York: Columbia Univer- sity Press. Thomas, Tanja, Steffi Hobuß, Merle-Marie Krus und Irina Hennig (Hg.). 2011. Dekonstruktion und Evidenz. Ver(un)sicherungen inMedienkulturen. Roßdorf: Ulrike Helmer. Tuck, Eve und K. Wayne Yang. 2012. Decolonization is not a metaphor. Decoloniza- tion: Indigeneity, Education & Society 1(1): 1–40. VanderMeer, Jeff. 2014. Annihilation. New York: Farrar, Straus and Giroux. Wang, Yilun and Michael Kosinski. 2018. Deep Neural Networks are more accurate than humans at detecting sexual orientation from facial images. Journal of Per- sonality and Social Psychology 114(2): 246–257. Weinstock, Jeffrey Andrew. 2016.TheNewWeird. InNewDirections in Popular Fiction, Hg. Ken Gelder, 196. London: Palgrave Macmillan. Wilk, Elvia. 2019. Towards a theory of the NewWeird. Elvia Wilk on a feminist un- derstanding of eerie fiction. literary hub, 5. August 2019. New York: Soft Skull. Wynter, Sylvia. 2001. Towards the Sociogenic Principle: Fanon, The Puzzle of Con- sciousExperience,of »Identity« andWhat it’s Like tobe »Black«. InNational Iden- tities and Socio- political Changes in Latin America, Hg. Mercedes F. Durán-Cogan und Antonio Gómez-Moriana, 30–66. New York: Routledge. Wynter, Sylvia. 2003. Unparalleled catastrophe for our species? Or: To give human- ness a different future. conversations, In SylviaWynter. On being human as praxis, Hg. Katherine McKittrick, 9–89. Durham: Duke. Yusoff, Kathryn. 2018. A Billion Black Anthropocenes or None. Minneapolis: U Min- nesota Press. Nachwort Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss Wir verstehen diesen Band als Tastbewegung in das Feld der ambivalenten Bezie- hung zwischen Queerness und KI. Daher arbeiten die von uns versammelten Bei- träge Potenziale der Dekonstruktion vermeintlich objektiver Technikverständnis- se heraus, untersuchen Strategien der Emanzipation bzw. der Loslösung von tech- nikinduzierten Momenten der Formalisierung sowie Rationalisierung und benen- nen diesbezügliche intersektionale Diskriminierungserfahrungen. Durch die Bei- träge ist hinlänglich deutlich geworden, dass bestimmte Anwendungsbereiche von KInormativeGeschlechterbilderwie auchklassistischeund rassifizierteVorstellun- gen widerspiegeln und entsprechende Körper, Handlungen und Verhaltensweisen durch autonome Entscheidungssysteme, Bezüge zu Überwachungssystemen oder Wearables technischvermitteln.DiesenTechnologien ist die festeZuschreibungvon Identitäten ebenso zu eigenwie das damit einhergehende Ausblenden von Ambiva- lenzen,AbweichungenundUnordnungen.So sindKI-Verfahreneinschneidendund fehlerhaft für die diversen Nutzer*innen und damit letztlich für alle, deren persön- liche Daten genutzt und deren private Leben ausgenutzt werden. Deutlich geworden ist auch, dass Systeme künstlicher Intelligenz diametral betrachtet werden können, bspw. als Mittel für Produzent*innen queerer Am- bivalenzen und als inklusive Ermöglichungstechniken pluraler Weltzugänge für Individuen, denen eineweniger technisierteWirklichkeit Hindernis ist. Zumindest in diesem Sinne können KI-Technologien auch entnormierend sein – geringsten- falls,was dieDiversifikation vonNutzungsanforderungen andieWelt anbelangt.So sind technische Möglichkeiten auch affirmativ einschneidend für marginalisierte Personen, bspw. Menschen mit Behinderung, deren Leben gesellschaftlich, sozial und politisch in diskriminierender Weise als vermeintlich fehlerhaft betrachtet wird. Durch Systeme künstlicher Intelligenz können bestimmte Personengruppen folglich Bereicherung und Hilfestellung erfahren, da Barrieren genommen und Hindernisse durch technologische Erweiterungen abgebaut werden. AuchhabendieBeitragendeneruiert, inwiefernComputersysteme,diemensch- licheEntscheidungenmustergeleitet nachbilden sollen, imZugederDigitalisierung selbst zu Imaginationsobjekten und Narrativen einer pluralen Zukunft stilisiert worden sind und inwieweit sie so Schatten scheinbar utopischer Veränderungen 258 Queere KI vorauswerfen, die auch auf bestehende technische Gegebenheiten aufblendbar erscheinen und so das Bild von KI als Denkfigur diversifizieren. Als Fokus der Kritik an Systemen künstlicher Intelligenz hat sich in unserem Band mehrheitlich die historische Einbettung von Diskriminierungserfahrungen und -praktikenherauskristallisiert. ImZentrumdessen stehendieMenschenhinter denMaschinen als durch geschichtliche Narrative und Bedingtheiten situierte, po- litisch determinierte und sozialisierte Individuen. Das meint mehrheitlich Produ- zent*innen,Hersteller*innen undEntwickler*innen vonKI-Technologie, aber auch Unternehmer*innen oder Tech-Advokat*innen.Diese Personenwurden als eben je- ne Subjekte benannt, die in Relation zu ihrem gesellschaftlichen Status und ihrem sozialen und kulturellen Umfeld im Sinne jener tradierter Rollenbilder und global- historischer Gefälle agieren, in die sie eingebettet sind und für deren Fortbestehen sie mit ihrem Handeln eintreten. Als die tiefgreifendsten und in den Komplex der Technik amweitestenhineinreichendenProblemlagen,die zuUngunstenpluralerer Möglichkeitshorizonte von Systemen künstlicher Intelligenz ausfallen, erscheinen uns: (1) dermenschliche, an technologischem Fortschritt orientierte Unwille, Ambi- valenzen als produktiv zu akzeptieren, (2) das partielle Unvermögen, Vielfalt zuzu- lassen, und (3) eine reduktive Prinzipientreue, die auf einem rassifizierten, west- lichen, weißen und zutiefst heteromaskulinen Wissensverständnis fußt, sowie (4) diepermanenteReproduktionentsprechenderEpistemologien.Synonymdazu liegt ebenjene begriffliche Abgrenzung, die KI durch die starke Reflexion und Selbstde- finition durch den Intelligenzbegriff vornimmt, der seinerseits in rassifizierte und segregative Praktiken und Geschichten eingehegt ist. Im hier erarbeiteten und aufgefächerten Kenntnisstand um die vielfältigen Zu- gänge zu maschinellen Verfahren und damit auch in Kenntnis um die Problemla- gen hinter Systemen künstlicher Intelligenz werden perspektivische Möglichkei- ten ausgelotet, die ein Umgehen, Überschreiten und Zurückweisen derlei genera- lisierter und reduktiver Kategorisierungen technischer Verfahren in Aussicht stel- len. Fokus dieses Bandes sind daher Potenziale der Durchkreuzung und -brechung durch queere Praxen, die Möglichkeiten der (Nicht-)Repräsentation verdeutlichen und damit einhergehende Handlungsoptionen und -fähigkeiten offenlegen. Dem Ziel folgend, Diskurse um Verfahren künstlicher Intelligenz und ihrer systemati- schen Eingebundenheit in das Technische als bedingend für gesamtgesellschaftli- che Ist-Zustände offenzulegen und queere Möglichkeiten der Einflussnahme auf- zuzeigen, sind verschiedene Forschungsmethoden und -zugänge miteinander ver- schränkt. Denn der Idee, Maschinen Mehrdeutigkeit, Eigenartigkeit und Fluidität in Bezug auf Identität beibringen zu können und sie nicht nur auf rigide Klassifika- tionsarbeit zu reduzieren,kannmit einerwissenschaftlichenReflexiondesDenkens über Techniken und Technologien produktiv entsprochen werden. Damit sind Er- gebnisse eines weiterführenden und vitalen Diskurses in Aussicht gestellt, die den Zweck und die Herstellung digitaler Technologie bspw. kulturell, ökologisch oder Michael Klipphahn-Karge, Ann-Kathrin Koster und Sara Morais dos Santos Bruss: Nachwort 259 sogar utopisch rückbinden undZugänge schaffen können,die inklusiv, barrierearm und weder ausschließend noch normierend sind. Wir möchten mit der Frage schließen: Brauchen smarte Maschinen überhaupt ein Coming-out? Der im Titel dieses Bandes verwendete Begriff ›Coming-out‹ ist am- bivalent. Er meint vor allem einen Orientierungsprozess, an dessen Ende ein Be- kenntnis zum Abweichen von tradierten Modellen von Geschlecht, Sexualität und Gesellschaft steht. Er beruht auf einem Verschieben und Umkehren von Sichtbar- keits- und Gerechtigkeitsökonomien, die sexuelle und entnormierende Differenz ins Zentrumgesellschaftlicher Aufmerksamkeit setzen, in derenMitte üblicherwei- se ein tradiertes Heteronormativ zu finden ist. Dabei stellt sich die Frage, ob dieses Normativ durch einComing-out tatsächlich zur Seite tritt unddamit Platz für einen pluralen Kanon an Stimmenmacht. Anschließend an die politische, aber auch sozio-historische Transformation des Begriffs des Coming-out erscheint es an der Zeit, diesen zu schaffenden Raum auch für smarte Technologien – als Erweiterungen ihrer Nutzenden – einzufor- dern und nach deren Coming-out zu fragen. Gleichzeitig sind subjektgebundene Konzepte von Akzeptanz und Anerkennung dem Wunsch eines Coming-out in- härent und damit selbst gebunden an eine heteronormative Vorstellung von Welt, an eine Erwartungshaltung, die Vollständigkeit durch Einverständnis der Masse impliziert.Queerness bildet durch seine radikale Offenheit und permanente eigene Statusaushandlung jedoch den Gegenpol zu jedweder Notwendigkeit normativer Konstruktionsparameter von Gesellschaft. Folglich ist Queerness nicht auf eine ge- sellschaftliche konsensuale Akzeptanzgeste angewiesen, die sowohl dem Coming- out als auch der Etablierung technischer und technologischerNeuerungen zu eigen ist – neue Technologien müssen bspw. erst gesellschaftlich angenommen, genutzt und durch diese Nutzung reproduziert werden, um erfolgreich zu sein, ebenso wie ein Coming-out immer auf einen Zuspruch hoffend auf eine Norm und damit auf ein Außerhalb der Entnormierung fixiert ist. Warum also ein Coming-out smarter Maschinen in Aussicht stellen und diesen Ausblick queer rahmen? Wir bauen auf die Reibung, die durch eine so schwierig erscheinende Befrie- dung wie der von Tech und Queerness entsteht. Zwar scheint das schon auf Basis der in diesem Band deklinierten historischen und gesellschaftlichen Ungleichhei- ten und Diskriminierungsformen, mit denen automatisierte und algorithmisierte Systeme verstrickt sind, beinahe unmöglich, doch weisen zahlreiche der hier ver- sammelten Beispiele auf Öffnungen,Durchkreuzungen undNeukonzeptionen hin, die das kontingente Verhältnis von KI undQueerness auffächern und unseren Blick weiten. Dementsprechend verstehen wir Queerness methodisch als restrukturie- rendes Element, das im Aushandlungsprozess von Technik und Inklusion produk- tive Disruption stiftet. Idee dahinter ist es, für eine Erweiterung des Denkens über – und damit des Erschaffens von – Technik und anhänglichen Technologien zu plä- 260 Queere KI dieren,umderen eigeneUneindeutigkeit undgestalterischeAmbiguität in denMit- telpunkt zu rücken. Es ist auch unser Anliegen, der Notwendigkeit gesellschaftlicher und kulturel- ler Intelligibilität Raumzu geben, die aus ihrer Tradition und Prägung an bestimm- te Normen gebunden ist und parallel klar auf die Sprengkraft des Begriffs Queer – als ein Sich-außerhalb-der-Norm-bewegen – Bezug zu nehmen und Queering als Methode in ihren Möglichkeiten zu bestätigen. Auf Basis dieses dialektischen Po- tenzials und der Widersprüchlichkeit des Begriffs Coming-out steht er titelgebend alsWerkzeug der Perspektivbildung über unseremBand:Queere KI. ZumComing-out smarterMaschinen. Autor*innenverzeichnis Blair Attard-Frost ist Doktorand*in an der Fakultät für Informationswissenschaf- ten der University of Toronto. Attard-Frosts Forschung befasst sich mit der Steue- rung von KI und untersucht die soziale Konstruktion von Intelligenz sowie ethische und politische Fragen von KI-Wertschöpfungsketten. Diese Forschung wird durch eigene Erfahrungen als trans Person beeinflusst, die Attard-Frost in einer Vielzahl von Projekten gemacht hat, z.B. im Bereich der digitalen Transformation, der Un- ternehmensentwicklung im öffentlichen Sektor, im Start-up- und Hochschulkon- text. Johannes Bruder leitet das Critical Media Lab Basel und ist Senior Researcher am Institut für Experimentelles Design und Medienkulturen der Hochschule für Gestaltung und Kunst in Münchenstein bei Basel. Als Soziologe beschäftigt er sich vor allem mit kritischen Zuständen und den medienbasierten Definitionen von Krise, Überlastung und Exzess. Bruders Forschungsinteressen sind trans- disziplinäre Forschungsmethoden, Wissenspraktiken, alternativen Pädagogiken und Publikationsformate, die eigene disziplinäre Paradigmen infrage stellen und kulturwissenschaftliche Forschung in realen Kontexten anwendbar machen. Valérie Félix ist Kuratorin und Künstlerin und forscht zu digitalen Kulturen. Sie ist Dozentin an der zur Fachhochschule Westschweiz gehörenden Hochschule der Kunst und Doktorandin an der Université libre de Bruxelles und an der École na- tionale supérieure des arts visuels de La Cambre. 2017 gründete sie Code, ein inter- disziplinäres und kollaboratives Forschungsprojekt, das sich Fragen zur digitalen Gesellschaft widmet. Kris Vera Hartmann ist Soziologin und seit Juni 2020 wissenschaftliche Mitarbei- terin am Institut für Geschichte und Ethik derMedizin der Ruprecht-Karls-Univer- sität Heidelberg. ImDezember 2019 promovierte sie zur Diskursgeschichte der An- tibabypille an der Sozialwissenschaftlichen Fakultät der Georg-August-Universität Göttingen.Zuvor arbeitete sie bis 2013 amInstitut fürSoziologie anderTechnischen 262 Queere KI Universität Darmstadt. Hartmann forscht zu sozialen, historischen und ethischen Verschränkungen von Technik undWissen. Carsten Junker ist Professor für Amerikanistik mit Schwerpunkt auf Diversity- Studies an der Technischen Universität Dresden. Seine Forschungsinteressen und Lehrschwerpunkte umfassen nordamerikanische Literaturen und Kulturen (inkl. Kanada und Karibik, 18. Jahrhundert bis zur Gegenwart), Epistemologien der Dif- ferenz und Pluralität in Szenarien der Ungleichheit, Genre- und Medientheorie sowie visuelle und populäre Kulturen Nordamerikas. UteKalender vertritt seit Oktober 2022 die ProfessurMedien,Algorithmen undGe- sellschaft in den Medienwissenschaften an der Universität Paderborn. Sie forscht und lehrt dort zu ihren Schwerpunkten digitale Sorgearbeit, KI aus intersektiona- ler Perspektive und feministischeDigitalmanifeste. Sie ist ferner als wissenschaftli- che Mitarbeiterin in einem partizipativen Forschungsprojekt zur gesundheitlichen Versorgung von intergeschlechtlichen sowie vonKindern und Jugendlichenmit Ad- renogenitalem, Turner- oder Klinefelter-Syndrom an der Charité in Berlin beschäf- tigt. Sie arbeitete außerdem im BMBF-Projekt Digitale Akademie Pflege 4.0. Michael Klipphahn-Karge ist Kunstwissenschaftler und studierte Bildende Kunst und Kunstgeschichte in Dresden, Berlin und Ústí nad Labem. Er arbeitet derzeit an seiner Dissertation, die er zu Verschränkungen von KI undMagie in der Gegen- wartskunst anderTechnischenUniversitätDresden verfasst.Außerdem ist erKolle- giat des Schaufler Lab@TUDresden und Redakteur des Online-Journals w/k –Zwi- schenWissenschaft & Kunst. Sein Forschungsinteresse gilt der Kunst der Moderne und Gegenwart, ihrer Vermittlung sowie der Verbindung von Kunst und Wissen- schaft. Dahingehende Schwerpunkte liegen auf Bildkulturen technischer und di- gitaler Systeme, Künstlicher Intelligenz, Geschlechterkonstruktionen, Gender und Queerness sowieTheorien über Animismen,Magie und Ritual in der Kunst. Katrin Köppert ist Kunst- und Medienwissenschaftler*in mit einem besonderen Schwerpunkt auf Gender-/Queer-Studies und post-/dekolonialen Theorien. Seit Oktober 2019 ist Köppert Juniorprofessor*in für Kunstgeschichte und populäre Kulturen an der Hochschule für Grafik und Buchkunst Leipzig; imWintersemester 2021/22 und Sommersemester 2022 vertrat Köppert die Professur für Transforma- tionen audiovisueller Medien unter besonderer Berücksichtigung von Gender-/ Queer-Theory an der Ruhr-Universität Bochum. Arbeitsschwerpunkte Köpperts sind Affekttheorien, post-/dekoloniale sowie queere Medientheorien und queere Kunst im Kontext von KI und Fotografie. Köppert leitet zusammen mit Julia Bee das DFG-Forschungsnetzwerk Gender, Medien und Affekt (2020–2023), hat den Vorsitz der Akademie für transkulturellen Austausch der HGB Leipzig inne und ist Autor*innenverzeichnis 263 Redaktionsmitglied bei der begutachteten Open-Access-Zeitschrift Open Gender Journal. Ann-Kathrin Koster hat Politikwissenschaft, Soziologie und Interkulturelle Gen- der-Studies in Trier undWashington, D.C. studiert. Ihre Forschungsinteressen lie- gen im Bereich der Demokratietheorie, wobei sie sich gegenwärtig vor allem mit epistemologischen Zugängen zu Demokratie und Technik auseinandersetzt. In ih- rerDissertationbeschäftigt sie sichmitdemWechselverhältnis vonDemokratieund künstlicher Intelligenz.Von 2020 bis 2022war sieKollegiatin amSchaufler Lab@TU Dresden. Aktuell ist sie wissenschaftliche Mitarbeiterin amWeizenbaum-Institut/ Wissenschaftszentrum Berlin für Sozialforschung. Darüber hinaus ist sie Mitglied bei netzforma* e.V., einem Verein, der sich mit feministischer Netzpolitik ausein- andersetzt. Ann-Kristin Kühnen ist wissenschaftliche Mitarbeiterin und Doktorandin im Be- reich Mikrosoziologie und techno-soziale Interaktion an der Technischen Univer- sität Dresden. Sie hat Soziologie in Dresden, Jena und Jerusalem studiert und im Rahmen ihrerMasterarbeit zumVerhältnis vonalgorithmischenSystemen,Körpern undWissen geforscht.Ausgehend vonDiskussionen in den feministischen Science- and-Technology-Studies, Politischer Ökologie und dem Feld der NeuenMaterialis- men setzt sie sich gegenwärtig in ihremDissertationsvorhabenmit demPhänomen desWaldsterbens auseinander. Malin Kuht ist Vermittler*in, Künstler*in und Aktivist*in aus Kassel. Seit 2015 be- schäftigt Kuht sichmitwiderständigenArchiven, anti-rassistischer Erinnerungsar- beit, und techno-feministischen Praxen.Nach demStudiumder visuellen Kommu- nikation, Pädagogik und Politikwissenschaften an der Universität Kassel war Kuht von 2020–2022 Teil des Old-Boys-Network-Archiv-Projekts imTeamder documen- ta studien, Kassel, und Kunstvermittler*in auf der documenta 15 (2022). Künstleri- sche Werke Kuhts wurden u.a. auf dem Dokfest Kassel (2021), dem 38. Kurzfilm Fes- tivalHamburg (2022), im Kunstraum DOCK 20 Lustenau (2022) und in der Galerie Oksasenkatu 11 Helsinki (2021) gezeigt. Sara Morais dos Santos Bruss ist Kultur- und Medienwissenschaftlerin, Autorin und Kuratorin am Berliner Haus der Kulturen der Welt. In ihrer Arbeit beschäftigt sie sich mit kulturellen Technologiemythen aus feministischer und dekolonialer Perspektive. 2020 promovierte Sara im DFG-Graduiertenkolleg Minor Cosmopo- litanisms der Universität Potsdam, danach übernahm sie die Leitung des Digital- Gender-Projekts der GenderConceptGroup an der Technischen Universität Dres- den. In ihrer Dissertationsschrift Feminist Solidarities after Modulation (punctum press, 2023) schreibt Morais dos Santos Bruss eine Kulturgeschichte technolo- 264 Queere KI gischer Identitäten und sucht (feministische) Kollektivität vor dem Hintergrund algorithmischer Evidenz- und Identitätslogiken zu begreifen. Sie ist außerdem Mitglied von diffrakt. Zentrum für theoretische Peripherie und Redakteurin bei kritisch-lesen.de. EmiliaSladek istGrafikdesignerin,KünstlerinundMusikerin.SeitHerbst 2020 stu- diert sie an der Hochschule für Grafik und Buchkunst Leipzig. Ihre Arbeiten be- schäftigen sich u.a. mit der Übersetzung grafischer Praxen in künstlerische Kon- texte und knüpfen an Einflüsse aus Literatur, Fotografie undMusik an. Natalie Sontopski studierte Soziologie an der Universität Konstanz und European- Studies an der Universität Leipzig. Seit 2018 ist sie Mitarbeiterin im Komplexlabor Digitale Kultur an der Hochschule Merseburg. Dort arbeitet und forscht sie zu feministischen Technowissenschaften, Mensch-Maschine-Interaktion, ›KI-Liter- acy‹ und KI-Didaktik sowie Designsoziologie und spekulativemDesign. Außerdem erarbeitet sie experimentelle Formate zu Mensch-Maschine-Interaktion, um Nut- zer*innen für KI-Technologien zu sensibilisieren. Sie ist Gründerin der Initiative Code Girls, Mitglied im Kunstkollektiv Moving Target Collective sowie assoziierte Kollegiatin im Schaufler Lab@TU Dresden. Momentan arbeitet sie an ihrer Dis- sertation zu Strategien der Spekulation im Feld Creative AI an der Technischen Universität Dresden. Medienwissenschaft Florian Sprenger (Hg.) Autonome Autos Medien- und kulturwissenschaftliche Perspektiven auf die Zukunft der Mobilität 2021, 430 S., kart., 29 SW-Abbildungen 30,00 € (DE), 978-3-8376-5024-2 E-Book: kostenlos erhältlich als Open-Access-Publikation PDF: ISBN 978-3-8394-5024-6 EPUB: ISBN 978-3-7328-5024-2 Tanja Köhler (Hg.) Fake News, Framing, Fact-Checking: Nachrichten im digitalen Zeitalter Ein Handbuch 2020, 568 S., kart., 41 SW-Abbildungen 39,00 € (DE), 978-3-8376-5025-9 E-Book: PDF: 38,99 € (DE), ISBN 978-3-8394-5025-3 Geert Lovink Digitaler Nihilismus Thesen zur dunklen Seite der Plattformen 2019, 242 S., kart. 24,99 € (DE), 978-3-8376-4975-8 E-Book: PDF: 21,99 € (DE), ISBN 978-3-8394-4975-2 EPUB: 21,99 € (DE), ISBN 978-3-7328-4975-8 Leseproben, weitere Informationen und Bestellmöglichkeiten finden Sie unter www.transcript-verlag.de Medienwissenschaft Ziko van Dijk Wikis und die Wikipedia verstehen Eine Einführung 2021, 340 S., kart., 13 SW-Abbildungen 35,00 € (DE), 978-3-8376-5645-9 E-Book: kostenlos erhältlich als Open-Access-Publikation PDF: ISBN 978-3-8394-5645-3 EPUB: ISBN 978-3-7328-5645-9 Gesellschaft für Medienwissenschaft (Hg.) Zeitschrift für Medienwissenschaft 25 Jg. 13, Heft 2/2021: Spielen 2021, 180 S., kart. 24,99 € (DE), 978-3-8376-5400-4 E-Book: kostenlos erhältlich als Open-Access-Publikation PDF: ISBN 978-3-8394-5400-8 EPUB: ISBN 978-3-7328-5400-4 Anna Dahlgren, Karin Hansson, Ramón Reichert, Amanda Wasielewski (eds.) Digital Culture & Society (DCS) Vol. 6, Issue 2/2020 – The Politics of Metadata 2021, 274 p., pb., ill. 29,99 € (DE), 978-3-8376-4956-7 E-Book: PDF: 29,99 € (DE), ISBN 978-3-8394-4956-1 Leseproben, weitere Informationen und Bestellmöglichkeiten finden Sie unter www.transcript-verlag.de