S A B I N A J E S C H K E im Gespräch mit S T E FA N R I E G E R «der menSch iST ein durchGanGS- STadium der eVoluTion» — ethik, autonomie und intimität in der robotik Aktuell vergeht kaum eine Woche ohne einen großen Bericht über die anstehen- den Auswirkungen durch die jüngsten Entwicklungen in der Robotik. Die mit künstlicher Intelligenz bestückten Fahrzeuge und Roboter sollen kooperativ, so- zial, intelligent und nicht zuletzt autonom sein – die Reichweite ihrer potenziel- len Einsatzfelder erstreckt sich von extremen Situationen wie der Minenräumung über den alltäglichen Verkehr bis zur Assistenz in den eigenen vier Wänden. Ge- rade bei Unfällen, wie beim Zusammenstoß eines autonom fahrenden Teslas mit einem Laster im Juli 2016, sind Fragen nach der Sicherheit solcher Systeme und den damit einhergehenden ethischen Implikationen vorprogrammiert: Die ver- baute Sensorik des autonomen Autos hatte einen Laster mit einem hohen Stra- ßenschild verwechselt, der Insasse des Wagens starb, nachdem die Elektronik den Tesla selbständig auf den Laster auffahren ließ. Und nicht nur das: Seit kurzem patrouilliert der autonome Sicherheitsroboter K5 in einer Stanforder Einkaufsstra- ße, und bereits seit längerem ist die automatisierte Auswahl von Inhalten im In- ternet g ängige Praxis. Alle diese Szenarien evozieren Vergleiche mit historischen Dystopien, in denen der Mensch Gefahr läuft, von der Autonomie der Maschinen überwältigt zu werden. Sabina Jeschke ist Direktorin eines in Deutschland einzigartigen, instituts- übergreifenden Kybernetik-Clusters an der Fakultät für Maschinenbauwesen der RWTH Aachen. Dort begleitet man die aktuellen Entwicklungen im Bereich der kooperativen Robotik nicht nur, sondern setzt sie als Forschungs- und Industrie- partner aktiv um. Mit Stefan Rieger sprach Sabina Jeschke über soziale Normen für Roboter, den Status des Menschen, kritische Theorie und die maschinelle Verar- beitung ethischer Dilemmata. — Stefan  rieger  Wir waren sehr daran interessiert, gerade mit einer Maschi- nenbauexpertin von der RWTH Aachen über ein so scheinbar wenig inge- nieursmäßiges Thema wie das der Intimität reden zu können. In unseren SCHWERPUNKT 83 SABINA JESCHKE | STEFAN RIEGER medienkulturwissenschaftlichen Diskussionen haben wir immer wieder fest- gestellt, dass Intimität gehäuft dort eine Rolle spielt, wo es um Fragen der Akzeptanz und der Zumutbarkeit geht: Und zwar nicht bezogen auf bekann- te Großdebatten, wie sie anlässlich von Atomkraftwerken oder von grüner Gentechnik öffentlichkeitswirksam geführt werden, sondern bezogen auf die Frage, wie Technik in unserer alltäglichen Umwelt auftritt. Dabei lässt sich beobachten, dass sie scheinbar eine mimetische Verdopplung menschlicher Eigenarten, auch Unarten betreibt. Technische Gerätschaften verfügen über ein gewisses Maß an Ironie und geraten immer mehr in die Nähe von Verhal- tensweisen wie dem Lügen und dem Schmeicheln. Technik adressiert dabei auf vielerlei Weise Verhaltensweisen und Be- dürfnisse des Menschen. Das betrifft neben der Frage der Gestalt und ei- nem Trend zur Bio- und Zoomorphisierung bei der oberflächengestaltung zugleich auch die affektive Besetzung, wie sie etwa im Konzept des affective computing bei Rosalind W. Picard ihre Verdichtung findet. Sabine  Jeschke  Ihre arbeiten kenne ich sehr gut. Es ist – nebenbei be- merkt – spannend zu sehen, dass die Ideen hinter ihren arbeiten, die ja immer- hin auf das Ende der 1990er Jahre zurückgehen, in der laufenden Industrie-4.0- Debatte einen immer größeren Raum einnehmen. S.r.  Und das Letzte, was uns aufgefallen ist, war die Beobachtung, dass Technik zunehmend in Kategorien des Sozialen, in Semantiken von compa- nionship, von alliance oder gar von Freundschaft auftritt – der Roboter als neuer bester Freund des Menschen. Wir haben diese Befundlage für uns auf den Nenner der «Anthropophilie» gebracht und finden diese an unterschied- lichen orten am Werk. Anthropophilie scheint die operative Gestalt der Ak- zeptanzerzeugung zu sein – und das betrifft eben auch Aspekte der Intimität. Vor dem Hintergrund einer kulturwissenschaftlich orientierten Medienwis- senschaft stellt sich daher die an Sie gerichtete Frage, wie Vertreter_innen aus der Praxis das sehen, ob sie diese Beobachtungen teilen und ob sie viel- leicht sogar Erklärungsangebote dafür haben – etwa in der Entwicklung auf dem Feld der Robotik und im Maschinenbau. S.J.  Es gab dort tatsächlich eine Vielzahl von Veränderungen, die auch zu neu- en Bemühungen in Sachen akzeptanz führten. Vielleicht sollte man zunächst zurückgehen auf die Zeit um 1970, die häufig als ‹Dritte Industrielle Revolution› beschrieben wird. Dort findet ein gewaltiger Innovationsschub im Bereich robo- tischer Systeme statt, weil zum ersten Mal eine Minimalform von Intelligenz in diese Geräte Einzug hielt. Das ist ja das charakteristikum der Dritten Industriel- len Revolution. Vorher beschränkte sich die ‹Intelligenz› solcher Systeme durch ihre bloße Ein- und ausschaltbarkeit: on / off war ihre Maximalintelligenz. S.r.  Mit der Einteilung in Erste, Zweite, Dritte und Industrielle Revolution 4.0 sprechen Sie auch ein Programm an, wie es die Bundesregierung 2011 84 ZfM 15, 2/2016 «dEr mEnScH iST Ein durcHgangSSTadium dEr EVoluTion» strategisch eingefordert hat. Wesentlicher Un- terschied zum computer-integrated manufacturing (demzufolge Industrie 3.0 genannt) sind die In- ternettechnologien, die zur Kommunikation zwi- schen Menschen, Maschinen und Produkten im ‹Internet der Dinge› eingebracht werden. S.J.  In dem Moment, als in den 1970er Jahren die einfachen Programmiersprachen in robotische Sys- teme einziehen konnten – als sogenannte embedded systems –, haben wir es plötzlich mit Robotern zu tun, die einfache anordnungen ausführen können: «Identifiziere einen runden Gegenstand und packe ihn nach links oder identifiziere einen eckigen Ge- genstand und packe ihn nach rechts». Diese Intel- ligenz wurde immer weiter ausgebaut, hin zu den ersten frühen Formen von «achtung, Mensch im Weg, weich aus!». Das heißt, dass ab den 1970ern ‹milde› Intelligenzformen auftauchten, die sich in der Vierten Industriellen Revolution immer mehr steigerten – und hier vermutlich ihren vol- len Durchbruch erleben werden. Bei der gerade erwähnten einfachen Sortierung unterschiedlich geformter Gegenstände handelt es sich eigentlich noch um eine ziemlich reduzierte Form von Intel- ligenz, denn das System weiß nicht, warum es das in irgendeiner Form tut – es ist eine «Fähigkeit zur Umweltadaptivität», al- abb. 1 – 3 Schemata von Roboter- lerdings ohne jede Komponente von Selbsterkenntnis oder Selbstbewertung. armen in den anales de ingeniería mecánica, 1985 Was wir nun in den letzten zehn bis zwanzig Jahren erleben, ist – insbeson- dere durch die Leistungsstärke der Sensortechnik und auch deren Preise und Miniaturisierung – die Möglichkeit, alle erdenklichen Sensoriken fest in den Roboter zu integrieren. nehmen sie das Google Autonomous Car von 2012. Das ist ein Toyota Prius, also ein handelsübliches auto, in dem alle möglichen Sen- sorapparaturen verbaut und algorithmisch verschaltet wurden – und plötzlich fuhr der Wagen autonom. Diese automobile Intelligenz ist durch verschiedene Effekte getrieben, insbesondere durch die Integration von immer mehr Infor- mationstechnologie in die ja einfachen elektromechanischen Systeme. Daher spielt aber der Durchbruch einer günstigen, doch zugleich hochpräzisen Sen- sorik eine zentrale Rolle. Sogenannte Intelligenz alleine funktioniert ja nicht ohne Sinnesorgane, um eine Veränderung in der Umwelt überhaupt wahrneh- men zu können. Was wir also in den letzten 40 bis 50 Jahren erleben, ist eine Steigerung der Intelligenz dieser Systeme durch Sensorik. Darauf baut nun intelligentes Verhalten auf. Hier gibt der Mensch der Maschine derzeit noch mehrheitlich die Regeln vor. Und der nächste große Durchbruch besteht darin, SCHWERPUNKT 85 SABINA JESCHKE | STEFAN RIEGER dass die Maschine diese Regeln doch bitte selbst finden oder generieren soll. Das Google-car etwa startet natürlich mit einem durch Programmierer vorge- gebenen Verhalten, aber in dem Moment, in dem es losfährt, beginnt es seine Umgebung zu explorieren und auf dieser Basis – und in der Kommunikation mit seinen ‹car-Kumpels› – zu neuen effizienteren Lösungsstrategien zu kommen. S.r.  Mit welchem Nutzerbegriff geht die Robotik heute um? Welche Benut- zer_in adressiert die Robotik? S.J.  Mit der gesteigerten Intelligenz einhergehend ändert sich diese adressie- rung massiv. In frühen Formen der industriellen Fertigung verblieb der Robo- ter hinter einem Zaun, der ihn und den Menschen trennte. Derart abgeschirmt konnte er seine spezifischen aufgaben erledigen, ohne dass ihm jemand in die Quere kam. Vor diesem Hintergrund einer räumlich getrennten Hegung war es auch vollkommen egal, ob so ein Roboter besonders gute Manieren hatte, be- sonders intuitive Schnittstellen oder dergleichen. Ganz anders stellt sich das im Fall eines autonomen autos dar. Verkehr ist eben nicht durch Zäune zu domes- tizieren und steht dauernd vor möglichen Problemen, etwa dem unvorherseh- baren Verhalten anderer Verkehrsteilnehmer, wie einem Kind, das unvermittelt auf die Straße springt. S.r.  Die Formulierung vom «Zaun» finde ich signifikant und auch hilfreich. Welche Rolle spielt denn der Körper bei diesem Modellieren einer Benutze- rin oder eines Kollaborateurs in robotischen Systemen? Diese Frage drängt sich auf, wenn man berücksichtigt, dass das Primat des Sehens zunehmend gebrochen und durch Haptik und Taktilität ergänzt oder durch diese gar er- setzt wird. Damit werden aufwendige Kodierungen oder symbolische ord- nungen durch die quasi-natürliche, intuitive und damit weitgehend investiti- onsfreie Benutzung ersetzt. S.J.  Das ist eine unmittelbare Konsequenz daraus. Solange ich diesen Robo- ter hinter seinem Zaun hatte, konnte ich von den für diesen Bereich spezia- lisierten Mitarbeitern verlangen, dass sie Programmiersprachen lernen und den Roboter mittels Tastatur irgendwie ansteuern. Das konnte auch beliebig kompliziert sein, das macht keinen Unterschied, da mussten dann die Ingeni- eurinnen und Informatiker entsprechend ausgebildet sein. Betrachte ich aber solche Systeme im alltag, dann fehlen solche ausbildungsmöglichkeiten – der Roboter muss buchstäblich mit jedem Menschen auskommen. Hinzu kommt, dass die Innovationsgeschwindigkeit so immens hoch ist, dass, wenn ein be- stimmter Stand erreicht wurde, schon dessen nachfolger zur Verfügung steht und damit auch gegebenenfalls eine nachfolger-Programmiersprache. Vor die- sem Hintergrund spielen heute in der Steuerung von robotischen Systemen alle Sinnes- und Wahrnehmungskanäle eine Rolle, die unseren normalen Kom- munikationswegen entsprechen. Das Erste ist, dass navigationssysteme inzwi- schen halbwegs verstehen können, was ich zu ihnen sage, sie geben auch eine 86 ZfM 15, 2/2016 «dEr mEnScH iST Ein durcHgangSSTadium dEr EVoluTion» halbwegs vernünftige antwort. Das ist sinnvoll, denn ich soll ja auto fahren und nicht auf der Tastatur herumtippen. also der audiokanal war so der erste, der diese Tastatur-Geschichte so richtig großflächig abgedeckt hat. Man macht auch viele multimodale Konzepte – wenn ich an der ampel stehe, kann ich ruhig auf dem navi rumtippen, aber sonst rede ich mit dem Gerät. Stellen Sie sich folgendes Szenario vor: Sie bauen einen Roboter und der soll eine ältere Person, ihre Mutter oder ihren Vater, in der Küche unterstüt- zen – dann brauchen wir audiosensoren und Spracherkennung. Die Verwen- dung einer Tastatur wäre sicherlich keine gute Idee – mit Blick auf klebrige Finger beim Kuchenbacken. aber dieser Roboter bräuchte noch mehr, etwa ein Verständnis dafür, dass gerade mit ihm geschimpft wird. Er müsste über ein rudimentäres Verständnis für Emotionalität in der Stimmführung verfügen, um auf dieser Basis zurückschließen zu können, dass das, was sein menschliches Gegenüber gerade gemacht hat, wohl nicht das war, was es hätte machen sol- len. Die Interpretation von Mimik, Gestik oder Emotionalität stellt also eine Voraussetzung von Kollaboration dar. Man kann es auch noch viel einfacher formulieren: Wenn der Roboter mit jedermann kommunizieren soll und der Maßstab der Dinge der Mensch ist, dann muss er menschliche Kommunikati- onsformen lernen. S.r.  Genau das, was Sie in Ihrem Beispiel genannt haben, also die Annähe- rung an die Konventionen natürlicher Kommunikation, brachte uns auf den Begriff der «Anthropophilie». S.J.  Damit sind wir wieder auch beim Thema des anthropomorphismus, das damit zusammenhängt. Wenn etwa ein Roboter die Funktion eines Dieners übernimmt, wie reagieren wir dann darauf, wenn er sich genauso benimmt wie ein menschlicher Steward? Darf er z. B. den Sicherheitsraum, den Menschen um sich herum als konventionell akzeptierten nahbereich haben, verletzen? Darf die Maschine in diesen nahbereich eindringen oder muss sie vielleicht noch viel weiter auf Distanz gehalten werden als Menschen? Und natürlich spielen dabei Gender-aspekte und kulturelle Unterschiede eine wichtige Rolle. auch nähe ist eben kulturell unterschiedlich codiert. S.r.  Wie reagieren Sie auf Leute, die in einem Gestus pauschaler Technik- verwerfung sagen, die Industrie 4.0 vernichte Arbeitsplätze und verdränge den Menschen aus dem Arbeitsprozess? S.J.  Die Vierte Industrielle Revolution hat sehr starke Spiegeleffekte mit der Zweiten. Die Erste und die Dritte waren anders. In der Zweiten Industriellen Revolution wurden sehr viele arbeitsplätze verloren, viele aber auch an ande- ren Stellen neu geschaffen, und eine ähnliche Bewegung sehe ich auch im Mo- ment. aber der Verweis auf neu geschaffene arbeitsplätze ist wie ein Sedativum, weil die neuen Systeme eine bisher ungekannte Komplexität und Mächtigkeit besitzen. Der Watson-computer von IBM etwa, der das für eine Künstliche SCHWERPUNKT 87 SABINA JESCHKE | STEFAN RIEGER Intelligenz auf der sprachlichen und analytischen Ebene sehr anspruchsvolle Fernsehquizformat Jeo- pardy gegen zwei menschliche Experten dieses Spiels gewonnen hat, macht schon jetzt eine Prognostik möglich, die ganze Berufsgruppen in Frage stellen dürfte. So werden sich Mediziner demnächst fragen lassen müssen, wer sie denn demnächst überhaupt noch braucht, wenn eine KI ihre aufgaben überneh- men kann. Die diagnostische Medizin wird in Zu- kunft von Robotern gemacht, weil sie in der analyse viel besser sind. Und so wird es auch in vielen an- deren Bereichen sein. aber zurück zur arbeitswelt. Im Unterschied zur Zweiten Industriellen Revolu- tion ist viel schlechter vorhersagbar, welche Stellen entfallen – und auch wo neue entstehen. Wenn man ehrlich ist, dann muss man die Vision zulassen, dass das Bild einer Gesellschaft in der Zukunft nicht mehr das ist – es übrigens vor 2000 Jahren auch nicht war –, das wir gewohnt sind, demzufolge wir morgens alle gepflegt zu einem arbeitsplatz gehen und um 17, 18 oder 19 Uhr davon wieder zurückkommen. Menschliche Existenzweisen sind auch außerhalb von Vollbeschäftigungskonzepten denkbar und ein erfülltes Le- ben muss nicht notwendigerweise darin bestehen, einen Job zu haben. S.r  Sehr interessant, dass sie das ansprechen. Durch die zunehmende Ro- botisierung sind ja in letzter Zeit auch gesellschaftspolitische Themen ganz anders diskutiert worden. S.J.  Solche Veränderungen verändern zwangsläufig gesellschaftliche Konventi- onen und werfen neue Fragen auf – etwa die Frage, wie genau ich meine Miete und mein Essen zahle, wenn ich nicht arbeite. Da sind wir bei politischen The- men wie etwa dem eines Bedingungslosen Grundeinkommens, das u. a. durch die Durchdringung der arbeitswelt mit automaten denkbar wird. S.r.  Lassen sie uns vom Großthema der Arbeitswelt zu einem anderem Brennpunkt künftiger Entwicklung übergehen: dem Wohnen und seiner Verbindung zu Konzepten wie dem der Privatheit, des Heimeligen und schlussendlich auch des Intimen. Wenn man sich Entwicklungen über die Akzeptanz technikgestützter Wohnraumsysteme ansieht, wie sie derzeit un- ter dem Begriff des ambient assisted living diskutiert werden, so finden dort Veränderungen statt, die Folgen für die gesamte Gesellschaft haben. Der Druck demografischer Entwicklungen und die Kosten, die auf die Sozialsys- teme zukommen, zwingen zu neuen Ansätzen und in deren Vollzug zu neu- en Aushandlungsprozessen. So entscheiden sich Menschen autonom – und mit zunehmend großer Selbstverständlichkeit – dafür, Autonomie an tech- nische Systeme abzugeben, um so den Verbleib in der Intimität der eigenen 88 ZfM 15, 2/2016 «dEr mEnScH iST Ein durcHgangSSTadium dEr EVoluTion» vier Wände sicherstellen zu können. Das erzeugt Formen einer Freiwillig- keit von Kontrolle, die so überhaupt nicht zum kritischen Gestus passt, den wir üblicherweise mit Namen wie orwell und Foucault verbinden. Und es fällt auf, wie sehr der Bereich des Wohnens mit Sensortechniken verbunden ist, die heute in allen möglichen Fitnesstrackern oder medizinischen Gad- gets verbaut sind – bis in die Untiefen von Wearables und noch intimer in dem, was darunter liegt, in dem, was Steve Mann, einer der Protagonisten des wearable computing, auf den Begriff von sogenannten «underwearables» gebracht hat. S.J. Das geht weiter bis zu Implantaten: Die ersten neuen Blutzuckerpumpen sind WLan-fähig, damit von außen eingegriffen werden kann, wenn der Pati- ent nicht mehr in der Lage ist, eine Steuerung vorzunehmen. natürlich ist das im Kern eine gute Idee – eine Blutzuckerpumpe soll mein Leben retten, und wenn ich selber bei einem hypoglykämischen Schock nicht mehr in der Lage bin sie zu bedienen, gilt das immer noch. S.r.  Sie würden also Kritikern, die auf die Gefahren von Überwachung und Einbruch in die Privatsphäre verweisen, schlicht die Kosten-Nutzen-Abwä- gung und damit die Vorteile entgegenhalten, die sich für eine künftige Ge- sellschaft auf der Grundlage freiwilliger Datenoffenheit ergibt. S.J.  also, dazu sind zwei Punkte zu sagen: Zunächst einmal können Krankhei- ten nur vernünftig bekämpft und neue Medikamente nur vernünftig entwickelt werden, wenn nicht nur jene sich überwachen lassen, die ein bestimmtes Symp- tomphänomen haben, sondern die auch aktuell davon nicht betroffene allge- meinheit. Wenn ich mit Big-Data-Verfahren große Gruppen der Gesellschaft analysieren und feststellen kann: «nun, der hat es nicht bekommen, und warum nicht usw.» Das heißt, diese ganzen Big-Data-Metapher getriebenen Verfahren funktionieren auf der Basis großer Datensätze und sie setzen voraus, dass ich bereit bin, meine Information nicht nur unmittelbar zu meiner eigenen Ret- tung zur Verfügung zu stellen; das steht vielleicht irgendwann auch einmal an, aber zunächst einmal speise ich sie in eine art virtuelles Weltwissen ein, und sie dienen wahrscheinlich zunächst einmal anderen, bevor sie unmittelbar irgend- wann auch einmal mir zu Gute kommen. Das ist ein Gemeinschaftskonzept, wie eine art Steuersäckel in der demokratischen Gesellschaft, nur dass es um eine andere art von Währung geht. Das beobachten wir an vielen Stellen, als eine Fortsetzung der open-Source-communitys: wo es um konkrete Produkte, nämlich um irgendwelche informationellen Einheiten ging. Jetzt sind es viel intimere und persönlichere Fragmente, nämlich meine eigenen Gesundheits- daten, die aber eine notwendigkeit dafür sind, dass solche Verfahren reifen. Und zweitens wäre festzuhalten, dass wir mit allen technologischen Fort- schritten immer wieder auch neue Ebenen von Transparenz erreicht ha- ben – ich erinnere nur an den Buchdruck, der natürlich dazu geführt hat, dass ein bestimmtes Wissen, das vorher ganz bestimmten Klassen und speziellen SCHWERPUNKT 89 SABINA JESCHKE | STEFAN RIEGER Gruppen der Gesellschaft vorbehalten war, plötzlich das Potenzial hatte, jedem zugänglich gemacht zu werden. auch wenn die Bedenken dieser zunehmenden Transparenz bei der Einführung der entsprechenden Technologien immens wa- ren, werden wir wohl heute alle ein Leben mit diesen Technologien vorziehen, weil sie uns als Individuum enorme Vorteile gebracht haben. Und die negati- ven Konsequenzen führen zu einem gesellschaftlichen auftrag, nämlich diese zu untersuchen und geeignete Handlungskonzepte abzuleiten. nehmen wir das eben diskutierte medizinische Beispiel: Was ist eigentlich das Problem daran, dass meine Gesundheitsdaten bekannt sind? Zum Beispiel, dass mich u. U. eine Versicherung nicht versichern möchte. Hätten wir ein Krankenversicherungs- system, das – ähnlich wie unser Schulsystem übrigens – zunächst einmal jedem lebenslang gleiche Rechte einräumt, wäre der Punkt schon fast obsolet … S.r.  Wir wollten zu den autonomen Automobilen zurückkommen, nicht zu- letzt, weil sich dort so etwas wie eine allgemein geführte und gut sichtbare Diskussion um Akzeptanz festmachen lässt. Schließlich wird vielen Men- schen eine nachgerade intime Beziehung zum Auto nachgesagt. Ich habe vor Kurzem einen wunderbaren Artikel gelesen, der den Titel von Friedrich Dürrenmatts Drama der richter und sein Henker in «Der Richter und sein Lenker» verwandelt hat. Dort wird die Frage nach Strafmündigkeit von Autos sehr drastisch und entsprechend plakativ verhandelt – bis hin zu Bildern, die kulleräugige Fahrzeuge im Autoknast zeigen. Es gibt in Würzburg um den Juristen Eric Hilgendorf eine Gruppe von Leuten, die sich mit diesen Fragen systematisch beschäftigen. In diesem Zusammenhang finden Überlegungen statt, den Begriff der elektronischen Person am Beispiel von selbstfahrenden Autos einzuführen. Kurz gesagt: Welche Rolle spielen denn für Sie Fragen der Ethik, der Zuschreibbarkeit und schlussendlich auch der Versicherbarkeit? S.J.  Fangen wir mit dem autonomen Fahren an. Es ist tatsächlich so, dass die meisten Fahrmanöver heute mit einer höheren Präzision mit diesen automaten gemacht werden können als mit Menschen. alleine schon, wenn sie hinfallen und das auto bremsen muss, können sie nur hoffen, dass ein Vollbremsungs- automat hinterm Steuer sitzt, weil der gegenüber dem Menschen eine deutlich verkürzte Reaktionszeit hat. Sie haben damit eine viel höhere Überlebenschan- ce. Vor diesem Hintergrund stellt sich im Moment noch die Frage, wie wir mit dem Wiener Übereinkommen über den Straßenverkehr umgehen. S.r.  Dieses Abkommen sollte 1968 einen internationalen Standard für den Straßenverkehr bereitstellen. 2014 wurde das Abkommen weitgehend libe- ralisiert: Während in der originalfassung Fahrer_innen zu jedem Zeitpunkt das System vollständig kontrollieren können mussten (autonomes Fahren also verboten war), sind nun autonome Fahrsysteme zulässig, solange sie im Grundsatz jederzeit von den Fahrenden überstimmt oder abgeschaltet wer- den können. 90 ZfM 15, 2/2016 «dEr mEnScH iST Ein durcHgangSSTadium dEr EVoluTion» S.J.  Innerhalb von kürzester Zeit werden wir uns fragen, ob es verantwortlich ist, Menschen fahren zu lassen, wenn es Roboter besser können – das wird ge- nau die Frage sein, die sich die Juristen stellen werden, und zwar aus ethischen Gründen. Und das gilt nicht nur für autonome autos, wir haben bereits vor sechs Jahren autonome Trucks, Vierzigtonner, auf die Straße gestellt. Es gibt inzwischen Konzepte für autonome Schiffe, autonomes Fliegen gibt es sowieso. Das ganze Thema der Drohnen ist damit ebenso angesprochen, und es wird meiner ansicht nach extrem virulent, denn in 30 Jahren leben 70 Prozent der Menschen in Städten und Mega-Metropolen. Solche Metropolen haben zehn Millionen Einwohner aufwärts. Da muss man sich die prinzipielle Frage stellen, wie eigentlich die Logistik dort funktionieren soll, wenn ich sie auf einer zwei- dimensionalen oberfläche machen möchte. Ich habe für diese Menschen einen bestimmten Bedarf an Lebensmitteln usw., die täglich in die Stadt reinmüssen, und auch irgendwas, das aus der Stadt rausmuss. Das ist zunächst einmal eine mathematische Frage, die davon abhängt, ob ich mich auf einem zweidimensi- onalen Straßensystem bewege – bzw. ob das noch geht – oder ob ich die dritte Dimension dazu nehmen muss, um diese Versorgung zu gewährleisten. Um auf die Ethik zurückzukommen: Es werden sich vollkommen neue ethi- sche Fragen stellen, zum einen, weil es sicherer ist, automaten fahren zu lassen; zum anderen, weil bestimmte Entscheidungen getroffen werden müssen. Sa- gen wir einmal, Sie fahren irgendwo, kommen dabei auf eine Glatteisfläche und können nicht mehr gegensteuern. auf beiden Seiten steht jeweils eine Gruppe von Menschen, und Sie rauschen in eine der beiden hinein. niemand wird Ihnen eine Intention unterstellen, und wenn Sie vorsichtig genug gefahren sind, wenn Sie Winterreifen aufgezogen haben, dann gehen Sie aus dieser Geschichte quasi schuldlos raus – auch wenn Sie dabei eventuell mehrere Menschen getötet haben. Ein entsprechend ausgestattetes autonomes auto hat aber ein ganz anderes Problem – es muss sich aktiv für eines der Unfallszenarien entscheiden, weil es eine viel schnellere Reaktionszeit hat. Es kann Situationen geben, wo es den Unfall als solchen nicht mehr vermeiden kann, aber es kann (und muss dann) entscheiden, ob es in die Menschengruppe links oder rechts hineinfährt. Ma- chen wir es mal ganz hart – da sind drei junge und drei alte Personen, oder zwei junge und vier alte. Da müssen plötzlich Regeln externalisiert und erweitert werden, die uns massive Probleme machen werden, weil wir uns bisher klar auf den Standpunkt stellen, alle seien gleich und eine vergleichende Bewertung menschlichen Lebens sei überhaupt nicht zulässig. In irgendeiner Form werden wir das aber lösen müssen. Da werden ganz eigenartige Bewertungskonzepte notwendig. Eine zentrale Frage ist dabei wieder auch die kulturelle Dimension: ob junge oder ältere Personen höher wertgeschätzt werden, ist kulturabhängig. Soll das auto bei Übertritt der nationengrenze seine algorithmik ändern? oder können wir uns als Menschheit tatsächlich auf gemeinsame Regeln einigen? Und wenn wir das könnten – was heißt das dann langfristig für nationale Kul- turen? Diese Frage stellt sich im Globalisierungskontext sowieso immer mehr. SCHWERPUNKT 91 SABINA JESCHKE | STEFAN RIEGER S.r.  Sie finden ähnliche Abwägungsprobleme, wenn es um Tiere geht. So stellt der Wirtschaftsinformatiker oliver Bendel die Frage, wie sich unter- schiedliche regionale Ethiken, also eine Menschen-, eine Maschinen- und eine Tierethik zueinander verhalten – übrigens auch am Beispiel von Brems- manövern. Hinter solchen Ausfächerungen von Ethiken steckt natürlich eine Veränderung in unserer Vorstellung von Handlungsträgerschaft und von So- zialität. Es scheint eine Öffnung stattzufinden – hin zu sogenannten mixed so- cieties oder hybrid societies. Im Umfeld von Forschungen, die das Interaktions- verhalten von realen und nachgebauten Tieren – etwa von Kakerlaken oder von Bienen – untersuchen, ist davon sehr explizit die Rede. Es stellt sich doch die Frage, ob der technische Fortschritt, wenn man diesen Begriff überhaupt benutzen möchte, in unsere Sozialformen eingreift und diese verändert? S.J.  Definitiv, wir machen das auch in unserer eigenen Forschung hier im Ky- bernetik-cluster in aachen sehr stark. Ich hatte am anfang Schwierigkeiten, das wissenschaftlich durchzusetzen. Sie wollen z. B. ein Robotik-Szenario model- lieren in einer Manufaktur, und Sie möchten den Menschen und den Roboter zusammenarbeiten lassen. Dann haben Sie ja grundsätzlich zwei Modellierungs- konzepte: Das eine wäre klassisch, den Menschen in den Mittelpunkt zu stel- len, und der Roboter ist so etwas wie ein Diener – das wäre ein Master-Slave- System. Dieses Modell zeigt verhältnismäßig schnell seine Grenzen: Es gibt ja gute Gründe, diesen Roboter in ein entsprechendes Szenario zu integrieren, vielleicht kann er bis zu 500 kg heben, was ein Mensch nicht könnte. Durch diese Master-Slave-Situation stellt sich ein Mensch automatisch in die leading position, was unter Umständen im Handlungskontext gar nicht so schlau sein muss. Wenn Sie Gruppenarbeit machen, sagen Sie nicht von vornherein: «Ganz egal, wie ich euch Doktorand_innen in den Raum sperre, die und der hat im- mer das Sagen», sondern in abhängigkeit von den Kompetenzen der einzelnen Mitglieder eines Teams führen manche an einer bestimmten Stelle und treten an einer anderen Stelle wieder in den Hintergrund – genau darauf basiert erfolg- reiche Kooperation. Das genau ist die alternative. In dem Moment, in dem ich solchen Systemen einen zentralen Master-Slave-ansatz überstülpe, weil ich sage, der Mensch ist immer zentral, und im Übrigen steht die Erde im Mittelpunkt des Universums, nutze ich die vorhandenen Kapazitäten nicht aus. Und es zeigt sich tatsächlich, dass die algorithmen, die so gebaut sind, hochgradig instabil sind. S.r.  Brauchen wir eine Ethik für den Umgang mit Maschinen oder für den Umgang mit virtuellen sozialen Akteuren? Ich habe das mal an einer Diskus- sion verfolgt um virtuelle Sektionen, in der jemand die Frage stellt: «Darf ich einen virtuellen Frosch quälen?» – Ist das eine dumme Frage – oder ist das eine Frage, die Philosoph_innen, die Roboterkonstrukteur_innen irgend- wann mal beschäftigen wird? S.J.  Ich glaube, es wird sie beschäftigen, weil der virtuelle Frosch vielleicht in den seltensten Formen in einer hundertprozentigen Virtualität vorliegen wird. 92 ZfM 15, 2/2016 «dEr mEnScH iST Ein durcHgangSSTadium dEr EVoluTion» Und da kommen wir auch wieder auf Hybridfor- men. Schon jetzt bauen wir in menschliche Kör- per medizinische Geräte ein, was gesellschaftlich akzeptiert ist. aber wenn wir auf den Gedanken kämen, einem Menschen nicht nur Implantate zu verpassen, die zur Gesunderhaltung und Kontrol- le dienen, sondern die in irgendeinem Sinne die Sinnesorgane erweitern, dann hätte ich vielleicht einen Ultraschallsensor wie eine Fledermaus, das wäre praktisch zum Sehen im Dunkeln und könn- te viele Unfälle vermeiden. nicht umsonst wird in solchen Kontexten beim Militär seit Jahren ge- forscht. Wir sehen sofort die chancen, aber auch die Risiken. Und das ist es, was wir gesellschaftlich leisten müssen – Umgang mit Risiken hat noch nie durch pauschale Vermei- dungsstrategien, wie ja manchmal schnell gefordert, funktioniert. S.r.  Ist der Mensch ein statisches Produkt? oder ändert er sich? S.J.  Wir gehen in der Vergangenheit von einem Bild aus, das so tut, als ob für die Zeiträume, die wir Menschen uns angucken, Evolution keine groß- artige Rolle spielt. Wir gucken uns den Menschen als so eine art statisches Konstrukt an und kommen jetzt genau in die Bereiche, die das hinterfragen. Der Mensch bleibt nicht so, wie er ist, er entwickelt sich genetisch weiter, und er entwickelt sich wahrscheinlich auch aufgrund von technischen Kon- zepten weiter – etwa hin zu einer art selbst implantierter Genetik. Wir h aben auf der einen Seite die klassische Genetik, und wir haben auf der anderen Seite Gentechnik, mit der wir Genetik enhancen können. Wie umstritten das auch sein mag, das wird passieren, und wenn wir es in Deutschland nicht machen, dann machen es andere. Und wir haben die andere Veränderung des M enschen durch solche Hybridformen: Wenn eine Funktion ausfällt, erset- ze ich sie bis dahin, ich ergänze Funktionen, die ich praktischerweise gerne haben möchte. S.r.  Frau Jeschke, warum fürchten sich Leute vor dieser Veränderung? S.J.  Weil sich Menschen immer vor Veränderungen fürchten? S.r.  Aber hat das nicht etwas mit unserem Weltbild zu tun, mit kultureller Überlieferung, mit Religion und auch mit einer Techniksozialisation? S.J.  In Japan fürchtet man sich weniger davor. natürlich haben wir hier so eine art Spätfolge dieses stark christlichen Einflusses auf Europa, das in seiner Ver- gangenheit ein stark menschenzentriertes Weltbild aufgebaut hat, mit der Welt oder der Erde im Mittelpunkt des Universums. Und jede andere Sichtweise wird als narzisstische Kränkung empfunden. SCHWERPUNKT 93 SABINA JESCHKE | STEFAN RIEGER S.r.  Genau, wir sind beim Narzissmus und wir sind bei dem, was Günther An- ders die «Antiquiertheit des Menschen» genannt und dabei die prometheische Scham des Menschen gegenüber der Technik ins Spiel gebracht hat. Was ich spannend finde bei der Beobachtung, ist, wie wenig wir in der Lage oder wil- lens sind, Formen von Alterität zu akzeptieren. Was wäre denn so schlecht daran, wie eine Fledermaus zu sein? Wir kultivieren stattdessen eine Intimi- tät im Umgang mit uns selbst, und alles, was diesem Narzissmus einer Besitz- standwahrung am eigenen Ich im Wege steht, wird argwöhnisch beäugt. S.J.  Menschen sehen sich selber als Mittelpunkt des Geschehens. Das ist diese art von Egozentrismus, die sich aus der eigenen Identität heraus begründen lässt. Wir leben alle nur 50 bis 100 Jahre und nehmen deshalb viele Parameter als für uns unveränderlich wahr. Die großen gesellschaftlichen Entwicklungen haben längere Zeitskalen, d. h. wir befinden uns immer in einer Situation, in erster näherung zu sagen, «gestern ist wie heute», was dann eben manchmal nicht stimmt. Ich glaube schon, dass wir in Europa, überall in der stark christ- lich geprägten Tradition, ein Bild vom Menschen als Krone der Schöpfung ha- ben. Ich halte das für hochproblematisch, erleben wir doch ständig, dass wir im wissenschaftlichen alltagsbetrieb, also beim Verfassen von Proposals und calls, immer wieder Schwierigkeiten mit öffentlichen Förderern bekommen, weil wir nicht reinschreiben, dass der Mensch im Mittelpunkt des Geschehens steht. Da steht er aber nicht, weder wissenschaftlich noch biologisch: Der Mensch ist ein Durchgangsstadium in der Evolution. — Das Gespräch mit Sabina Jeschke fand am 4.3.2016 in Aachen statt. 94 ZfM 15, 2/2016