Publikation Kunst / Performance - Osteuropa - Digitaler Wandel - Kultur / Medien - Stadt / Kommune / Region - Digitalisierung und Demokratie Künstliche Intelligenz und politische Partizipation in der «Smart City»

Ein Laborbericht aus Moskau

Information

Reihe

Artikel

Autor/innen

Dzina Zhuk, Nicolay Spesivtsev,

Erschienen

Oktober 2018

Bestellhinweis

Nur online verfügbar

Moskaus 255m hohes Bürogebäude «Evolution Tower» Foto: Vladimir Malyavko, Unsplash

Es heißt, Künstliche Intelligenz (KI) sei eine hermetische Black Box, die sich jeglicher demokratischen Kontrolle entziehe. Es heißt auch, die KI-getriebene Stadt werde nicht nur alle Verkehrsprobleme überwinden, sondern auch widerspenstige BürgerInnen (und jene, die sich diesen Status noch erkämpfen möchten) durch ökonomisch verwertbare NutzerInnen von intelligenten Maschinen ersetzen. KünstlerInnen wie Nicolay Spesivtsev und Dzina Zhuk, die in Moskau das Kollektiv EEEFFF betreiben, zeigen jedoch: gerade die Tatsache, dass im Zuge des KI-Hypes das Politische annulliert zu werden droht, stellt uns vor die Herausforderung, die politische Praxis neu zu beleben. Ein Laborbericht aus der «Smart City» Moskau.

Vorträge zum Thema

Dzina Zhuk, Ko-Autorin dieses Texts, wird am 9. November 2018 bei der Berliner Gazette-Konferenz «Ambient Revolts» einen öffentlichen Vortrag halten. Die Konferenz stellt politische Handlungsfähigkeit in Zeiten von Autokraten und Künstlicher Intelligenz zur Diskussion, im Berliner ZK/U – Center for Arts and Urbanistics, 8.-10. November, 2018. Mehr Infos auf der Konferenz-Webseite.

Der urbane Raum, den wir aus der Prä-Internet-Ära geerbt haben, wird heute durch computergestützte Ökonomien tiefgreifend umgestaltet. Diese Transformation hat beträchtliche Auswirkungen, die eine Neuerfindung unserer kritischen Sprache erfordern. Beispielsweise werden StadtbewohnerInnen zu UserInnen des urbanen Raums degradiert:Gestaltungsfragen des urbanen Raums, werden nicht durch die Allgemeinheit getroffen, die Infrastruktur wird privatisiert und die Stadt vornehmlich als ein Ort betrachtet, der effizient zu sein hat. BewohnnerInnen dürfen die Oberflächen des Stadtraums benutzen (die Stadtmöbel etwa, oder Screens, auf denen Werbung abgespielt wird) aber sie werden nicht einbezogen, wenn es um das Erschaffen dieser Räume geht. Es entsteht eine Situation, in der es unmöglich ist, kein User/ keine Userin zu sein.

Das Problem dabei ist: Wir können nicht einmal mehr darüber diskutieren, «UserInnen von was» wir eigentlich sein wollen, da uns die neuen Bedingungen ohne unser Verlangen oder unsere Zustimmung auferlegt werden. Dabei minimieren diejenigen, die das Label «smart» benutzen, die finanziellen Risiken ihrer Investitionsprojekte – denn so ein Label verspricht Effizienz und technische Lösungen. Auf diese Weise rekonfigurieren Privatfirmen das politische Feld auf eine für sie bequeme Weise. In diesem Sinne ist die Minimierung wirtschaftlicher Risiken auch eine Minimierung politischer Risiken.

Das Erlebnis der physischen Präsenz in der Stadt vermittelt kein vollständiges Bild von den Prozessen, an denen StadtbewohnerInnen heute beteiligt sind. Wer in die Oberflächen und Strukturen der Stadt eintaucht, wird nicht nur zur UserIn, sonder auch zum Sensor – ein Sensor, der Daten ausstrahlt. Technische Geräte, die wir an und in unseren Körpern tragen unterstützen das Sensor-Werden: Smartphones, Smartwatches, RFID-Chips, smarte Kleidung etc. Die Daten die wir aussenden, sind an die Rückkopplungsschleifen jener KI-getriebenen Systeme geknüpft, die in das städtische Gewebe verbaut wurden. Diese Rückkopplungsschleifen durchlaufen unsere Körper auf adaptive Weise – wir senden und empfangen permanent Daten, sie werden Teil unserer Biographie und vermischen uns mit dem nicht-menschlichen Leben in einer Suppe aus extrahierten Daten von Maschinen, sowie der Stadtgeologie und dem Stadtklima im allgemeinen.

Ein kritischer Ansatz von «Smartness» würde auf diese Rückkopplungsschleifen und unsere Beziehung zu ihnen aufbauen. Das bedeutet, es müsste eine Möglichkeit geben, Änderungen dieser Daten zu erstreiten sowie die Möglichkeit, Algorithmen zu entwickeln, die die extrahierten Daten transparent machen. Nicht zuletzt geht es bei einem kritischen Begriff von «Smartness» um die Möglichkeit, die politischen Interessen jener offenzulegen, die die zugrunde liegenden Algorithmen kontrollieren.

Vor diesem Hintergrund schlagen wir vor, zu untersuchen, wie eine algorithmisch gesteuerte Stadtlandschaft konstruiert ist. Dafür sollten wir den Begriff der künstlichen Intelligenz (KI) auseinandernehmen und im Zuge dessen den Fokus auf intelligente Maschinen legen. Intelligente Maschinen sind konkrete Implentierungen von KI in die techno-sozialpolitische Landschaft. Die genaue Betrachtung intelligenter Maschinen gibt uns die Möglichkeit, uns den komplexen Zusammensetzungen der digitalen Infrastruktur zu nähern, die einerseits aus Datensätzen sowie in den Städten installierten Sensoren und Algorithmen besteht und andererseits aus IT-ArbeiterInnen, die diese Maschinen erstellen, trainieren und Instand halten.

Wenn wir von IT-ArbeiterInnen sprechen, die diese intelligenten Maschinen herstellen, mit ihnen arbeiten und sie warten, dann müssen wir auch kontextualisieren, wie kollektive Wissensproduktionsmethoden mit all ihren Einschränkungen und Widersprüchen aussehen. Zudem müssen wir in Betracht ziehen, welche spezifischen Algorithmen, diese intelligenten Maschinen ausmachen. Zu den Ergebnissen dieser Kontextualisierung gehören die Transformation von Material durch andere Maschinen (z.B. im Bereich des generativen Designs oder der Architektur) oder die Modulation menschlicher Beziehungen (z.B. beim Benutzen der Uber-App, bei dem intelligente Maschinen die BenutzerInnen- und FahrerInnenbewegungen für das Unternehmen gewinnbringend koordinieren).

Unser Interesse gilt der Lücke – beziehungsweise der Schnittstelle – zwischen dem Algorithmus als Form der mathematischen Modellierung, der sozialen Vorstellungskraft einerseits und der sehr spezifischen Implementierung von Algorithmen in sozialen, politischen und wirtschaftlichen Strukturen andererseits.

Vor diesem Hintergrund wollen wir die traditionellen Instrumente und Methoden zur Einforderung des Rechts auf Stadt überdenken. Wenn wir mit der «Smart City» konfrontiert werden, dann müssen wir unsere politischen Instrumente und auch unsere Verhandlungssprache neu erfinden. Eine Sprache, die den Diskurs über Urban Governance, der derzeit von einem Ingenieurjargon dominiert wird, politisieren würde. Auf der Suche nach alternativen Sprachen nehmen wir Rückbezug auf die politischen Praktiken der Einforderungen des Rechts auf Stadt sowie auf kritische künstlerische Praktiken.

Fragmentierung des Privatlebens

Um dies zu erreichen, müssen wir besser verstehen, welche Auswirkungen die «Smart City» auf menschliche Interaktionen hat. Die KI-getriebene Stadt ist oftmals nichts anderes als die Auslagerung von Risiken und Kosten auf die BürgerInnen/UserInnen durch Plattform-Ökonomien. Das sind wirtschaftliche Unternehmen, die eine Souveränität beanspruchen, die früher ausschließlich dem Staat zuzustehen schien.  Ein Beispiel dafür wäre, dass Plattform-Giganten wie Uber dem Staat in puncto 'Wissen über die Bevölkerung' die Datenhoheit streitig machen. Im Wettbewerb mit dem Staat um diese Souveränität, zuweilen auch in Zusammenarbeit, sind diese Plattformen nicht zuletzt auf Grund ihrer operativen Instrumente so mächtig geworden, sprich: auf Grund der intelligenten Maschinen.

Wie beeinflussen diese «smarten» und plattformgetriebenen Stadtökonomien das menschliche Leben? Schauen wir uns ein Beispiel an: Zwei Leute sitzen in einem McDonald‘s-Restaurant in Moskau. Bei einem von ihnen liegt eine Yandex-Essenslieferbox auf dem Schoß. Die beiden haben ein Date, sie küssen sich. Wie viel Zeit sie noch haben, weiß nur der Algorithmus des Zustelldienstes. Er wird entscheiden, wann es Zeit ist, den Kuss zu unterbrechen und das Smartphone mit einer neuen Lieferaufgabe zum Summen bringen. Einer von ihnen steht auf und rennt davon. Yandex-Lieferanten müssen Geldstrafen zahlen, wenn sie sich verspäten.

Heutzutage ist Moskau eine Stadt voller Menschen, die im Wartemodus suspendiert sind, diktiert von den Plattform-Ökonomien und ihren KI-gesteuerten Systemen. Die Bildschirme ihrer Smartphones werden zu intimen Interfaces – das sind spezifische soziale Verbindungen zwischen Individuen, Dingen, Technologien, Tieren usw., die zu einer einzigartigen Art von Interdependenz führen.

Auf dem Bildschirm des Smartphones werden das persönliche und berufliche Leben vermischt, ununterscheidbar. Auf eine Benachrichtigung von deinem Lebenspartner, folgt die neue Aufgabe des Zustelldienstes, für den du arbeitest. So wird das Privatleben heutiger Städter durch jene digitalen Ströme fragmentiert, durch die die algorithmisch gesteuerte Wirtschaft ihre Arbeitskraft mobilisiert. Es ist dieser Moment der Fragmentierung, den wir – als Kunstkollektiv – aufnehmen und versuchen damit zu arbeiten, um eine neue kritische Sprache und neue politisierte Kunstpraktiken zu schaffen. Wie wir uns das vorstellen, darauf werden wir im Folgenden schlaglichtartig eingehen.

Zunächst einmal müssen wir das bequeme und vertraute Szenario durchbrechen, indem wir die von den Plattform-Ökonomien bereitgestellten KI-gesteuerten Tools bedenkenlos verwenden. Mit unserem Projekt «Platform Perplex» etwa bringen wir unsere nächste Fahrt mit Uber zum Kollabieren. Hier wollen wir einen durchaus schmerzhaften Punkt erreichen, an dem die Plattform aufhört, ein bloß ökonomisches Werkzeug zu sein und zu einer kulturellen Maschine wird. Schmerzhaft vor allem deshalb, weil reibungsloses Funktionieren durchaus durch «unbequeme» kulturelle Prozesse überschrieben wird.

Eine neues Sprache des Rechts auf Stadt

Intelligente Maschinen sind das Herzstück des Uber-Service. Sie arbeiten mit der Idee der Territorialisierung. So sind sie in der Lage, eine komplexe Choreographie durchzuführen, die sowohl FahrerInnen als auch NutzerInnen einbezieht. Große Datenmengen, die auf maschinellem Lernen basieren, werden in Echtzeit analysiert. So kann das Verhalten von FahrerInnen und BenutzerInnen vorhergesagt und kontrolliert werden. Uber erschafft so ein eigenes Raster der Stadt und teilt sie in unsichtbare Zonen mit unterschiedlichen Eigenschaften auf. Zonen, die ihre Form und Größe im Laufe der Zeit verändern. Sichtbare Auswirkungen einer solchen «Zonierung» sind die Momente, in denen die Uber-Fahrt plötzlich überteuert ist oder in denen bestimmte Gebiete den Service überhaupt nicht zulassen.

In diesem Sinne haben wir verschiedene Projekte ins Leben gerufen, die sich kritisch mit dem Uber-Dienst befassen. Beispielsweise führten wir Workshops unter einer Autobahn durch. Der Ausgangspunkt: Eine Umgebung, in der die intelligenten Maschinen von Uber Wissen generieren, in der die menschlichen Körper von FahrerInnen, Fahrgästen und die physischen Verkörperungen in Form von Autos verwendet werden, um dieses erzeugte Wissen zu verkörpern – es ist diese Art von Vieldeutigkeit, die die treibende Kraft hinter unserer Intervention war. Während der Workshop-Sitzung unter der Autobahn haben wir dann die umgebenden Berechnungen innerhalb der Uber-Plattform enthüllt. Dann haben wir die Grobheit der Algorithmen aufgezeigt, auf denen die Dienste basieren. Die  intelligenten Maschinen von Uber werden im Zuge dessen zu kulturellen Maschinen gemacht. Das bedeutet konkret, dass menschliche Faktoren nicht ausgeblendet werden, dass aktiv hinterfragt wird, was hinter den Algorithmen steckt und somit wieder menschliche Handlungsfähigkeit zugelassen wird.

In einem anderen Projekt waren waren Uber-FahrerInnen aktiv beteiligt. Ihre Autos verwandelten sich dabei in «Affektlabore», die bis zum Anschlag mit TeilnehmerInnen gefüllt waren. Innerhalb dieses Projekts suchten wir nach den blinden Zonen, in denen Kommunikationsakte gefährlich werden können, in denen Akteure ihre Positionen verlassen und die Komfortzone buchstäblich zerbröckelt. Diese Zonen sind temporär – es ist unangenehm, in dieser Unsicherheit gefangen zu sein. Doch wenn wir es schaffen, das auszuhalten, werden die Umstände, die unser Unwohlsein ausmachen, offenbart. Hier verlagern wir den Fokus auf die Bedingungen, unter denen die Uber-FahrerInnen zum Treffpunkt erschienen sind, und auf die Arbeit, die BenutzerInnen und FahrerInnen leisten müssen, damit Uber existieren kann.

Infolgedessen haben wir die Idee, die kritische Sprache des Rechts auf Stadt neu zu erfinden, erweitert: Eines unserer jüngsten Projekte greift das Format des Hackathons auf. Dies ist eine Art Workshop, der 24 bis 72 Stunden dauert. Hier kommen ProgrammiererInnen zusammen, um gemeinsam Prototypen zu entwickeln. Es ist ein Format, das oft in der Start-up-Szene verwendet wird, um kognitive Arbeit auf die effizienteste Weise auszunutzen. In solchen Sessions entstehen Ideen für neue Apps. Apps, die vielleicht schon bald menschliche Körper in der Stadt umherschieben. Hackathons und andere Formen der Wissensproduktion spielen somit eine wichtige Rolle bei der Gestaltung der Stadtlandschaft. Das macht sie so wichtig. Wie können wir solche Sitzungen politisieren?

Man muss dabei im Hinterkopf haben, dass das langfristige Zusammensein der ProgrammiererInnen in diesen Sessions zu einem intensiven Gemeinschaftserlebnis führt. Das Denken wird dadurch deformiert. Das extra-subjektive Bewusstsein gewinnt an Dynamik. Es ist wie eine Party, die schon ein paar Mal kulminiert ist und langsam zerbröckelt, aber irgendwie geht es immer weiter. Du bist in einem Raum eingeschlossen und hast keine Chance zu gehen. Die TeilnehmerInnen fangen an zu träumen, aber es gibt keinen Schlaf: JedeR um Sie herum hält den Rhythmus der informellen Produktion aufrecht.

Wir müssen auch den Ort berücksichtigen, in dem solche Ereignisse normalerweise stattfinden: in einer  verlassenen Fabrik oder in der Lobby eines Geschäftszentrums. Das gibt dem Hackathon die Atmosphäre eines Sportereignisses – das Wort Hackathon selbst leitet sich schließlich vom «Marathon» ab! Schneller, geschickter, besser: Welche Ideen gewinnen Trophäen? Welche Ideen werden wiederum in den Mülleimer wandern?

Da wir uns diese Form kollektiver Arbeit als Werkzeug aneignen wollten, um mit der Spezifität der Modi intelligenter Maschinenproduktion zu experimentieren, haben wir das Projekt «Hackathon Choreography» ins Leben gerufen. Hier haben wir die Zeit beschleunigt. 48 Stunden Hackathon sind in drei Stunden gedrängt. 1 Tag eines Hackathons entspricht 90 Minuten unserer Sitzung und eine Stunde entsprach 3,75 Minuten unserer Session. Wir haben die Beschleunigung als Methode genutzt, um den Fokus von der Produktion auf den Prozess zu verlagern. Schließlich ist der Hackathon der Ort, an dem technologische und kapitalistische Paradigmen aufeinander treffen. Damit also auch der Ort, an dem intelligente Maschinen entstehen, die sich auf dem Markt behaupten können.

Bei unserer künstlerischen Arbeit geht es uns vor allem darum, eine Situation zu schaffen, in der man sich vergegenwärtigen kann, wie diese Form der intensiven Wissensproduktion genutzt werden kann, um den Rahmen zu deformieren, in dem eben diese Wissensproduktion stattfindet. Das eröffnet neue politische Handlungsräume und ermöglicht eine unverhoffte aber dringend notwendige Re-Politisierung der Stadt als einen Ort, die nicht nur dem markt-getriebenen Effizienz-Diktum selbst-lernender Algorithmen unterstellt ist. Die Fragen, die uns in dieser Sache noch lange beschäftigen werden, lauten: Was ist eine unrentable KI? Welchen Platz könnten nicht-profitable KIs in der «Smart City» einnehmen? Was wären die Voraussetzungen für die Entwicklung derart ‚marktferner‘ Technologien? Was bedeutet es wiederum, KI-Produktion zu kommunalisieren und im Zuge dessen eine Smart City von unten zu ermöglichen?

Ins Deutsche übersetzt von Magdalena Taube.