ARCH+ 236

Kostenloser Download


Erschienen in ARCH+ 236,
Seite(n) 116-123

ARCH+ 236

Das Verschwinden von Architektur und Gesellschaft im Algorithmus

Von Borries, Christian von /  Grawert, Olaf /  Brandlhuber, Arno

Christian von Borries arbeitet als Dirigent, Komponist, Filmemacher und Produzent von ortspezifischen Installationen. In seinem Werk eignet er sich existierende Musik und Bilder an, re-sampelt diese und macht so deren Rezeption und Aneignung als Werkzeuge und Spiegelungen gesellschaftlicher, politischer und wirtschaftlicher Kontrolle deutlich. Er ist Gastprofessor für Intermedia Art an der China Academy of Art, Hangzhou. Gerade hat er seinen neusten Film AI is the Answer – What was the Question? fertiggestellt, aus dem auch die hier abgebildeten Stills stammen. Einleitung Sollte Künstliche Intelligenz (AI) wirklich kommunistisch sein (wie der libertäre Silicon Valley-Unternehmer Peter Thiel behauptet), dann könnte diese auf Statistik basierende Technologie den zentralisierten Monopo­l­kapitalismus und die kommende Krise der Ungleichheit tatsächlich verstärken, genauso wie sie sich in Deleuzes Vorstellung der Kontrollgesellschaft beschleunigen könnte. Sie könnte aber auch als Prototyp, als neuer Maßstab für Schönheit, für die Umverteilung von Reichtum und für Solidarität gesehen und gehört werden – kurz gesagt, zu jener Utopie werden, die uns von Ausbeutung, Nationalismus und Rassismus, von unserer eigenen Wahrnehmung dieser Welt befreit.

Profit versus Gemeinwohl

Olaf Grawert: Du konntest im Rahmen des Produktionskunst-Festivals Drehmomente mit der Zukunftsabteilung der Daimler AG kooperieren: Welche Vorstellungen trafen dabei aufeinander?

Christian von Borries: Der Automobilkonzern erweitert schon seit einer Weile seine Produktpalette: weg vom Autohersteller, hin zum Entwickler und Anbieter von Mobilitäts­konzepten. Dieses Umdenken ist laut dem zurückgetretenen langjährigen Daimler-Chef Dieter Zetsche entscheidend im Rennen um die Gestaltungs­hoheit von Mobilität, die das Unternehmen natürlich gewinnen will. Wenn ein Unternehmen wie Daimler über Mobilität spricht, spricht es automatisch auch über den öffentlichen Raum und dessen Gestaltungshoheit. An diesem Punkt verschwimmen privatwirtschaftliche und öffentliche Interessen, und das ist es, was mich als Künstler interessiert: das Verhältnis von Gesellschafts- und Konzern­interessen, von Gemeinwohl und Gewinnabsichten.

Wenn Stuttgarts Oberbürgermeister Fritz Kuhn im Rahmen einer Smart-City-Konferenz hin und her laviert – auf der einen Seite soll der innerstädtische Individualverkehr reduziert werden, auf der anderen Seite sind die Arbeitsplätze in der Automobilindustrie für die Region wichtiger als „irgendwelche“ Mobilitätskonzepte –, wird das Scheitern der staatlichen Regulierungsmacht deutlich. Direkt anschließend preist der Head of Daimler Financial Services, der größten Unternehmenssparte, die Miet- und Leasingbranche, mit seiner Vision von Arbeit und Mobilität für das Stuttgart der Zukunft – von der App über das Automobil bis zum Service selbst – alles aus einer Hand. Als Illustration gibt es Bilder der Zukunfts­abteilung von Daimler: Renderings von Verkehrsknotenpunkten in Stuttgart, über denen Autos fliegen, Menschen auf Grünstreifen herumspazieren und zwei Männer einen Kinderwagen schieben. Diese Vorstellung einer alten Zukunft hinterfrage ich in Diskussionen und in meinen Videoarbeiten, die sehr assoziativ sind.

Daten statt Steuern

Arno Brandlhuber: Gleichzeitig beschränkt sich die Vorstellung von Daimler auf die Änderung der mechanischen Welt. Man ersetzt die Arbeiter*innen, es wird nicht mehr per Hand, sondern mit dem Roboterarm produziert. Mobilität wird dabei nicht wirklich neu gedacht, der Übergang in eine andere Form scheint noch undenkbar zu sein. Ein Künstlergespräch mit Dir am Garage Museum of Contemporary Art in Moskau trug den Titel „Algorithms of a smart city and the disappear­ance of the architect“. Bleiben wir beim ersten Teil des Titels: Was bedeutet dieser Wechsel von der mechanischen in die digital-algorithmische Logik für die Stadt, und welche Rolle spielt Big Data?

CvB: Zwei Aspekte sind hier besonders wichtig: Wer sammelt welche Daten und wer wertet sie aus? Man könnte denken, der Verwerter ist die Gesellschaft, vertreten durch den Staat, wie etwa bei Volkszählungen. De facto sind es aber bei durch die „Smart City“ generierten Daten, mit Ausnahme von China, meist private Unternehmen. Wir alle hinter­lassen Spuren in der Stadt: Bei der Benutzung öffentlicher Verkehrsmittel, beim Einkauf im Supermarkt und dergleichen werden wir von Überwachungskameras aufgenommen. Bis dato werden unsere Handlungen jedoch in keinen direkten Zusammenhang gestellt. Was wir im Supermarkt kaufen, oder wie viele Zigaretten wir rauchen bleibt ohne Payback-Karte unbeobachtet, im Gegensatz zu unserem virtuellen Verhalten, das zu personalisierter Werbung führt – ein Umstand, dem wir uns weitgehend bewusst sind und den wir anscheinend akzeptiert haben.

In den USA und in China gibt es eine deutliche Tendenz, die Protokolle realer Handlungen zu vernetzen und zueinander in Bezug zu setzen. Die entscheidende Frage lautet: Wer hat welche Interessen an der Auswertung dieser Daten des alltäglichen und öffentlichen Lebens? Wenn es die Steuerbehörde ist, könnte man von einer Form der Gerechtigkeit sprechen, bei einer gesetzlichen Krankenversicherung im besten Fall noch von guten Motiven. Bei privaten Konzernen sind Profitinteressen zwangsläufig. Am Beispiel selbstfahrender Autos zeigt sich der Machtwechsel von der mechanischen in die virtuelle Welt sehr gut. Google ist neben chinesischen Entwicklern weltweit führend in der Navigationstechnologie, ohne selbst Fahrzeuge her­zustellen. Es gibt also eine klare Trennung zwischen Software und Hardware, wobei der entscheidende Mehrwert in der Implementierung des Betriebssystems, somit bei Google und nicht beim Autobauer liegt.

OG: Und genauso wird auch die Stadt durch Auswertung und Analyse des Nutzerver­haltens ökonomisiert. So nutzt einer der erfolgreichsten Investmentfonds der USA als Grundlage für seine Investitionsprognosen in Stadtregionen die Parkplatzüber­wachung der amerikanischen Supermarktkette Walmart. Auto­marken, Wagengrößen, Park­dauer und -frequenzen geben Aufschluss über die Wirtschafts- beziehungsweise Kaufkraft und die Entwicklungsperspektive eines Gebiets und dienen zur Validierung der Vertrauenswürdigkeit eines Finanzprodukts. Diese Standortinformationen bilden eines der größten und gleichzeitig preisgünstigsten Datensets.

AB: Aber als die Kameras auf den Parkplätzen installiert wurden, hat sich niemand bewusst für die Verwertung der Daten durch Dritte entschieden. Die Informationen werden gesammelt und sind in gewisser Weise austauschbar. Erst selbstlernende Analysesoftware hat die Bedeutung der Daten freigelegt und ihre Verfügbarkeit offenbart. Man muss sich die Frage der Sinngebung stellen – wo passiert dieser qualitative Übergang? Was passiert, wenn diese Datensätze – seien es zufällige, von Google generierte oder im Fall Chinas, staatlich verwaltete – auf die analoge Stadt und Stadtplanung treffen?

CvB: Dieses Beispiel zeigt die gelungene Korrelation von Daten. Gleichzeitig kann man daran festmachen, dass nicht die Softwareentwickler*innen, sondern die Datenauswertenden entscheidend sind. Daten­analyst*innen programmieren keine Anwendungssoftware, sondern sind Personen, die in der Lage sind, durch Datenmuster Zusammenhänge im Verhalten von Personen und Objekten herzustellen. Nehme ich das Auto, das Fahrrad oder gehe ich zu Fuß? Verlasse ich das Haus überhaupt? Mit wem spreche ich im Bus? Die bisherige Stadt wurde insofern an den Bewohner*innen vorbeigeplant, als dass die Planung und damit die Verantwortung zentralisiert waren. Zum Beispiel wo Wohnungen und Straßen gebaut werden, wie viele Sozialwohnungen oder wie viele für private Käufer*innen entstehen. Die Stadt der Zukunft beruht eventuell auf dem Datensatz der Bevölkerung, einem vielfältigen Input, der mit in die Art und Weise einfließt, wie die Stadt der Zukunft aussieht.

Gleichzeitig verschiebt sich unsere Rolle von der Bürger*in zur User*in, wir sind nicht mehr Teil einer Gesellschaft, sondern einer „Community“, einer homogenen Blase. Dass diese Ökonomisierung der Umwelt durch private Unternehmen nicht als Bedrohung wahrgenommen wird, zeigt das Beispiel der Toronto Waterfront ganz deutlich. Dort entwickelt Sidewalk Labs, ein Tochter­unternehmen von Alphabet und Schwesterunternehmen von Google, einen ganzen Stadtteil. Wir müssen uns fragen, wie sich die Interessen von Alphabet, abgesehen von Konzern- und Profi­t­interessen, von einer ideal gedachten Stadtentwicklung unterscheiden.

Daten als Macht

OG: Public-Private-Partnerships sind, wie das Beispiel Toronto Waterfront zeigt, auf dem Vormarsch, immer mehr Infrastruktur- und Stadtentwicklungsprojekte werden nach diesem Modell gedacht und umgesetzt. In Deutschland gibt es ein ähnliches Werkzeug: städtebauliche Verträge. Was bedeuten diese Allianzen der gewählten Volksvertretungen mit privaten Unternehmen für die Stadt? Den Rückzug des Staates, wie wir ihn kennen?

CvB: Es wäre zu einfach zu sagen „weil es Google ist, ist es per se schlecht“. Google erleichtert unser Leben – das ist ein Fakt. Und jetzt baut Google einen ganzen Stadtteil. Dieser Schritt aus der virtuellen in die reale Welt ist absolut folgerichtig. Ein deutliches Indiz war für mich die physische Präsenz der großen Technologieunternehmen auf dem World Eco­nomic Forum 2018 in Davos. Zum ersten Mal bezogen Google, Facebook und Palantir eigene Gebäude in besten innerstädtischen Lagen. Dies war ein selbstbewusster räumlicher Ausdruck von Macht und Einfluss: Die Unternehmen reihten sich neben die Nationalstaaten, mit dem Unterschied, dass der Zutritt zu ihren Repräsentanzen beschränkt war. Wer zu ihnen „nach Hause“ wollte, brauchte eine Einladung. I

nteressant ist dabei ein Vergleich mit China, denn der moralische und auch politisch gedachte Unterschied zwischen Privatunternehmen und Staat existiert in einem zentralistischen Staat wie China nicht. Die großen Internetunternehmen werden zwar privat geführt und an den Börsen gehandelt, doch hat der Staat direkte Durchgriffsrechte. Dies führt zu einer staatlich gelenkten Informations- und Datenzentralisierung. Der Staat hat durch gezielte Förderung oder Beteiligung einen wichtigen Anteil am Entwicklungsstand neuer Technologien wie AI. Da staatliche Strukturen zuvor oft als willkürlich, eigenmächtig oder korrupt wahrgenommen wurden, herrscht heute in der Bevölkerung weniger die Angst vor einem Big Brother als vielmehr die Hoffnung auf eine neue Form der Objektivierung.

AI is communist          

AB: Peter Thiel, Gründer von PayPal und Palantir, sagt in Deinem Film AI is the Answer – What was the Question?: „crypto is libertarian“ und „AI is communist“. Was meint er damit? 

CvB: Er argumentiert natürlich aus einer libertären Sichtweise und spricht sich für Krypto­währung als dem idealen dezentralen System aus. Für ihn ist der Gedanke einer zentralen Intelligenz wie in China per se autoritär und deshalb kommunistisch. Damit wäre auch eine AI-basierte und -gesteuerte Smart City, wie sie Google denkt, autoritär. Gleichzeitig zeigen sich Aspekte eines neuen Kalten Krieges, nicht zuletzt um Ressourcen, denn beide Technologien verschlingen Unmengen an Energie, dies hat direkte Auswirkungen auf die beteiligten Staaten. Für Thiel geht es aber auch um eine Idee von physischer Gesellschaft.

Wenn ihre Befürworter*innen von der auf dezentralisierten Datenbanken basierenden Technologie sprechen, beziehen sie sich immer auch auf Milton Friedman, den Ökonomen und Vertrauten von Ronald Reagan, und seine marktlibertären Ansätze, die jegliche staatliche Kontrolle aufheben wollen. Der Staat wird degradiert und dient lediglich noch dem Schutz des Privat­eigentums. In ihrer Logik ist der nächste Schritt, sich auf Inseln außerhalb nationaler Hoheits­gebiete zurückzuziehen, das nennt sich dann seasteading – der Inbegriff einer libertären Gesellschaft, wobei jegliche Variante von Gesellschafts­system möglich ist: Es könnte ein sozialistischer Staat sein, es könnte auch ein autoritärer Staat sein.

OG: Hinter Algorithmen stehen Menschen, die ihre eigenen Ideologien, Vorurteile und Agenden verfolgen. James Bridle schreibt in seinem Buch New Dark Age – Technology and the End of the Future unter anderem über den Einfluss von Entwickler*innen und Analyst*innen. Es stellt sich die Frage, welche Handlungsmacht Coder*innen und Codes haben. AB: Wendy Chun führt in diesem Zusammenhang den sozialwissenschaftlichen Begriff der Homophilie ein, um die Wirkweisen von Algorithmen wie jenen von Facebook zu erklären. Menschen werden in möglichst homogene Gruppen eingeteilt, weil diese leichter zu adressieren sind. Ist die Smart City per se homogen?

CvB: Machine learning beruht auf Statistik. Statistik von Nutzerdaten, von bestehenden Räumen, Situationen, Umfeldern. Statistik bedeutet in der Marktlogik jedoch auch, dass der größte Haufen immer größer wird und werden muss. Minderheiten werden also marginalisiert, was eine Gefahr darstellt, genau wie die fehlende accountability, die Rechenschaftspflicht. Wir wissen zwar auf welchen Grundlagen AI basiert, die Entscheidungsebenen und Beeinflussungsmöglichkeiten sind aber unklar. Wir können nicht intervenieren oder widersprechen, was weiter zur Homogenisierung von Gruppen und der Gesellschaft beiträgt.

Die Frage ist, wie Facebook Stadt denken und verstehen würde. Dass die Smart City per se homogen wäre, ist jedoch höchst spekulativ. Vielleicht schauen wir auf die physischen Räume, die Facebook bis dato für sich gebaut hat, und welcher Logik diese folgen: Frank Gehrys Entwurf für die Firmenzentrale ist deshalb so interessant, weil das Unternehmen zwar auf einen der bekanntesten Trademark-Architekten setzt, nicht jedoch auf dessen Markenzeichen, seine ikonische Architektur­sprache. Dieses Projekt ist völlig untypisch im Sinne Gehrys, aber ganz im Sinne von Facebook – irgendwie so wie Mark Zuckerberg sich anzieht – nach dem Prinzip Normcore: architektonische Unbestimmtheit. Es geht um den kleinsten gemeinsamen Nenner, der global funktioniert und reproduziert werden kann. Ähnlich wie eine IKEA-Lampe oder ein H&M-T-Shirt.

Einen ähnlichen Grad an Unbestimmtheit sehen wir bei der Toronto Waterfront. Kanada repräsentiert eine Haltung zwischen dem europäischen Regulativ und den privat-­kapitalistisch geführten Vereinigten Staaten. Ein hybrides Testfeld, das global funktioniert und gleichzeitig einen hohen Grad an Mitbestimmung antizipiert. In Kanada ist eine andere Form der Datengenerierung als in den USA möglich – eine freiwillige, pro-aktive und beidseitige. Dies führt zu Architekturen, die einerseits niemanden stören und andererseits offen für verschiedene und schnell wechselnde Nutzungen sind.

AB: Wenn wir davon ausgehen, dass die Bilder von Architekturen in diesem Fall dazu dienen, Resonanzen zu erzeugen, die als Daten in die Stadtplanung einfließen, wird Architektur zum Instrument, bei gleichzeitigem Verlust ihrer sozialen Funktionen.

CvB: Genau! Architektur wird im ersten Schritt zum Instrument der Statistik und gibt Aufschluss über das Nutzer­verhalten. Die Rolle der Architekt*in gibt es in diesem Szenario nicht mehr, beziehungsweise sie beschränkt sich auf die Gestaltung einzelner Punkte im Stadtraum, die vom Algorithmus vorbestimmt sind.

User und Provider

OG: Neben Orit Halpern beziehst Du Dich in Deinen Vorträgen auch auf Keller Easterling, Ihr seid Euch darin einig, dass es zu einer Marginalisierung gewisser „unerwünschter“ Bevölkerungsgruppen kommt, in der Regel der Arbeiter­*innen. Dein Film zeigt auch den Louvre Abu Dhabi, in dem Arbeiter*innen fast unsichtbar dastehen und warten. Was sagen die Bilder aus?

CvB: Ich sammle ja schon seit Jahren Aufnahmen von putzenden Menschen – die sozusagen sinnlos putzen. Diese Aufnahmen legen etwas offen, das meist im Verborgenen stattfindet: Wir alle nutzen Car Sharing Dienste, aber niemand weiß, wer die Autos putzt, tankt oder wartet. Wer den Computerchip wechselt oder die Smartwatch repariert, bleibt unsichtbar. Unsichtbar und unterbezahlt. Basierend auf solchen strukturellen Verhältnissen können unser Klassensystem und die dahinterstehende neoliberale Politik nicht mehr lange weiter bestehen. In einer ohnehin unsicheren Zeit, in der Gesellschaften auseinanderfallen – hier die Reichen, dort die Armen – kommen diese neuen Formen und Ideen von zukünftigen Lebenswelten hinzu. Wie aber werden etablierte Unternehmen und Start-ups auf etwa die Verdrängung der Mittelschicht aus den Innenstadtbereichen reagieren? Google, Amazon oder Baidu haben vielleicht gar kein Interes­se daran und werden Ghettobildung jedweder Art im Idealfall verhindern. Könnte also gar ein Algorithmus der augenblicklichen Entwicklung entgegenwirken?

Big Data als öffentlicher Raum

AB: Welche Tendenzen zur Beeinflussung des öffentlichen Raums sind bereits heute augenfällig?

CvB: Bis vor gar nicht langer Zeit lebten wir in der Vorstellung, öffentlicher Raum gehöre allen. Den Zwischenschritt markieren kommerzialisierte, halböffen­tliche Räume wie etwa der Mercedes-Benz-Platz, vor der O2-Arena, jetzt Mercedes-Benz-Arena in Berlin. Eröffnet wurde der Platz von Ramona Pop, der Wirtschaftssenatorin, mit den Worten: „Das ist ein typisches Berliner Quartier, wie wir es uns wünschen.“ In der benachbarten Straße standen Polizisten, die auf meine Nachfrage bestätigten, was mir ohnehin klar war. Kein Zutritt für die Beamten auf das Gelände, da es sich um einen privaten Raum handelt und Sicherheit privat gedacht und geregelt wird.

Die Fußballweltmeisterschaft in Russland macht deutlich, in welche Richtung die Entwicklungen gehen. Dort wurde flächendeckend eine Gesichtserkennungssoftware namens FindFace verwendet, mit einer Erkennungsrate von 97 Prozent. Alle, die zur Fußballweltmeisterschaft kamen, hatten RFID-Chips in ihren Besucherpässen, die man auch außerhalb der Stadien tragen musste. Das klingt zwar nach alter Technologie, antizipiert jedoch schon eine Zukunft, in der mit Chips identifizierte Personen Grenzen überschreiten, im Supermarkt ohne Schlangestehen zahlen können – sprich, reibungs- und grenzenlos leben werden. Diese Form von Raum und dessen Akzeptanz markiert den Übergang von Big Data in den öffentlichen Raum.

Den Kritiker*innen der Technologie entgegnete man mit dem Sicherheitsargument, dem Abgleich mit Daten bekannter Hooligans. Ähnlich argumentiert China gegenüber Kritik am Sozialkreditsystem. Dort ist Big Data schon Teil der Lebens­realität, wer sich unangemessen verhält, darf etwa den Schnellzug nicht benutzen. Argumentiert wird immer mit Rand­gruppen, die man überführen will. Dies sind Beispiele, anhand derer ersichtlich wird, wie Daten öffentlichen Raum beeinflussen.

AB: Sidewalk Labs verwendet eine selbst entwickelte Open-Source-Software namens „Doppelgänger“ zur Simulation und Planung ganzer Städte. Diese stellen sie Kommunen und Stadtplaner*innen zur Verfügung und erhalten im Gegenzug geprüfte Daten zurück, die zur Verifizierung ihrer auf Echtzeit-Datenbankensystemen basierten, algorithmischen Prognosen dienen. Keller Easterling spricht in ihrem Buch von Extrastatecraft – von Kräften, die sie in Verbindung mit der physischen Welt bringt. Dir zu folge können die National­staaten in Europa nicht mit der Übermacht globaler Tech-Unternehmen konkurrieren?

CvB: Genau, Staatsverwaltungen haben keine Einflusssphären, die ähnlich groß wären oder über ähnliche Mittel verfügten. Wir müssen darüber nach­denken, Technologieunter­nehmen als supra-staatliche Strukturen zu behandeln und zu kontrollieren. China ist bislang die Ausnahme, weil der Staat zentral, also top-down organisiert ist. Das ist politisch gesehen nicht die Regel, den Technologien ist diese Tendenz jedoch eingeschrieben. Jetzt könnte man fragen: Was ist die Funktion von Architekt*innen in China?

Gesellschaft- und ihre Architektur als Algorithmus

AB: Der CEO von Sidewalk Labs, Daniel Doctoroff, war in seiner Rolle als Deputy Mayor in New York für die Implementierung des Kommunikationsnetzwerkes LinkNYC verantwortlich, das in ganz New York alle Telefonzellen durch freies Wifi ersetzt hat. LinkNYC gehört ebenfalls mehrheitlich der Alphabet-Gruppe, weshalb es scharfe Kritik aus der Bevölkerung gab. Wie kann man angesichts dieser über­bordenden Wirtschaftsmacht überhaupt noch einen Dialog auf Augenhöhe führen?

CvB: Wenn man die Vielschichtigkeit des Unternehmens und dessen Reichweite verstehen will, müsste man eine zweite Ebene einbeziehen und fragen: Was sind die bis­herigen Entsprechungen und gesellschaftlichen Funktionen der Technologien und Angebote von Alphabet? Das wären staatliche Aufgaben wie der öffentliche Nahverkehr, öffentliche Krankenhäuser, öffentliche Krankenkassen. Im Projekt Toronto Waterfront werden diese Aufgaben von privaten Unternehmen über­nommen. Es geht hier aber nicht um klassische Privatisierung, es geht um den voll­umfänglichen Zugang zu un­seren Lebensräumen und um die subkutane Steuerung unseres Verhaltens. Man muss das Geschäftsmodell verstehen. In der Verwertungslogik von Google sind alle städtischen und staatlichen Funktionen scheinbar finanziell kostenlos – wie eine Such­anfrage. Die privatisierte Leistung ist lediglich das Werkzeug, um Daten als Gegen­leistung zu erhalten. Also ist die Frage, welche Funktionen Architekt*innen darin noch erfüllen können, vielleicht zu kurz gefasst. Muss man nicht eher fragen, wo die Gesellschaft wie agiert? Man kann nicht unabhängig vom System agieren. Ohne Alphabet, Amazon und Co lässt sich die Situation kaum ändern. Man muss ihre Werkzeuge benutzen und sich überlegen, was wir damit machen könnten und was unsere Funktion sein kann. Ihr seid doch Architekt*innen, die Software steht euch zur Verfügung, benutzt sie und schaut, was dabei herauskommt, und was das für euch bedeutet. Damit ist man embedded, und es gibt dazu wahrscheinlich gar keine Alternative. Es erweitert im besten Fall den Vorstellunghorizont.

Ganz positiv gesagt, vielleicht ist Toronto Waterfront letztendlich die Architektur, die den Pritzker-Preis gewinnt, weil sie keine Architektin und kein Architekt jemals hätte entwerfen können. Vielleicht gibt uns Big Data eine Vorstellung von Gesellschaft, auf die wir selbst nie gekommen wären.

Das Verhalten von Machine Learning (ML)

Nachtrag Juni 2019

Die von Programmierer­*innen getroffenen Architekturentscheidungen (etwa der Wert eines Lernratenparameters, die Erfassung der Repräsentation von Wissen und Zustand oder bestimmte Verbindungen eines Convolutional Neural Networks) beeinflussen die Verhaltensweisen, also die Entscheidungsmuster eines Algorithmus. Coder*innen können das Verhalten von ML beeinflussen, indem sie den Algorithmus ganz bestimmten Trainingsreizen aussetzen. Beispielsweise werden viele Bild- und Textklassifizierungsalgorithmen trainiert, indem sie die Genauigkeit eines bestimmten Datensatzes optimieren, der von Menschen manuell beschriftet wurde (labelled data in supervised learning). Die Auswahl des Datensatzes und die Merkmale, die dieser abbildet, haben dabei wesentlichen Einfluss.

Der Fokus auf Funktion im Machine Learning hilft uns zu verstehen, warum sich einige Verhaltensmechanismen von Algorithmen ausbreiten und andauern, während andere abnehmen und verschwinden. Die Funktion hängt entscheidend von der Anpassung des Verhaltens an die Umgebungsdaten ab, nicht umgekehrt, wie Googles Sidewalk Labs behauptet. Erfolgreiche Verhaltensweisen (Verbesserung der Multifunktionalität von Architektur zum Beispiel) werden von Entwickler*innen anderer Soft- und Hardware kopiert oder so weiterentwickelt, dass sie sich auf ML-Algorithmen selbst verbreiten. Diese Dynamik wird letztendlich durch den Erfolg von Institutionen wie Unternehmen, Krankenhäusern, Stadtverwaltungen und Universitäten – also den Foucaultschen Einschließungsmilieus – bestimmt, die AI zur Homogenisierung von menschlichem Verhalten programmieren und einsetzen.

SSS Siedle Dornbracht Euroboden
Feedback erwünscht!