Jaron Lanier: Wem gehört die Zukunft?

Hoffmann und Campe 2014 - Originalausgabe: "Who Owns the Future?" bei Simon & Schuster 2013, New York

"Doch allein die Tatsache, dass man Big Data braucht, zeigt, dass die Algorithmen nur eine andere Form menschlicher Tätigkeit sind - eine anonyme Form menschlicher Tätigkeit, bei der die tätigen Menschen nicht gewürdigt oder bezahlt werden. Big Data und die künstliche Intelligenz sind wirtschaftlich und politische Konstruktionen, die die meisten Menschen entrechten." (16)

"Da die digitale Technologie immer noch relativ neu ist, kann man leicht der Illusion verfallen, es gäbe nur ein mögliches Design. Aber wäre es nicht vorstellbar, dass man Big Data zum Vorteil der Wirtschaft und der Menschen nutzt? (17)

"Die NSA und die amerikanischen Krankenversicherer erlagen derselben Schwäche, einer Form der institutionellen Abhängigkeit. Sie wurden abhängig von einem, wie ich es nenne, Sirenenserver. Hinter einem Sirenenserver verbergen sich enorme Rechenleistungen, die alle anderen Rechner im Netzwerk übertreffen und ihren Eigentümern auf den ersten Blick einen garantierten Weg zu unbegrenzten Erfolg bieten. Doch diese Vorteile sind reine Illusion und sind führen über kurz oder lang zu einem massiven Scheitern." (18)

"Alle Menschen sind gleich, Computer aber nicht. Ein Spitzencomputer kann seinem glücklichen Besitzer grenzenlosen Reichtum und Einfluss bringen, für alle anderen jedoch bedeutet das Unsicherheit, Sparpolitik und Arbeitslosigkeit. (...)
Bei dem, was ich Sirenenserver nenne, handelt es sich in der Regel um gigantische Rechenzentren an entlegenen Orten mit einer eigenen Energieversorgung und einem speziellen, natürlichen Standortvorteil, etwa einem abgelegenen Fluss, dessen Wasser man zur Kühlung verwenden kann,  da riesige Mengen an Abwärme entstehen." (20)

"Die Motivation für den allgegenwärtigen Einsatz der Sirenenserver besteht darin, dass man damit marginal effektive Verhaltensmodelle ableiten kann, sowohl für das menschliche Verhalten als auch für Ereignisse, etwa die Entwicklungen auf dem Finanzmarkt. Diese Modelle sind alles andere als perfekt, sondern reichen gerade aus, um das menschliche Verhalten einigermaßen vorherzusagen und uns nach und nach zu manipulieren und unseren Geschmack und Konsumverhalten effektiver und hinterhältiger zu beinflussen, als es der klassischen Werbung und der Schleichwerbung möglich ist. Ein leichter Vorteil akkumuliert und verstärkt sich wie ein stetig wachsender Zinseszins. (...)
Dank seiner überlegenen Rechenleistung profitiert ein Sirenenserver davon, dass er andere zuverlässig manipulieren kann, ohne jemand zu zwingen.
Seit Netzwerke und Rechnerleistung so günstig sind, ist der Finanzsektor im Verhältnis zur übrigen Wirtschaft enorm gewachsen, allerdings hat er damit das Risiko für die Gesamtwirtschaft massiv erhöht." (21)

"Wir müssen lernen, den Gesamtzusammenhang zu betrachten, nicht nur die Gratis-Verlockungen vor unseren Augen.  Unsere schicken Gadgets, unsere Smartphones und Tablet-Computer, haben uns einen neuen Zugang zur Welt verschafft. (...) Wir werden stärker analysiert, als wir analysieren." (22)

"Das eigentliche Problem aber ist aber, dass Sie einen Tablet-Computer nicht nutzen können, ohne die Informationshoheit abzugeben. In den meisten Fällen können Sie einen Tablet-Computer nicht einmal einschalten, ohne persönliche Informationen preiszugeben. (...) Der Sieg der Passivität über die aktive Mitbestimmung ist erschütternd." (23)

"Frei sein bedeutet, eine Privatsphäre zu haben, in der Sie ihren eigenen Gedanken nachhängen und ihre eigenen Erfahrungen machen können, bevor Sie diese der Welt draußen präsentieren. Wenn Sie an ihrem Körper ständig Sensoren tragen  - etwa das GPS und die Kamera an ihrem Smartphone - und ständig Daten an einem Mega-Computer senden, der einem Konzern gehört, der von Werbekunden dafür bezahlt wird, dass er die Ihnen direkt zur Verfügung stehenden Optionen manipuliert, werden Sie mit der Zeit ihre Freiheit verlieren." (24)
"Aber irgendwann wird der Großteil der Produktivität softwarevermittelt ablaufen. Software könnte die letzte industrielle Revolution sein." (29)

"Gängige digitale Konzepte behandeln Menschen nicht als etwas Besonderes. Wir werden vielmehr als kleine Rädchen in einer gigantischen Informationsmaschine betrachtet. Dabei sind wir die einzigen Lieferanten der Informationen und gleichzeitig ihr Bestimmungsort, das heißt, wir geben der Maschine überhaupt erst ihren Sinn. Ich möchte eine alternative Zukunft aufzeigen, in der Menschen angemessen berücksichtigt und als etwas Besonderes  betrachtet werden.
Wie das gehen soll? Man muss die Menschen für die Informationen bezahlen, die man über sie sammelt, falls sich diese Informationen als wertvoll erweisen." (31)

"In diesem Buch geht es um futuristische Wirtschaftsformen, im Grunde aber darum, wie wir Menschen bleiben können, wenn unsere Maschinen so hochentwickelt sind, dass sie quasi autonom werden." (32)

"Im Moment führen viele gut ausgebildete Menschen noch ein angenehmes Leben in unserer softwarevermittelten Welt, doch wenn sich nichts ändert, werden diejenigen, denen die besten Rechner und größten Rechenzentren gehören, mit der Zeit als die einzige Elite übrig bleiben." (34)

"Nanoroboter und die holografische Endoskopie oder einfach Roboter, die heute noch Endoskope steuern, könnten eines Tages Herzoperationen durchführen. Diese Geräte hätten wirtschaftlich ähnliche Auswirkungen wie die MP3-Player und Smartphones für den Musikkonsum. Unabhängig von den Details würde man die Chirurgie als Informationsdienst betrachten." (35)

"Durch die Nutzung der Netzwerktechnologie und die Möglichkeit, Informationen und damit Reichtum und Macht zu konzentrieren, sind in jüngster Zeit riesige Vermöge entstanden." (41)

"In der vernetzten Finanzwelt haben Korruption und Wahn massiv zugenommen, und das Internet hat mehr Arbeitsplätze zerstört als geschaffen." (45)

"Aber so funktionieren Cloud-Dienste nicht. Stattdessen wird eine Vielzahl von Übersetzungsbeispielen, die echte Menschen übersetzt haben, im ganzen Internet zusammengetragen. Diese werden mit dem Satz abgeglichen, den Sie zur Übersetzung losgeschickt haben. Fast immer stellt sich dabei heraus, dass sich in den zahlreichen früheren Übersetzungen realer Menschen ähnliche Passagen finden, daher ergibt eine Collage der früheren Übersetzungen ein brauchbares Ergebnis. (...) im Grunde basiert die Übersetzung auf der früheren Arbeit realer Menschen. (...) Mit jeder sogenannten automatischen Übersetzung werden die Menschen, die die Daten lieferten, aus der Welt der bezahlten Arbeit und Beschäftigung gedrängt." (46)

"Erst vor kurzem wurde Rechenleistung so günstig, dass man sie dazu verwenden konnte, faule Wertpapiere zu verstecken. Die toxischen Finanzkonstrukte der Wirtschaftskrise waren so komplex, dass die Entwirrung des Geflechts der Entschlüsselung eines komplizierten kryptographischen  Codes glich. Diese Finanzprodukte waren die Geschöpfe großer Rechnerkapazitäten." (60)

"Wenn das Kopieren einfach ist, gibt es im Grunde nie Knappheit, und dadurch bricht der Marktwert ein." (83)

"Wenn eine Technologie softwarevermittelt wird, ist die Struktur der Software wichtiger als alle anderen Eigenschaften der Technologie, denn sie bestimmt, wer von Einsatz der Technologie profitiert. Wenn man die Produktion softwarevermittelt gestaltet, leitet man eine Entwicklung ein, die Fabriken im klassischen Sinn überflüssig macht." (122)

"Die autonomen Fahrzeuge sind auf Cloud-Daten über Straßen, Fußgänger und alles andere angewiesen, was sich auf die Route auswirken könnte. Diese Informationen werden ständig aktualisiert, bei jeder Fahrt." (130)

"Wenn sich nichts ändert, wird sich der Bildungssektor in ein oder zwei Jahrzehnten in einem ähnlichem Zustand befinden wie die Musikindustrie heute. Die Musikindustrie schrumpfte auf ein Viertel ihrer einstigen Wirtschaftskraft, weil ein prädigitales  System durch den Einsatz eines digitalen Netzwerks effizient gemacht wurde. (...)
Der Lockruf des Kostenlosen wird anhalten. Ein kostenloses Studium! Doch wer es absolviert, sollte nicht damit rechnen, später eine Stelle als Lehrkraft zu finden." (136)

"Die Programmierung der Pflegeroboter wird völlig auf die Cloud-Software angewiesen sein, die sich wiederum auf die Beobachtung von Millionen von Situationen und Resultaten stützt." (140)

"Vereinfacht ausgedrückt, gibt es zwei Versionen von Ihnen auf Facebook: die Version, die Sie eifrig und vielleicht offen und ehrlich pflegen - und das streng gehütete, größte Geheimnis der Welt: die Daten über Sie, die dazu benutzt werden, den Zugang zu Ihnen an Dritte wie beispielsweise Werbekunden zu verkaufen. Diese zweite Version der Daten bekommen Sie nie zu Gesicht." (157)

"Wenn der Sirenenserver durch gefälschte Daten in die Irre geführt wird, beginnt das eigentliche Spiel. Der Serverbetreiber stellt Mathematiker und Experten für künstliche Intelligenz ein, die mit reiner Logik aus der Distanz versuchen, die Lügen herauszufiltern." (160)

"Entscheidend bei unserer Reaktion auf hocheffiziente Maschinen, künstliche Intelligenzen und so weiter ist die Frage, wie wir die Tätigkeiten einstufen, die Maschinen nicht übernehmen können, ob wir diese Aufgaben als echte Beruf für Menschen erachten oder nicht." (169)

"Die Behauptung, die Welt optimieren zu wollen, ist nicht nur selbstsüchtig, sonder auch Selbstbetrug. Die näherungsweisen Optimierungen, die in der realen Welt durch Sirenenserver erzielt wird, sind ja nur vom Standpunkt dieser Server optimal." (208)

"Wie gesagt, irgendwann werden 3D-Drucker absolut jede Form und vielleicht irgendwann auch absolut jedes Gerät der Unterhaltungselektronik produzieren." (217)

"Alles wird immer stärker durch Software vermittelt, Physikalität wird immer stärker durch Technologie veränderbar, und die Realität wird ständig optimiert. (221)

"Ich denke, wir treten unbestreitbar in ein Zeitalter der netzwerkgestützten Information ein, und Machtkämpfe um digitale Netzwerke werden zwangsläufig die typischen Geschichten dieses Zeitalters sein." (222)

"Die Daten eines Sirenenservers müssen zumindest ein wenig Vorhersagekraft haben, oder eher andersherum: Die von ihnen modellierten Menschen müssen zumindest ein wenig berechenbar handeln. Andernfalls wären die Daten überhaupt nicht verwendbar. (...) Gewöhnliche Menschen werden von der Theorie der Optimierung beeinflusst, die in einen Server eingebettet ist, wenn sie ihn nutzen, und sind daher durch diese Theorie besser berechenbar." (223)

"Die Grenze zu ziehen zwischen dem, was wir der Berechnung überlassen, und dem, was wir für den heldenhaften freien Willen reservieren, das ist die Story unserer Zeit."

"Um zu verstehen, wie Sirenenserver funktionieren, ist es sinnvoll, Netzwerkeffekte in belohnende und bestrafende einzuteilen. Sireneneserver gewinnen ihre Dominanz durch belohnende Netzwerkeffekte und behalten sie durch bestrafende.  " (225)

"Der Grund, warum sie [Sirenenserver] Sorge auslösen, ist, wie sie die Gesamtwirtschaft verzerren und schrumpfen lassen, indem sie mehr und mehr Werte dem Geldkreislauf entziehen." (22)

"Wenn man aus dem Gravitationsfeld eines Sirenenservers ausbrechen möchte, muss man einen langen Atem haben udn die Folgen entschlossen durchstehen. Die Last dieses großen Sprungs schafft eine neue Art sozialer Immobilität." (230)

"Einige Sirenenserver gedeihen in einer Welt, in der die Daten ein einziges Durcheinander sind, völlig kryptisch, da ohne Kontext - bis sie durch die Analyse des Servers in eine Ordnung gebracht werden. Google ist wahrscheinlich das bekannteste Beispiel dafür.
Ein Sirenenserver in dieser Position wird alles tun, um jede Art offener Aktivität zu fördern. Kostenlos zugängliche Daten mit ungenügender  Herkunftsangabe im offenen Internet sind der ideale Rohstoff für ein solches Unternehmen. (...)
Google muss ein Muster im Chaos finden, währende Facebook von mir und Ihnen erwartet, Informationen bereits im Kontext hochzuladen, indem wir im Wesentlichen die leeren Felder in vorgegebenen Formularen ausfüllen. Facebook schafft allerdings auch zusätzliche Ordnung durch eigene Analysen, deren Resultate dann in tiefen Kellergewölben versteckt werden." (233)

"Ein weiteres Beispiel ist Wikipedia. Ich verurteile Wikipedia nicht (....). Wie ich aber bereits erklärt habe, beschneidet Wikipedia den Markt für bestimmte Berufe im Bereich Wissenschaft und Bildung auf lange Sicht. Auf kurze Sicht ist sie dabei, den Bildungssektor zu demonitarisieren. Wikipedia kann daher ebenfalls als Sirenenserver bezeichnet werden. Sie schafft die Art falsche Effizienz, die Schutzdeiche verhindert." (234)

"Es gibt eine Klasse gutbezahlter Analytiker - Statistiker im Dienst von Investoren, Großkonzernen und Kapitalfonds -, die versuchen, die Eigenschaften, die ein hoffnungsvoller Startup-Internetdienst braucht, im im Modell nachzubauen, um so voraussagen zu können, welche konkreten Versuche Erfolg haben werden." (239)

"Zuerst ist alles, was Sie haben, der belohnende Netzwerkeffekt. Das heißt, dass Nutzer davon profitieren, sich Ihres Servers zu bedienen, weil auch andere ihn nutzen. Das ist ein angenehmer Teufelskreis, und immer mehr Menschen werden von Ihrem Angebot angezogen. Wenn Sie überlebensfähige Weltklasse-Sirenenserver aufbauen wollen, reicht das aber nicht. Sie müssen zusätzlich einen bestrafenden Netzwerkeffekt einbauen.
Wenn sowohl belohnende wie bestrafende Netwerkeffekte Wirkung zeigen, besteht die nächste Aufgabe darin, dafür zu sorgen, das Risiko auf andere Menschen und Institutionen zu verteilen und es nicht auf Ihren Server zu laden. " (242)

"Die systematische Entkopplung von Risiko und Belohnung in der sich bildenden Informationsökonomie ist das Problem, nicht dieser oder jener Server." (248)

"Wenn man mit sozialen Netwerken genug Macht ausüben kann, um große Menschenmengen zu organisieren, um einen Pharao zu entthronen, wie kann man dann ausgeschlossen sein, dass die Menschen mit Hilfe desselben Netzwerks nicht auch zu Lynchmorden und Pogromen angestiftet werden? " (252)

"(...) der Begriff künstliche Intelligenz ist völlig irreführend. (...) Heutige KI-Technologien arbeiten gewöhnlich mit einer Variante des bereits beschriebenen Prozesses zur Übersetzung von einer Sprache in eine andere. Innovationen bei Algorithmen sind zwar entscheidend, aber genauso entscheidend ist es auch, die Algorithmen mit Big Data gewöhnlicher Nutzer zu füttern. Das angeblich mit künstlicher Intelligenz erzielte Ergebnis kann als eine Verschmelzung all dessen aufgefasst werden, was reale Menschen zuvor getan haben." (253)

"Aber der Rest der Menschheit, (...) soll den Algorithmen vertrauen, die unsere ästhetischen Entscheidungen vorwegnehmen, die Fortschritte eines Schülers berechnen und die Kreditbonität eines Hausbesitzers  oder einer Institution bewerten. Dadurch missdeuten wir die Fähigkeit unserer Maschinen und ebenso unserer eigenen Fähigkeiten als menschliche Wesen. In Wahrheit müssen wir die Verantwortung für jede von einer Maschine durchgeführte Aufgabe übernehmen und jedes Ereignis eines Algorithmus selbst überprüfen, genauso wie wir nach links und rechts sehen, bevor wir eine Straße überqueren, auch wenn die Fußgängerampel Grün zeigt." (255)

"Was wir zurzeit erleben, ist die Entstehung einer neuen Religion, der Religion einer technisierten Kultur." (256)

"Wenn wir eine Welt schaffen wollen, die gut ist für den Menschen, dann muss der zunehmenden Gleichsetzung von Menschen und Maschinen entgegengewirkt werden." (257)

"Wir, die Idealisten haben darauf bestanden, dass Informationen online keinen finanziellen Wert mehr haben, was heißt, dass nicht mit Informationen, sondern nur mit den damit zusammenhängenden Diensten Geld verdient wird.
Das hat zwangsläufig zur Folge, dass Werbung zum größten Geschäft in der offenen Informationsökonomie wird." (273)

"In den Kreisen der Cyber-Demokratie lautet der erste Glaubensartikel, dass man, wenn man Informationen kostenlos, das heißt kopierbar macht, eine besonders demokratische, offene Welt schafft. Da bin ich anderer Ansicht. (...) Eine Welt, die an der Oberfläche offen ist, ist umso verschlossener auf einer tieferen Ebene. Sie erfahren nicht, welche Korrelationen im Zusammenhang mit Ihnen durch Google, Facebook, eine Versicherungsgesellschaft oder ein Finanzunternehmen errechnet wurden, doch gerade diese Daten haben in einer vernetzten Welt besonders großen Einfluss auf Ihr Leben." (277)

"Aber im Netzwerk etwas zu kopieren ist eigentlich ziemlich seltsam und zumindest eine abgelegene, rückwärtsgewandte Idee, wenn man von den Prinzipien her denkt. Schließlich ist in einem Netzwerk das Original immer zugänglich. Es ist doch alles vernetzt! (293)

"In einem Netzwerk mit Zweiwege-Links weiß jeder Knoten, welche anderen Knoten mit ihm verlinkt sind.
Das würde bedeuten, dass Sie alle Websites kennen, die auf Ihre Website verweisen. Es würde bedeuten, dass Sie alle Investoren kennen, die Ihre Hypothek ausgenutzt haben. Es würde bedeuten, dass Sie alle Videos kennen, in denen Ihre Musik eingesetzt wird." (298)

"Da wir derzeit den Wert der Informationen im Netz größtenteils nicht berechnen, schrumpfen die Märkte aufgrund der durch den technologischen Fortschritt bedingten zunehmenden Effizienz. Es entstehen zwar einige neue Vermögen, doch die Märkte wachsen nicht." (309)

"Die Grundidee der humanistischen Informatik lautet, das die Herkunft wertvoll ist. Hinter Informationen verbergen sich immer Menschen, und Menschen müssen für den Wert bezahlt werden, den sie zu einem digitalen Netzwerk beitragen und der dort verschickt oder gespeichert werden kann." (317)

"Zahlreiche derzeit enorm erfolgreiche Netzwerkbetreiber haben sich unverzichtbar gemacht, um ihr eigenes Überleben zu sichern." (323)