„Unser Verstand kann gekapert werden“: die Tech-Insider, die eine Smartphone-Dystopie befürchten

Google-, Twitter- und Facebook-Mitarbeiter, die dazu beigetragen haben, dass Technologie so süchtig macht, trennen sich vom Internet.Paul LewisBerichte über die Verweigerer des Silicon Valley, die durch einen Wettlauf um menschliche Aufmerksamkeit alarmiert sind

Justin Rosenstein hatte das Betriebssystem seines Laptops so angepasst, dass es Reddit blockierte, sich selbst von Snapchat verbannt, das er mit Heroin vergleicht, und Beschränkungen für seine Nutzung von Facebook eingeführt. Aber selbst das war nicht genug. Im August unternahm der 34-jährige Technologiemanager einen radikaleren Schritt, um seine Nutzung sozialer Medien und anderer Suchttechnologien einzuschränken.

Rosenstein kaufte ein neues iPhone und wies seinen Assistenten an, eine Kindersicherungsfunktion einzurichten, um zu verhindern, dass er Apps herunterlädt.

Er war sich insbesondere der Anziehungskraft von Facebook-„Likes“ bewusst, die er als „helle Anspielungen auf Pseudovergnügen“ beschreibt, die ebenso hohl wie verführerisch sein können. Und Rosenstein sollte es wissen: Er war der Facebook-Ingenieur, der den „Gefällt mir“-Button überhaupt erst erstellt hat.

Ein Jahrzehnt nachdem er die ganze Nacht wach geblieben ist und einen Prototyp eines damals „großartigen“ Knopfs programmiert hat, gehört Rosenstein zu einer kleinen, aber wachsenden Gruppe von Ketzern aus dem Silicon Valley, die sich über den Aufstieg der sogenannten „Aufmerksamkeitsökonomie“ beschweren: an Internet, das sich an den Anforderungen einer Werbewirtschaft orientiert.

Bei diesen Verweigerern handelt es sich selten um Gründer oder Geschäftsführer, die wenig Anreiz haben, von dem Mantra abzuweichen, dass ihre Unternehmen die Welt zu einem besseren Ort machen. Stattdessen haben sie sich meist eine oder zwei Stufen tiefer auf der Karriereleiter gearbeitet: Designer, Ingenieure und Produktmanager, die wie Rosenstein vor einigen Jahren die Bausteine ​​einer digitalen Welt geschaffen haben, aus der sie sich nun zu lösen versuchen. „Es kommt sehr häufig vor“, sagt Rosenstein, „dass Menschen Dinge mit den besten Absichten entwickeln und dass sie unbeabsichtigte, negative Folgen haben.“

Rosenstein, der während einer Zeit bei Google auch an der Entwicklung von Gchat mitgewirkt hat und jetzt ein in San Francisco ansässiges Unternehmen leitet, das die Büroproduktivität verbessert, scheint sich am meisten Sorgen über die psychologischen Auswirkungen auf Menschen zu machen, die, wie Untersuchungen zeigen, ihr Telefon 2.617 Mal berühren, wischen oder antippen ein Tag.

Es besteht wachsende Besorgnis darüber, dass die Technologie nicht nur süchtig macht, sondern auch zu einer sogenannten „kontinuierlichen Teilaufmerksamkeit“ beiträgt, die Konzentrationsfähigkeit der Menschen stark einschränkt und möglicherweise den IQ senkt. Eine aktuelle Studie zeigte, dass die bloße Anwesenheit von Smartphones die kognitiven Fähigkeiten beeinträchtigt – selbst wenn das Gerät ausgeschaltet ist. „Jeder ist abgelenkt“, sagt Rosenstein. "Die ganze Zeit."

Aber diese Bedenken sind trivial im Vergleich zu den verheerenden Auswirkungen auf das politische System, die nach Ansicht einiger von Rosensteins Kollegen auf den Aufstieg der sozialen Medien und den aufmerksamkeitsbasierten Markt, der sie antreibt, zurückzuführen sind.

Sie ziehen eine direkte Linie zwischen der Abhängigkeit von sozialen Medien und politischen Erdbeben wie dem Brexit und dem Aufstieg von Donald Trump und behaupten, dass digitale Kräfte das politische System völlig auf den Kopf gestellt haben und, wenn sie nicht kontrolliert werden, sogar die Demokratie, wie wir sie kennen, überflüssig machen könnten.

Im Jahr 2007 gehörte Rosenstein zu einer kleinen Gruppe von Facebook-Mitarbeitern, die beschloss, einen Weg des geringsten Widerstands – einen einzigen Klick – zu schaffen, um „ein bisschen Positivität“ über die Plattform zu senden. Die „Gefällt mir“-Funktion von Facebook war laut Rosenstein „überaus erfolgreich“: Das Engagement stieg sprunghaft an, da die Menschen den kurzfristigen Auftrieb genossen, den sie durch das Geben oder Empfangen sozialer Bestätigungen erhielten, während Facebook wertvolle Daten über die Vorlieben der Nutzer sammelte, die an Werbetreibende verkauft werden konnten . Die Idee wurde bald von Twitter mit seinen herzförmigen „Likes“ (früher sternförmigen „Favoriten“), Instagram und unzähligen anderen Apps und Websites kopiert.

Es war Rosensteins Kollegin Leah Pearlman, damals Produktmanagerin bei Facebook und Mitglied des Teams, das das Facebook-„Gefällt mir“ erstellte, die die Funktion 2009 in einem Blogpost ankündigte. Die mittlerweile 35-jährige und Illustratorin Pearlman bestätigte per E-Mail, dass auch sie von Facebook-„Likes“ und anderen süchtig machenden Feedbackschleifen unzufrieden geworden sei. Sie hat ein Webbrowser-Plug-in installiert, um ihren Facebook-Newsfeed zu löschen, und hat einen Social-Media-Manager damit beauftragt, ihre Facebook-Seite zu überwachen, damit sie dies nicht tun muss.

„Ein Grund, warum ich denke, dass es für uns jetzt besonders wichtig ist, darüber zu sprechen, ist, dass wir möglicherweise die letzte Generation sind, die sich an das Leben davor erinnern kann“, sagt Rosenstein. Es mag relevant sein oder auch nicht, dass Rosenstein, Pearlman und die meisten Tech-Insider, die die heutige Aufmerksamkeitsökonomie in Frage stellen, in ihren Dreißigern sind, Mitglieder der letzten Generation, die sich an eine Welt erinnern kann, in der Telefone an Wände angeschlossen waren.

Es ist aufschlussreich, dass viele dieser jüngeren Technologen sich von ihren eigenen Produkten entwöhnen und ihre Kinder auf Eliteschulen im Silicon Valley schicken, wo iPhones, iPads und sogar Laptops verboten sind. Sie scheinen sich an einen Spruch von Biggie Smalls aus ihrer eigenen Jugend zu halten, in dem es um die Gefahren des Crack-Kokainhandels geht: Machen Sie niemals high von Ihrem eigenen Vorrat.

Eines Morgens im April dieses Jahres versammelten sich Designer, Programmierer und Technologieunternehmer aus der ganzen Welt in einem Konferenzzentrum am Ufer der San Francisco Bay. Sie hatten jeweils bis zu 1.700 US-Dollar bezahlt, um in einem vom Konferenzorganisator Nir Eyal kuratierten Kurs zu lernen, wie man Menschen dazu bringt, ihre Produkte gewohnheitsmäßig zu verwenden.

Eyal, 39, der Autor von Hooked: How to Build Habit-Forming Products, war mehrere Jahre lang als Berater für die Technologiebranche tätig und lehrte Techniken, die er entwickelte, indem er die Arbeitsweise der Silicon-Valley-Giganten genau untersuchte.

„Die Technologien, die wir nutzen, haben sich zu Zwängen, wenn nicht sogar zu vollwertigen Süchten entwickelt“, schreibt Eyal. „Es ist der Impuls, eine Nachrichtenbenachrichtigung zu überprüfen. Es ist der Reiz, YouTube, Facebook oder Twitter nur für ein paar Minuten zu besuchen, nur um eine Stunde später immer noch zu tippen und zu scrollen.“ Nichts davon sei ein Zufall, schreibt er. Es sei alles „genau so, wie es ihre Designer beabsichtigt hatten“.

Er erklärt die subtilen psychologischen Tricks, mit denen man Menschen dazu bringen kann, Gewohnheiten zu entwickeln, etwa die Variation der Belohnungen, die man erhält, um „ein Verlangen“ zu erzeugen, oder die Ausnutzung negativer Emotionen, die als „Auslöser“ fungieren können. „Gefühle von Langeweile, Einsamkeit, Frustration, Verwirrung und Unentschlossenheit lösen oft einen leichten Schmerz oder eine Irritation aus und lösen eine fast augenblickliche und oft sinnlose Aktion aus, um das negative Gefühl zu unterdrücken“, schreibt Eyal.

Die Teilnehmer des Habit Summit 2017 waren vielleicht überrascht, als Eyal die Bühne betrat und verkündete, dass es in der diesjährigen Grundsatzrede um „etwas anderes“ ging. Er wollte auf die wachsende Sorge eingehen, dass technologische Manipulation irgendwie schädlich oder unmoralisch sei. Er sagte seinen Zuhörern, dass sie darauf achten sollten, überzeugendes Design nicht zu missbrauchen und sich davor hüten, die Grenze zur Nötigung zu überschreiten.

Aber er verteidigte die Techniken, die er lehrte, und lehnte diejenigen ab, die Techniksucht mit Drogen vergleichen. „Wir machen Facebook hier nicht zu einer Freebase und fügen Instagram hinzu“, sagte er. Er ließ ein Regal voller zuckerhaltiger Backwaren aufblitzen. „So wie wir dem Bäcker nicht die Schuld dafür geben sollten, dass er so köstliche Leckereien herstellt, können wir auch den Technikherstellern nicht vorwerfen, dass sie ihre Produkte so gut machen, dass wir sie verwenden wollen“, sagte er. „Natürlich ist es das, was Technologieunternehmen tun werden. Und ganz ehrlich: Wollen wir es anders?“

Ohne Ironie beendete Eyal seinen Vortrag mit einigen persönlichen Tipps, wie man der Verlockung der Technologie widerstehen kann. Er erzählte seinem Publikum, dass er eine Chrome-Erweiterung namens DF YouTube verwendet, „die viele dieser externen Auslöser ausschaltet“, über die er in seinem Buch schreibt, und empfahl eine App namens Pocket Points, die „Sie dafür belohnt, dass Sie Ihr Telefon nicht nutzen, wenn Sie es tun.“ man muss sich konzentrieren“.

Schließlich vertraute Eyal an, welche Anstrengungen er unternimmt, um seine eigene Familie zu schützen. Er hat in seinem Haus einen Steckdosen-Timer installiert, der an einen Router angeschlossen ist und jeden Tag zu einer festgelegten Zeit den Internetzugang unterbricht. „Die Idee ist, uns daran zu erinnern, dass wir nicht machtlos sind“, sagte er. „Wir haben die Kontrolle.“

Aber sind wir es? Wenn die Menschen, die diese Technologien entwickelt haben, solch radikale Schritte unternehmen, um sich von der Freiheit zu entwöhnen, kann man dann vernünftigerweise erwarten, dass der Rest von uns seinen freien Willen ausübt?

Nicht laut Tristan Harris, einem 33-jährigen ehemaligen Google-Mitarbeiter, der zum lautstarken Kritiker der Technologiebranche wurde. „Wir alle sind in dieses System eingebunden“, sagt er. „Unser aller Verstand kann gekapert werden. Unsere Entscheidungen sind nicht so frei, wie wir denken.“

Harris, der als „das, was das Silicon Valley einem Gewissen am nächsten kommt“, bezeichnet wird, besteht darauf, dass Milliarden von Menschen kaum eine Wahl haben, ob sie diese mittlerweile allgegenwärtigen Technologien nutzen, und sich der unsichtbaren Art und Weise, wie eine kleine Anzahl von Menschen sie nutzen, weitgehend nicht bewusst sind im Silicon Valley gestalten ihr Leben.

Als Absolvent der Stanford University studierte Harris bei BJ Fogg, einem Verhaltenspsychologen, der in Technologiekreisen dafür verehrt wird, dass er die Art und Weise beherrscht, wie technologisches Design genutzt werden kann, um Menschen zu überzeugen. Viele seiner Studenten, darunter auch Eyal, haben im Silicon Valley erfolgreiche Karrieren gemacht.

Harris ist der Student, der abtrünnig wurde; Als eine Art Whistleblower lüftet er den Vorhang für die enorme Macht, die Technologieunternehmen angesammelt haben, und für die Art und Weise, wie sie diesen Einfluss nutzen. „Eine Handvoll Menschen, die bei einer Handvoll Technologieunternehmen arbeiten, werden durch ihre Entscheidungen beeinflussen, was heute eine Milliarde Menschen denken“, sagte er kürzlich bei einem TED-Vortrag in Vancouver.

„Ich kenne kein dringlicheres Problem als dieses“, sagt Harris. „Es verändert unsere Demokratie und es verändert unsere Fähigkeit, die Gespräche und Beziehungen miteinander zu führen, die wir wollen.“ Harris ging an die Öffentlichkeit – er hielt Vorträge, schrieb Papiere, traf sich mit Gesetzgebern und setzte sich für Reformen ein, nachdem er drei Jahre lang darum gekämpft hatte, im Google-Hauptquartier in Mountain View Veränderungen herbeizuführen.

Alles begann im Jahr 2013, als er als Produktmanager bei Google arbeitete und ein zum Nachdenken anregendes Memo mit dem Titel „A Call To Minimize Distraction & Respect Users' Attention“ an zehn enge Kollegen verteilte. Es traf den Nerv der Zeit und erfasste rund 5.000 Google-Mitarbeiter, darunter auch leitende Angestellte, die Harris mit einem beeindruckend klingenden neuen Job belohnten: Er sollte Googles interner Designethiker und Produktphilosoph werden.

Rückblickend erkennt Harris, dass er in eine Randrolle befördert wurde. „Ich hatte überhaupt keine soziale Unterstützungsstruktur“, sagt er. Dennoch fügt er hinzu: „Ich durfte in einer Ecke sitzen und nachdenken, lesen und verstehen.“

Er untersuchte, wie LinkedIn das Bedürfnis nach sozialer Gegenseitigkeit ausnutzt, um sein Netzwerk zu erweitern; wie YouTube und Netflix Videos und nächste Episoden automatisch abspielen und den Nutzern die Wahl nehmen, ob sie sie weiter ansehen möchten oder nicht; wie Snapchat seine süchtig machende Snapstreaks-Funktion entwickelte und eine nahezu ständige Kommunikation zwischen seinen meist jugendlichen Nutzern förderte.

Die Techniken, die diese Unternehmen verwenden, sind nicht immer generisch: Sie können algorithmisch auf jede Person zugeschnitten werden. Ein in diesem Jahr durchgesickerter interner Facebook-Bericht ergab beispielsweise, dass das Unternehmen erkennen kann, wann sich Jugendliche „unsicher“, „wertlos“ und „eine Stärkung ihres Selbstvertrauens“ fühlen. Harris fügt hinzu, dass solche detaillierten Informationen „ein perfektes Modell dafür sind, welche Knöpfe man bei einer bestimmten Person drücken kann“.

Technologieunternehmen können solche Schwachstellen ausnutzen, um die Menschen süchtig zu machen; Sie manipulieren beispielsweise, wenn Menschen „Gefällt mir“-Angaben für ihre Posts erhalten, und stellen sicher, dass sie auch dann ankommen, wenn sich eine Person wahrscheinlich verletzlich fühlt, Zustimmung braucht oder vielleicht einfach nur gelangweilt ist. Und genau die gleichen Techniken können an den Meistbietenden verkauft werden. „Es gibt keine Ethik“, sagt er. Ein Unternehmen, das Facebook dafür bezahlt, seine Überzeugungskraft zu nutzen, könnte ein Autounternehmen sein, das maßgeschneiderte Werbung an verschiedene Arten von Nutzern richtet, die sich ein neues Fahrzeug wünschen. Oder es könnte sich um eine in Moskau ansässige Trollfarm handeln, die in einem Swing County in Wisconsin Wähler gewinnen will.

Harris glaubt, dass Technologieunternehmen nie absichtlich darauf abzielten, ihre Produkte süchtig zu machen. Sie reagierten auf die Anreize der Werbewirtschaft, experimentierten mit Techniken, die die Aufmerksamkeit der Menschen erregen könnten, und stolperten sogar zufällig über hocheffektives Design.

Ein Freund bei Facebook erzählte Harris, dass die Designer ursprünglich entschieden hatten, dass das Benachrichtigungssymbol, das Menschen auf neue Aktivitäten wie „Freundschaftsanfragen“ oder „Gefällt mir“-Angaben aufmerksam macht, blau sein sollte. Es passte zum Stil von Facebook und würde, so die Überlegung, „subtil und harmlos“ wirken. „Aber niemand hat es benutzt“, sagt Harris. „Dann haben sie es auf Rot umgestellt und natürlich haben es alle genutzt.“

Dieses rote Symbol ist jetzt überall. Wenn Smartphone-Benutzer dutzende oder hunderte Male am Tag auf ihr Telefon blicken, werden sie mit kleinen roten Punkten neben ihren Apps konfrontiert, die darum bitten, angetippt zu werden. „Rot ist eine Triggerfarbe“, sagt Harris. „Deshalb wird es als Alarmsignal eingesetzt.“

Das verführerischste Design, erklärt Harris, nutzt die gleiche psychologische Anfälligkeit aus, die das Glücksspiel so zwanghaft macht: variable Belohnungen. Wenn wir auf Apps mit roten Symbolen tippen, wissen wir nicht, ob wir eine interessante E-Mail, eine Lawine von „Gefällt mir“-Angaben oder gar nichts entdecken. Es ist die Möglichkeit der Enttäuschung, die es so zwanghaft macht.

Dies erklärt, warum der Pull-to-Refresh-Mechanismus, bei dem Benutzer nach unten wischen, pausieren und abwarten, um zu sehen, welche Inhalte angezeigt werden, schnell zu einem der süchtig machenden und allgegenwärtigsten Designmerkmale der modernen Technologie wurde. „Jedes Mal, wenn man nach unten wischt, ist es wie ein Spielautomat“, sagt Harris. „Man weiß nicht, was als nächstes kommt. Manchmal ist es ein wunderschönes Foto. Manchmal ist es nur eine Werbung.“

Der Designer, der den Pull-to-Refresh-Mechanismus entwickelt hat, der erstmals zum Aktualisieren von Twitter-Feeds verwendet wurde, ist Loren Brichter, der in der App-Builder-Community für seine schlanken und intuitiven Designs weithin geschätzt wird.

Der heute 32-jährige Brichter sagt, er habe nie beabsichtigt, dass das Design süchtig macht – aber er würde den Spielautomaten-Vergleich nicht bestreiten. „Ich stimme zu 100 % zu“, sagt er. „Ich habe jetzt zwei Kinder und bereue es jede Minute, dass ich ihnen keine Aufmerksamkeit schenke, weil mein Smartphone mich in den Bann gezogen hat.“

Brichter hat die Funktion 2009 für Tweetie, sein Startup, erstellt, hauptsächlich weil er in seiner App keine passende Stelle für die Schaltfläche „Aktualisieren“ finden konnte. Das Halten und Herunterziehen des Feeds zum Aktualisieren schien damals nichts weiter als eine „niedliche und clevere“ Lösung zu sein. Twitter erwarb Tweetie im folgenden Jahr und integrierte Pull-to-Refresh in seine eigene App.

Seitdem ist das Design zu einem der am häufigsten emulierten Features in Apps geworden; Die Abwärtsbewegung ist für Hunderte Millionen Menschen so intuitiv wie das Kratzen eines Juckreizes.

Brichter sagt, er sei verwirrt über die Langlebigkeit des Features. Im Zeitalter der Push-Benachrichtigungstechnologie können Apps Inhalte automatisch aktualisieren, ohne dass der Benutzer sie dazu bewegen muss. „Es könnte leicht in den Ruhestand gehen“, sagt er. Vielmehr scheint es eine psychologische Funktion zu erfüllen: Denn Spielautomaten würden weitaus weniger süchtig machen, wenn die Spieler nicht selbst den Hebel betätigen könnten. Brichter zieht einen anderen Vergleich vor: dass es sich um den überflüssigen „Tür schließen“-Knopf in manchen Aufzügen mit automatisch schließenden Türen handele. „Die Leute treiben es einfach gerne voran.“

All dies hat dazu geführt, dass Brichter seine Designarbeit zurückgestellt hat, während er sich auf den Bau eines Hauses in New Jersey konzentriert und sein Erbe in Frage stellt. „Ich habe viele Stunden, Wochen, Monate und Jahre damit verbracht, darüber nachzudenken, ob irgendetwas, was ich getan habe, überhaupt einen positiven Einfluss auf die Gesellschaft oder die Menschheit hatte“, sagt er. Er hat bestimmte Websites blockiert, Push-Benachrichtigungen deaktiviert, die Nutzung der Telegram-App auf Nachrichten nur mit seiner Frau und zwei engen Freunden beschränkt und versucht, sich von Twitter zu entwöhnen. „Ich verschwende immer noch Zeit damit“, gesteht er, „nur das Lesen blöder Nachrichten, die ich bereits kenne.“ Er lädt sein Telefon in der Küche auf, schließt es um 19 Uhr an und berührt es erst am nächsten Morgen.

„Smartphones sind nützliche Werkzeuge“, sagt er. „Aber sie machen süchtig. Pull-to-Refresh macht süchtig. Twitter macht süchtig. Das sind keine guten Dinge. Als ich daran arbeitete, war ich noch nicht reif genug, darüber nachzudenken. Ich sage nicht, dass ich jetzt reif bin, aber ich bin ein bisschen reifer und bereue die Nachteile.“

Nicht jeder in seinem Fachgebiet scheint von Schuldgefühlen geplagt zu sein. Die beiden Erfinder, die in Apples Patent für „Verwaltung von Benachrichtigungsverbindungen und Anzeige von Symbolabzeichen“ aufgeführt sind, sind Justin Santamaria und Chris Marcellino. Beide waren Anfang 20, als sie von Apple für die Arbeit am iPhone engagiert wurden. Als Ingenieure arbeiteten sie hinter den Kulissen an der Push-Benachrichtigungstechnologie, die 2009 eingeführt wurde, um Hunderttausenden Drittanbieter-App-Entwicklern Echtzeitwarnungen und Updates zu ermöglichen. Es war eine revolutionäre Veränderung, die die Infrastruktur für so viele Erlebnisse bereitstellte, die heute Teil des täglichen Lebens der Menschen sind, von der Bestellung eines Uber über einen Skype-Anruf bis hin zum Empfang aktueller Nachrichten.

Aber die Benachrichtigungstechnologie ermöglichte auch hunderte unaufgeforderte Unterbrechungen in Millionen von Leben und beschleunigte so das Wettrüsten um die Aufmerksamkeit der Menschen. Der 36-jährige Santamaria, der nach einer Zeit als Leiter für Mobilgeräte bei Airbnb jetzt ein Startup leitet, sagt, die Technologie, die er bei Apple entwickelt habe, sei nicht „von Natur aus gut oder schlecht“ gewesen. „Das ist eine größere gesellschaftliche Diskussion“, sagt er. „Ist es in Ordnung, mein Telefon auszuschalten, wenn ich die Arbeit verlasse? Ist es in Ordnung, wenn ich mich nicht sofort bei Ihnen melde? Ist es in Ordnung, dass mir nicht alles gefällt, was auf meinem Instagram-Bildschirm passiert?“

Sein damaliger Kollege Marcellino stimmt zu. „Ehrlich gesagt, ich saß zu keinem Zeitpunkt da und dachte: Lasst uns die Leute fesseln“, sagt er. „Es ging nur um die positiven Aspekte: Diese Apps verbinden Menschen, sie haben all diese Verwendungsmöglichkeiten – ESPN teilt Ihnen mit, dass das Spiel zu Ende ist, oder WhatsApp sendet Ihnen kostenlos eine Nachricht von Ihrem Familienmitglied im Iran, das keinen Nachrichtenplan hat. ”

Vor ein paar Jahren verließ der 33-jährige Marcellino die Bay Area und befindet sich nun in der Endphase seiner Umschulung zum Neurochirurgen. Er betont, dass er kein Suchtexperte sei, sagt aber, dass er in seiner medizinischen Ausbildung genug gelernt habe, um zu wissen, dass Technologien die gleichen neurologischen Prozesse beeinflussen können wie Glücksspiel und Drogenkonsum. „Das sind die gleichen Schaltkreise, die Menschen dazu bringen, nach Nahrung, Komfort, Wärme und Sex zu suchen“, sagt er.

All das, sagt er, sei belohnungsbasiertes Verhalten, das die Dopaminwege des Gehirns aktiviert. Er ertappt sich manchmal dabei, dass er auf die roten Symbole neben seinen Apps klickt, „um sie verschwinden zu lassen“, aber er ist sich nicht sicher, ob es ethisch vertretbar ist, die psychologischen Schwachstellen von Menschen auszunutzen. „Es ist nicht von Natur aus böse, Menschen zu Ihrem Produkt zurückzubringen“, sagt er. „Es ist Kapitalismus.“

Das ist vielleicht das Problem. Roger McNamee, ein Risikokapitalgeber, der von äußerst profitablen Investitionen in Google und Facebook profitierte, ist von beiden Unternehmen zunehmend desillusioniert und argumentiert, dass ihre frühen Missionen durch die Vermögen, die sie durch Werbung verdienen konnten, verzerrt wurden.

Er bezeichnet das Aufkommen des Smartphones als einen Wendepunkt, der den Einsatz für ein Wettrüsten um die Aufmerksamkeit der Menschen verschärft. „Facebook und Google behaupten mit Fug und Recht, dass sie den Nutzern geben, was sie wollen“, sagt McNamee. „Das Gleiche gilt für Tabakkonzerne und Drogendealer.“

Das wäre eine bemerkenswerte Behauptung für jeden frühen Investor in die profitabelsten Giganten des Silicon Valley. Aber der 61-jährige McNamee ist mehr als nur ein Geldmann, der sich auf Distanz hält. McNamee, einst Berater von Mark Zuckerberg, stellte den Facebook-CEO vor zehn Jahren seiner Freundin Sheryl Sandberg vor, damals eine Google-Führungskraft, die die Werbemaßnahmen des Unternehmens beaufsichtigt hatte. Sandberg wurde natürlich Chief Operating Officer bei Facebook und verwandelte das soziale Netzwerk in ein weiteres Werbeschwergewicht.

McNamee wählt seine Worte sorgfältig. „Die Leute, die Facebook und Google betreiben, sind gute Leute, deren gut gemeinte Strategien zu schrecklichen unbeabsichtigten Konsequenzen geführt haben“, sagt er. „Das Problem ist, dass die Unternehmen nichts gegen den Schaden tun können, wenn sie nicht ihre derzeitigen Werbemodelle aufgeben.“

Aber wie können Google und Facebook gezwungen werden, die Geschäftsmodelle aufzugeben, die sie zu zwei der profitabelsten Unternehmen der Welt gemacht haben?

McNamee ist der Ansicht, dass die Unternehmen, in die er investiert hat, einer stärkeren Regulierung, einschließlich neuer Antimonopolregeln, unterliegen sollten. In Washington wächst auf beiden Seiten der politischen Kluft der Wunsch, das Silicon Valley unter Kontrolle zu bringen. Aber McNamee befürchtet, dass die Giganten, an deren Bau er beteiligt war, bereits zu groß sein könnten, um sie einzudämmen. „Die EU hat Google kürzlich 2,42 Milliarden US-Dollar wegen Antimonopolverstößen bestraft, und die Google-Aktionäre zuckten nur mit den Schultern“, sagt er.

Rosenstein, der Mitbegründer von Facebooks „Gefällt mir“-Angaben, ist davon überzeugt, dass eine staatliche Regulierung „psychologisch manipulativer Werbung“ sinnvoll sein könnte, und sagt, der moralische Impuls sei vergleichbar mit Maßnahmen gegen Unternehmen, die fossile Brennstoffe oder Tabak herstellen. „Wenn es uns nur um Gewinnmaximierung geht“, sagt er, „werden wir schnell in eine Dystopie geraten.“

James Williams hält die Rede von Dystopie nicht für weit hergeholt. Der ehemalige Google-Stratege, der das Metriksystem für das globale Suchmaschinenwerbegeschäft des Unternehmens aufgebaut hat, hatte einen Blick aus der ersten Reihe auf eine Branche, die er als „die größte, standardisierteste und zentralisierteste Form der Aufmerksamkeitskontrolle in der Geschichte der Menschheit“ bezeichnet.

Der 35-jährige Williams hat letztes Jahr Google verlassen und steht kurz vor dem Abschluss seiner Doktorarbeit an der Universität Oxford, in der er sich mit der Ethik überzeugenden Designs beschäftigt. Es ist eine Reise, die ihn zu der Frage geführt hat, ob die Demokratie das neue technologische Zeitalter überleben kann.

Er sagt, seine Offenbarung sei vor ein paar Jahren gekommen, als ihm aufgefallen sei, dass er von Technologie umgeben sei, die ihn daran gehindert habe, sich auf die Dinge zu konzentrieren, auf die er sich konzentrieren wollte. „Es war diese Art individueller, existenzieller Erkenntnis: Was ist los?“ er sagt. „Sollte die Technologie nicht das genaue Gegenteil davon bewirken?“

Dieses Unbehagen verstärkte sich während eines Moments bei der Arbeit, als er einen Blick auf eines der Dashboards von Google warf, eine mehrfarbige Anzeige, die zeigte, wie viel Aufmerksamkeit das Unternehmen für Werbetreibende gewonnen hatte. „Mir wurde klar: Das sind buchstäblich eine Million Menschen, die wir irgendwie dazu gedrängt oder überredet haben, etwas zu tun, was sie sonst nicht tun würden“, erinnert er sich.

Er begann mehrere Jahre mit unabhängiger Forschung, die er größtenteils während seiner Teilzeitarbeit bei Google durchführte. Ungefähr 18 Monate später sah er das von Harris verbreitete Google-Memo und die beiden wurden Verbündete und kämpften darum, Veränderungen von innen heraus herbeizuführen.

Williams und Harris verließen etwa zur gleichen Zeit Google und gründeten gemeinsam die Interessengruppe „Time Well Spent“, die öffentliche Impulse für eine Veränderung in der Art und Weise geben will, wie große Technologieunternehmen über Design denken. Für Williams ist es schwer zu verstehen, warum dieses Thema nicht „täglich auf der Titelseite jeder Zeitung“ steht.

„87 Prozent der Menschen wachen mit ihren Smartphones auf und gehen schlafen“, sagt er. Die ganze Welt hat jetzt ein neues Prisma, durch das sie Politik verstehen kann, und Williams befürchtet, dass die Konsequenzen tiefgreifend sein werden.

Die gleichen Kräfte, die Technologiefirmen dazu veranlasst haben, Benutzer mit Designtricks zu fesseln, ermutigen diese Unternehmen auch dazu, die Welt auf eine Weise darzustellen, die zu einem zwanghaften, unwiderstehlichen Betrachten führt. „Die Aufmerksamkeitsökonomie schafft Anreize für die Entwicklung von Technologien, die unsere Aufmerksamkeit erregen“, sagt er. „Dadurch stellt es unsere Impulse gegenüber unseren Absichten in den Vordergrund.“

Das bedeutet, das Sensationelle dem Nuancierten vorzuziehen und Emotionen, Wut und Empörung anzusprechen. Die Nachrichtenmedien arbeiten zunehmend im Dienste von Technologieunternehmen, fügt Williams hinzu, und müssen sich an die Regeln der Aufmerksamkeitsökonomie halten, um „Sensationalisierung, Köder und Unterhaltung zu schaffen, um zu überleben“.

Nach dem überwältigenden Wahlsieg von Donald Trump stellten viele schnell die Rolle sogenannter „Fake News“ auf Facebook, in Russland erstellter Twitter-Bots oder den datenzentrierten Targeting-Bemühungen in Frage, mit denen Unternehmen wie Cambridge Analytica Wähler beeinflussten . Aber Williams sieht diese Faktoren als Symptome eines tieferen Problems.

Es sind nicht nur zwielichtige oder schlechte Akteure, die das Internet nutzen, um die öffentliche Meinung zu ändern. Die Aufmerksamkeitsökonomie selbst dient dazu, ein Phänomen wie Trump zu fördern, der es meisterhaft versteht, die Aufmerksamkeit von Anhängern und Kritikern gleichermaßen zu erregen und zu behalten, oft durch Ausnutzen oder Empörung.

Williams brachte diesen Fall vor, bevor der Präsident gewählt wurde. In einem Blog, der einen Monat vor der US-Wahl veröffentlicht wurde, schlug Williams die Alarmglocke zu einem Thema, das seiner Meinung nach „eine weitaus folgenschwerere Frage“ sei als die Frage, ob Trump das Weiße Haus erreicht habe. Die Kampagne des Reality-TV-Stars habe einen Wendepunkt eingeläutet, in dem „die neuen, digital aufgeladenen Dynamiken der Aufmerksamkeitsökonomie endlich eine Schwelle überschritten und sich im politischen Bereich manifestiert haben“.

Williams erlebte eine ähnliche Dynamik schon Monate zuvor, während der Brexit-Kampagne, als ihm die Aufmerksamkeitsökonomie voreingenommen schien, zugunsten der emotionalen, identitätsbasierten Argumente für den Austritt Großbritanniens aus der Europäischen Union. Er betont, dass diese Dynamik keineswegs nur auf die politische Rechte beschränkt ist: Sie spielt seiner Meinung nach auch eine Rolle bei der unerwarteten Popularität linker Politiker wie Bernie Sanders und Jeremy Corbyn und den häufigen Ausbrüchen von Empörung im Internet über Themen, die Wut auslösen unter den Progressiven.

All dies, so Williams, verzerre nicht nur unsere Sicht auf Politik, sondern könne mit der Zeit auch unsere Denkweise verändern und uns weniger rational und impulsiver machen. „Wir haben uns an einen fortwährenden kognitiven Stil der Empörung gewöhnt, indem wir die Dynamik des Mediums verinnerlicht haben“, sagt er.

Vor diesem politischen Hintergrund argumentiert Williams, dass die Fixierung auf den von George Orwell fiktionalisierten Überwachungsstaat in den letzten Jahren möglicherweise fehl am Platz war. Es war ein anderer englischer Science-Fiction-Autor, Aldous Huxley, der die vorausschauendere Beobachtung lieferte, als er warnte, dass Zwang im Orwellschen Stil eine geringere Bedrohung für die Demokratie darstelle als die subtilere Macht der psychologischen Manipulation und „der fast unendliche Appetit des Menschen auf Ablenkung“. .

Seit der US-Wahl hat Williams eine andere Dimension der schönen neuen Welt von heute erkundet. Wenn die Aufmerksamkeitsökonomie unsere Fähigkeit untergräbt, uns zu erinnern, zu argumentieren und selbst Entscheidungen zu treffen – Fähigkeiten, die für die Selbstverwaltung unerlässlich sind – welche Hoffnung gibt es dann für die Demokratie selbst?

„Die Dynamik der Aufmerksamkeitsökonomie ist strukturell darauf ausgelegt, den menschlichen Willen zu untergraben“, sagt er. „Wenn Politik ein Ausdruck unseres menschlichen Willens ist, auf individueller und kollektiver Ebene, dann untergräbt die Aufmerksamkeitsökonomie direkt die Annahmen, auf denen die Demokratie beruht.“ Wenn Apple, Facebook, Google, Twitter, Instagram und Snapchat nach und nach unsere Fähigkeit, unseren eigenen Geist zu kontrollieren, einschränken, könnte dann, frage ich, ein Punkt kommen, an dem die Demokratie nicht mehr funktioniert?

„Werden wir es erkennen können, wenn und wann es passiert?“ Williams antwortet. „Und wenn wir das nicht können, woher wissen wir dann, dass es nicht schon passiert ist?“