Tristan Harris – Nebezpečí sociálních sítí

Všechno, co jste řekl, mi připadá smutné, protože se to neděje náhodou, ale záměrně. Protože jejich obchodní model je o udržení vaší pozornosti. Soutěží se o vaši pozornost – protože je omezená, firmy musí být agresivnější a agresivnější. Říkám tomu závod do centra mozku. Začíná to technikami typu "aktualizujte potažením". Potáhnete, abyste si aktualizovali feed, který se chová jako hrací automat. Vyvolá stejnou závislost, jako je ta, co drží lidi v Las Vegas u automatů.

Další příklad je odstranění zarážek: Kdybyste měli "bezedný kelímek" a doléval bych vám vodu nebo víno, nebudete vědět, kdy přestat pít. To se děje i u nekonečných feedů. Odebrali jsme zarážku, která by zastavila lidi při scrollování. Ale soutěž o lidskou pozornost se stále přiostřovala. Nestačí chápat chování lidí a předvídat ho, musíme předvídat, jak jinak udržet váš zájem.

A tak to v mysli postoupilo až ke společenskému schvalování. To přišly lajky a sledující: Kolik lidí mě sleduje? Namísto udržení vaší pozornosti je mnohem levnější vytvořit závislost na dostávání pozornosti od ostatních lidí. A to způsobilo hromadný narcisismus a další kulturní problémy, které dnes postihují zejména mladé lidi. A po dvou dekádách úpadku vzrostla míra duševních problémů u dívek mezi 10 a 14 lety o 170 % za posledních 8 let.

A za primární důvod byla označena sociální média. Při soupeření o pozornost nestačí, aby lidé byli závislí, ale soupeření se muselo přesunout do AI: Kdo dokáže vytvořit lepší prediktivní model vašeho chování? Například se chystáte pustit si video na YouTube. Myslíte si, že si pustíte jedno video, ale vzpamatujete se o dvě hodiny později a řeknete si: Co se to proboha stalo? Odpověď je, že se na váš mozek zaměřil superpočítač a v moment, kdy spustíte video, se na serveru probudí váš avatar.

Tento avatar je vymodelován z vašich kliků, lajků a všeho ostatního. To jsou vaše částečky, díky kterým se ten avatar chová víc a víc jako vy. Takže počítač v Googlu dokáže lépe a lépe odhadovat, jak dlouho se vydržíte dívat, když vám vybere různá videa. A obchodní model je prostě udržet vás sledovat co nejdéle. Potom ten algoritmus vytváří extrémy, na což jste poukázal, a doporučení zodpovídají za 70 % sledovanosti na YouTube.

Ne volba uživatelů, ale strojů. A je to závod mezi avatarem Facebooku – když posunete prstem, jestli dokáží předpovídat, co vám ukázat – a avatarem Googlu. Tohle jsou abstraktní metafory, které platí pro celý technický průmysl. Je to závod o to, kdo dokáže nejlépe předvídat vaše chování. Facebook má něco, čemu říká předvídání věrnosti – dokáží inzerentovi říct, že přestáváte být věrnými zákazníky.

Takže pokud jste matka a kupujete Pampersky, mohou říct firmě Pampers, že brzo změníte značku. Jinými slovy, dokáží předvídat věci, které sami o sobě nevíme. A tohle je nová úroveň asymetrické moci. Pro tento asymetrický vztah máme jméno: důvěrný vztah nebo náležitá péče. Stejný standart, jaký vyžadujeme od knězů, doktorů nebo právníků. Představte si svět, ve kterém kněží vydělávají peníze prodáváním přístupu k cizím zpovědím.

Až na to, že tady Facebook poslouchá zpovědi dvou miliard lidí. Má na ně napojený superpočítač, který počítá a předvídá vaše zpovědi ještě před tím, než je uděláte, a to způsobuje tyhle katastrofy. Rád bych o těchto věcech mluvil podrobněji, prozatím to uzavřu tím, že tohle se týká všech, i když ty služby sami nepoužívají. Posíláte své děti do školy, kde jiní lidé věří konspiračním teoriím ohledně očkování. A to vás ovlivňuje.

Nebo to, jak ostatní lidé hlasují ve volbách. A když Marc Andreessen řekl v roce 2011, že software pozře svět... Marc Andreessen založil Netscape. Chtěl tím říct, že software dokáže zefektivnit každou část společnosti. A tak softwaru dovolíme pozřít naše volby, naše média, naše taxi – dopravu... Problém byl, že software pohlcoval svět, aniž by za to bral odpovědnost. Mívali jsme pravidla a standardy ohledně ranních pohádek, a když YouTube pozřel tuhle část společnosti, odebral všechny ty ochrany. Víme, že firmy jako Google a Facebook mají velká množství dat o uživatelích.

Co o nich dokáží předpovídat na základě těchto dat? Děkuji za tu otázku. Myslím, že je důležité najít spojení mezi soukromím a přesvědčováním, což se často nedělá, a tak bude užitečné to udělat. Případ Cambridge Analytica byl o tom, že podle 150 vašich lajků na Facebooku je možné předpovědět vaše politické přesvědčení a pak s ním dále pracovat. Ve svém úvodním prohlášení jsem mluvil o rostoucí asymetrické síle, protože díky AI lze předpovědět víc a víc vašich vlastností i bez vašich dat.

Nedávno vyšel článek, podle něhož můžeme s 80% přesností předpovědět tytéž složky modelu Big 5, které o vás získala Cambridge Analytica, aniž by bylo potřeba vašich dat. Stačí vidět vzorce pohybů vaší myši a klikání. Jinými slovy: už nelze mít poker face – vaše chování je váš podpis a zjistíme vaši politickou příslušnost. Jen z jednoho tweetu poznáme vaši politickou příslušnost na 80 %.

Počítače dokáží předpovědět, že jste homosexuál dříve než vy sám. Umí předpovědět s 95% přesností, že opustíte svou práci, dle studie od IBM. Dokáží předpovědět, že žena je těhotná. Dokáží rozpoznat mikrovýrazy ve vaší tváři lépe než člověk. Mikrovýrazy jsou jemné reakce, které téměř nejsou vidět. Počítače je umí rozpoznat. V jednu chvíli si uvědomíte, že můžete vytvářet deepfake – můžete vyrobit falešné video s umělou tváří nebo umělý záznam, který má všechny tyto charakteristiky.

Ve své úvodní řeči jsem řekl, že musíme uznat, že tohle celé je o zvětšující se asymetrii mezi silou technologií a omezeními lidské mysli. Můj oblíbený sociobiolog I. O. Wilson řekl, že základní problém lidstva je ten, že máme prastaré paleolitické emoce, středověké instituce a božské technologie. Jsme tedy šimpanzi s atomovkami a naše paleolitické mozky nestačí na prudce rostoucí sílu technologií, které předvídají naše chování.

Je důležité, abychom tento vztah změnili z extrahujícího – který o vás získává informace – na důvěrný. Protože nemůžeme mít asymetrickou sílu, která je navržená k tomu, aby vás vysávala. Stejně jako nemůžeme mít právníky nebo doktory, jejichž celý obchodní model je vzít všechno, co se dozví, a prodat to dál. Až na to, že teď toho o nás mohou předpovídat daleko víc než všechny ty obory dohromady – sečtěte ta data, která tvoří ty avatary, kteří se nám čím dál víc podobají.

A celkem tu jsou 2 miliardy avatarů, jeden na každé 4 obyvatele Země. Na YouTubu a Facebooku má účet přes 2 miliardy lidí. Lidé si myslí, že to je prostě naše přirozenost – lidé jsou rozdělení a média to jen zrcadlí. Ale ve skutečnosti média zesilují to nejhorší v nás. Takže v závodu o naši pozornost...

podívejme se například na Twitter. Propočítává, jakou věc vám má ukázat, aby ve vás vyvolal největší zájem. A ukázalo se, že to je morální pobouření. Ve studii bylo zjištěno, že každé slovo morálního pobouření ve vašem tweetu zvedne počet sdílení o 17 %. Jinými slovy, rozdělení společnosti je součástí jejich obchodního modelu. Další příklad je to, že kratší věci přitahují víc pozornosti než dlouhé a složité myšlenky, u kterých trvá dlouho je probrat.

Proto v našem společenském diskurzu vládnou zprávy o 140 znacích. Ale ve skutečnosti jsou důležitá témata čím dál složitější, zatímco my na ně můžeme mít čím dál jednodušší reakce. To z principu vytváří polarizaci, protože nemůžete mluvit stručně o něčem složitém tak, aby s vámi všichni souhlasili. Lidé si to špatně vyloží a budou vás nenávidět. A nikdy nebylo snazší to sdílet a probudit dav, který po vás půjde.

A tohle vytvořilo call-out culture, chilling effect a další polarizační efekty, které jsou zesíleny tím, že tyto sítě jsou odměněny, když vám dají tu nejvíce vzrušující zprávu. Posledním příkladem je YouTube: řekněme, že vyrovnáme... vím, že tu jsou lidi, které znepokojuje vyrovnaná reprezentace levice a pravice v médiích. Dejme tomu, že to perfektně vyvážíme.

Kdybyste si ještě před měsícem vyhledali 15 nejčastějších sloves na YouTubu v názvech doporučených videí, dostali byste: nesnáší, vyvrací, rozseká, zničí... jinými slovy video "Jordan Peterson rozseká levicového aktivistu". Takovému "záření" vystavujeme 2 miliardy lidí. A můžete si najmout anglicky mluvící moderátory a řešit tento problém, ale problém je, že tyto sítě používají 2 miliardy lidí se stovkami jazyků. Kolik inženýrů z YouTube ovládá 22 indických jazyků, když se u nich blíží volby...?

Takže takový je kontext. Děkuji, senátore. Tohle je jeden z problémů, který mě nejvíce znepokojuje. Myslím, že senátor Schatz zmínil, že existují důkazy, že ještě před měsícem... – mějte na paměti, že na tyto problémy se upozorňuje už celé roky – YouTube identifikoval vzorec, že mladé holky, které se natáčely, jak tančí doma před kamerou, byly propojeny ve vzorcích sledovanosti s podobnými videi, které šly dál tímto směrem.

A to bylo superpočítačem YouTubu rozpoznáno jako vzorec. Vzorec ve smyslu, že to je vysoce poutavá cesta. Představte si YouTube jako spektrum: na levé straně je klidná a rozumná sekce YouTube na pravé je blázinec: UFO, konspirační teorie, Lochnesska a tak dál. Člověka můžete dát kamkoli: do klidné sekce i do blázince. Ale pokud jsem YouTube a chci sledovanost, kterým směrem vás pošlu dál? Nikdy ne do klidné sekce, vždy vás pošlu směrem do blázince.

Teď si představte 2 miliardy lidí jako mravenčí kolonii, která se naklání směrem k šílenostem. Konkrétní příklad: kdyby se před rokem náctiletá dívka podívala na video o stravě, YouTube by jí doporučil videa o anorexii. Protože to byla extrémnější věc, kterou nabídnout avatarovi náctileté dívky. Je tu mnoho podobných avatarů a další nabízené video je anorexie. Když jste sledovali přistání na Měsíci, doporučilo vám to konspirační teorie o placaté Zemi, které byly doporučeny několik set milionkrát, než byly nedávno staženy.

Další příklad: 50 % bílých nacionalistů podle studie od Bellingcat řeklo, že to byl YouTube, který jim "podal červenou pilulku". To je metafora pro otevření očí. Nejlepší prediktor toho, zda uvěříte konspiračním teoriím, je, zda vás donutím uvěřit jedné, protože jen jedna vám "otevře mysl" a donutí vás pochybovat a být paranoidní. Problém je, že YouTube tohle provádí masově a 2 miliardy lidí teď proto žijí ve své personalizované Truman Show.

Každý kanál má ten radikalizující směr. Problém zní: je YouTube vydavatel? Oni ten obsah nevytváří ani neplatí novinářům. Ale doporučují věci. A myslím, že potřebujeme novou kategorii... Noviny New York Times jsou odpovědné, pokud někoho pomluví a dostane se to ke sto miliónům lidem.

Když YouTube doporučí konspirační teorie o ploché Zemi stomilionkrát a když zvážíte, že 70 % sledovanosti YouTubu pochází z doporučování videí, tedy je řízeno tím, co oni doporučí, co algoritmus nabídne vašim očím... Kdybychom měli zpětně odvodit motto, znělo by: s velkou mocí nepřichází žádná zodpovědnost. Co se týče mých obav, nejvíc mě trápí to, že nic z toho se nevyřešilo. Ten obchodní model se nezměnil: Došlo ke střelbě v Christchurchi a to video se objevilo všude a dochází ke všem těm ostatním příkladům, protože ty platformy nemohou tento problém jednoduše vyřešit, protože to je jejich obchodní model.