Gospodarka uwagi Big Tech może zostać zreformowana. Oto jak.

Pani Tech | Getty

W tym tygodniu brutalny tłum dokonał największego od ponad 200 lat ataku na Kapitol, siedzibę amerykańskiej demokracji, kierowany fałszywym przekonaniem, że wybory prezydenckie zostały skradzione. Głównym autorem tego twierdzenia był prezydent Donald Trump, ale gotowość tłumu do uwierzenia w to w dużej mierze była wynikiem ekonomii uwagi, którą stworzyła nowoczesna technologia.

Kanały informacyjne na Facebooku lub Twitterze działają w oparciu o model biznesowy polegający na utowarowieniu uwagi miliardów ludzi dziennie, sortowaniu tweetów, postów i grup w celu określenia, które są najbardziej zaangażowane (kliknięcia, wyświetlenia i udostępnienia) — co jest najsilniejsze emocjonalne reakcje. Te utowarowiacze platformy uwagi wypaczyły zbiorową psychikę. Doprowadziły do ​​węższych i bardziej szalonych poglądów na świat.

Uwaga: ten esej jest zaadaptowanym fragmentem z Nowe możliwe: wizje naszego świata poza kryzysem , ukaże się 26 stycznia 2021 r. przez Cascade Books.

Algorytmy rekomendacji YouTube, które określają 70% dziennego czasu oglądania dla miliardów ludzi, sugerują, jakie filmy mają być podobne, ale w rzeczywistości prowadzą widzów do bardziej ekstremalnych, bardziej negatywnych lub bardziej konspiracyjnych treści, ponieważ to sprawia, że ​​dłużej pozostają na ekranach. Przez lata YouTube polecał thinspiration – filmy promujące anoreksję – nastoletnim dziewczynom, które oglądały filmy o dietach. A kiedy ludzie oglądali naukowe filmy z lądowania NASA na Księżycu, YouTube polecał filmy o teorii spiskowej o płaskiej Ziemi. Zrobił to setki milionów razy. Kanały informacyjne i systemy rekomendacji, takie jak ten, stworzyły spiralę negatywności i paranoi, powoli oddzielając miliardy ludzi postrzegania rzeczywistości od samej rzeczywistości.

Powiązana historia

Jak internetowe kłamstwo na temat inwazji na Kapitol zmieniło się w natychmiastową teorię spiskową Fałszywe twierdzenia, że ​​inwazja na Kongres rozprzestrzeniła się w zawrotnym tempie – dzięki działaczom, mediom i politykom republikańskim.

Jasne i prawdziwe widzenie rzeczywistości ma fundamentalne znaczenie dla naszej zdolności do robienia czegokolwiek. Monetyzując i utowarowując uwagę, sprzedaliśmy naszą zdolność dostrzegania problemów i wprowadzania wspólnych rozwiązań. To nie jest nowe. Prawie za każdym razem, gdy pozwalamy, aby systemy podtrzymywania życia naszej planety lub społeczeństwa zostały utowarowione, powoduje to kolejne awarie. Kiedy utowarowujesz politykę za pomocą mikroukierunkowanych reklam zoptymalizowanych pod kątem sztucznej inteligencji, pozbawiasz polityki integralności. Kiedy utowarowiasz żywność, tracisz kontakt z cyklem życia, który sprawia, że ​​rolnictwo jest zrównoważone. Kiedy utowarodasz edukację w cyfrowe źródła treści, tracisz wzajemne powiązania ludzkiego rozwoju, zaufania, troski i autorytetu nauczycielskiego. Kiedy utowarowujesz miłość, zamieniając ludzi w karty do gry na Tinderze, przerywasz złożony taniec związany z budowaniem nowych relacji. A kiedy zmieniasz komunikację w kawałki postów i wątków komentarzy na Facebooku, usuwasz kontekst, niuanse i szacunek. We wszystkich tych przypadkach systemy wydobywcze powoli niszczą fundamenty zdrowego społeczeństwa i zdrowej planety.

Systemy zmiany przełożeń w celu ochrony uwagi

E.O. Wilson, słynny biolog, zaproponował, że ludzie powinni kierować tylko połową Ziemi, a resztę pozostawić w spokoju. Wyobraź sobie coś podobnego dla gospodarki uwagi. Możemy i powinniśmy powiedzieć, że chcemy chronić ludzką uwagę, nawet jeśli poświęci to część zysków Apple, Google, Facebooka i innych wielkich korporacji technologicznych.

Blokery reklam na urządzeniach cyfrowych są interesującym przykładem tego, co może stać się zmianą strukturalną w cyfrowym świecie. Czy programy blokujące reklamy to prawo człowieka? Gdyby wszyscy mogli blokować reklamy na Facebooku, Google i stronach internetowych, internet nie byłby w stanie się sfinansować, a gospodarka reklamowa straciłaby ogromne kwoty przychodów. Czy ten wynik neguje prawo? Czy twoja uwaga jest dobra? Czy jesteś jego właścicielem? Czy powinniśmy wycenić to? Sprzedaż narządów ludzkich lub ludzi zniewolonych może zaspokoić popyt i generować zysk, ale mówimy, że te przedmioty nie należą do rynku. Podobnie jak ludzie i ich organy, czy ludzka uwaga powinna być czymś, czego nie można kupić za pieniądze?

Czy twoja uwaga jest dobra? Czy jesteś jego właścicielem? Czy powinniśmy wycenić to? Podobnie jak ludzie i ich organy, czy ludzka uwaga powinna być czymś, czego nie można kupić za pieniądze?

Pandemia COVID-19, ruch Black Lives Matter oraz zmiany klimatyczne i inne kryzysy ekologiczne sprawiły, że coraz więcej ludzi zdaje sobie sprawę z tego, jak zepsute są nasze systemy gospodarcze i społeczne. Ale nie docieramy do korzeni tych powiązanych ze sobą kryzysów. Spadamy na interwencje, które wydają się właściwą odpowiedzią, ale zamiast tego są pułapkami, które ukradkiem utrzymują status quo. Nieco lepsze praktyki policyjne i kamery ciała nie zapobiegają nadużyciom policji. Zakup Priusa lub Tesli nie wystarczy, aby naprawdę obniżyć poziom węgla w atmosferze. Zastąpienie plastikowych słomek biodegradowalnymi nie uratuje oceanów. Posunięcie Instagrama, aby ukryć liczbę polubień, nie zmienia problemów ze zdrowiem psychicznym nastolatków, gdy usługa opiera się na ciągłym porównywaniu społecznościowym i systemowym przejmowaniu ludzkiego dążenia do połączenia. Potrzebujemy znacznie głębszej reformy systemowej. Musimy zmieniać instytucje, aby służyły interesowi publicznemu w sposób współmierny do charakteru i skali stojących przed nami wyzwań.

W Center for Humane Technology jedną z rzeczy, które zrobiliśmy, było przekonanie Apple, Google i Facebooka do przyjęcia — przynajmniej częściowo — misji Dobrze Spędzonego Czasu, nawet jeśli byłoby to sprzeczne z ich interesami gospodarczymi. Był to ruch, który zainicjowaliśmy poprzez szeroko zakrojone kampanie uświadamiające i promujące media publiczne, który zyskał zaufanie projektantów technologii, zaniepokojonych rodziców i uczniów. Wezwał do zmiany zachęt cyfrowego świata z wyścigu o czas spędzany na ekranach i aplikacjach w wyścig na szczyt, aby pomóc ludziom dobrze spędzać czas. Doprowadziło to do prawdziwej zmiany dla miliardów ludzi. Na przykład firma Apple wprowadziła funkcje Czasu przed ekranem w maju 2018 r., które są teraz dostarczane ze wszystkimi iPhone'ami, iPadami i innymi urządzeniami. Oprócz pokazywania wszystkim użytkownikom, ile czasu spędzają na telefonie, Czas przed ekranem oferuje pulpit kontroli rodzicielskiej i limity czasu aplikacji, które pokazują rodzicom, ile czasu ich dzieci spędzają w Internecie (i co robią). Google wypuściło podobne Cyfrowa równowaga inicjatywę w tym samym czasie. Zawiera dalsze sugerowane przez nas funkcje, takie jak ułatwienie odłączania przed snem i ograniczenie powiadomień. W ten sam sposób YouTube wprowadził powiadomienia Zrób sobie przerwę.

Te zmiany pokazują, że firmy są gotowe do poświęceń, nawet w sferze miliardów dolarów. Niemniej jednak nie zmieniliśmy jeszcze podstawowej logiki tych korporacji. Dla firmy zrobienie czegoś wbrew jej interesom ekonomicznym to jedno; robienie czegoś wbrew DNA jego celu i celów to zupełnie inna sprawa.

Praca na rzecz wspólnego działania

Potrzebujemy głębokiej, systemowej reformy, która przeniesie korporacje technologiczne do służenia przede wszystkim interesowi publicznemu. Musimy poważniej zastanowić się, jak wiele zmian systemowych może być możliwych i jak wykorzystać zbiorową wolę ludzi.

Powiązana historia

Ewangelicy szukają odpowiedzi w Internecie. Zamiast tego znajdują QAnon. Jak rosnący ruch na rzecz Trumpa żeruje na wiernych, by szerzyć swoje teorie spiskowe.

Niedawno w Centrum Technologii Humanitarnej przeprowadziliśmy wywiad z Christianą Figueres, byłą sekretarz wykonawczą Konwencji Narodów Zjednoczonych w sprawie zmian klimatu (2010-2016) , do naszego podcastu Twoja niepodzielna uwaga. Była odpowiedzialna za wspólną dyplomację, która doprowadziła do Porozumienia Paryskiego, i dowiedzieliśmy się, jak była w stanie to zrobić – wbrew wszelkim przeciwnościom nakłonić 195 różnych krajów do podjęcia wspólnych, w dobrej wierze rezolucji dotyczących przeciwdziałania zmianom klimatu. Figueres początkowo nie wierzyła, że ​​można uzyskać zgodę tak wielu krajów, ale zdała sobie sprawę, że pomyślne zorganizowanie konwencji paryskiej oznaczało, że sama będzie musiała się zmienić. Ona musiała naprawdę wierzyć, że możliwe jest nakłonienie krajów do zaangażowania się w działania na rzecz klimatu. W ten sposób mogła następnie skupić się na przekonaniu uczestniczących krajów w możliwości zajęcia się również zmianami klimatycznymi. Tam, gdzie wcześniejsze międzynarodowe negocjacje klimatyczne nie powiodły się, wysiłki Figueres zjednoczyły narody w celu uzgodnienia finansowania, nowych technologii i innych narzędzi, aby utrzymać globalny wzrost temperatury poniżej 2, a jeszcze lepiej 1,5 °C.

W przypadku branży technologicznej mamy przewagę w tym, że nie musimy przekonywać setek krajów czy milionów ludzi. Mniej niż 10 osób zarządza najpotężniejszą infrastrukturą cyfrową XXI wieku — tak zwanymi firmami FAANG, obejmującymi Facebook, Amazon, Apple, Netflix i Alphabet (dawniej Google). Gdyby te osoby spotkały się i zgodziły, że maksymalizacja zysku akcjonariuszy nie jest już wspólnym celem, infrastruktura cyfrowa mogłaby być inna. Gdyby Christiana Figueres mogła doprowadzić do konsensusu między 195 narodami, moglibyśmy rozważyć możliwość zrobienia tego z 10 dyrektorami generalnymi ds. technologii.

Nowa ekonomia humanitarnej technologii

Kilka zasad ekonomicznych musi ulec zmianie, aby technologia była zgodna z ludzkością i planetą. Jednym z nich jest paradygmat wzrostu. Po prostu nie da się przeprowadzić logiki nieskończonego wzrostu na skończonym podłożu. Dążenie do nieskończonego wzrostu gospodarczego prowadzi do planetarnego kryzysu ekologicznego. W przypadku firm technologicznych dążenie do nieskończonego wzrostu wydobytej ludzkiej uwagi prowadzi do podobnego kryzysu globalnej świadomości i społecznego dobrobytu. Musimy przejść do gospodarki uwagi po wzroście, która stawia zdrowie psychiczne i dobre samopoczucie w centrum naszych pożądanych wyników.

Kilka zasad ekonomicznych musi ulec zmianie, aby technologia była zgodna z ludzkością i planetą.

Mała wskazówka tej zmiany ma miejsce w krajach, w tym w Nowej Zelandii i Szkocji, gdzie organizacje takie jak Wellbeing Economy Alliance pracują nad przejściem z gospodarki promującej produkt krajowy brutto (PKB) na gospodarkę o tych alternatywnych priorytetach. Liderzy pytają, w jaki sposób dobrostan może wpływać na publiczne zrozumienie polityk i wyborów politycznych, kierować decyzjami i stać się nową podstawą myślenia i praktyki ekonomicznej.

Kolejna zmiana w kierunku bardziej humanitarnej technologii wymaga szerszego kręgu interesariuszy, którzy mogą ponosić odpowiedzialność za długofalowy społeczny wpływ naszych działań. Obecnie duże firmy technologiczne mogą zarabiać pieniądze, sprzedając coraz cieńsze fałszywe fragmenty uwagi — sprzedając fałszywe kliknięcia z fałszywych źródeł wiadomości fałszywym reklamodawcom. Firmy te zarabiają pieniądze, nawet jeśli to, do czego prowadzi link lub artykuł, jest rażąco błędne i propaguje dezinformację. Ten oportunizm deprecjonuje ekologię informacyjną, niszcząc naszą zdolność do ufania źródłom wiedzy lub dzielenia się przekonaniami o tym, co jest prawdą, co z kolei niszczy naszą zdolność do podejmowania dobrych decyzji. Rezultatem jest polaryzacja, dezinformacja i załamanie demokratycznego obywatelstwa. Musimy stworzyć mechanizmy, które zachęcą uczestników cyfrowego świata do rozważenia dłuższych ram czasowych i szerszego wpływu ich działań na społeczeństwo.

Ważną rolę odgrywa tu ludzka wola. Co by się stało, gdyby liderzy modelu dystrybucji przychodów Apple App Store – który działa jako bank centralny lub Rezerwa Federalna gospodarki uwagi – po prostu zdecydowali się dystrybuować przychody do twórców aplikacji w oparciu o to, czyj użytkownicy kupowali najwięcej wirtualnych towarów lub spędzali najwięcej czasu na aplikacji, ale kto z jej twórców najlepiej współpracował z innymi aplikacjami na telefon, aby pomóc wszystkim członkom społeczeństwa żyć bardziej zgodnie ze swoimi wartościami?

Ostatecznie sprowadza się to do ustalenia właściwych zasad. Każdemu aktorowi trudno jest zoptymalizować dobrobyt i dostosować się do wartości społecznych, podczas gdy inni gracze wciąż konkurują o ograniczone zasoby i władzę. Bez zasad i barierek wygrywają najbardziej bezwzględni aktorzy. Dlatego niezbędne są przepisy i polityki, wraz ze zbiorową wolą ludzi do ich wprowadzenia. Większy metakryzys polega na tym, że demokratyczne procesy tworzenia barierek przebiegają znacznie wolniej niż tempo rozwoju technologicznego, który jest potrzebny, aby coś zmienić. Technologia będzie nadal rozwijać się szybciej, niż szkody mogą być dobrze zrozumiane przez instytucje demokratyczne XX wieku. Sam sektor technologii musi zjednoczyć się, współpracować i znaleźć sposoby działania, tak aby wspólne cele społeczne znalazły się ponad hiperkonkurencją i maksymalizacją zysków.

Wreszcie, musimy uznać ogromną asymetryczną władzę, jaką firmy technologiczne mają nad jednostkami i społeczeństwem. Znają nas lepiej niż my sami siebie. Każda asymetryczna struktura władzy musi być zgodna z modelem powiernictwa lub obowiązku opieki, którego przykładem jest dobry nauczyciel, terapeuta, lekarz lub pracownik opieki — to znaczy musi działać w służbie tych, którzy mają mniej władzy. Nie może działać w modelu biznesowym opartym na ekstrakcji. Ulepszone modele biznesowe dla technologii muszą być generatywne: muszą traktować nas jak klienta, a nie produkt, i być zgodne z naszymi najgłębszymi wartościami i człowieczeństwem.

W kierunku bycia człowiekiem

E.O. Wilson powiedział: Problem z ludzkością polega na tym, że mamy paleolityczne emocje, średniowieczne instytucje i boską technologię. Musimy objąć nasze paleolityczne emocje we wszystkich ich stałych słabościach i słabościach. Musimy unowocześnić nasze instytucje, aby zawierały więcej mądrości, roztropności i miłości. I musimy spowolnić rozwój boskiej technologii, której moce wykraczają poza nasze możliwości kierowania statkiem, na którym wszyscy jesteśmy.

Sfera tego, co możliwe, wciąż się rozszerza, ale pojawia się jednocześnie z wykładniczymi problemami globalnymi, które wymagają lepszych informacji, przywództwa i działania. Zamiast akceptować wyścig na dno, który nas obniża i dzieli, możemy wspólnie stworzyć krajobraz technologiczny, który umożliwia wyścig na szczyt – taki, który wspiera nasze wzajemne połączenia, uprzejmość i głęboki blask. Uważam, że zmiana jest po ludzku możliwa.

Tristan Harris jest współzałożycielem i prezesem Center for Humane Technology.

ukryć