YouTube eksperymentuje ze sposobami, aby jego algorytm był jeszcze bardziej uzależniający

Ilustracja przedstawiająca interfejs YouTube z filmami ASMR Pani Tech; Obrazy: zrzuty ekranu z YouTube | Gibi ASMR/ASMR Darling/W magazynek/ASMR Glow

Algorytmy rekomendacji są obecnie jednymi z najpotężniejszych systemów uczenia maszynowego ze względu na ich zdolność do kształtowania konsumowanych przez nas informacji. Zwłaszcza algorytm YouTube ma duży wpływ. Szacuje się, że platforma zajmuje drugie miejsce po Google pod względem ruchu w sieci i 70% tego, co oglądają użytkownicy, jest im przekazywanych za pośrednictwem rekomendacji.

W ostatnich latach wpływ ten został dokładnie zbadany. Ponieważ algorytm jest zoptymalizowany pod kątem zachęcania ludzi do angażowania się w filmy, zwykle oferuje opcje, które wzmacniają to, co ktoś już lubi lub w co wierzy, co może stworzyć uzależniające doświadczenie, które odcina inne widoki. To również często nagradza najbardziej ekstremalne i kontrowersyjne filmy, które studia pokazały, że mogą szybko popchnąć ludzi do głębokie królicze nory treści i prowadzić do politycznego radykalizacja .

Chociaż YouTube publicznie powiedział, że pracuje nad rozwiązaniem tych problemów, a nowy papier od Google, który jest właścicielem YouTube, wydaje się opowiadać inną historię. Proponuje aktualizację algorytmu platformy, która ma polecać użytkownikom jeszcze bardziej ukierunkowane treści w celu zwiększenia zaangażowania.

Oto jak system rekomendacji YouTube obecnie działa . Aby wypełnić pasek boczny polecanych filmów, najpierw kompiluje krótką listę kilkuset filmów, znajdując te, które pasują do tematu i innych funkcji tego, który oglądasz. Następnie klasyfikuje listę zgodnie z preferencjami użytkownika, których uczy się, wprowadzając wszystkie kliknięcia, polubienia i inne interakcje do algorytmu uczenia maszynowego.

Wśród proponowanych aktualizacji naukowcy koncentrują się w szczególności na problemie, który identyfikują jako niejawne stronniczość. Odnosi się do sposobu, w jaki same rekomendacje mogą wpływać na zachowanie użytkowników, co utrudnia rozszyfrowanie, czy kliknąłeś film, ponieważ Ci się podobał, czy dlatego, że był wysoce polecany. Efekt jest taki, że z biegiem czasu system może odsuwać użytkowników coraz dalej od filmów, które faktycznie chcą oglądać.

Aby zmniejszyć to nastawienie, naukowcy sugerują ulepszenie algorytmu: za każdym razem, gdy użytkownik kliknie film, uwzględnia to również pozycję filmu na pasku bocznym rekomendacji. Filmy znajdujące się w górnej części paska bocznego mają mniejszą wagę, gdy są wprowadzane do algorytmu uczenia maszynowego; filmy znajdujące się głęboko w rankingu, które wymagają od użytkownika przewijania, otrzymują więcej. Kiedy badacze przetestowali zmiany na żywo w YouTube, odkryli znacznie większe zaangażowanie użytkowników.

Chociaż gazeta nie podaje, czy nowy system zostanie wdrożony na stałe, Guillaume Chaslot, były inżynier YouTube, który obecnie prowadzi AlgoTransparency.org, powiedział, że jest całkiem pewny, że stanie się to stosunkowo szybko: powiedzieli, że zwiększy to zegarek czas o 0,24%. Jeśli obliczysz kwotę, myślę, że to może dziesiątki milionów dolarów.

Kilku ekspertów recenzujących artykuł stwierdziło, że zmiany mogą mieć przewrotne skutki. W naszych badaniach odkryliśmy, że algorytmy YouTube stworzyły odizolowaną skrajnie prawicową społeczność, popchnęły użytkowników do filmów przedstawiających dzieci i promowały dezinformację, powiedział Jonas Kaiser, członek Berkman Klein Center for Internet & Society. Na obrzeżach ta zmiana może […] sprzyjać powstawaniu bardziej odizolowanych społeczności, niż widzieliśmy. Jonathan Albright, dyrektor inicjatywy kryminalistyki cyfrowej w Tow Center for Digital Journalism, powiedział, że chociaż zmniejszenie tendencyjności pozycji jest dobrym początkiem spowolnienia pętli sprzężenia zwrotnego treści o niskiej jakości, teoretycznie zmiana może również faworyzować ekstremalne treści.

Becca Lewis, była badaczka z Data & Society, która bada ekstremizm internetowy, powiedziała, że ​​trudno było przewidzieć, jak potoczą się zmiany. Odnosi się to również wewnętrznie do YouTube, powiedziała. W YouTube jest tak wiele różnych społeczności, różne sposoby, w jakie ludzie korzystają z YouTube, różne rodzaje treści, że konsekwencje będą różne w tak wielu przypadkach. Stajemy się obiektami testowymi dla YouTube.

Po uzyskaniu komentarza rzecznik YouTube powiedział, że inżynierowie i zespoły ds. produktów ustalili, że zmiany nie doprowadzą do powstania bąbelków filtrujących. W przeciwieństwie do tego firma oczekuje, że zmiany zmniejszą je i ogólnie zróżnicują rekomendacje.

Wszyscy trzej zewnętrzni badacze, z którymi skontaktowano się MIT Technology Review, zalecają, aby YouTube poświęcił więcej czasu na badanie wpływu zmian algorytmicznych za pomocą metod takich jak wywiady, ankiety i wkład użytkowników. YouTube zrobił to w pewnym stopniu, powiedział rzecznik, pracując nad usunięciem ekstremalnych treści w postaci mowy nienawiści ze swojej platformy.

YouTube powinien poświęcić więcej energii na zrozumienie, którzy aktorzy ich algorytmy faworyzują i wzmacniają, niż na to, jak utrzymać użytkowników na platformie, powiedział Kaiser.

Frustrujące jest to, że nie jest to w interesie biznesowym YouTube, dodał Lewis. Ale jest imperatyw etyczny.

Poprawki: Wpływ zmiany YouTube byłby prawdopodobnie rzędu dziesiątek milionów, a nie miliardów dolarów. Historia została również zaktualizowana 27 września 2019 r. o 15:30 czasu wschodniego, aby odzwierciedlić reakcję YouTube.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć