DeepMind pyta, w jaki sposób sztuczna inteligencja pomogła zmienić Internet w komorę echa

SM. TECHNIKA | ZDJĘCIA: YOUTUBE Pani Tech | Zdjęcia: YouTube

Jednym z najpopularniejszych obecnie zastosowań uczenia maszynowego są algorytmy rekomendacji. Netflix i YouTube używają ich do przesyłania nowych programów i filmów; Google i Facebook używają ich do pozycjonowania treści w wynikach wyszukiwania i kanale aktualności. Chociaż te algorytmy oferują dużą wygodę, mają pewne niepożądane skutki uboczne. Prawdopodobnie słyszałeś o nich wcześniej: bańki filtrujące i komory echa .

Obawa o te efekty nie jest nowa. W 2011 roku Eli Pariser, obecnie dyrektor generalny Upworthy, ostrzegał przed bąbelkami filtrującymi na scenie TED. Jeszcze wcześniej w swojej książce republika.com profesor prawa z Harvardu, Cass Sunstein, dokładnie przewidział efekt polaryzacji grupy, napędzany rozwojem Internetu, który ostatecznie zagrozi zdrowej demokracji. Facebook nie istniałby jeszcze przez trzy lata.

Oba pomysły zostały szybko spopularyzowane w następstwie wyborów w USA w 2016 r., co doprowadziło do ożywienia odpowiednich badań. Teraz własna spółka zależna Google, DeepMind, poszerza zakres stypendiów. (Lepiej późno niż wcale, prawda?)

w nowy papier , naukowcy przeanalizowali, w jaki sposób różne algorytmy rekomendacji mogą przyspieszyć lub spowolnić oba zjawiska, które badacze definiują osobno. Mówią, że komory Echo wzmacniają zainteresowania użytkowników poprzez wielokrotną ekspozycję na podobne treści. Z kolei bąbelki filtrujące zawężają zakres treści, na które narażeni są użytkownicy. Oba są przykładami w akademickiej mowie zdegenerowanych pętli sprzężenia zwrotnego. Wyższy poziom degeneracji w tym przypadku odnosi się do silniejszego efektu bańki filtracyjnej lub komory echa.

Przeprowadzili symulacje pięciu różnych algorytmów rekomendacji, które stawiały różne stopnie priorytetu na dokładne przewidywanie tego, czym interesował się użytkownik, zamiast losowego promowania nowych treści. Okazało się, że algorytmy, które kładą większy nacisk na dokładność, doprowadziły do ​​znacznie szybszej degeneracji systemu. Innymi słowy, najlepszym sposobem na walkę z bąbelkami filtrującymi lub komorami echa jest zaprojektowanie algorytmów tak, aby były bardziej odkrywcze, pokazując rzeczy, które z mniejszym prawdopodobieństwem przyciągną Twoje zainteresowanie. Pomocne może być również rozszerzenie ogólnego zestawu informacji, z których pochodzą rekomendacje.

Joseph A. Konstan, profesor informatyki na University of Minnesota, który wcześniej prowadził Badania na bąbelkach filtrujących, mówi, że wyniki analizy DeepMind nie są zaskakujące. Badacze od dawna rozumieją napięcie między dokładnym przewidywaniem a skuteczną eksploracją w systemach rekomendacji, mówi.

Pomimo wcześniejszych badań, które wykazały, że użytkownicy będą tolerować niższy poziom dokładności, aby skorzystać z różnorodnych rekomendacji, programiści nadal mają zniechęcenie do projektowania swoich algorytmów w ten sposób. Zawsze łatwiej jest „mieć rację”, zalecając bezpieczne wybory, mówi Konstan.

Konstan krytykuje również badanie DeepMind dotyczące podejścia do baniek filtrujących i komór echa jako symulacji uczenia maszynowego, a nie interaktywnych systemów z udziałem ludzi – ograniczenie, które badacze również zauważyli. Zawsze martwi mnie praca, która ogranicza się do badań symulacyjnych (lub analizy danych offline), mówi. Ludzie są skomplikowani. Z jednej strony wiemy, że cenią sobie różnorodność, ale z drugiej strony wiemy też, że jeśli za bardzo rozciągniemy rekomendacje – do punktu, w którym użytkownicy poczują, że nie jesteśmy godni zaufania – możemy ich całkowicie stracić.

Korekta: Nagłówek został zaktualizowany, aby lepiej odzwierciedlał zakres badania.

ukryć