Świadomość algorytmu

Coraz częściej to algorytmy wybierają, które produkty nam polecić oraz algorytmy decydują o tym, czy powinniśmy otrzymać nową kartę kredytową. Ale te algorytmy są ukryte poza naszą percepcją. Jak zacząć rozumieć te tajemnicze ukryte siły?

Karrie Karahalios

Pytanie to zyskało ostatnio oddźwięk, kiedy Facebook ujawnił naukowe badanie dotyczące zarażania emocjami, które zostało przeprowadzone za pomocą jego kanału informacyjnego. Badanie wykazało, że wyświetlanie mniejszej liczby pozytywnych aktualizacji w kanałach użytkowników powoduje, że sami publikują mniej pozytywnych i więcej negatywnych wiadomości. Ten wynik jest interesujący, ale niepokojący, ujawnia pełną moc algorytmicznego wpływu Facebooka i chęć jego wykorzystania.

Aby zbadać kwestię świadomości algorytmicznej, w 2013 roku z trzema kolegami zbudowaliśmy narzędzie, które pomaga ludziom zrozumieć, jak działa ich kanał informacyjny na Facebooku.

Korzystając z własnego interfejsu programistycznego Facebooka, nasze narzędzie wyświetlało w lewej połowie ekranu listę historii, które pojawiły się w czyimś kanale informacyjnym. Po prawej stronie użytkownicy zobaczyli listę historii opublikowanych przez całą ich sieć znajomych — to znaczy zobaczyli niezafałszowany kanał, bez algorytmicznej korekty lub manipulacji.

Trzeci panel pokazał, które posty znajomych były w większości ukryte, a które posty znajomych pojawiały się najczęściej. Wreszcie, narzędzie pozwalało użytkownikom ręcznie wybierać posty, które chcą zobaczyć, a które posty chcą odrzucić.

Zrekrutowaliśmy 40 osób — niewielką próbkę, ale jedną ściśle reprezentatywną dla danych demograficznych Stanów Zjednoczonych — do udziału w badaniu, aby zobaczyć, jak rozumieją swój kanał informacyjny. Niektórzy byli zszokowani, gdy dowiedzieli się, że ich pasza była w ogóle manipulowana. Ale pod koniec naszego badania, gdy uczestnicy wybierali posty, które chcieli zobaczyć, znaleźli wartość w wybranym przez siebie kanale.

Kiedy podążyliśmy za nimi kilka miesięcy później, wielu powiedziało, że czują się wzmocnieni. Niektórzy zmienili swoje ustawienia na Facebooku, aby sami mogli manipulować kanałem. Spośród 40 uczestników jedna osoba całkowicie zrezygnowała z korzystania z Facebooka, ponieważ naruszyło to oczekiwanie, jak powinien działać kanał.

Publiczne oburzenie wywołane badaniem emocji na Facebooku pokazało, że niewiele osób naprawdę rozumie sposób, w jaki algorytmy kształtują świat, którego doświadczamy. A nasze badania pokazują, jak ważne jest umożliwienie ludziom przejęcia kontroli nad tym doświadczeniem.

Zasługujemy na zrozumienie władzy, jaką mają nad nami algorytmy, na dobre lub na złe.

Karrie Karahalios jest profesorem nadzwyczajnym informatyki na Uniwersytecie Illinois.

ukryć