Społeczność AI musi wziąć odpowiedzialność za swoją technologię i działania

Celeste Kidd Niall Carson / AP

W poniedziałek, na otwarciu jednego z największych na świecie zgromadzeń badaczy sztucznej inteligencji, Celeste Kidd zwróciła się do tysięcy uczestników w sali prawie dwukrotnie większej od boiska piłkarskiego. Nie zadawała ciosów.

Nie ma czegoś takiego jak neutralna platforma, powiedział wpływowy naukowiec i wybitny figurant #metoo zgromadzonym na konferencji NeurIPS w Vancouver. Algorytmy przesyłające treści online mają ogromny wpływ na to, w co wierzymy.

Kidd, profesor psychologii na Uniwersytecie Kalifornijskim w Berkeley, jest znana w swojej dziedzinie z tego, że wnosi ważny wkład w nasze rozumienie teorii umysłu – w jaki sposób zdobywamy wiedzę i jak tworzymy przekonania. Dwa lata temu stała się również znana całemu światu, gdy Time ją nazwał Człowiek roku między innymi, którzy wypowiadali się przeciwko wykorzystywaniu seksualnemu i molestowaniu.

Na scenie Kidd podzieliła się pięcioma lekcjami ze swoich badań i pokazała, w jaki sposób decyzje branży technologicznej mogą wpływać na ludzi do rozwijania fałszywych przekonań – na przykład negowania zmian klimatycznych. Pod koniec swojej przemowy podzieliła się również swoimi doświadczeniami z molestowaniem seksualnym jako doktorantka i adresowany bezpośrednio niektóre z nieporozumień, które słyszała o ruchu #metoo od mężczyzn.

To może wydawać się straszny czas, aby być teraz człowiekiem technologicznym, powiedziała uczestnikom konferencji, z których około 80% w tym roku to mężczyźni. Istnieje poczucie, że kariera może zostać zniszczona przez niezręczne podania lub nieporozumienia.

To, co chcę dzisiaj powiedzieć wszystkim mężczyznom w pokoju, to to, że zostałeś wprowadzony w błąd – powiedziała.

Jej wystąpienie spotkało się z owacją na stojąco – rzadkim momentem w historii konferencji.

Uwagi Kidda pojawiają się w czasie, gdy społeczność AI – a szerzej branża technologiczna – została zmuszona do liczenia się z niezamierzonymi szkodami, jakie wyrządzają jej technologie. Tylko w ubiegłym roku seria głośnych przypadków ujawniła, w jaki sposób deepfake mogą wykorzystywać kobiety , jak algorytmy mogą podejmować dyskryminujące decyzje w zakresie opieki zdrowotnej i udzielania kredytów oraz jak opracowywanie modeli sztucznej inteligencji może być niezwykle kosztowne dla środowiska . W tym samym czasie społecznością wstrząsnęło kilka skandale związane z wykorzystywaniem seksualnym i molestowaniem , w tym niektóre ponad incydenty w poprzednie lata samej konferencji . W dalszym ciągu cierpi również z powodu przerażającej różnorodności .

Ale przemówienie Kidda uwydatniło ważną zmianę, która zaczęła się wydarzać – taką, którą tej nocy namacalnie odczuliśmy w pokoju. Po jej przemówieniu dziesiątki ludzi ustawiło się w kolejce przy mikrofonach rozsianych po pokoju, aby podziękować jej za wypowiadanie się na te tematy. Po sesji wokół niej zgromadziły się dziesiątki innych — niektórzy tylko po to, by uścisnąć jej dłoń z wdzięcznością. Dla uczestników, którzy pamiętają doroczne spotkanie jeszcze dwa lata temu, pojawiła się nowa otwartość na uznanie tych wyzwań i ponowne skupienie się na robieniu lepszych.

Dzień po jej przemówieniu usiadłem z Kiddem, aby porozmawiać o dwóch przesłanych przez nią przesłaniach, o tym, jak są ze sobą powiązane i o jej nadziejach na przyszłość.

Ten wywiad został zredagowany i skondensowany dla jasności.

W części badawczej swojego wystąpienia zakończyłeś przesłaniem: Nie ma czegoś takiego jak neutralna platforma. Jak doszedłeś do tego wniosku ze swoich badań?

Coś, z czego zdałem sobie sprawę dopiero w ciągu ostatnich kilku lat – z powodu moich interakcji z moimi dwoma absolwentami – to tak naprawdę nie ma różnicy między wiedzą a przekonaniami. To w zasadzie to samo.

Teraz zmierzamy w kierunku zrozumienia, w jaki sposób dynamika, którą zaobserwowaliśmy w eksperymentach laboratoryjnych, rozciąga się na rzeczywisty świat. Kiedy ktoś wchodzi do Internetu, nie wiedząc, w co powinien wierzyć, z czym ma tendencję do odchodzenia od tych neutralnych wyszukiwań? Czy możemy użyć tego samego rodzaju pomysłów, aby spróbować wyjaśnić, dlaczego ludzie uważają, że Ziemia jest płaska i dlaczego tych błędnych przekonań nie da się skorygować? Nie jest to obszar, któremu poświęciłem dużo uwagi, ale uważam, że jest to bardzo ważne.

Dlaczego ważne było, abyś podzielił się swoim przesłaniem na tej konferencji?

Tak wiele z tego, w co wierzymy, pochodzi ze źródeł internetowych. Zwłaszcza dzieci — tworzą cegiełki wiedzy, które później ukształtują to, w co wierzą, co chcą się uczyć na dalszych etapach. W przypadku małych dzieci istnieje również powód, aby oczekiwać, że zużywają więcej autoodtwarzania i sugerowanych treści niż dorośli. Więc początkowo są bardziej narażeni na wpływ algorytmu przesyłającego treści, ponieważ to ich jedyny wybór.

Moje wystąpienie miało na celu przesłanie ludziom pracującym nad systemami, aby zastanowili się, w jaki sposób te końcowe decyzje wpływają na przekonania poszczególnych osób, ale także na społeczeństwo jako całość. Nie sądzę, by w technologii było wystarczająco wyczulone na to, jak decyzje, które podejmujesz za kulisami, dotyczące tego, jak rozpowszechniać treści, wpływają na życie ludzi.

Gdy pojawiają się pytania o to, jak oferowana jest zawartość, pojawia się powszechny okrzyk bojowy — twierdzenie, że platformy są neutralne. I myślę, że to nieuczciwe. Decyzje zaplecza, które podejmujesz, mają bezpośredni wpływ na to, w co ludzie wierzą i ludzie o tym wiedzą. Więc udawanie, że to nie jest rzecz, jest nieuczciwe.

Kiedy zmieniamy zachowanie ludzi, zmieniamy ich przekonania. A te zmiany mają realne, konkretne konsekwencje. Kiedy rodzic szuka informacji o tym, czy powinien zaszczepić swoje dziecko, czy nie – jeśli podejdzie niezdecydowany do laptopa i odejdzie zdecydowany, to naprawdę ma znaczenie, jakie treści były oferowane, jakie poglądy były reprezentowane.

Nie sądzę, aby rozsądne było mówienie, że nie ponosisz żadnej odpowiedzialności za to, co matka robi swojemu dziecku — niezależnie od tego, czy zdecyduje się je zaszczepić, czy nie — ponieważ nie brałeś tego pod uwagę podczas tworzenia systemu. Myślę, że masz obowiązek zastanowić się, jakie są konsekwencje decyzji końcowych.

W prywatnej rozmowie pytań i odpowiedzi po rozmowie wspomniałeś, że nigdy nie prezentowałeś zarówno swoich badań, jak i doświadczeń związanych z molestowaniem seksualnym na forum publicznym. Dlaczego zwykle rozdzielasz te dwa i dlaczego zdecydowałeś się je połączyć?

Zacznę od drugiego — zrobiłem w tym przypadku wyjątek od reguły, ponieważ uznałem, że ta wiadomość jest bardzo ważna dla tej społeczności. Informatyka to dziedzina, w której kobiety przez długi czas miały naprawdę trudny czas, aby uzyskać przyczepność i włamać się. Na początku jest duże zainteresowanie, a potem pojawia się nieszczelna rura. I wiem, że jedną z rzeczy, które bardzo utrudniają kobiecie dobrze sobie radzić w tej dziedzinie, jest mniej możliwości mentoringu.

Wiem, że bardzo często zdarza się, że ludzie informatyki mający dobre intencje martwią się, że mogą obrazić kobiety. Konsekwencją tego jest to, że kobiety tracą możliwości szkolenia, ale także mężczyźni tracą pomysły i innowacje, które wniosą kobiety. Badania empiryczne pokazują, że różnorodność prowadzi do wyższych wskaźników innowacyjności. I możliwość porozmawiania z dużą częścią tych mężczyzn jednocześnie w jednym pokoju – czułem, że to ważne i musiałem to zrobić.

Powód, dla którego zwykle ich nie mieszam: nie wybrałem tego, co mi się przydarzyło na pierwszym roku studiów podyplomowych w Rochester. Nie wybrałem, jaka będzie odpowiedź uczelni. Chciałem zrobić karierę naukową i chcę to chronić, więc nie chcę mniej mówić o nauce, ponieważ wypowiadałem się na ten temat. Ale zdaję sobie również sprawę, że większość ludzi nie ma okazji, nie ma platformy do wypowiadania się. Zwykle to, co dzieje się z osobami, które były molestowane seksualnie na początku swojej kariery i spotkały się z odwetem w ich instytucji, to znikanie. Nie czułbym się dobrze, nie robiąc nic. Osoby posiadające przywileje muszą z niego korzystać, gdzie tylko mogą. Była to okazja do skorzystania z przywileju wygłoszenia wykładu w NeurIPS, aby pomóc młodszym kobietom, które zasługują na równe traktowanie.

Martwiłeś się, w jaki sposób wylądują te komentarze?

Oczywiście. Ale obawa przed odpowiedzią nie jest powodem, by nie mówić. Mówiłem trochę o przywilejach. Jestem również w stosunkowo uprzywilejowanej pozycji na tej konkretnej konferencji, ponieważ w przemyśle jest tak wielu ludzi i myślę, że presja, aby milczeć, jest większa w firmach niż w środowisku akademickim, przynajmniej w tej chwili w branży technologicznej. Więc jeśli martwiłbym się, że zostanę zwolniony, to byłaby dodatkowa rzecz, która by mnie uciszyła. UC Berkeley wiedziało, że wypowiadałem się w tych sprawach, zanim mnie zatrudnili, i nie okazali mi nic poza wsparciem i zachętą w walce o sprawiedliwość. Będąc w miejscu, które mnie tak wspiera, mogę mówić różne rzeczy bez obawy, że stracę pracę i nie będę w stanie zapłacić za jedzenie dla mojego dziecka. I to jest drugi powód, dla którego czułem, że powinienem mówić.

W pełni spodziewałem się, że niektórzy ludzie będą źli. To 13 000 osób. Oczywiście niektórzy mogą mnie źle zrozumieć. Dosłownie mówiłem o tym, że kiedy używamy słów, są one niejednoznaczne i ludzie aktywują różne koncepcje. Nie da się przekonać wszystkich ludzi dokładnie, co masz na myśli.

Mimo że zazwyczaj dzielisz swoje wystąpienia na temat swoich badań i swojego aktywizmu, i podzieliłeś je na dwie sekcje w NeurIPS, to dla mnie tak naprawdę dotyczą tego samego: jak rozwijać odpowiedzialną technologię, biorąc większą odpowiedzialność za swoje decyzje i działania.

Prawidłowy. Wspomniałeś mi, że w społeczności AI mówi się więcej o implikacjach etycznych, że bardziej docenia się związek między technologią a społeczeństwem. Myślę, że część tego bierze się z tego, że społeczność staje się bardziej zróżnicowana i angażuje więcej ludzi. Pochodzą z mniej uprzywilejowanego miejsca i są bardziej świadomi takich rzeczy, jak uprzedzenia i niesprawiedliwość oraz tego, w jaki sposób technologie zaprojektowane dla określonej grupy demograficznej mogą w rzeczywistości wyrządzić krzywdę pokrzywdzonym populacjom.

Mam nadzieję, że to się utrzyma. Musimy ze sobą rozmawiać, aby robić postępy. I wszyscy zasługujemy na poczucie bezpieczeństwa podczas interakcji ze sobą.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć