Gdyby tylko sztuczna inteligencja mogła nas uratować przed sobą

Ludzie złamali Internet. Cyberprzemoc, nękanie, zawstydzanie społeczne i zwykłe nieprzyjemności nękają takie witryny jak Twitter i Reddit, zwłaszcza jeśli przyciągniesz niewłaściwą uwagę. Rozważ drogę Pogromcy duchów gwiazda Leslie Jones i dyrektor ds. public relations Justine Sacco stał się celem masowych nadużyć.

Firmy, które prowadzą usługi online, są zazwyczaj ściśnięte między zarzutami obojętności wobec nękania i tłumienia wolności słowa. Ale teraz Google uważa, że ​​może wykorzystać sztuczną inteligencję, aby zmniejszyć tę tragedię cyfrowych dóbr wspólnych. (Ujawnienie: pracowałem dla Google w 2000 roku). Inkubator technologii w firmie, zwany Jigsaw – wcześniej znany jako Google Ideas – twierdzi, że zamierza wykrywać i usuwać cyfrowe nękanie za pomocą zautomatyzowanego programu o nazwie Conversation AI. Jako prezes Jigsawa, Jared Cohen, powiedział Przewodowy , Chcę wykorzystać najlepszą technologię, jaką mamy do dyspozycji, aby zacząć brać na siebie trolling i inne nikczemne taktyki, które dają wrogim głosom nieproporcjonalną wagę, [oraz] zrobić wszystko, co w naszej mocy, aby wyrównać szanse.

Ta historia była częścią naszego wydania ze stycznia 2017

• Zobacz resztę numeru
• Subskrybuj

Google jest odważne, aby się tym zająć i różni się to od niektórych wcześniejszych prac Jigsawa. Obejmuje to Project Shield, który chroni witryny informacyjne i witryny promujące wolność wypowiedzi przed atakami typu „odmowa usługi”. Kolejne przedsięwzięcie Jigsawa, Password Alert, to rozszerzenie Chrome, które chroni przed atakami typu phishing. Były to przede wszystkim wyzwania techniczne. Ale walka z trollami i mobami online to także problem socjologiczny.

Rzecz zrecenzowana

• Czat AI

  z układanki Google

Conversation AI jest pochodną jednego z najbardziej udanych projektów księżycowych Google, Google Brain. Pomogło zrewolucjonizować dziedzinę uczenia maszynowego za pomocą wielkoskalowych sieci neuronowych i dało Google korzyści, takie jak oprogramowanie, które jest bardziej umiejętne niż ludzie w rozpoznawaniu obrazów. Jednak sztuczna inteligencja Conversation nie będzie w stanie pokonać nadużyć w Internecie. Chociaż deklarowanym celem Jigsawa jest: walcz z rosnącą popularnością mobów online , sam program jest znacznie skromniejszym, a przez to bardziej prawdopodobnym projektem. Konwersacyjna sztuczna inteligencja przede wszystkim usprawni moderację społeczności, którą obecnie wykonują ludzie. Więc nawet jeśli nie jest w stanie zneutralizować najgorszego zachowania w sieci, może sprzyjać większej i lepszej dyskusji na niektórych stronach.

Wykrywanie aluzji

Jigsaw rozpoczyna konwersację AI w New York Times , gdzie zostanie on wdrożony za kilka miesięcy, aby pomóc firmie zarządzać komentarzami online. Moderatorzy obecnie przeglądają prawie każdy komentarz publikowany na stronie. W tej chwili sztuczna inteligencja Conversation czyta 18 milionów z nich, ucząc się wykrywać każdą kategorię komentarzy, które są odrzucane — nieistotne, nie na temat, spam, niespójne, prowokacyjne, obsceniczne, atak na komentującego, atak na autora, atak na wydawcę.

ten Czasy Jego celem niekoniecznie jest ograniczenie nadużyć w swoich komentarzach, problem, który już uważa pod kontrolą. Zamiast tego ma nadzieję zmniejszyć obciążenie ludzkich moderatorów. Nigdy nie spodziewamy się, że będziemy mieć system, który będzie w pełni zautomatyzowany, Erica Greene, kierownik ds. inżynierii New York Times powiedział mi zespół społeczności. Czasy redaktor społeczności Bassey Etim szacuje, że gdzieś od 50 do 80 procent komentarzy może być ostatecznie moderowanych automatycznie, co pozwoli pracownikom poświęcić swój wysiłek na tworzenie bardziej atrakcyjnych treści z sekcje komentarzy w gazecie.

ten New York Times Witryna stwarza zupełnie inne problemy niż bezpłatne Twitter i Reddit w czasie rzeczywistym. A biorąc pod uwagę ograniczenia uczenia maszynowego — jakie istnieje dzisiaj — sztuczna inteligencja Conversation nie może walczyć z nadużyciami w szeroko otwartych przestrzeniach Internetu. Mimo wszystkich olśniewających osiągnięć uczenia maszynowego wciąż nie złamał ludzkiego języka, w którym wzorce takie jak te, które można znaleźć w Go lub obrazy, okazują się diabelsko nieuchwytne.

Ilustracje autorstwa Erika Cartera

Problemem językowym w wykrywaniu nadużyć jest kontekst. Analiza komentarzy Conversation AI nie modeluje całego przebiegu dyskusji; dopasowuje indywidualne komentarze do wyuczonych modeli tego, co stanowi dobre lub złe komentarze. Na przykład komentarze na temat New York Times witryna może zostać uznana za akceptowalną, jeśli zwykle zawiera popularne słowa, wyrażenia i inne cechy. Greene twierdzi jednak, że system Google często oznaczał komentarze do artykułów o Donaldzie Trumpie jako obraźliwe, ponieważ cytowano go za pomocą słów, które zostałyby odrzucone, gdyby pochodziły od czytelnika. W przypadku tego rodzaju artykułów Czasy po prostu wyłączy automatyczną moderację.

Nie można zatem zobaczyć, jak sztuczna inteligencja Conversation radzi sobie dobrze na szeroko otwartej witrynie, takiej jak Twitter. Jak by wykrył aluzje do Holokaustu w obraźliwych? tweety wysłane do żydowskiego dziennikarza Marca Daaldera : To ty, jeśli wygra Trump, z obrazem abażuru, a Ty należysz tutaj, z obrazem tostera? Wykrywanie nadużyć opiera się na wiedzy historycznej i kontekście kulturowym, które algorytm uczenia maszynowego mógłby wykryć tylko wtedy, gdyby został wyszkolony na bardzo podobnych przykładach. Nawet wtedy, w jaki sposób będzie w stanie odróżnić nadużycie od tego samego obrazu z tym, co kupuję, jeśli Trump wygra? Poziom wymaganej wiedzy semantycznej i praktycznej wykracza poza to, do czego obecnie dąży uczenie maszynowe.

W związku z tym oddany troll Twittera bez wątpienia znajdzie nowy sposób wyrażania nadużyć, które unikają systemu takiego jak Conversation AI. Blokując niektóre komentarze, uczenie maszynowe może wykonać przyzwoitą robotę polegającą na tym, aby komentatorzy przestali od niechcenia nazywać się nawzajem pedałami i homoseksualistami, jeśli taki jest cel. Jednak uczenie maszynowe nie zdoła udaremnić osoby, która chce insynuować, że ktoś jest queer.

Innymi słowy, konwersacyjna sztuczna inteligencja umożliwi bardziej wydajne wykonywanie zadań moderacyjnych w społecznościach, które już i tak są dość dobrze zachowywane. Nie jest w stanie wykorzenić najgorszych nadużyć, o których słyszymy, które często pojawiają się w witrynach o minimalnych standardach moderacji. Nadużycia policyjne na Twitterze a Reddit jest niemożliwy bez zasadniczej zmiany charakteru tych platform.

Osiedla grodzone

Kontrolowanie nadużyć na Twitterze i Reddicie jest niemożliwe bez zasadniczej zmiany charakteru tych platform.

Sukces Facebooka przypomina, że ​​większość ludzi, a na pewno większość firm, woli stosunkowo osłonięte i kontrolowane środowisko niż takie, w którym nieznajomi mogą ingerować w sprawy innych i wszczynać bójki. Jeśli więc Conversation AI lub podobne narzędzia ułatwiają i usprawniają sprawowanie takiej kontroli, jest to przypomnienie, że rozwiązanie problemu nadużyć, czy to za pomocą ludzkich, czy zautomatyzowanych środków, wymaga odejścia od maksymalnej inkluzywności jako najwyższego ideału online. Nawet pozornie otwarte społeczności, takie jak StackExchange i MetaFilter, wymagają ciągłej interwencji moderatora i nadzoru społeczności. Prawdziwie anarchiczne społeczności, takie jak Twitter, 4chan i niektóre kanały na Reddicie, okazują się być wyjątkami online, a nie regułą. Ani społeczności anarchistycznej nie są twórcami pieniędzy. Twitter miał problemy z przyciągnięciem kupującego, częściowo ze względu na swoją reputację w zakresie treści obraźliwych, podczas gdy Reddit miał wysoki poziom rotacji personelu i trudności z zarabianiem. Dziki zachód tych witryn stanie się bardziej widoczny, jeśli narzędzia, takie jak AI Conversation, sprawią, że moderowane witryny będą działać jeszcze lepiej.

Warto zwrócić uwagę na jeden duży potencjalny minus. Ponieważ sztuczna inteligencja Conversation jest szkolona w zakresie zatwierdzania treści, które opierają się na pewnych wskazówkach leksykalnych, gramatycznych i stylistycznych, nie będzie ona po prostu odfiltrowywać treści obraźliwych. Może również mieć tendencję do uderzania różnorodny zawartość. Rodzi to pytania, co mogłyby z tym zrobić rządy nastawione na cenzurę. Tak jak Czasy jest wikariuszem swoich społeczności, podobnie jak rządy Turcji i Chin mogą być wikariuszami swoich. Podczas gdy wysiłki Jigsawa, takie jak Project Shield, mają na celu zapewnienie ochrony politycznie wrażliwym witrynom, sztuczna inteligencja Conversation ułatwia odfiltrowanie niechcianej mowy — ale pytanie brzmi: niechciana przez kogo? Na pudełku nie ma etykiety z napisem: Używaj tylko w celu zapobiegania nadużyciom.

David Auerbach pisze książkę o językach człowieka i komputera oraz ich zbieżności, która zostanie opublikowana przez Panteon. Przez 11 lat pracował jako inżynier oprogramowania w Google i Microsoft, głównie w infrastrukturze serwerowej.

ukryć