Wyścig o zrozumienie ekscytującego, niebezpiecznego świata językowej AI

Ariel Davis

18 maja dyrektor generalny Google, Sundar Pichai, ogłosił imponujące nowe narzędzie: system sztucznej inteligencji o nazwie LaMDA, który może rozmawiać z użytkownikami na dowolny temat.

Na początek Google planuje zintegrować LaMDA ze swoim głównym portalem wyszukiwania, asystentem głosowym i Workplace, kolekcją oprogramowania do pracy w chmurze, które obejmuje Gmaila, Dokumenty i Dysk. Jednak ostatecznym celem, jak powiedział Pichai, jest stworzenie interfejsu konwersacyjnego, który umożliwia użytkownikom pobieranie wszelkiego rodzaju informacji – tekstowych, wizualnych, dźwiękowych – we wszystkich produktach Google, po prostu prosząc.

Wdrażanie LaMDA sygnalizuje kolejny sposób, w jaki technologie językowe włączają się w nasze codzienne życie. Ale krzykliwa prezentacja Google przeczyła debacie etycznej, która teraz otacza takie najnowocześniejsze systemy. LaMDA to tak zwany model dużego języka (LLM) — algorytm głębokiego uczenia się wyszkolony na ogromnych ilościach danych tekstowych.

Badania wykazały już, jak rasistowskie, seksistowskie i obraźliwe idee są osadzone w tych modelach. Kojarzą takie kategorie, jak lekarze z mężczyznami i pielęgniarki z kobietami; dobre słowa z białymi i złe z czarnymi. Sonduj je odpowiednimi podpowiedziami, a także zaczynają zachęcać do takich rzeczy jak ludobójstwo , samookaleczenia , oraz wykorzystywanie seksualne dzieci . Ze względu na swój rozmiar mają szokująco wysoki ślad węglowy . Ze względu na swoją płynność, oni łatwo pomylić ludzi w myślenie, że człowiek napisał swoje wyniki, co, ostrzegają eksperci, może umożliwić masową produkcję dezinformacji.

W grudniu po tym, jak Google usunął swojego współkierownika ds. etycznej sztucznej inteligencji, Timnita Gebru ona odmówiła wycofać papier to uczyniło wiele z tych punktów. Kilka miesięcy później, po szeroko zakrojonym potępieniu tego, co w liście otwartym pracowników Google nazwano bezprecedensową cenzurą badawczą firmy, zwolniono również współautorkę Gebru i współprowadzącą Margaret Mitchell.

Nie tylko Google wdraża tę technologię. Do tej pory najbardziej znanymi modelami językowymi były OpenAI GPT-2 oraz GPT-3 , który wypluwa niezwykle przekonujące fragmenty tekstu, a nawet może zostać zmieniony w celu dokończenia kompozycji muzycznych i kodu komputerowego. Microsoft teraz wyłącznie licencje GPT-3 do włączenia do jeszcze niezapowiedzianych produktów. Facebook opracował własne LLM do tłumaczenia i moderacji treści. A startupy tworzą dziesiątki produktów i usług opartych na modelach gigantów technologicznych. Wkrótce wszystkie nasze cyfrowe interakcje — kiedy wysyłamy e-maile, wyszukujemy lub publikujemy w mediach społecznościowych — zostaną przefiltrowane przez LLM.

Niestety, przeprowadza się bardzo niewiele badań, aby zrozumieć, w jaki sposób wady tej technologii mogą wpływać na ludzi w rzeczywistych aplikacjach, lub dowiedzieć się, jak zaprojektować lepsze LLM, które łagodzą te wyzwania. Jak podkreślił Google w swoim traktowaniu Gebru i Mitchella, nieliczne firmy wystarczająco bogate, by szkolić i utrzymywać LLM, mają duży interes finansowy w odmowie dokładnego ich zbadania. Innymi słowy, LLM są coraz częściej integrowane z infrastrukturą językową Internetu na chwiejnych podstawach naukowych.

Ponad 500 naukowców z całego świata ściga się teraz, aby dowiedzieć się więcej o możliwościach i ograniczeniach tych modeli. Pracując razem pod projekt BigScience Kierowani przez Huggingface, startup, który przyjmuje podejście otwartej nauki do zrozumienia przetwarzania języka naturalnego (NLP), starają się zbudować LLM o otwartym kodzie źródłowym, który będzie służył jako wspólne źródło dla społeczności naukowej. Celem jest wygenerowanie jak największej liczby stypendiów w ciągu jednego roku skoncentrowanego. Ich główne pytanie: jak i kiedy należy opracować i wdrożyć LLM, aby czerpać korzyści bez ich szkodliwych konsekwencji?

Nie możemy tak naprawdę powstrzymać tego szaleństwa wokół dużych modeli językowych, w których każdy chce je szkolić, mówi Thomas Wolf, dyrektor ds. nauki w Huggingface, który współkieruje inicjatywą. Ale to, co możemy zrobić, to spróbować popchnąć to w kierunku, który jest ostatecznie korzystniejszy.

Papugi stochastyczne

W tym samym miesiącu, w którym BigScience rozpoczął swoją działalność, startup o nazwie Cohere po cichu wyszedł z ukrycia. Założony przez byłych badaczy Google, obiecuje wprowadzić LLM do każdej firmy, która tego chce — za pomocą jednego wiersza kodu. Opracowała technikę trenowania i hostowania własnego modelu z niewykorzystanymi skrawkami zasobów obliczeniowych w centrum danych, co obniża koszty wynajmu niezbędnej przestrzeni w chmurze do utrzymania i wdrażania.

Wśród jego pierwszych klientów jest startup Jest wsparcie , platforma do budowania chatbotów obsługi klienta bez kodu, która sama ma klientów takich jak Facebook i Zoom. A lista inwestorów Cohere zawiera jedne z największych nazwisk w tej dziedzinie: pionier wizji komputerowej Fei-Fei Li, zdobywca nagrody Turinga Geoffrey Hinton oraz szef AI Apple, Ian Goodfellow.

Cohere jest jednym z kilku start-upów i inicjatyw, które obecnie starają się wprowadzić LLM do różnych branż. Jest też Aleph Alpha, start-up z siedzibą w Niemczech, który stara się budować niemiecki GPT-3 ; nienazwane przedsięwzięcie rozpoczęte przez kilku byłych badaczy OpenAI; oraz inicjatywa open-source Eleuther, która niedawno uruchomił GPT-Neo , wolna (i nieco mniej wydajna) reprodukcja GPT-3.

Ale to przepaść między tym, czym są LLM, a tym, do czego aspirują, niepokoi coraz większą liczbę badaczy. LLM to w rzeczywistości najpotężniejsze na świecie technologie autouzupełniania. Przyswajając miliony zdań, akapitów, a nawet próbek dialogów, uczą się statystycznych wzorców, które rządzą tym, jak każdy z tych elementów powinien być ułożony w sensownej kolejności. Oznacza to, że LLM mogą usprawnić niektóre działania: na przykład są dobre do tworzenia bardziej interaktywnych i płynnych konwersacji chatbotów które podążają za ugruntowanym scenariuszem . Ale tak naprawdę nie rozumieją, co czytają lub mówią. Wiele z najbardziej zaawansowanych obecnie funkcji LLM jest dostępnych tylko w języku angielskim.

Powiązana historia

Czytamy gazetę, która zmusiła Timnita Gebru do wycofania się z Google. Oto, co mówi.

Znany z firmy badacz etyki zwrócił uwagę na ryzyko związane z dużymi modelami językowymi, które są kluczowe dla działalności Google.

Między innymi przed tym ostrzegali Gebru, Mitchell i pięciu innych naukowców w swoim artykule, który nazywa stochastyczne papugi LLM. Technologia językowa może być bardzo, bardzo użyteczna, gdy jest odpowiednio ukierunkowana, usytuowana i ujęta w ramy, mówi Emily Bender, profesor lingwistyki na Uniwersytecie Waszyngtońskim i jedna ze współautorów artykułu. Ale ogólny charakter LLM – i przekonująca ich mimikra – skłania firmy do używania ich w obszarach, do których niekoniecznie są przystosowane.

W niedawnym przemówieniu na jednej z największych konferencji AI Gebru powiązała to pospieszne wdrożenie LLM z konsekwencjami, których doświadczyła w swoim własnym życiu. Gebru urodził się i wychował w Etiopii, gdzie eskalacja wojny spustoszył najbardziej wysunięty na północ region Tigray. Etiopia to także kraj, w którym mówi się 86 językami, z których prawie wszystkie nie występują w głównych technologiach językowych.

Pomimo tego, że LLM mają te braki językowe, Facebook w dużej mierze polega na nich, aby zautomatyzować moderowanie treści na całym świecie. Kiedy wojna w Tigray wybuchła po raz pierwszy w listopadzie, Gebru zobaczył, jak platforma plącze się, aby uporać się z lawiną dezinformacji. Jest to charakterystyczne dla uporczywego wzorca, który badacze zaobserwowali w moderowaniu treści. Społeczności, które mówić w językach nie traktowane priorytetowo przez Dolinę Krzemową, cierpią najbardziej nieprzyjazne środowiska cyfrowe.

Gebru zauważył, że nie na tym kończy się krzywda. Gdy fałszywe wiadomości, mowa nienawiści, a nawet groźby śmierci nie zostaną złagodzone, są one następnie usuwane jako dane szkoleniowe w celu zbudowania nowej generacji LLM. A te modele, powtarzając jak papuga to, na czym zostały wyszkolone, w końcu wyrzucają te toksyczne wzorce językowe w Internecie.

W wielu przypadkach naukowcy nie zbadali wystarczająco dokładnie, aby wiedzieć, jak ta toksyczność może objawiać się w dalszych zastosowaniach. Ale istnieją pewne stypendia. W swojej książce z 2018 roku Algorytmy Ucisku Safiya Noble, profesor nadzwyczajny informacji i badań afroamerykańskich na Uniwersytecie Kalifornijskim w Los Angeles, udokumentowała, w jaki sposób uprzedzenia osadzone w wyszukiwarce Google utrwalają rasizm, a w skrajnych przypadkach mogą nawet motywować przemoc na tle rasowym.

Konsekwencje są dość poważne i znaczące, mówi. Google to nie tylko główny portal wiedzy dla przeciętnych obywateli. Zapewnia również infrastrukturę informacyjną dla instytucji, uniwersytetów oraz rządów stanowych i federalnych.

Google używa już LLM do optymalizacji niektórych wyników wyszukiwania. Z najnowszym ogłoszeniem LaMDA i ostatnia propozycja została opublikowana na papierze preprint, firma dała jasno do zrozumienia, że ​​tylko zwiększy swoją zależność od tej technologii. Noble obawia się, że może to pogorszyć wykryte przez nią problemy: fakt, że zespół Google ds. etycznej sztucznej inteligencji został zwolniony za zadawanie bardzo ważnych pytań dotyczących rasistowskich i seksistowskich wzorców dyskryminacji osadzonych w dużych modelach językowych, powinien być sygnałem ostrzegawczym.

BigScience

Projekt BigScience rozpoczął się w bezpośredniej odpowiedzi na rosnącą potrzebę naukowej analizy LLM. Obserwując szybkie rozprzestrzenianie się technologii i próby cenzurowania Gebru i Mitchella przez Google, Wolf i kilku współpracowników zdali sobie sprawę, że nadszedł czas, aby społeczność naukowa wzięła sprawy w swoje ręce.

Zainspirowani otwartą współpracą naukową, taką jak CERN w fizyce cząstek elementarnych, wpadli na pomysł na LLM o otwartym kodzie źródłowym, który mógłby być wykorzystany do prowadzenia krytycznych badań niezależnie od jakiejkolwiek firmy. W kwietniu tego roku grupa otrzymała dotację na zbudowanie go przy użyciu superkomputera rządu francuskiego.

W firmach technologicznych LLM są często budowane przez zaledwie pół tuzina osób, które mają przede wszystkim wiedzę techniczną. BigScience chciał zgromadzić setki naukowców z wielu różnych krajów i dyscyplin, aby uczestniczyli w prawdziwie opartym na współpracy procesie konstruowania modelu. Wolf, który jest Francuzem, jako pierwszy zwrócił się do francuskiej społeczności NLP. Od tego momentu inicjatywa przekształciła się w globalną operację obejmującą ponad 500 osób.

Współpraca jest teraz luźno zorganizowana i obejmuje kilkanaście grup roboczych, z których każda zajmuje się różnymi aspektami opracowywania i badania modeli. Jedna grupa będzie mierzyć wpływ modelu na środowisko, w tym ślad węglowy szkolenia i obsługi LLM oraz uwzględnienie kosztów cyklu życia superkomputera. Inne skupi się na opracowaniu odpowiedzialnych sposobów pozyskiwania danych szkoleniowych — szukaniu alternatyw dla prostego pobierania danych z sieci, takich jak transkrypcja historycznych archiwów radiowych lub podcastów. Celem jest tutaj uniknięcie toksycznego języka i niezgodnego z przyzwoleniem gromadzenia prywatnych informacji.

Powiązana historia

Dlaczego GPT-3 jest teraz najlepszą i najgorszą sztuczną inteligencją?

Otwarta sztuczna inteligencja w języku AI zachwyciła publiczność pozornym opanowaniem języka angielskiego – ale czy to wszystko iluzja?

Inne grupy robocze zajmują się opracowywaniem i oceną wielojęzyczności modelu. Na początek BigScience wybrało osiem języków lub rodzin języków, w tym angielski, chiński, arabski, indyjski (w tym hindi i urdu) oraz bantu (w tym suahili). Plan zakłada ścisłą współpracę z każdą społecznością językową, aby określić jak najwięcej jej regionalnych dialektów i zapewnić przestrzeganie odrębnych norm dotyczących prywatności danych. Chcemy, aby ludzie mieli wpływ na to, jak wykorzystywane są ich dane, mówi Yacine Jernite, badaczka Huggingface.

Nie chodzi o to, by zbudować opłacalny komercyjnie LLM, który mógłby konkurować z takimi jak GPT-3 czy LaMDA. Model będzie zbyt duży i zbyt powolny, aby mógł być użyteczny dla firm, mówi Karën Fort, profesor nadzwyczajny na Sorbonie. Zamiast tego zasób jest przeznaczony wyłącznie do badań. Każdy punkt danych i każda decyzja dotycząca modelowania jest dokładnie i publicznie dokumentowana, dzięki czemu łatwiej jest przeanalizować, jak wszystkie elementy wpływają na wyniki modelu. Nie chodzi tylko o dostarczenie produktu końcowego, mówi Angela Fan, badaczka Facebooka. Wyobrażamy sobie każdy jego element jako punkt dostawy, jako artefakt.

Projekt jest bez wątpienia ambitny — bardziej globalnie ekspansywny i oparty na współpracy niż jakakolwiek społeczność AI do tej pory. Logistyka koordynowania tak wielu badaczy sama w sobie jest wyzwaniem. (W rzeczywistości istnieje również grupa robocza do tego.) Co więcej, każdy badacz jest wolontariuszem. Dotacja rządu francuskiego obejmuje wyłącznie zasoby obliczeniowe, a nie ludzkie.

Ale naukowcy twierdzą, że wspólna potrzeba, która zjednoczyła społeczność, pobudziła imponujący poziom energii i rozmachu. Wielu jest optymistami, że do końca projektu, który potrwa do maja przyszłego roku, uzyskają nie tylko głębsze badania na temat ograniczeń LLM, ale także lepsze narzędzia i praktyki do ich odpowiedzialnego budowania i wdrażania.

Organizatorzy mają nadzieję, że zainspiruje to więcej osób w branży do włączenia tych praktyk do własnej strategii LLM, chociaż jako pierwsi przyznają, że są idealistyczni. Jeśli już, to sama liczba zaangażowanych naukowców, w tym wielu z gigantów technologicznych, pomoże ustalić nowe normy w społeczności NLP.

Pod pewnymi względami normy już się zmieniły. W odpowiedzi na rozmowy na temat zwolnienia Gebru i Mitchella Cohere usłyszał od kilku swoich klientów, że martwią się o bezpieczeństwo technologii. W swojej witrynie zawiera stronę zawierającą zobowiązanie do ciągłego inwestowania w badania techniczne i nietechniczne w celu złagodzenia ewentualnych szkód związanych z jego modelem. Mówi, że zbierze również radę doradczą składającą się z ekspertów zewnętrznych, aby pomóc w tworzeniu polityki dotyczącej dopuszczalnego wykorzystania jej technologii.

NLP znajduje się w bardzo ważnym punkcie zwrotnym, mówi Fort. Właśnie dlatego BigScience jest ekscytująca. Pozwala społeczności popchnąć badania do przodu i zapewnić obiecującą alternatywę dla status quo w branży: mówi: „Zróbmy kolejny krok. Weźmy to razem – aby dowiedzieć się, w jaki sposób i co możemy zrobić, aby pomóc społeczeństwu”.

Chcę, żeby NLP pomagało ludziom, mówi, a nie poniżało ich.

Aktualizacja: Wyjaśniono inicjatywy Cohere dotyczące odpowiedzialności.

ukryć