Idealny, niemożliwy chatbot Facebooka

Tim Liedtke

Alexa Amazona może przywołać Ubera i zaspokoić zapotrzebowanie czterolatka na odgłosy pierdnięcia. Siri może sterować termostatem podłączonym do Internetu. Każde z nich służy milionom użytkowników każdego dnia. Ale szczęśliwa grupa około 10 000 osób, głównie w Kalifornii, wie, że asystent Facebooka, o imieniu M, jest najmądrzejszy z całej grupy.

Polecić i zarezerwować romantyczny hotel w Maroku, odpowiedni również dla małych dzieci? Nie ma problemu. Otrzymuj oferty od lokalnych wykonawców na zagospodarowanie Twojego podwórka? Uważaj to za zrobione. Eksperymentalny asystent Facebooka, oferowany w aplikacji Messenger firmy, pokazuje wartość posiadania prawdziwego cyfrowego lokaja w kieszeni. Zamiast pobierać proste informacje z baz danych, M może zrozumieć złożone zamówienia i podejmować działania, takie jak rezerwowanie biletów do teatru lub kontaktowanie się z firmami w celu uzyskania informacji.

M jest taki mądry, bo oszukuje. Działa to jak Siri, kiedy wystukasz wiadomość do M, algorytmy próbują dowiedzieć się, czego chcesz. Kiedy jednak nie mogą, M nie cofa się do przeszukiwania sieci lub przepraszam, nie rozumiem pytania. Zamiast tego, niewidzialna istota ludzka przejmuje kontrolę, odpowiadając na twoją prośbę, jakby algorytmy nadal były u steru. (Facebook odmówił podania liczby tych pracowników, ani udostępnienia M do wypróbowania).

Ten projekt jest zbyt drogi, aby skalować go do 1,2 miliarda ludzi, którzy korzystają z Facebook Messengera, więc Facebook zaoferował M kilku tysiącom użytkowników w 2015 roku jako rodzaj półpublicznego projektu badawczo-rozwojowego. Oplatanie ludzkich pracowników i algorytmów miało pokazać, w jaki sposób ludzie zareagują na wszechwiedzącego wirtualnego asystenta, oraz dostarczyć danych, które pozwolą algorytmom nauczyć się przejmować pracę swoich ludzkich trenerów.

Każdy w tej dziedzinie marzy o stworzeniu asystenta, który w końcu będzie bardzo, bardzo, bardzo inteligentny – mówi Alex Lebrun, który rozpoczął projekt. M ma otworzyć drogę do prawdziwego robienia tego.

Teraz, dwa lata później, projekt badawczy Facebooka można słusznie nazwać sukcesem. Użytkownicy tacy jak M i teoria, że ​​oprogramowanie może nauczyć się przejmować część pracy od ludzkich trenerów, została potwierdzona. Jednak M jest wciąż daleki od punktu, w którym mógłby być prawdziwym produktem oferowanym pozostałym 99,9% użytkowników Messengera, a postęp został osiągnięty trudniej niż oczekiwano.

Wiedzieliśmy, że to ogromne wyzwanie, ale jest nawet większe, niż myślałem, mówi Lebrun. Szybkość uczenia się, wzrost automatyzacji — widzieliśmy, że będzie wolniejszy, niż się spodziewaliśmy. Historia M przypomina, jak daleko zaszła sztuczna inteligencja w ostatnich latach – i jak daleko musi się posunąć.

M jak księżycowy strzał

Ludzie zaskakująco chętnie rozmawiają z głupimi maszynami. Pierwszy chatbot został stworzony w 1964 roku przez profesora MIT Josepha Weizenbauma. W odpowiedzi na określone słowa kluczowe kłusował w puszce, najlepiej, gdy odgrywał rolę terapeuty. Ku irytacji Weizenbauma, wiele osób, które próbowały tego, w tym jego własna sekretarka, było oczarowanych, mimo iż wiedziało, że bot o imieniu Eliza nic nie wie. Nie zdawałem sobie sprawy, że ekstremalnie krótkie ekspozycje na stosunkowo prosty program komputerowy mogą wywołać silne urojeniowe myślenie u całkiem normalnych ludzi, napisał później.

Stworzenie chatbota, który pomaga w załatwianiu spraw, a nie tylko w roli głosowej czy spowiednika, jest znacznie trudniejsze. Kiedy wirtualny sługa zostanie poproszony o zrobienie czegoś, niejasna lub odchylająca się odpowiedź nie wystarczy. Dzisiejsze oprogramowanie słabo rozumie język i świat, więc wirtualni asystenci, tacy jak Siri lub Alexa, muszą być wyraźnie zaprogramowani do obsługi dowolnego zadania.

Dlatego boty na rynku mają ograniczony repertuar. I prawdopodobnie wyjaśnia to, dlaczego sugestie z zeszłego roku, że chatboty miały zmienić sposób, w jaki korzystamy z komputerów, podobnie jak aplikacje mobilne, podsycane przez Microsoft, Facebooka i niektórych inwestorów technologicznych, wydają się nie mieć większego znaczenia. Boty są teraz pogrążone w rozpaczy, mówi Greg Cohn, dyrektor generalny Burner, firmy zajmującej się mobilną prywatnością, która zaczęła pomagać gospodarzom Airbnb w tworzeniu prostego bota, który odpowiada na często zadawane pytania od gości. Dla obserwatorów branży wydaje się, że są przereklamowani i dostarczają zbyt mało.

Lebrun zbudował M, ponieważ spędził ponad dekadę budując konwencjonalne, wąskie chatboty i marzył o oferowaniu znacznie więcej. Dołączył do Facebooka na początku 2015 roku, kiedy sieć społecznościowa przejęła Wit.ai, firmę, którą współtworzył, aby pomagać firmom w tworzeniu chatbotów dla funkcji takich jak obsługa klienta. Lebrun wcześniej sprzedał chatbota gigantowi rozpoznawania mowy Nuance.

Każdy bot na rynku, w tym mój, był oparty na zasadach i wiesz, że pewnego dnia osiągniesz pułap i nigdy nie przejdziesz, mówi Lebrun. Nasze dzieci nie pracują z zasadami ani skryptami i pewnego dnia stają się mądrzejsze od Ciebie.

M był początkowo oferowany tylko pracownikom Facebooka, a następnie niektórym ciężkim użytkownikom Messengera w Kalifornii. I nie zajęło dużo czasu wykazanie, że algorytmy rzeczywiście mogą nauczyć się wykonywać część pracy wykonywanej przez ludzi napędzających asystenta.

Tim Liedtke

Grupa badawcza sztucznej inteligencji Facebooka wykorzystała M do przetestowania nowego typu oprogramowania do uczenia się zwanego siecią pamięci, które wykazywało umiejętność odpowiadania na pytania dotyczące prostych historii. Oprogramowanie wykorzystuje rodzaj pamięci roboczej do odseparowania ważnych informacji do późniejszego wykorzystania. Projekt Google testuje również, aby poprawić umiejętności rozumowania oprogramowania .

Weizenbaum zasugerował już w 1964 roku, że coś takiego może uczynić Elizę mądrzejszą, i po kilku tygodniach zadziałało to M. Lebrun pamięta, że ​​był zaskoczony po podziękowaniu asystentowi za zamówienie biletów do kina. Automatycznie wygenerował odpowiedź. Nie ma za co. Ciesz się filmem. M nauczył się zapamiętywać i wykorzystywać kontekst zadania, w którym pomagał. Byliśmy naprawdę zszokowani, mówi Lebrun. Nikt nie napisał programu, który by to zrobił.

Sieci pamięci zrobiły więcej. Teraz uruchamiają się, gdy ktoś prosi M o dostarczenie kwiatów, na przykład automatycznie wykorzystując kluczowe informacje z prośby, takie jak budżet lub adres, w celu wygenerowania sugestii od kwiaciarni online. Trener wybiera następnie, co zaoferować użytkownikowi.

Inne odkrycia były mniej radosne. Jednym z nich jest ogromny apetyt, jaki M wyzwala w swoich użytkownikach. Dzięki ograniczonym, w pełni zautomatyzowanym asystentom, takim jak Siri lub Alexa, ludzie mają tendencję do używania kilku funkcji, które działają niezawodnie. Z M nie.

Ludzie najpierw próbują zapytać o pogodę na jutro; potem pytają: „Czy jest dostępna włoska restauracja?”. Następnie mają pytanie dotyczące imigracji, a po chwili proszą M o zorganizowanie ich ślubu, mówi Lebrun. Wiedzieliśmy, że będzie to niebezpieczne i wykracza poza nasze oczekiwania.

Trenerzy dzielnie dają z siebie wszystko, gdy otrzymują trudne pytania, takie jak Umów się na papugę, żeby odwiedziła mojego przyjaciela , ale czasami całkowicie odmawiają pomocy. Nawet gdyby M automatycznie odrzucał najbardziej złożone zapytania użytkowników, sama różnorodność ich żądań sprawia, że ​​cel, jakim jest przejęcie przez algorytmy przejęcia nad ludzkimi trenerami, jest trudniejszy do osiągnięcia. Technika zwana głębokim uczeniem zwiększyła ostatnio możliwości uczenia maszynowego (przykładem są sieci pamięci). Ale uczenie się radzenia sobie z szeroką gamą złożonych scenariuszy, z niewielką ilością danych na każdy z nich, ponieważ nie pojawiają się one często, nie jest rodzajem problemu, w którym uczenie się głębokie nie jest najlepsze. Jest znacznie mądrzejszy i może uczyć się bardzo złożonych zadań, ale potrzebuje dużej ilości danych, mówi Lebrun.

Długodystansowe

Wolniejszy niż oczekiwano postęp skłonił Facebooka do przeprojektowania swojego projektu. W zeszłym tygodniu w Messengerze pojawiła się funkcja o nazwie M Suggestions, podobna w działaniu do ograniczonych botów, które M ma zastąpić. Sprawdza Twoje czaty ze znajomymi w poszukiwaniu wskazówek, czy możesz chcieć zrobić takie rzeczy, jak zamówienie przejazdu z Uberem lub wysłać komuś pieniądze, i oferuje przycisk umożliwiający osiągnięcie tych celów za pomocą jednego dotknięcia.

Postanowiliśmy znaleźć przypadek użycia, w którym możemy przyspieszyć dostarczanie wartości użytkownikom, mówi Laurent Landowski, który dołączył do Facebooka wraz z Lebrunem jako współzałożyciel Wit.ai, a teraz nadzoruje M. (Lebrun wrócił do swojej rodzinnej Francji w styczniu, dołączając do badań nad sztuczną inteligencją Facebooka laboratorium w Paryżu.)

Oryginalny, zależny od człowieka M nadal istnieje, dostarczając znacznie większą wartość swoim nielicznym szczęśliwym użytkownikom. Facebook twierdzi, że jest zaangażowany w projekt, a obecny moment w sztucznej inteligencji jest dobry dla zakładów długoterminowych. W ciągu ostatnich kilku lat głębokie uczenie się zmieniło ugruntowane techniki i oczekiwania dotyczące oprogramowania przetwarzającego język, mówi Justine Cassell , profesor Carnegie Mellon. „Jesteśmy w czasach świetności tych nowych algorytmów uczenia maszynowego”, mówi. Rzeczywiście, dokładność tłumaczenia Google ostatnio podskoczyła do niemal ludzkiego poziomu .

Nie oznacza to, że przesądzony jest wniosek, że oprogramowanie może nauczyć się grać kamerdynera, obserwując, jak robią to ludzie. Chyba jeszcze nie wiemy, mówi Cassell. Ale badacze Facebooka twierdzą, że mają mnóstwo pomysłów do zbadania.

Jednym z nich jest nakłonienie zautomatyzowanej strony M do uczenia się na podstawie pozytywnych lub negatywnych informacji zwrotnych w wiadomościach wysyłanych przez użytkowników, przy użyciu techniki inspirowanej procesem szkolenia zwierząt z nagrodami (patrz 10 Breakthrough Technologies 2017: Reinforcement Learning ). M może posuwać się naprzód szybciej, jeśli nie zależy wyłącznie od naśladowania tego, co robią jego ludzcy kontrahenci. Aby wzbudzić pomysły w szerszej społeczności badawczej, zespół Facebooka udostępnił narzędzia, które pomagają innym testować i porównywać nieskryptowane boty-asystenty. A obiecujące nowe techniki można teraz testować na większą skalę w ramach sugestii M.

Lebrun i Landowski uważają, że wciąż są na dobrej drodze, aby w końcu pokazać masom prawdziwe M. Czasami mówimy, że to trzy lata lub pięć lat, ale może to 10 lub więcej lat, mówi Landowski.

Lebrun dodaje: To takie trudne i powoli robimy postępy, ale myślę, że mamy wszystko, czego potrzebujemy. Mógłby mieć rację, ale możesz też wyobrazić sobie kogoś, kto spotkał Elizę w 1964 roku, mówiącego mniej więcej to samo.

ukryć