Jak zapobiec pladze głupich chatbotów

Od kilku minut rozmawiam z George'em Washingtonem i szczerze mówiąc wydaje się raczej pijany. Wygląda też na to, że kręci się z 20-latkami, ponieważ ciągle mówi takie rzeczy, jak fajnie, haha, a ty chcesz dołączyć do mojej armii czy wut?

To oczywiście nie jest pierwszy prezydent Ameryki. Jest to zautomatyzowana, konwersacyjna sztuczna inteligencja, znana jako chatbot, stworzona przez Pijana historia , komediowy program telewizyjny, udostępniony za pośrednictwem programu do przesyłania wiadomości Kik. Jest zaskakująco zabawny, choć niezbyt spójny.

Możesz teraz rozmawiać z różnymi botami za pośrednictwem wielu usług przesyłania wiadomości, w tym Kto ,WeChat, Telegram , i teraz, komunikator facebookowy . Niektóre są przeznaczone po prostu do rozrywki, ale coraz większa ich liczba ma na celu zrobienie czegoś pożytecznego. Możesz teraz zarezerwować lot, przeczytać najnowsze nagłówki techniczne, a nawet kupić hamburgera w Burger King, wpisując wiadomości do wirtualnego pomocnika. Startupy ścigają się, aby zaoferować narzędzia przyspieszające rozwój, zarządzanie i monetyzację tych wirtualnych kamerdynerów.

Problem polega na tym, że komputery wciąż mają trudności ze zrozumieniem ludzkiego języka w całej jego złożoności i subtelności. Dokonuje się imponujących postępów, ale chatboty nadal są podatne na zamieszanie i nieporozumienia. I chociaż pijany George Washington może być z tego cnotą, to mniej czarujący jest, gdy próbujesz zarezerwować lot.

Najlepsze komercyjne chatboty będą najprawdopodobniej takie, które rozpoznają własne ograniczenia. Pułapka polega na robieniu zbyt wielu rzeczy naraz, mówi Paul Gray, dyrektor ds. usług platformy w firmie Kik, która od 2014 roku oferuje integrację botów. Należy zacząć od małych i prostych.

30SecondtoFly , z siedzibą w Nowym Jorku i Bangkoku, buduje chatbota do rezerwacji podróży, który działa za pośrednictwem SMS-ów lub platformy komunikacyjnej Slack. Firma korzysta z narzędzi dostarczonych przez API.ai , kalifornijska firma, która stworzyła potężny zestaw narzędzi do obsługi zapytań napisanych w języku naturalnym, ale nadal źle rozumie ludzi.

Mamy język potoczny, który jest bardzo trudny; wtedy mamy konkretne prośby, których nie ma w naszych scenariuszach użytkowników, mówi współzałożycielka Felicia Schneiderhan. To skłoniło firmę do opracowania własnego narzędzia do przekierowywania wiadomości do ludzkich pomocników.

Ten pośpiech w kierunku chatbotów jest częściowo spowodowany popularnością kilku nowych usług przesyłania wiadomości. Jednak wysiłki zmierzające do wykorzystania botów są bez wątpienia inspirowane niesamowitymi postępami w innych obszarach sztucznej inteligencji w ostatnich latach, takich jak przetwarzanie obrazów i dźwięku.

Ale przetwarzanie języka to zupełnie inne wyzwanie, które od dziesięcioleci nęka badaczy sztucznej inteligencji. Chatboty sięgają początków sztucznej inteligencji. Jeden z pierwszych, zwany Eliza , został opracowany w MIT w 1964 roku. Wcielając się w psychoterapeutkę, Eliza zastosowała prostą sztuczkę nakłaniania ludzi do współpracy: zadawania standardowych pytań i często przeformułowywania własnych wypowiedzi w formie pytania. Ale jeśli odejdziesz bardzo daleko od formuły, Eliza szybko straci wątek.

Dzisiejsze chatboty są lepsze, ale niewiele i trudno się temu dziwić. W ostatnich latach nie nastąpiły żadne fundamentalne przełomy w nauczaniu komputerów w zakresie przetwarzania języka i reagowania na nie (dziedzina znana jako przetwarzanie języka naturalnego).

Microsoft jest tego przykładem: zadeklarował, że przyszłość komputerów osobistych będzie dotyczyć wyłącznie botów, mimo że jego własne eksperymenty z samouczącymi się chatbotami uwypukliły niektóre z pozostałych wyzwań (patrz Microsoft mówi, że Maverick Chatbot zapowiada przyszłość komputerów i dlaczego Microsoft przypadkowo uwolnił nazistowskiego seksbota ).

To powiedziawszy, techniki, które doprowadziły do ​​postępu w innych obszarach, przede wszystkim głębokiego uczenia się, są obiecujące w zakresie analizowania języka, mówi Chris Dyer , adiunkt na Uniwersytecie Carnegie Mellon. Sieci neuronowe mają tutaj wiele obietnic, mówi Dyer. Co kilka miesięcy pojawia się wiele ekscytujących prac związanych z odpowiadaniem na pytania.

Część tej pracy jest teraz wykorzystywana w pojawiających się chatbotach. Derrick Connell, wiceprezes korporacyjny w firmie Microsoft, który nadzoruje inżynierię w firmie Bing, oraz jej osobista asystentka, Cortana, twierdzi, że zapytania wprowadzane do Bing są wykorzystywane do trenowania algorytmów chatbota, które firma Microsoft udostępnia programistom. Mówi również, że większość chatbotów będzie wymagała okresowego przeszkolenia w celu zrozumienia nowych zwrotów i pojęć, ale powinny one stale się doskonalić. Zdarzają się przypadki skrajne, ale z biegiem czasu system nauczy się i będzie się poprawiał, mówi Connell.

Pozostaje jeszcze dużo pracy. Rzeczywiście, wirtualny pomocnik Facebooka, zwany M, nadal jest obsługiwany przez ludzi. Odpowiedzi udzielane przez tych ludzi są wykorzystywane do trenowania algorytmów uczenia głębokiego, które mogą ostatecznie same odpowiedzieć na pytania.

Pobieranie i prezentowanie informacji z bazy danych w sposób, który wydaje się naturalny dla danej osoby, jest szczególnie trudne do osiągnięcia, mówi Dyer; a zrozumienie intencji osoby jest wciąż nierozwiązanym wyzwaniem.

Biorąc pod uwagę prawdopodobieństwo pomyłki i nieporozumień, nie ma sensu projektować chatbotów tak, aby były zbyt ogólne, ani zmuszać ich do robienia czegoś szczególnie ważnego. Porady prawne, porady medyczne i poradnictwo psychiatryczne byłyby prawdopodobnie bardzo ryzykowne, mówi Dyer.

ukryć