211service.com
Jak naprawić ofensywny chatbot Microsoftu za pomocą wskazówek Marvina Minsky'ego i Improv Comedy?
Chatbot Microsoftu, Tay, został szybko usunięty w zeszłym tygodniu po tym, jak zaczął publikować na Twitterze obraźliwe oświadczenia propagujące homofobię, rasizm i antysemityzm, jednocześnie atakując określone osoby.
Jednak trzy nieco nieodpowiednie terminy wciąż krążą w odniesieniu do Tay: sztuczna inteligencja, uczenie się i mądrzejszy.
Możemy cały dzień spierać się o naturę sztucznej inteligencji oraz o to, jak bliskie lub dalekie są różne systemy od ludzkiego rozumowania, ale jest to rozmowa, która po prostu nie ma tutaj znaczenia. System został zaprojektowany w celu włączenia tekstu z interakcji z użytkownikami zarówno do osobistych odpowiedzi, jak i tweetów. Trudno jest zastosować naukę słów do tego statystycznie sterowanego procesu nagrywania, krojenia i ponownego składania ciągów słów, nie mówiąc już o nazywaniu całego systemu sztuczną inteligencją.
Zasugerowano już oczywiste poprawki do Tay. Deweloperzy mogliby dać systemowi listę terminów, których należy unikać, uniemożliwić mu uczenie się od jednego użytkownika, uniemożliwić publiczne wypowiedzi na podstawie nowo poznanego materiału, a nawet sprawić, by człowiek moderował to, co mówi.
Jednak żadna z tych drobnych poprawek technicznych nie rozwiązałaby problemu bota: Tay po prostu nie miał pojęcia, co mówi. Wszystkie poprawki mają na celu pomóc systemowi, który nie jest aż tak jasny, przejść przez rozmowę bez wybrzmiewania złego. Zostały zaprojektowane tak, aby Tay wydawał się mądrzejszy, nie czyniąc go mądrzejszym.
Więc co to znaczy zrobić Tay wydać się mądrzejszy przez faktycznie czyniąc to mądrzejszym ?
Jedno podejście można zobaczyć w Siri i jej siostrach (zazwyczaj są one oznaczone jako kobiety), jak Cortana. Systemy te rozpoznają słowa kluczowe związane z dość wąskimi zadaniami i dostarczają odpowiedzi zautomatyzowane. Mają znaczną moc do podejmowania działań i generowania trafnych odpowiedzi w obszarach, które rozumieją. Ale zespół Microsoftu stojący za Tayem wyraźnie próbował uczynić coś bardziej konwersacyjnego.
Na drugim końcu spektrum znajduje się podejście kompletne AI, w którym system nigdy nie widzi światła dziennego, dopóki nie ma dostępu do całej wiedzy wymaganej do pełnego zrozumienia wszystkiego, co się do niego mówi, wszystkiego, co te wypowiedzi implikują, oraz pełne implikacje własnych oświadczeń z kolei.
Oprogramowanie spełniające te kryteria wymagałoby bogatej i kompletnej reprezentacji świata, ogromnej biblioteki reguł wnioskowania, które działają za każdym razem, gdy pojawia się nowy fakt, oraz zdolności do generowania języka w oparciu o każdy pomysł i kombinację pomysłów, które napotyka lub domyśla się samodzielnie. To ryzykowny 20-letni projekt badawczy, a nie mapa drogowa produktu.
Istnieje jednak kompromis między krojeniem i dzieleniem zdań a próbą stworzenia czegoś, co może zrozumieć całe stworzenie. Wiąże się to z przekazaniem systemowi tylko odrobiny wiedzy — wystarczającej do rozpoznania, kiedy użytkownik próbuje ograć system. Nie musisz wszystkiego wiedzieć. Musisz tylko wiedzieć, kiedy ktoś z tobą zadziera.
Biorąc pod uwagę, że Microsoft informacje o wydaniu dla Tay powiedział, że zespół składał się z improwizowanych komików, jestem zaskoczony, że nie była to obrana droga.
Osobiście przyjąłem wystarczająco dużo sugestii od publiczności, by wiedzieć, że na każdym wieczorze panieńskim pijana młoda kobieta z tyłu będzie wykrzykiwać nieprzyzwoite sugestie, których będzie żałować przez następne dwa lata. Kiedy tak się dzieje, masz dwie możliwości: albo uszanować sugestię i wprowadzić ją w scenę bez przeszkadzania, albo grzecznie powiedzieć Pierwszą rzeczą, jaką usłyszałem z przodu, była „skrzynka pocztowa” i przejść dalej. Ważne jest, aby wiedzieć, kiedy to się dzieje i mieć plan działania, aby sobie z tym poradzić.
Nic tak nie neutralizuje łobuza, jak bycie wezwanym. Domyślam się, że gdyby Tay wskazał, iż wiedział, że jest odtwarzany w interakcjach jeden na jednego i podał atrybucję nowo poznanych faktów, gdy używa ich w publicznych tweetach, efekt zawstydzenia wystarczyłby, by powstrzymać nawet najgorsze ataki .
Świetni rozmówcy nie wiedzą wszystkiego. Znają rozmowę. A system, który nic nie wie o świecie, ale wie, jak wchodzić w interakcje i nie obrażać, byłby genialny. Ale żeby zareagować na grę, musisz rozpoznać, kiedy się w nią gra.
Nieżyjący już Marvin Minsky stwierdził: Odrobina semantyki zajdzie daleko. Systemy takie jak Tay nie muszą wiedzieć wszystkiego o świecie, ale muszą wiedzieć, co robią i co użytkownicy zamierzają z nimi zrobić. Kluczowym elementem, którego brakowało Tayowi, była umiejętność rozpoznania, kiedy jest grana i umiejętność reagowania w naturze.
Mam nadzieję, że Tay wkrótce wróci do sieci. Co więcej, mam nadzieję, że przeprowadzi Reddit AMA, w którym wyjaśni źródło każdego z jego tweetów i lekcje, których nauczył się z bycia zastraszanym na szkolnym boisku, jakim jest Internet.
Kristian Hammond jest profesorem informatyki na Northwestern University oraz głównym naukowcem i współzałożycielem Nauka narracyjna , który oferuje oprogramowanie, które automatycznie generuje pisemne raporty z danych . Z powodów, których nikt do końca nie rozumie, spędził około 20 lat na scenie, robiąc improwizacje z ludźmi znacznie bardziej utalentowanymi niż on sam.