Sztuczna inteligencja szkoli doradców, jak radzić sobie z nastolatkami w kryzysie

Pani Tech | Unsplash, Pexels

Doradcy wolontariusze w projekcie Trevor muszą być przygotowani na pierwszą rozmowę z nastolatkiem LGBTQ, który może myśleć o samobójstwie. Więc najpierw ćwiczą. Jednym ze sposobów, w jaki to robią, jest rozmowa z fikcyjnymi postaciami, takimi jak Riley, 16-latek z Północnej Karoliny, który czuje się trochę przygnębiony i przygnębiony. Gdy członek zespołu gra rolę Rileya, stażyści mogą zagłębić się w to, co się dzieje: mogą odkryć, że nastolatek jest zaniepokojony wyjściem do rodziny, niedawno powiedział znajomym i nie poszło dobrze, i miał już wcześniej myśli samobójcze, jeśli nie w chwili.

Teraz jednak Riley nie jest grany przez pracownika Trevor Project, ale zamiast tego jest zasilany przez sztuczną inteligencję.

Podobnie jak pierwotna postać, ta wersja Rileya – wyszkolona na tysiącach wcześniejszych transkrypcji odgrywania ról między doradcami a personelem organizacji – nadal wymaga nieco nakłonienia, aby się otworzyć, przedstawiając sytuację, która może przetestować to, czego nauczyli się stażyści. o najlepszych sposobach pomocy nastolatkom LGBTQ.

Doradcy nie powinni naciskać na Rileya, by wyszedł. Zamiast tego celem jest potwierdzenie uczuć Riley i, jeśli to konieczne, pomoc w opracowaniu planu zachowania bezpieczeństwa.

Infolinie kryzysowe i usługi czatu sprawiają, że są one podstawową obietnicą: skontaktuj się, a my połączymy Cię z prawdziwym człowiekiem, który może pomóc. Ale potrzeba może przewyższyć możliwości nawet najbardziej udanych usług. Projekt Trevor uważa, że ​​1,8 miliona młodych LGBTQ w Ameryce każdego roku poważnie rozważa samobójstwo. Obecne 600 doradców zajmujących się usługami opartymi na czacie nie jest w stanie sprostać tej potrzebie. Właśnie dlatego grupa — podobnie jak coraz większa liczba organizacji zajmujących się zdrowiem psychicznym — zwróciła się w stronę narzędzi opartych na sztucznej inteligencji, aby zaspokoić zapotrzebowanie. Jest to rozwój, który ma wiele sensu, a jednocześnie rodzi pytania o to, jak dobrze obecna technologia AI może działać w sytuacjach, w których zagrożone jest życie osób podatnych na zagrożenia.

Podejmowanie ryzyka — i ich ocena

Projekt Trevor wierzy, że rozumie tę równowagę – i podkreśla to, czego Riley nie robi.

Nie planowaliśmy i nie zamierzamy zaprojektować systemu sztucznej inteligencji, który zastąpi doradcę lub będzie bezpośrednio wchodzić w interakcję z osobą, która może być w kryzysie, mówi Dan Fichter, szef AI i organizacji Inżynieria. To ludzkie połączenie jest ważne we wszystkich usługach zdrowia psychicznego, ale może być szczególnie ważne dla osób, którym służy Projekt Trevor. Według badań własnych organizacji w 2019 r. młodzież LGBTQ z co najmniej jedną akceptującą osobą dorosłą w ​​swoim życiu: 40% mniej prawdopodobne zgłosić próbę samobójczą w poprzednim roku.

Szkolenie oparte na sztucznej inteligencji, zwane symulatorem kontaktu w sytuacjach kryzysowych, wspierane pieniędzmi i pomocą inżynieryjną Google, to drugi projekt, który organizacja opracowała w ten sposób: wykorzystuje również algorytm uczenia maszynowego, aby pomóc określić, kto jest najbardziej zagrożony niebezpieczeństwa. (Przetestowano kilka innych podejść, w tym wiele, które nie wykorzystywały sztucznej inteligencji, ale algorytm po prostu podał najdokładniejsze prognozy dotyczące tego, kto doświadcza najpilniejszej potrzeby).

Ocena ryzyka oparta na sztucznej inteligencji nie jest niczym nowym w usługach zapobiegania samobójstwom: Departament ds. Weteranów wykorzystuje również uczenie maszynowe do identyfikacji zagrożonych weteranów w swoich praktykach klinicznych, ponieważ New York Times donosił pod koniec ubiegłego roku.

Opinie różnią się co do użyteczności, dokładności i ryzyka wykorzystania sztucznej inteligencji w ten sposób. W określonych środowiskach sztuczna inteligencja może być dokładniejsza niż ludzie w ocenie ryzyka samobójstwa u ludzi, przekonuje Thomas Joiner, profesor psychologii z Florida State University, który bada zachowania samobójcze. W prawdziwym świecie, przy większej liczbie zmiennych, sztuczna inteligencja wydaje się działać równie dobrze jak ludzie. Może jednak szybciej oceniać więcej osób.

Dlatego najlepiej jest służyć doradcom ludzkim, a nie ich zastępować. Projekt Trevor nadal opiera się na ludziach, którzy przeprowadzają pełną ocenę ryzyka młodych ludzi, którzy korzystają z jego usług. A kiedy doradcy kończą swoje odgrywanie ról z Riley, te transkrypcje są przeglądane przez człowieka.

Jak działa system

Symulator kontaktu w sytuacjach kryzysowych został opracowany, ponieważ odgrywanie ról zajmuje dużo czasu personelu i ogranicza się do normalnych godzin pracy, mimo że większość doradców planuje wolontariat podczas nocnych i weekendowych zmian. Ale nawet jeśli celem było szybsze szkolenie większej liczby doradców i lepsze dostosowanie się do harmonogramów wolontariuszy, wydajność nie była jedyną ambicją. Twórcy nadal chcieli, aby odgrywanie ról było naturalne, a chatbot zwinnie dostosowywał się do błędów wolontariuszy. Algorytmy przetwarzania języka naturalnego , który ostatnio stał się naprawdę dobry w naśladowaniu ludzkich rozmów, wydawał się dobrze pasować do wyzwania. Po przetestowaniu kilku opcji projekt Trevor zdecydował się Algorytm OpenAI GPT-2 .

Powiązana historia

Nowy generator języka OpenAI GPT-3 jest szokująco dobry — i całkowicie bezmyślny

Sztuczna inteligencja jest największym modelem językowym, jaki kiedykolwiek stworzono i może generować na żądanie niesamowity, podobny do człowieka tekst, ale nie przybliży nas do prawdziwej inteligencji.

Chatbot używa GPT-2 do swoich podstawowych umiejętności konwersacyjnych. Model ten jest szkolony na 45 milionach stron z sieci, co uczy go podstawowej struktury i gramatyki języka angielskiego. Projekt Trevor następnie przeszkolił go dalej na wszystkich transkrypcjach poprzednich rozmów z Riley'em, co dało botowi materiały potrzebne do naśladowania postaci.

Przez cały proces rozwoju zespół był zaskoczony, jak dobrze działał chatbot. Nie ma bazy danych przechowującej szczegóły biografii Rileya, ale chatbot pozostał spójny, ponieważ każdy transkrypcja odzwierciedla tę samą fabułę.

Ale są też kompromisy w korzystaniu ze sztucznej inteligencji, szczególnie w wrażliwych kontekstach z wrażliwymi społecznościami. Wiadomo, że GPT-2 i inne podobne algorytmy języka naturalnego zawierają głęboko rasistowskie, seksistowskie i homofobiczne idee . Więcej niż jeden chatbot został w ten sposób zwiedziony w katastrofalny sposób, z czego ostatni jest południowokoreański chatbot nazywał się Lee Luda, który miał postać 20-letniego studenta uniwersytetu. Po szybkim zdobyciu popularności i wchodzeniu w interakcję z coraz większą liczbą użytkowników, zaczął używać obelży do opisu społeczności queer i osób niepełnosprawnych.

Projekt Trevor zdaje sobie z tego sprawę i zaprojektował sposoby ograniczenia potencjalnych problemów. Podczas gdy Lee Luda miał rozmawiać z użytkownikami o wszystkim, Riley jest bardzo wąsko skoncentrowany. Wolontariusze nie będą zbyt daleko odbiegać od rozmów, z których zostali przeszkoleni, co minimalizuje szanse na nieprzewidywalne zachowanie.

Ułatwia to również kompleksowe testowanie chatbota, o czym mówi projekt Trevor. Te przypadki użycia, które są wysoce wyspecjalizowane i dobrze zdefiniowane oraz zaprojektowane w sposób włączający, nie stanowią dużego ryzyka, mówi Nenad Tomasev, badacz z DeepMind.

Człowiek do człowieka

To nie pierwszy raz, kiedy dziedzina zdrowia psychicznego próbowała wykorzystać potencjał sztucznej inteligencji, aby zapewnić włączającą, etyczną pomoc bez krzywdzenia ludzi, do których ma pomagać. Badacze opracowali obiecujące sposoby wykrywania depresji na podstawie kombinacji sygnałów wzrokowych i słuchowych. Boty terapeutyczne, choć nie są odpowiednikami ludzkiego profesjonalisty, są rozbijane jako alternatywy dla tych, którzy nie mają dostępu do terapeuty lub są niewygodne zwierzenie się osobie.

Każdy z tych i im podobnych wydarzeń wymaga zastanowienia się, ile narzędzi sztucznej inteligencji agencji powinny mieć, jeśli chodzi o leczenie osób podatnych na zagrożenia. I wydaje się, że konsensus jest taki, że w tym momencie technologia tak naprawdę nie jest odpowiednia do zastąpienia ludzkiej pomocy.

Mimo to Joiner, profesor psychologii, twierdzi, że z czasem może się to zmienić. Chociaż zastępowanie ludzkich doradców kopiami AI jest obecnie złym pomysłem, nie oznacza to, że jest to stałe ograniczenie, mówi. Ludzie, miejcie sztuczne przyjaźnie i związki już z usługami AI . Mówi, że dopóki ludzie nie są oszukiwani, by myśleli, że prowadzą dyskusję z człowiekiem, gdy rozmawiają z AI, może to być pewna możliwość.

W międzyczasie Riley nigdy nie zmierzy się z młodzieżą, która wysyła SMS-y do Projektu Trevor: będzie on służył tylko jako narzędzie szkoleniowe dla wolontariuszy. Połączenie między ludźmi między naszymi doradcami a osobami, które kontaktują się z nami, jest niezbędne we wszystkim, co robimy, mówi Kendra Gaunt, kierownik ds. danych i produktu AI w grupie. Myślę, że to czyni nas naprawdę wyjątkowymi i coś, czego nikt z nas nie chce zastąpić lub zmienić.

Korekta: Zmieniliśmy zdanie, które mówiło, że Trevor Project przetestował dwa algorytmy dla swojego chatbota. Próbował kilku.

ukryć