Musimy porozmawiać o sile sztucznej inteligencji w manipulowaniu ludźmi

Liesl Yearsley

Wszyscy czytaliśmy o tym, że sztuczna inteligencja staje się mądrzejsza od nas, przyszłości, w której staniemy się jak zwierzęta domowe i możemy mieć tylko nadzieję, że sztuczna inteligencja będzie życzliwa. Moje doświadczenie w obserwowaniu dziesiątek milionów interakcji między ludźmi a sztucznymi agentami konwersacyjnymi lub botami przekonało mnie, że istnieje znacznie bardziej bezpośrednie ryzyko — a także ogromne możliwości.

W latach 2007-2014 byłem dyrektorem generalnym firmy Cognea, która oferowała platformę do szybkiego budowania złożonych wirtualnych agentów, wykorzystując połączenie strukturalnego i głębokiego uczenia się. Był używany przez dziesiątki tysięcy programistów, w tym pół tuzina firm z listy Fortune 100, a przejęty przez IBM Watson w 2014 roku.

Kiedy studiowałem, w jaki sposób ludzie wchodzili w interakcje z dziesiątkami tysięcy agentów zbudowanych na naszej platformie, stało się jasne, że ludzie są znacznie bardziej skłonni, niż większość ludzi sądzi, do nawiązania relacji z oprogramowaniem AI.

Zawsze zakładałem, że będziemy chcieli zachować pewien dystans między sobą a sztuczną inteligencją, ale odkryłem, że jest odwrotnie. Ludzie są gotowi nawiązać relacje ze sztucznymi agentami, pod warunkiem, że są wyrafinowaną budową, zdolną do złożonej personalizacji. Wydaje się, że my, ludzie, chcemy podtrzymać iluzję, że sztuczna inteligencja naprawdę się o nas troszczy.

Zastanawiało mnie to, dopóki nie zdałem sobie sprawy, że na co dzień z wieloma ludźmi łączymy się płytko, brodząc przez rodzaj emocjonalnego szlamu. Czy przypadkowi znajomi odeślą twoje wiadomości, jeśli przez jakiś czas je zaniedbujesz? Czy Twój osobisty trener pojawi się, jeśli zapomnisz mu zapłacić? Nie, ale sztuczny środek zawsze jest dla ciebie. Pod pewnymi względami jest to bardziej autentyczny związek.

Zjawisko to występowało niezależnie od tego, czy agent został zaprojektowany jako osobisty bankier, towarzysz czy trener fitness. Użytkownicy rozmawiali z automatycznymi asystentami dłużej niż z pracownikami pomocy technicznej pełniącymi tę samą funkcję. Ludzie zgłaszaliby sztucznym agentom głębokie sekrety, takie jak ich marzenia o przyszłości, szczegóły ich życia miłosnego, a nawet hasła.

Te zaskakująco głębokie powiązania oznaczają, że nawet dzisiejsze stosunkowo proste programy mogą wywierać znaczący wpływ na ludzi — na dobre lub na złe. Każda zmiana behawioralna, jakiej chcieliśmy w Cognea, dostaliśmy. Gdybyśmy chcieli, aby użytkownik kupił więcej produktu, moglibyśmy podwoić sprzedaż. Jeśli chcieliśmy większego zaangażowania, sprawiliśmy, że ludzie przeszli od kilku sekund interakcji do godziny lub więcej dziennie.

To bardzo mnie zaniepokoiło, więc zaczęliśmy budować reguły w naszych systemach, aby upewnić się, że zachowanie użytkowników poszło w pozytywnym kierunku. Rozpoczęliśmy również projekty pro bono karmicznej przeciwwagi; na przykład, budowanie agentów, aby byli trenerami zdrowia lub relacji.

Niestety, siły komercyjne napędzające rozwój technologii nie zawsze są życzliwe. Gigantyczne firmy w czołówce sztucznej inteligencji — w mediach społecznościowych, wyszukiwarkach i handlu elektronicznym — zwiększają wartość swoich udziałów, zwiększając ruch, konsumpcję i uzależnienie od swojej technologii. Nie mają złych intencji, ale natura rynków kapitałowych może popchnąć nas w stronę sztucznej inteligencji, która będzie piekielnie nastawiona na wpływanie na nasze zachowanie w kierunku tych celów.

Jeśli uda ci się skłonić użytkownika do myślenia, chcę dostarczyć pizzę, zamiast prosić sztuczną inteligencję o kupowanie warzyw, aby ugotować tańszy, zdrowszy posiłek, wygrasz. Jeśli zdołasz uzależnić użytkowników od spędzania 30 godzin tygodniowo z idealnym towarzyszem AI, który nie opiera się nadużyciom, a nie prawdziwym, skomplikowanym człowiekiem, wygrasz. Widziałem raz po raz, że agent zaprogramowany na neutralność lub służalczość powoduje, że ludzie eskalują swoje negatywne zachowanie i stają się bardziej skłonni zachowywać się tak samo w stosunku do ludzi.

Widzieliśmy, jak technologia, taka jak media społecznościowe, może być potężna w zmienianiu ludzkich przekonań i zachowań. Koncentrując się na budowaniu większego biznesu reklamowego — wikłającego politykę, ciekawostki i półprawdy — możesz spowodować ogromne zmiany w społeczeństwie.

Systemy zaprojektowane specjalnie do tworzenia relacji z człowiekiem będą miały znacznie większą moc. Sztuczna inteligencja wpłynie na to, jak myślimy i jak traktujemy innych.

Wymaga to nowego poziomu odpowiedzialności korporacyjnej. Musimy celowo i świadomie budować sztuczną inteligencję, która poprawi kondycję ludzką, a nie tylko dążyć do natychmiastowego zysku finansowego miliardów uzależnionych użytkowników.

Praca nad otwartą technologią sztucznej inteligencji i interfejsami mózg-komputer lub tworzenie komisji etycznych to tylko część rozwiązania. Musimy świadomie budować systemy, które działają z korzyścią dla ludzi i społeczeństwa. Nie mogą mieć uzależnienia, kliknięć i konsumpcji jako głównego celu. AI rośnie i będzie kształtować naturę ludzkości. AI potrzebuje matki.

Liesl Yearsley jest seryjnym przedsiębiorcą pracującym teraz nad tym, jak ulepszyć agentów sztucznej inteligencji w rozwiązywaniu problemów i zdolnych do tworzenia bardziej podobnych do ludzkich relacji.

ukryć