Sojusznik AI do walki z zastraszaniem w wirtualnych światach

Saiman Chow

W każdym fabularyzowanym wszechświecie rozróżnienie między żartobliwym antagonizmem a poważnym nękaniem może być trudne do odróżnienia. Wyzwiska między przyjaciółmi grającymi razem w grę wideo są często formą koleżeństwa. Jednak między nieznajomymi podobne słowa nabierają innej, bardziej kłopotliwej jakości. Możliwość rozróżnienia między nimi jest kluczowa dla każdego twórcy gier wideo, który chce stworzyć przyjazną społeczność.

Spirit AI ma nadzieję pomóc programistom we wspieraniu graczy i zniechęcaniu do nękania za pomocą systemu wykrywania nadużyć i interwencji o nazwie Ally. Oprogramowanie monitoruje interakcje między graczami — to, co ludzie do siebie mówią i jak się zachowują — poprzez dostępne akcje w grze lub platformie społecznościowej. Jest w stanie wykryć werbalne nękanie, a także niewerbalną prowokację — na przykład jeden gracz śledzący awatar innego lub nadużywający narzędzi do raportowania.

Patrzymy na wzorce interakcji w połączeniu z klasyfikatorami języka naturalnego, zamiast polegać na liście poszczególnych słów kluczowych, wyjaśnia Ruxandra Dariescu, jeden z programistów Ally. Nękanie to złożony problem.

Kiedy Sojusz zidentyfikuje potencjalnie nadużycie, sprawdza, czy potencjalny sprawca i drugi gracz nie mieli już ze sobą interakcji. Ally różni się od istniejącego oprogramowania do moderacji tym, że zamiast po prostu wysłać ostrzeżenie do twórców gry, jest w stanie wysłać sterowaną komputerowo wirtualną postać, aby skontaktowała się z graczem – taką, która dzięki narzędziom w języku naturalnym Spirit AI jest w stanie rozmawiać w tonie i stylu gry (patrz Algorytm gier wideo w celu rozwiązania problemu nadużyć online ).

Powiązana historia

Czytaj dalej Jak zespół psychologów i naukowców z Riot Games odkrywa sekret eliminowania nadużyć w internetowej grze wideo.

Bot Ally mógłby powiedzieć: zauważyłem, że ty i Gracz 42 wydajecie się obcy. Mogli powiedzieć ci coś niestosownego, więc chciałem tylko sprawdzić, czy wszystko w porządku? Gracz może wtedy odpowiedzieć na bota, mówi Dariescu. Jeśli interakcja zostanie odrzucona jako przyjacielskie przekomarzanie się, system zarejestruje to i zaktualizuje swoje zasady, aby nie interweniować w podobne zachowanie w przyszłości. Jeśli użytkownik czuje się wykorzystany, system interweniuje u sprawcy.

Ally jest kompatybilny ze wszystkimi grami online, a Spirit AI pracuje nad dodaniem możliwości zachowania policji w grach rzeczywistości wirtualnej (zobacz The War on the Disturbingly Real Trolls in Virtual Reality). Narzędzie można skonfigurować na wiele sposobów, aby wchodzić w interakcje z graczami i podejmować różne rodzaje działań. Spirit AI postrzega Ally jako sposób na wzmocnienie zespołu zarządzającego społecznością gry, który może monitorować aktywność na pulpicie nawigacyjnym.

Firma, która została oficjalnie utworzona w 2016 roku i obecnie zatrudnia 15 osób, nie ujawni, z którymi twórcami gier obecnie współpracuje, ale oprogramowanie przyciągnęło uwagę w świecie gier. Na najprostszym poziomie narzędzia do zarządzania społecznością wspierane przez sztuczną inteligencję mogą zwiększyć zasięg zespołu, mówi Imre Jele, doświadczony projektant rozległych gier wieloosobowych online, takich jak RuneScape. Ale najbardziej ekscytują mnie systemy sztucznej inteligencji, które wykraczają poza identyfikowanie i karanie zachowań łamiących zasady. Ostatecznie celem tych członków zespołu AI powinno być wyjście z policji i kształtowanie pozytywnych interakcji i budowanie zdrowszych społeczności.

Powiązana historia

Czytaj dalej Kiedy czujesz, że naprawdę znajdujesz się w wirtualnym ciele, ochrona osobistej przestrzeni jest ważna.

Spirit z pewnością zamierza, aby oprogramowanie oferowało coś więcej niż tylko cyfrowe siły policyjne, które można wezwać do gier online. Zidentyfikowaliśmy potencjał tej technologii, aby nie tylko zapobiegać złym zachowaniom, ale także zachęcać do dobrych, prospołecznych zachowań – mówi Dariescu. Oprogramowanie może również wykorzystywać podsłuchiwanie otoczenia w celu zidentyfikowania szerszych problemów, jakie gracze mogą mieć z projektem gry, zapewniając deweloperowi wgląd w to, jak można poprawić ogólne wrażenia z gry.

Według Jele istnieją jednak ograniczenia, jeśli chodzi o interwencje AI w przypadkach nękania. Wiele interakcji między zarządzaniem społecznością a zespołami wsparcia graczy wymaga głębokiej empatii i sympatii, mówi: Gracze wspierali deweloperów swoimi pieniędzmi i zasługują na najlepszą możliwą opiekę, którą w tej chwili mogą zapewnić tylko ludzie.

ukryć