211service.com
Algorytm gier wideo do rozwiązywania problemów online
Podobnie jak wiele przestrzeni internetowych, League of Legends, najpopularniejsza gra wideo online na świecie, jest wylęgarnią obraźliwego języka i zachowań. Zachowanie to, wspierane przez anonimowość i wzmocnione w ogniu rywalizacji w sporcie zespołowym, było takim problemem dla jego twórcy, Riot Games, że firma zatrudnia teraz oddany zespół naukowców i projektantów, aby znaleźć sposoby na poprawę interakcji między grami. gracze.
W ciągu ostatnich kilku lat zespół eksperymentował z wieloma systemami i technikami wspieranymi przez uczenie maszynowe, które mają na celu monitorowanie komunikacji między graczami, karanie negatywnych zachowań i nagradzanie pozytywnych zachowań. Wyniki są zaskakujące, mówi Jeffrey Lin, główny projektant systemów społecznościowych w Riot Games. Oprogramowanie monitorowało kilka milionów przypadków podejrzeń o nadużycia. Dziewięćdziesiąt dwa procent graczy, którzy zostali przyłapani na używaniu obraźliwego języka wobec innych, nie popełniło ponownego przestępstwa. Lin, który jest neurobiologiem kognitywnym, uważa, że techniki zespołu można zastosować poza kontekstem gier wideo. Uważa, że Riot mógł stworzyć coś w rodzaju antidotum na toksyczność online, niezależnie od tego, gdzie występuje.
Projekt rozpoczął się kilka lat temu, kiedy zespół wprowadził system zarządzania nazwany, zgodnie z motywem fantasy gry, Trybunałem. Gra identyfikuje potencjalne przypadki obraźliwego języka i tworzy akta interakcji. Pliki te zostały następnie zaprezentowane społeczności graczy gry (szacunkowo 67 milionów unikalnych użytkowników), którzy zostali poproszeni o przejrzenie dzienników czatu w grze i głosowanie, czy uznali zachowanie za dopuszczalne. Ogólnie rzecz biorąc, system był bardzo dokładny, mówi Lin. Rzeczywiście, 98 procent werdyktów społeczności pasowało do werdyktów wewnętrznego zespołu Riot.
W ten nieco pracochłonny sposób załatwiono kilka milionów spraw. Wkrótce Lin i zespół zaczęli dostrzegać wzorce w języku używanym przez toksycznych graczy. Aby pomóc zoptymalizować proces, postanowili zastosować do danych techniki uczenia maszynowego. Okazała się niezwykle skuteczna w segmentacji negatywnego i pozytywnego języka w 15 oficjalnych językach obsługiwanych przez League, mówi Lin.
Nowa wersja systemu, teraz kontrolowana przez technologię, a nie przez innych graczy, usprawniła przekazywanie informacji zwrotnych i nakładanie konsekwencji na toksyczne zachowania w grze. Może teraz dostarczać graczom informacje zwrotne w ciągu pięciu minut, podczas gdy wcześniej mogło to zająć nawet tydzień.
Lin twierdzi, że system radykalnie poprawił to, co firma nazywa współczynnikami reform. Gracz, który wcześniej otrzymał karę, taką jak zawieszenie w meczach rankingowych, jest uważany za poprawionego, jeśli przez pewien czas uniknie kolejnych kar. Kiedy dodaliśmy lepsze informacje zwrotne do kar i dołączyliśmy dowody, takie jak dzienniki czatów dotyczące kary, wskaźniki reform skoczyły z 50 do 65 procent, mówi. Ale kiedy system uczenia maszynowego zaczął dostarczać znacznie szybsze informacje zwrotne wraz z dowodami, wskaźniki reform skoczyły do rekordowego poziomu 92 procent.
Jednym z wyzwań, przed którymi stoi system, jest rozeznanie w kontekście. Jak w każdym sporcie zespołowym, gracze często budują koleżeństwo poprzez przepychanki lub sarkazm, co w innym kontekście może zostać uznane za nieuprzejme lub agresywne. Maszyna zwykle nie wyłapuje sarkazmu. W rzeczywistości jest to prawdopodobnie najważniejsza bariera w walce z nadużyciami online za pomocą uczenia maszynowego. Można śmiało powiedzieć, że sztuczna inteligencja, która rozumie język, działa najlepiej, gdy do obliczenia prawidłowej odpowiedzi niezbędna jest minimalna ilość informacji kontekstowych, wyjaśnia Chris Dyer, adiunkt na Uniwersytecie Carnegie Mellon, który zajmuje się przetwarzaniem języka naturalnego. Problemy, które wymagają zintegrowania dużej ilości informacji z kontekstu, w którym wypowiadana jest wypowiedź, są znacznie trudniejsze do rozwiązania, a sarkazm jest niezwykle zależny od kontekstu.
Obecnie Lin i jego zespół próbują rozwiązać problem za pomocą dodatkowych kontroli i sald. Nawet jeśli system zidentyfikuje gracza, który wykazał toksyczne zachowanie, inne systemy są sprawdzane, aby wzmocnić lub zawetować werdykt. Na przykład spróbuje zweryfikować każdy raport, który zapisze gracz, aby określić jego historyczną dokładność. Ponieważ wiele systemów działa w połączeniu, aby zapewnić graczom konsekwencje, obecnie obserwujemy zdrowy współczynnik fałszywie dodatnich 1 na 5000, mówi Lin.
Aby naprawdę ograniczyć nadużycia, Riot zaprojektował kary i środki zniechęcające, aby przekonać graczy do zmiany swojego zachowania. Na przykład może ograniczyć zasoby czatu dla graczy, którzy zachowują się obraźliwie lub wymagać od graczy ukończenia gier nierankingowych bez incydentów, zanim będą mogli grać w gry z najwyższymi rankingami. Firma nagradza również szanujących się graczy pozytywnym wzmocnieniem.
Lin jest głęboko przekonany, że lekcje, które on i jego zespół wyciągnęli ze swojej pracy, mają szersze znaczenie. Jednym z kluczowych wniosków z badań jest to, że toksyczne zachowania niekoniecznie pochodzą od okropnych ludzi; pochodzi od zwykłych ludzi, którzy mają zły dzień, mówi Justin Reich, naukowiec z Harvard's Berkman Center, który bada prace Riot. Oznacza to, że nasze strategie radzenia sobie z toksycznymi zachowaniami w Internecie nie mogą być skierowane tylko do zahartowanych trolli; muszą wyjaśnić naszą zbiorową ludzką skłonność do pozwalania, by to, co najgorsze z nas, wyłoniło się pod anonimowością Internetu.
Niemniej jednak Reich uważa, że praca Lin pokazuje, że toksyczne zachowania nie są stałym elementem sieci, ale problemem, który można rozwiązać poprzez połączenie inżynierii, eksperymentów i zaangażowania społeczności. Wyzwania, przed którymi stoimy w League of Legends, można zobaczyć w każdej grze online, platformie, społeczności lub forum, dlatego uważamy, że znajdujemy się w kluczowym momencie na osi czasu społeczności i społeczności internetowych, mówi Lin. Z tego powodu byliśmy bardzo otwarci w dzieleniu się naszymi danymi i najlepszymi praktykami z szerszą branżą i mamy nadzieję, że inne studia i firmy przyjrzą się tym wynikom i zdadzą sobie sprawę, że toksyczność online nie jest mimo wszystko niemożliwym problemem.