Instagram wykorzystuje sztuczną inteligencję, aby powstrzymać ludzi przed publikowaniem obraźliwych komentarzy

Kategoria: Sztuczna inteligencja Opublikowany lip 09

Platforma mediów społecznościowych oznaczy potencjalnie obraźliwe komentarze przed ich opublikowaniem i poprosi nadawcę o ponowne rozważenie.

Kontekst: Nadużycia w Internecie zawsze były skomplikowanym problemem ze względu na swoją skalę i niuanse. To, co uważa się za godne cenzury, to: nieustanna debata : filtruje za dużo i narusza to samo wyrażanie; filtruje zbyt mało i tworzy nieprzyjazne środowisko. Dodaj do tego złożoność różnych języków, kultur i norm, a wyzwanie staje się naprawdę nieporęczne.

Sztuczna nieinteligencja: Właśnie dlatego platformy mediów społecznościowych, takie jak Facebook, zwróciły się ku sztucznej inteligencji, aby pomóc im uporządkować ogromną liczbę postów i komentarzy. Ale język zawsze był szczególnie trudny do przeanalizowania przez sztuczną inteligencję — proste rzeczy, takie jak podwójne entendry, sarkazm, a nawet błędy ortograficzne, mogą spowodować pomyłkę w systemie i pomylić ich znaczenie. Aby obejść ten problem, Facebook zatrudnia tysiące moderatorów treści zintensyfikować, gdy jego algorytmy nie zdołają dokonać ostatecznego wezwania do osądu. Dochodzenia wykazały jednak, że te prace są często brutalne i wyczerpujące.

Rozwiązanie Instagrama: Instagram, którego właścicielem jest Facebook, próbuje teraz nowego podejścia. Zamiast polegać wyłącznie na swoich algorytmach do cenzurowania obraźliwych materiałów, wykorzysta również autocenzurę użytkowników. Gdy komentarz jest publikowany, jeśli model AI platformy oznaczy go jako szkodliwy, nadawca zobaczy wyskakujące okienko z pytaniem Czy na pewno chcesz to opublikować?

We wczesnych testach Instagram odkrył, że funkcja zachęciła wiele osób do wycofania komentarzy, zgodnie z wczorajszym ogłoszenie na blogu . To sprytna taktyka, aby spróbować odciążyć moderowanie treści, nie będąc zbyt restrykcyjnymi.

Dane treningowe: To nie pierwszy raz, kiedy Instagram wykorzystał sztuczną inteligencję do oczyszczenia języka. W czerwcu 2017 r. również uruchomiona filtr obraźliwych komentarzy wykorzystujący uczenie maszynowe do ukrywania najbardziej oczywistych nadużyć. Od tego czasu platforma stale ulepsza swój model uczenia maszynowego, prawdopodobnie wykorzystując miliony punktów danych wygenerowanych przez użytkowników, którzy zgłaszali komentarze w przeszłości. Najnowsza funkcja prosi również użytkowników o powiadomienie Instagrama, jeśli przez pomyłkę oznaczył ich komentarz jako obraźliwy, co jest kolejną pętlą informacji zwrotnych, która może generować bardziej przydatne dane treningowe.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.