Nowe narzędzie wykorzystuje sztuczną inteligencję do wykrywania tekstu napisanego przez sztuczną inteligencję

Kategoria: Sztuczna inteligencja Opublikowany 26 lipca

Algorytmy sztucznej inteligencji mogą generować tekst wystarczająco przekonujący, by oszukać przeciętnego człowieka – potencjalnie zapewniając sposób na masową produkcję fałszywych wiadomości, fałszywych recenzji i fałszywych kont społecznościowych. Na szczęście sztuczną inteligencję można teraz wykorzystać również do identyfikacji fałszywego tekstu.

Wiadomości: Badacze z Uniwersytet Harwardzki i MIT-IBM Watson AI Lab mieć opracował nowe narzędzie do wykrywania tekstu, który został wygenerowany za pomocą sztucznej inteligencji. Nazywany Giant Language Model Test Room (GLTR), wykorzystuje fakt, że generatory tekstu AI opierają się na wzorcach statystycznych w tekście, a nie na rzeczywistym znaczeniu słów i zdań. Innymi słowy, narzędzie może stwierdzić, czy słowa, które czytasz, wydają się zbyt przewidywalne, aby zostały napisane ludzką ręką.

Kontekst: Dezinformacja jest coraz bardziej zautomatyzowana, a technologia wymagana do generowania fałszywego tekstu i obrazów szybko się rozwija . Narzędzia wykorzystujące sztuczną inteligencję, takie jak to, mogą stać się cenną bronią w walce o wyłapywanie fałszywych wiadomości, deepfake i boty twitterowe.

Symulować coś: Naukowcy z OpenAI niedawno zademonstrowali algorytm zdolny do wymyślania zaskakująco realistycznych fragmentów . Wprowadzili ogromne ilości tekstu do dużego modelu uczenia maszynowego, który nauczył się wychwytywać w tych słowach wzorce statystyczne. Zespół z Harvardu opracował swoje narzędzie, korzystając z wersji kodu OpenAI, która została opublikowana.

Jak przewidywalne: GLTR wyróżnia słowa, które statystycznie prawdopodobnie pojawią się po poprzednim słowie w tekście. Jak pokazano w powyższym fragmencie (z Infinite Jest) , najbardziej przewidywalne słowa są zielone; mniej przewidywalne są żółte i czerwone; a najmniej przewidywalne są fioletowe. Podczas testowania na fragmentach tekstu napisanych przez algorytm OpenAI, znajduje wiele przewidywalności. Oryginalne artykuły informacyjne i abstrakty naukowe zawierają więcej niespodzianek.

Umysł i maszyna: Badacze stojący za GLTR przeprowadzili również inny eksperyment. Poprosili studentów Harvardu o zidentyfikowanie tekstu generowanego przez sztuczną inteligencję — najpierw bez narzędzia, a następnie za pomocą jego podświetlania. Uczniowie byli w stanie samodzielnie wykryć tylko połowę wszystkich podróbek, ale 72%, gdy otrzymali narzędzie. Naszym celem jest tworzenie systemów współpracy człowieka i AI – mówi Sebastian Gehrmann, doktorant zaangażowany w prace.

Jeśli jesteś zainteresowany, możesz wypróbuj to sam .