Fałszywy, generowany przez sztuczną inteligencję blog dzieciaka z college'u oszukał dziesiątki tysięcy. Tak to zrobił.

Pani Tech | Getty

Na początku tygodnia Liam Porr słyszał tylko o GPT-3. Pod koniec student wykorzystał model AI do produkcji całkowicie fałszywy blog pod fałszywym nazwiskiem.

To miał być zabawny eksperyment. Ale wtedy jeden z jego postów osiągnął pierwsze miejsce w Hacker News. Niewiele osób zauważyło, że jego blog był całkowicie stworzony przez sztuczną inteligencję. Niektórzy nawet uderzają Subskrybuj.

Chociaż wielu spekulowało na temat tego, w jaki sposób GPT-3, najpotężniejsze dotychczas narzędzie sztucznej inteligencji do generowania języka, może wpływać na produkcję treści, jest to jeden z niewielu znanych przypadków, które ilustrują ten potencjał. To, co najbardziej wyróżniało się w tym doświadczeniu, mówi Porr, który studiuje informatykę na Uniwersytecie Kalifornijskim w Berkeley: Właściwie było to bardzo łatwe, co było przerażające.

GPT-3 to OpenAI najnowsza i największa językowa sztuczna inteligencja model, który laboratorium badawcze z San Francisco zaczęło karmić kroplowo w połowie lipca. W lutym zeszłego roku OpenAI trafiło na pierwsze strony gazet dzięki GPT-2, wcześniejszej wersji algorytmu, którą ogłosił, że będzie wstrzymać z obawy, że zostanie nadużyty. Decyzja natychmiast wywołała reakcję, ponieważ naukowcy oskarżyli laboratorium o wykonanie wyczynu kaskaderskiego. W listopadzie laboratorium zmieniło pozycję i wypuścił model , mówiąc, że do tej pory nie wykryto żadnych mocnych dowodów niewłaściwego użycia.

Laboratorium przyjęło inne podejście do GPT-3; nie odmawiał jej ani nie udzielał publicznego dostępu. Zamiast tego dał algorytmowi wybór badaczy, którzy złożyli wniosek o prywatną wersję beta, w celu zebrania ich opinii i skomercjalizowania technologii do końca roku.

Porr złożył wniosek. Wypełnił formularz z prostym kwestionariuszem dotyczącym jego przeznaczenia. Ale też nie czekał. Po skontaktowaniu się z kilkoma członkami społeczności Berkeley AI szybko znalazł doktoranta, który miał już dostęp. Kiedy absolwent zgodził się na współpracę, Porr napisał dla niego mały scenariusz. Dało to GPT-3 nagłówek i wprowadzenie do posta na blogu, a także wypluło kilka ukończonych wersji. Pierwszy post Porra (ten, który pojawił się w Hacker News) i każdy następny post został skopiowany i wklejony z jednego z wyników z niewielką edycją lub bez edycji.

Od czasu, gdy pomyślałem o tym pomyśle i skontaktowałem się z doktorantem, do stworzenia bloga i pierwszego bloga, który stał się wirusowy – zajęło to może kilka godzin, mówi.

Fałszywy wpis na blogu Porra, napisany pod fałszywym imieniem „adolos”, osiągnął pierwsze miejsce w Hacker News. Porr mówi, że używał trzech oddzielnych kont do przesyłania i głosowania swoich postów na Hacker News, próbując je podnieść. Administrator powiedział, że ta strategia nie działa, ale jego nagłówki na klik-baity tak.

ZDJĘCIE EKRANU / LIAM PORR

Sztuczką do generowania treści bez potrzeby dużej edycji było zrozumienie mocnych i słabych stron GPT-3. Jest całkiem dobry w tworzeniu ładnego języka, a nie jest zbyt dobry w byciu logicznym i racjonalnym, mówi Porr. Wybrał więc popularną kategorię blogów, która nie wymaga rygorystycznej logiki: produktywność i samopomoc.

Stamtąd pisał swoje nagłówki zgodnie z prostą formułą: przewijał wiadomości Medium i Hacker News, aby zobaczyć, co wypadło w tych kategoriach i zebrać coś stosunkowo podobnego. Czujesz się bezproduktywny? Może powinieneś przestać myśleć, napisał dla jednego. Odwaga i kreatywność przewyższają inteligencję, napisał dla innego. Kilka razy nagłówki się nie sprawdziły. Ale dopóki trzymał się właściwych tematów, proces był łatwy.

Po dwóch tygodniach prawie codziennych postów wycofał projekt z jedna końcowa, zagadkowa, napisana przez siebie wiadomość . Zatytułowany „Co zrobiłbym z GPT-3, gdybym nie miał etyki”, opisywał jego proces jako hipotetyczny. Tego samego dnia zamieścił też więcej prosta spowiedź na swoim prawdziwym blogu.

Nieliczne osoby, które nabrały podejrzeń co do fałszywego bloga Porr, zostały odrzucone przez innych członków społeczności.

ZDJĘCIE EKRANU / LIAM PORR

Porr mówi, że chciał udowodnić, że GPT-3 można uchodzić za ludzkiego pisarza. Rzeczywiście, pomimo nieco dziwnego wzorca pisania algorytmu i sporadycznych błędów, tylko trzy lub cztery z kilkudziesięciu osób, które skomentowały jego najlepszy post w Hacker News, wzbudziły podejrzenia, że ​​mógł on zostać wygenerowany przez algorytm. Wszystkie te komentarze zostały natychmiast odrzucone przez innych członków społeczności.

Eksperci od dawna obawiają się tego typu algorytmów generujących język. Odkąd OpenAI po raz pierwszy ogłosiło GPT-2, ludzie spekulowali, że jest on podatny na nadużycia. We własnym poście na blogu laboratorium skupiło się na potencjale narzędzia AI do wykorzystania jako masowy producent dezinformacji . Inni zastanawiali się, czy można go wykorzystać do masowej produkcji posty spamowe pełen trafnych słów kluczowych do gry w Google.

Porr mówi, że jego eksperyment pokazuje również bardziej przyziemną, ale wciąż niepokojącą alternatywę: ludzie mogą używać tego narzędzia do generowania dużej ilości treści na kliknięcia. Możliwe, że będzie po prostu powódź przeciętnej treści na blogu, ponieważ teraz bariera wejścia jest tak łatwa, mówi. Myślę, że wartość treści online zostanie znacznie zmniejszona.

Porr planuje przeprowadzić więcej eksperymentów z GPT-3. Ale wciąż czeka na dostęp z OpenAI. Możliwe, że są zdenerwowani, że to zrobiłem, mówi. To znaczy, to trochę głupie.

Aktualizacja: Dodatkowe szczegóły zostały dodane do podpisów pod tekstem i zdjęciami, aby wyjaśnić, w jaki sposób Liam Porr stworzył swojego bloga i umieścił go na szczycie Hacker News.

ukryć