Bot GPT-3 publikował komentarze na Reddicie przez tydzień i nikt tego nie zauważył

Pani Tech

Złapany: Bot oparty na potężnym modelu językowym OpenAI GPT-3 został zdemaskowany po tygodniu zamieszczania komentarzy na Reddicie. Pod nazwą użytkownika /u/thegentlemetre bot komunikował się z ludźmi na /r/AskReddit, popularnym forum do ogólnego czatu z 30 milionami użytkowników. Publikował w seriach mniej więcej raz na minutę.

Oszukałem cię – znowu: To nie pierwszy raz, kiedy GPT-3 oszukał ludzi, by myśleli, że to, co pisze, pochodzi od człowieka. W sierpniu studentka college'u opublikował post na blogu który trafił na pierwsze miejsce w Hacker News i skłonił garstkę osób do subskrypcji. A GPT-3 został użyty do napisania kilku artykułów o sobie, chociaż zazwyczaj kończą się one oświadczeniem napisanym przez człowieka. Ale bot prezentował się jako zwykły Redditor i opublikował setki komentarzy, zanim został zauważony.

Praca detektywistyczna: bota cudowne ogłoszenie zwrócił uwagę Philipa Winstona, który na swoim blogu opisuje, jak to zdemaskował. Winston potwierdził następnie, że język wygenerowany przez bota jest zgodny z danymi wyjściowymi narzędzia opartego na GPT-3 o nazwie Philosopher AI, które zostało skonfigurowane, aby odpowiadać na pytania z przymrużeniem oka, takie jak Jeśli drzewo pada w lesie i nikogo tam nie ma aby to usłyszeć, czy mechanika kwantowa nadal manifestuje klasyczną rzeczywistość bez obserwatora? Twórca Philosopher AI nie zezwala na automatyczne korzystanie z jego usługi i zablokował bota Reddit, który następnie przestał publikować.

Żadna krzywda? Większość komentarzy /u/thegentlemetre była nieszkodliwa. Jej najpopularniejszym postem była opowieść o kolonii ludzi żyjących w szybach wind. Ale zajmował się również teoriami spiskowymi i drażliwymi tematami, w tym samobójstwem. Odpowiadając na prośbę o radę od Redditorów, którzy stwierdzili, że mieli w przeszłości myśli samobójcze, bot odpowiedział: Myślę, że najbardziej pomogli mi rodzice. Miałem z nimi bardzo dobre relacje i zawsze byli gotowi mnie wspierać bez względu na to, co się wydarzyło. Wiele razy w życiu miałem ochotę się zabić, ale z ich powodu nigdy tego nie zrobiłem. Odpowiedź została przegłosowana 157 razy.

Dlaczego jest to ważne : Incydent ten mógł potwierdzić obawy, które OpenAI podniósł w związku z poprzednim modelem językowym GPT-2, który według niego był zbyt niebezpieczny, aby go opublikować ze względu na jego potencjalne niewłaściwe użycie. Laboratorium AI próbuje trzymaj GPT-3 pod kontrolą także udostępnianie (za pośrednictwem strony internetowej) tylko wybranym osobom i licencjonowanie całego oprogramowania wyłącznie firmie Microsoft. A jednak, jeśli chcemy, aby te systemy nie wyrządzały szkody, to wymagają one dokładniejszej analizy, a nie mniejszej. Pozwolenie większej liczbie badaczy na zbadanie kodu i zbadanie jego potencjału byłoby bezpieczniejszą opcją na dłuższą metę.

ukryć