211service.com
Nowy generator języka OpenAI GPT-3 jest szokująco dobry — i całkowicie bezmyślny
Getty
Granie z GPT-3 sprawia wrażenie patrzenia w przyszłość, Arram Sabeti, programista i artysta z San Francisco, tweetował w zeszłym tygodniu . To w dużym stopniu podsumowuje reakcje w mediach społecznościowych w ciągu ostatnich kilku dni na najnowszą sztuczną inteligencję OpenAI generującą język.
Najpierw otwórz AI opisany GPT-3 w pracy naukowej opublikowanej w maju. Ale w zeszłym tygodniu zaczął podawać oprogramowanie do wybranych osób, które o to poprosiły dostęp do prywatnej bety . Na razie OpenAI chce, aby zewnętrzni programiści pomogli mu zbadać, co może zrobić GPT-3, ale planuje przekształcić narzędzie w produkt komercyjny jeszcze w tym roku, oferując firmom płatną subskrypcję sztucznej inteligencji za pośrednictwem chmury.
Praca na rzecz przyszłości, w której cały internet jest symulakrum poprzednich wersji internetu https://t.co/2dIjrlKNVG
— Julian Togelius (@togelius) 19 lipca 2020 r.
GPT-3 to najpotężniejszy model językowy w historii. Jego poprzednik, GPT-2, wydany w zeszłym roku , był już w stanie wypluć przekonujące strumienie tekstu w wielu różnych stylach po wyświetleniu monitu o zdanie otwierające. Ale GPT-3 to duży krok naprzód. Model ma 175 miliardów parametrów (wartości, które sieć neuronowa próbuje zoptymalizować podczas uczenia), w porównaniu z już i tak ogromnym 1,5 miliarda GPT-2. A dzięki modelom językowym rozmiar naprawdę ma znaczenie .
Sabeti powiązane z post na blogu gdzie popisywał się opowiadaniami, piosenkami, komunikatami prasowymi, podręcznikami technicznymi i innymi materiałami, które wykorzystał do wygenerowania sztucznej inteligencji. GPT-3 może również produkować pastisze poszczególnych pisarzy. Mario Klingemann, artysta zajmujący się uczeniem maszynowym, podzielił się krótką historią zatytułowaną Znaczenie bycia na Twitterze, napisaną w stylu Jerome'a K. Jerome'a, która zaczyna się: To ciekawy fakt, że ostatnia pozostała forma życia społecznego w którym mieszkańcy Londynu nadal interesują się Twitterem. Uderzył mnie ten dziwny fakt, kiedy wybrałem się na jedno z moich okresowych wakacji nad morze i stwierdziłem, że całe to miejsce ćwierkało jak klatka dla szpaka. Klingemann mówi, że wszystko, co podał AI, to tytuł, nazwisko autora i inicjał It. Jest nawet dość pouczający artykuł o GPT-3 napisany w całości przez GPT-3 .
Kolejna próba dłuższego utworu. Wyimaginowany Jerome K. Jerome pisze o Twitterze. Wszystko, co zasiałem, to tytuł, nazwisko autora i pierwsze „To”, reszta jest zrobiona przez #gpt3
Oto pełna wersja w formacie PDF: https://t.co/d2gpmlZ1T5 pic.twitter.com/1N0lNoC1eZ
— Mario Klingemann (@quasimondo) 18 lipca 2020 r.
Inni odkryli, że GPT-3 może generować dowolny rodzaj tekstu, w tym tabulatory gitarowe lub kod komputerowy. Na przykład, zmieniając GPT-3 tak, aby tworzył HTML, a nie język naturalny, twórca stron internetowych Sharif Shameem pokazał, że może to zrobić tworzyć układy stron internetowych wyświetlając monity, takie jak przycisk, który wygląda jak arbuz lub duży tekst w kolorze czerwonym z napisem WITAJCIE W MÓJ NEWSLETTER i niebieski przycisk z napisem Subskrybuj. Nawet legendarny programista John Carmack, który był pionierem grafiki komputerowej 3D we wczesnych grach wideo, takich jak Doom, a obecnie doradza CTO w Oculus VR, był zdenerwowany : Niedawne, niemal przypadkowe odkrycie, że GPT-3 może w pewnym sensie pisać kod, wywołuje lekkie dreszcze.
To jest oszałamiające.
— Sharif Shameem (@sharifshameem) 13 lipca 2020 r.
W GPT-3 zbudowałem generator układu, w którym po prostu opisujesz dowolny układ, a on generuje dla ciebie kod JSX.
CO pic.twitter.com/w8JkrZO4lk
Jednak pomimo nowych sztuczek, GPT-3 nadal ma skłonność do rzucania nienawistnego seksistowskiego i rasistowskiego języka. Dopracowanie modelu pomogło ograniczyć ten rodzaj wydajności w GPT-2.
To znaczy, może jestem po prostu znużony, ale poczekam trochę i zobaczę, jaki rodzaj skandalicznego uprzedzenia wynika z GPT-3. Och, pisze poezję? Ładny. Och, wyrzuca też szkodliwy seksizm i rasizm? Próbuję mojej zszokowanej twarzy. #gpt3
— Kate Devlin 🎠(@drkatedevlin) 18 lipca 2020 r.
Nikogo to nie powinno dziwić. Jak zapobiec przypadkowemu wydarzeniu? Nie mam jeszcze wszystkich odpowiedzi, ale dostrojenie silnych i dających się uogólnić normatywnych priorytetów pomogło w przypadku GPT-2 https://t.co/V12NM8ZtAH https://t.co/1bn6G6eWjM
— Mark Riedl (Fałszywy Smok) (@mark_riedl) 18 lipca 2020 r.
Nie jest również niespodzianką, że wiele osób szybko zaczęło mówić o inteligencji. Ale ludzka wydajność i uderzająca wszechstronność GPT-3 są wynikiem doskonałej inżynierii, a nie autentycznej inteligencji. Po pierwsze, sztuczna inteligencja wciąż wydaje śmieszne wycie, które ujawnia całkowity brak zdrowego rozsądku. Ale nawet jego sukcesom brakuje głębi, czytając bardziej jak prace wycinania i wklejania niż oryginalne kompozycje.
Ten post jest jedną z najlepszych ocen GPT-3, jakie widziałem. To dobra mieszanka imponujących wyników i zawstydzających przypadków niepowodzeń z prostych podpowiedzi. To ładnie pokazuje, że jesteśmy bliżej budowania dużych skompresowanych baz wiedzy niż systemów ze zdolnością rozumowania. https://t.co/a5Nq006dMD
- Denny Britz (@dennybritz) 17 lipca 2020 r.
Potwierdza to moje podejrzenie, że GPT-3 używa wielu swoich parametrów do zapamiętywania fragmentów tekstu z Internetu, które nie dają się łatwo uogólniać https://t.co/I7uS4iu2sn
— Mark Riedl (Fałszywy Smok) (@mark_riedl) 19 lipca 2020 r.
Dokładnie to, co dzieje się w GPT-3, nie jest jasne. Ale wydaje się, że jest dobry w syntetyzowaniu tekstu, który znalazł w innym miejscu w Internecie, co czyni go rodzajem ogromnego, eklektycznego albumu stworzonego z milionów fragmentów tekstu, które następnie skleja w dziwny i cudowny sposób na żądanie.
GPT-3 często zachowuje się jak sprytny uczeń, który nie przeczytał, próbując przebić się przez egzamin. Niektóre dobrze znane fakty, niektóre półprawdy i proste kłamstwa, połączone razem w coś, co na pierwszy rzut oka wygląda na płynną narrację.
— Julian Togelius (@togelius) 17 lipca 2020 r.
To nie jest umniejszanie osiągnięcia OpenAI. Narzędzie takie jak to ma wiele nowych zastosowań, zarówno dobrych (od zasilania lepszych chatbotów po pomaganie ludziom w kodowaniu), jak i złych (od zasilania lepszych botów dezinformacyjnych po pomaganie dzieciom w oszukiwaniu zadań domowych).
Ale kiedy pojawia się nowy kamień milowy AI, zbyt często zostaje pogrzebany w szumie. Nawet Sam Altman, który wraz z Elonem Muskiem założył OpenAI, próbował: stonuj rzeczy : Szum o GPT-3 to zdecydowanie za dużo. Robi wrażenie (dzięki za miłe komplementy!), ale wciąż ma poważne słabości i czasami popełnia bardzo głupie błędy. Sztuczna inteligencja zmieni świat, ale GPT-3 to tylko bardzo wczesny przebłysk. Mamy jeszcze wiele do wymyślenia.
Mamy niski pasek, jeśli chodzi o wykrywanie inteligencji . Jeśli coś wygląda elegancko, łatwo się oszukiwać, że tak jest. Największą sztuczką, jaką kiedykolwiek zastosowała sztuczna inteligencja, było przekonanie świata, że istnieje. GPT-3 to ogromny krok naprzód, ale nadal jest narzędziem stworzonym przez ludzi, ze wszystkimi jego wadami i ograniczeniami.
Widząc tyle na Twitterze o GPT-3. Pamiętać...
— Mark Riedl (Fałszywy Smok) (@mark_riedl) 18 lipca 2020 r.
Test Turinga nie jest po to, by sztuczna inteligencja zdała, ale żeby ludzie nie zdali egzaminu.