Ten superkomputer będzie próbował znaleźć informacje na Reddit

Czy to możliwe, że sekret budowania inteligencji maszynowej tkwi w spędzaniu niekończących się godzin na czytaniu Reddit?

To jedno pytanie, które zespół naukowców z Otwórz AI , organizacja non-profit wspierana przez kilku luminarzy Doliny Krzemowej, ma nadzieję odpowiedzieć nowym rodzajem superkomputera opracowanego przez producenta chipów Nvidię. Naukowcy szkolą również roboty zmywające naczynia poprzez eksperymenty i tworzą algorytmy zdolne do uczenia się grania w szeroką gamę różnych gier komputerowych.

Nowa maszyna, zwana DGX-1, jest zoptymalizowana pod kątem uczenia maszynowego znanego jako głębokie uczenie, które polega na dostarczaniu danych do dużej sieci prymitywnie symulowanych neuronów i zaowocowało ogromnym postępem w dziedzinie sztucznej inteligencji w ostatnich latach. DGX-1 pozwoli naukowcom zajmującym się sztuczną inteligencją szybciej trenować systemy głębokiego uczenia się przy użyciu większej ilości danych. Jako przybliżone porównanie, obliczenia, które zajęłyby 250 godzin na konwencjonalnym komputerze, zajęłyby około 10 godzin na DGX-1.

Dyrektor generalny Nvidii, Jen-Hsun Huang, dostarcza pierwszy DGX-1 do OpenAI Elona Muska.

W OpenAI wzrost wydajności osiągnięty dzięki nowemu sprzętowi można zauważyć najbardziej bezpośrednio w zrozumieniu języka. Badacze OpenAI dostarczają wątki wiadomości z popularnego serwisu Reddit do algorytmów budujących probabilistyczne zrozumienie rozmowy. Naukowcy mają nadzieję, że pod warunkiem podania wystarczającej liczby przykładów, podstawowy model językowy będzie wystarczająco dobry, aby prowadzić samą rozmowę. A sprzęt umożliwi wprowadzenie do modelu znacznie większej liczby fragmentów tekstu i zastosowanie większej mocy obliczeniowej do rozwiązania problemu.

Andrej Karpathy , naukowiec z OpenAI, mówi, że nowoczesne techniki uczenia maszynowego stają się coraz bardziej inteligentne, gdy się powiększają. Głębokie uczenie to bardzo szczególna klasa modeli, ponieważ gdy skalujesz modele, zawsze działają lepiej, mówi Karpathy w filmie opublikowanym dzisiaj przez Nvidię.

Język pozostaje bardzo trudnym problemem dla sztucznej inteligencji, ale w ostatnich latach badacze poczynili postępy w zastosowaniu głębokiego uczenia się do tego problemu (patrz Problem językowy AI). Na przykład badacze z Google przekazali dialogi filmowe do systemu głębokiego uczenia się, który został pierwotnie zaprojektowany do wykonywania tłumaczeń, a następnie pokazał że potrafi bardzo dobrze odpowiedzieć na niektóre pytania.

Badacze OpenAI planują również zbadać, czy robot może nauczyć się używać języka poprzez interakcję z ludźmi i światem rzeczywistym. Te badania są jednak na wczesnym etapie i łatwiej będzie skalować prace związane z Reddit. Karpathy twierdzi, że dzięki nowemu sprzętowi modele wytrenowane na danych Reddit mogą przejść od miesięcy rozmów do lat.

Nvidia, która produkuje procesory graficzne do gier, skorzystała na boomie uczenia głębokiego, ponieważ jej sprzęt jest dobrze przystosowany do wymaganych obliczeń równoległych. W ostatnich latach firma starała się wykorzystać tę przewagę, a DGX-1, opracowany za około 2 miliardy dolarów, jest zasadniczo bankiem układów graficznych zoptymalizowanych pod kątem głębokiego uczenia. Chipy mogą przetwarzać dane bardzo szybko (w szczycie około 170 teraflopów lub miliarda obliczeń arytmetycznych na sekundę) i mogą łatwiej udostępniać dane.

Andrew Ng, główny naukowiec chińskiej firmy internetowej Baidu, przyjrzał się bliżej DGX-1, z którego Baidu planuje korzystać. Możliwości, jakie zapewnia, pozwolą nam wypróbować nowe sposoby skalowania naszego procesu szkoleniowego, mówi Ng. Umożliwi nam to trenowanie modeli na większych zbiorach danych, co, jak stwierdziliśmy, prowadzi do postępu w sztucznej inteligencji.

OpenAI jest zaangażowany w szereg nowatorskich badań nad sztuczną inteligencją. Oprócz głębokiego uczenia badacze koncentrują się na opracowywaniu algorytmów zdolnych do uczenia się metodą prób i błędów, w dziedzinie badań znanej jako uczenie ze wzmocnieniem.

OpenAI ma nadzieję wykorzystać uczenie ze wzmacnianiem do budowania robotów zdolnych do wykonywania przydatnych prac domowych, chociaż może to okazać się czasochłonnym wyzwaniem (patrz To jest robota pokojówka Elon Musk finansuje i Robot, którego najbardziej chcesz, jest daleki od rzeczywistości ).

Naukowcy z OpenAI badają również sposoby, w jakie algorytmy sztucznej inteligencji mogą uczyć się znacznie wydajniej, generując własne modele lub teorie na temat znaczenia zestawu danych. Algorytm może nauczyć się grać w różne gry komputerowe, na przykład ustalając, że zbieranie monet zwykle pomaga podnieść wynik.

Ilja Sutskever , dyrektor ds. badań w OpenAI i wybitna postać w dziedzinie sztucznej inteligencji, mówi, że prace w tym obszarze mogą ostatecznie doprowadzić do lepszych algorytmów, które mogą skuteczniej uczyć się. Po wprowadzeniu wszystkich tych ulepszeń powinno być możliwe zbudowanie agentów, które mogą osiągnąć bardziej wyrafinowane cele przy znacznie mniejszym doświadczeniu, mówi.

OpenAI została założona w 2015 roku z 1 miliardem dolarów finansowania od VIP-ów z branży technologicznej, w tym Elona Muska, dyrektora generalnego Tesli i SpaceX oraz Sama Altmana, prezesa Y Combinator. Celem organizacji non-profit jest prowadzenie otwartych badań nad sztuczną inteligencją i pomoc w zapewnieniu, że sztuczna inteligencja przyniesie korzyści ludzkości.

Jen-Hsun Huang, dyrektor generalny Nvidii, mówi, że decyzja o przekazaniu pierwszego DGX-1 OpenAI odzwierciedla wiarę w cele OpenAI. Strategia Nvidii polega na demokratyzacji sztucznej inteligencji, powiedział Huang w wywiadzie. Chcielibyśmy, aby ta technologia, tak potężna, jak jest, zmierzała w dobrym dla społeczeństwa kierunku.

ukryć