Ta wszechwiedząca sztuczna inteligencja uczy się, czytając całą sieć bez przerwy

Pani Tech

W lipcu OpenAI's najnowszy model języka, GPT-3 , oszołomiony zdolnością tworzenia akapitów, które wyglądają, jakby mogły być napisane przez człowieka. Ludzie zaczęli pokazywać, jak GPT-3 może również autouzupełniać kod lub wypełniać puste miejsca w arkuszach kalkulacyjnych.

W jednym przykładzie pracownik Twittera Paul Katsen zamieścił na Twitterze funkcję arkusza kalkulacyjnego, aby rządzić nimi wszystkimi, w której GPT-3 wypełnia kolumny sam w sobie, pobierając dane dla stanów USA: populacja Michigan wynosi 10,3 miliona, Alaska stała się stanem w 1906 i tak dalej.

Tyle że GPT-3 może być trochę bzdurą. Populacja Michigan nigdy nie wynosiła 10,3 miliona, a Alaska stała się stanem w 1959 roku.

Modele językowe, takie jak GPT-3, są niesamowite mimiki , ale mają niewielkie pojęcie o tym, co faktycznie mówią. Są naprawdę dobrzy w generowaniu historii o jednorożcach, mówi Mike Tung, dyrektor generalny startupu Stanford Diffbot. Ale nie są szkoleni, aby być rzeczowymi.

Jest to problem, jeśli chcemy, aby AI były godne zaufania. Dlatego Diffbot przyjmuje inne podejście. Tworzy sztuczną inteligencję, która odczytuje każdą stronę w całej sieci publicznej, w wielu językach, i wydobywa z tych stron jak najwięcej faktów.

Podobnie jak GPT-3, system Diffbota uczy się, odkurzając ogromne ilości tekstu napisanego przez człowieka, który można znaleźć w Internecie. Ale zamiast używać tych danych do trenowania modelu języka, Diffbot zamienia to, co czyta, na serię trzyczęściowych faktoidów, które wiążą jedną rzecz z drugą: podmiot, czasownik, obiekt.

Wskazując na moją biografię, Diffbot dowiaduje się, że Will Douglas Heaven jest dziennikarzem; Will Douglas Heaven pracuje w MIT Technology Review; MIT Technology Review jest firmą medialną; i tak dalej. Każdy z tych faktoidów łączy się z miliardami innych w rozległą, wzajemnie połączoną sieć faktów. Nazywa się to wykresem wiedzy.

Wykresy wiedzy nie są nowe. Istnieją od dziesięcioleci i były podstawową koncepcją we wczesnych badaniach nad sztuczną inteligencją. Jednak tworzenie i utrzymywanie wykresów wiedzy jest zazwyczaj wykonywane ręcznie, co jest trudne. To również powstrzymało Tima Bernersa-Lee od uświadomienia sobie tego, co nazwał siecią semantyczną, która zawierałaby informacje zarówno dla maszyn, jak i ludzi, dzięki czemu boty mogły rezerwować nasze loty, robić zakupy lub udzielać odpowiedzi na pytania mądrzejsze niż wyszukiwarki.

Kilka lat temu Google również zaczął używać wykresów wiedzy. Wyszukaj Katy Perry, a obok głównych wyników wyszukiwania pojawi się okienko z informacją, że Katy Perry jest amerykańską piosenkarką i autorką tekstów z muzyką dostępną na YouTube, Spotify i Deezer. Na pierwszy rzut oka widać, że jest żoną Orlando Blooma, ma 35 lat i jest warta 125 milionów dolarów i tak dalej. Zamiast podawać listę linków do stron o Katy Perry, Google udostępnia zestaw faktów na jej temat zaczerpnięty z wykresu wiedzy.

Ale Google robi to tylko dla swoich najpopularniejszych wyszukiwanych haseł. Diffbot chce to zrobić za wszystko. Dzięki pełnej automatyzacji procesu budowy, Diffbot był w stanie zbudować prawdopodobnie największy graf wiedzy w historii.

Obok Google i Microsoft jest to jedna z zaledwie trzech amerykańskich firm, które przemierzają całą publiczną sieć. Zdecydowanie sensowne jest przeszukiwanie sieci, mówi Victoria Lin, naukowiec z Salesforce, która zajmuje się przetwarzaniem języka naturalnego i reprezentacją wiedzy. W przeciwnym razie wiele ludzkiego wysiłku można włożyć w stworzenie dużej bazy wiedzy. Heiko Paulheim z Uniwersytetu w Mannheim w Niemczech zgadza się: Automatyzacja to jedyny sposób na tworzenie wielkoskalowych grafów wiedzy.

Super surfer

Aby zebrać fakty, sztuczna inteligencja Diffbota czyta sieć tak, jak zrobiłby to człowiek, ale znacznie szybciej. Korzystając z doładowanej wersji przeglądarki Chrome, sztuczna inteligencja przegląda nieprzetworzone piksele strony internetowej i wykorzystuje algorytmy rozpoznawania obrazów do kategoryzacji strony jako jednego z 20 różnych typów, w tym wideo, obrazu, artykułu, wydarzenia i wątku dyskusyjnego . Następnie identyfikuje kluczowe elementy na stronie, takie jak nagłówek, autor, opis produktu lub cena, i wykorzystuje NLP do wyodrębniania faktów z dowolnego tekstu.

Każdy trzyczęściowy faktoid jest dodawany do wykresu wiedzy. Diffbot wyodrębnia fakty ze stron napisanych w dowolnym języku, co oznacza, że ​​może odpowiadać na pytania dotyczące Katy Perry, powiedzmy, używając faktów zaczerpniętych z artykułów w języku chińskim lub arabskim, nawet jeśli nie zawierają one terminu Katy Perry.

Przeglądając sieć jak człowiek, sztuczna inteligencja widzi te same fakty, które my widzimy. Oznacza to również, że musiał nauczyć się poruszać w sieci tak jak my. AI musi przewijać w dół, przełączać się między kartami i klikać wyskakujące okienka. Sztuczna inteligencja musi grać w sieci jak w grę wideo tylko po to, by oglądać strony, mówi Tung.

Diffbot nieprzerwanie indeksuje sieć i odbudowuje swój wykres wiedzy co cztery do pięciu dni. Według Tunga sztuczna inteligencja dodaje od 100 do 150 milionów podmiotów każdego miesiąca, gdy nowi ludzie pojawiają się w Internecie, powstają firmy i są wprowadzane produkty. Wykorzystuje więcej algorytmów uczenia maszynowego do łączenia nowych faktów ze starymi, tworzenia nowych połączeń lub nadpisywania nieaktualnych. Diffbot musi dodawać nowy sprzęt do swojego centrum danych w miarę wzrostu wykresu wiedzy.

Badacze mają bezpłatny dostęp do wykresu wiedzy Diffbota. Ale Diffbot ma również około 400 płacących klientów. Wyszukiwarka DuckDuckGo używa go do generowania własnych skrzynek podobnych do Google. Snapchat używa go do wyodrębniania najważniejszych informacji ze stron z wiadomościami. Popularna aplikacja do planowania ślubów Zola używa jej do tworzenia list ślubnych, pobierania zdjęć i cen. NASDAQ, który dostarcza informacje o giełdzie, wykorzystuje je do badań finansowych.

Fałszywe buty

Adidas i Nike używają go nawet do wyszukiwania podrabianych butów w Internecie. Wyszukiwarka wyświetli długą listę witryn, które wspominają o trenerach Nike. Ale Diffbot pozwala tym firmom szukać witryn, które faktycznie sprzedają ich buty, a nie tylko o nich mówią.

Na razie firmy te muszą wchodzić w interakcje z Diffbot za pomocą kodu. Ale Tung planuje dodać interfejs w języku naturalnym. Ostatecznie chce zbudować coś, co nazywa uniwersalnym faktoidalnym systemem odpowiedzi na pytania: sztuczną inteligencją, która będzie w stanie odpowiedzieć na prawie wszystko, o co jej poprosisz, ze źródłami, które będą stanowić kopię zapasową odpowiedzi.

Tung i Lin zgadzają się, że tego rodzaju sztucznej inteligencji nie można zbudować za pomocą samych modeli językowych. Ale jeszcze lepiej byłoby połączyć technologie, używając modelu językowego, takiego jak GPT-3, aby stworzyć podobny do człowieka interfejs dla wszystkowiedzącego bota.

Mimo to, nawet sztuczna inteligencja, która ma jasne fakty, niekoniecznie jest sprytna. Nie próbujemy zdefiniować, czym jest inteligencja ani nic w tym stylu, mówi Tung. Po prostu próbujemy zbudować coś pożytecznego.

ukryć