Sztuczna inteligencja złamała kluczową matematyczną łamigłówkę umożliwiającą zrozumienie naszego świata

krajobraz wygenerowany matematycznie

Pani Tech | Naukowa biblioteka zdjęć za pośrednictwem AP





Jeśli nie jesteś fizykiem lub inżynierem, naprawdę nie ma zbyt wielu powodów, abyś wiedział o równaniach różniczkowych cząstkowych. Ja wiem. Po latach ślęczenia nad nimi na studiach licencjackich podczas studiowania inżynierii mechanicznej, nigdy nie używałem ich w prawdziwym świecie.

Ale równania różniczkowe cząstkowe, czyli PDE, są również czymś magicznym. Są kategorią równań matematycznych, które naprawdę dobrze opisują zmiany w czasie i przestrzeni, a zatem są bardzo przydatne do opisywania zjawisk fizycznych w naszym wszechświecie. Można ich używać do modelowania wszystkiego, od orbit planet, przez tektonikę płyt, po turbulencje powietrza, które zakłócają lot, co z kolei pozwala nam robić praktyczne rzeczy, takie jak przewidywanie aktywności sejsmicznej i projektowanie bezpiecznych samolotów.

Haczyk polega na tym, że PDE są bardzo trudne do rozwiązania. I tutaj znaczenie rozwiązania najlepiej chyba ilustruje przykład. Załóżmy, że próbujesz symulować turbulencje powietrza, aby przetestować nowy projekt samolotu. Istnieje znany PDE o nazwie Navier-Stokes, który służy do opisywania ruchu dowolnego płynu. Rozwiązanie Navier-Stokesa umożliwia zrobienie zdjęcia ruchu powietrza (czyli warunków wiatrowych) w dowolnym momencie i modelowanie, jak będzie się ono nadal poruszać lub jak poruszało się wcześniej.



Obliczenia te są bardzo złożone i intensywne obliczeniowo, dlatego dyscypliny korzystające z wielu PDE często polegają na superkomputerach do wykonywania obliczeń. Właśnie dlatego dziedzina sztucznej inteligencji zainteresowała się tymi równaniami. Gdybyśmy mogli wykorzystać głębokie uczenie do przyspieszenia procesu ich rozwiązywania, przyniosłoby to wiele dobrego dla badań naukowych i inżynierii.

Teraz naukowcy z Caltech wprowadzili nowa technika głębokiego uczenia do rozwiązywania PDE, który jest znacznie dokładniejszy niż metody uczenia głębokiego opracowane wcześniej. Jest również znacznie bardziej uogólniony, zdolny do rozwiązywania całych rodzin PDE — takich jak równanie Naviera-Stokesa dla dowolnego rodzaju płynu — bez konieczności ponownego szkolenia. Wreszcie jest 1000 razy szybszy niż tradycyjne formuły matematyczne, co ułatwiłoby nam poleganie na superkomputerach i zwiększyłoby naszą zdolność obliczeniową do modelowania jeszcze większych problemów. Zgadza się. Przynieś to.

Czas młota

Zanim zagłębimy się w to, jak naukowcy to zrobili, najpierw doceńmy wyniki. Na poniższym gifie możesz zobaczyć imponującą demonstrację. Pierwsza kolumna pokazuje dwie migawki ruchu płynu; druga pokazuje, jak płyn nadal się poruszał w prawdziwym życiu; a trzeci pokazuje, jak sieć neuronowa przewidziała ruch płynu. Wygląda w zasadzie identycznie jak druga.



Gazeta dostała dużo szumu na Twitterze, i nawet krzyk rapera MC Hammer . Tak naprawdę.

Dobra, wróćmy do tego, jak to zrobili.



Gdy funkcja pasuje

Pierwszą rzeczą, którą należy tutaj zrozumieć, jest to, że sieci neuronowe są zasadniczo aproksymatorami funkcji. (Powiedz co?) Kiedy uczą się na zestawie danych sparowanych danych wejściowych i wyjściowych, w rzeczywistości obliczają funkcję lub serię operacji matematycznych, które przetransponują jedno na drugie. Pomyśl o zbudowaniu wykrywacza kotów. Trenujesz sieć neuronową, karmiąc ją wieloma obrazami kotów i rzeczy, które nie są kotami (wejścia) i oznaczając każdą grupę odpowiednio 1 lub 0 (wyjścia). Następnie sieć neuronowa szuka najlepszej funkcji, która może przekonwertować każdy obraz kota na 1, a każdy obraz wszystkiego innego na 0. W ten sposób może spojrzeć na nowy obraz i powiedzieć, czy to kot. Wykorzystuje znalezioną funkcję do obliczenia odpowiedzi — a jeśli jego trening był dobry, przez większość czasu da sobie radę.

Dogodnie ten proces aproksymacji funkcji jest tym, czego potrzebujemy do rozwiązania PDE. Ostatecznie próbujemy znaleźć funkcję, która najlepiej opisuje, powiedzmy, ruch cząstek powietrza w fizycznej przestrzeni i czasie.

Oto sedno papieru. Sieci neuronowe są zwykle szkolone do przybliżania funkcji między wejściami i wyjściami zdefiniowanymi w przestrzeni euklidesowej, twoim klasycznym wykresie z osiami x, y i z. Jednak tym razem naukowcy postanowili zdefiniować wejścia i wyjścia w przestrzeni Fouriera, która jest specjalnym rodzajem wykresu do wykreślania częstotliwości fal. Intuicja, którą czerpali z pracy w innych dziedzinach, polega na tym, że coś takiego jak ruch powietrza można w rzeczywistości opisać jako kombinację częstotliwości fal, mówi Anima Anandkumar, profesor Caltech, która nadzorowała badania wraz ze swoimi kolegami, profesorami Andrew Stuartem i Kaushik. Bhattacharya. Ogólny kierunek wiatru na poziomie makro jest jak niska częstotliwość z bardzo długimi, letargicznymi falami, podczas gdy małe wiry, które tworzą się na poziomie mikro, są jak wysokie częstotliwości z bardzo krótkimi i szybkimi.



Dlaczego to ma znaczenie? Ponieważ o wiele łatwiej jest przybliżyć funkcję Fouriera w przestrzeni Fouriera niż kłócić się z PDE w przestrzeni euklidesowej, co znacznie upraszcza pracę sieci neuronowej. Wskaż znaczny wzrost dokładności i wydajności: oprócz ogromnej przewagi szybkości nad tradycyjnymi metodami, ich technika zapewnia o 30% niższy wskaźnik błędów podczas rozwiązywania Navier-Stokesa niż poprzednie metody uczenia głębokiego.

Całość jest niezwykle sprytna, a także sprawia, że ​​metoda jest bardziej uogólniona. Wcześniejsze metody głębokiego uczenia musiały być szkolone osobno dla każdego rodzaju płynu, podczas gdy ten trzeba było trenować tylko raz, aby obsłużyć je wszystkie, co potwierdzają eksperymenty naukowców. Chociaż nie próbowali jeszcze rozszerzyć tego na inne przykłady, powinien również być w stanie poradzić sobie z każdym składem Ziemi podczas rozwiązywania PDE związanych z aktywnością sejsmiczną lub każdym rodzajem materiału podczas rozwiązywania PDE związanych z przewodnością cieplną.

Supersymulacja

Profesorowie i ich doktoranci nie prowadzili tych badań tylko dla teoretycznej zabawy. Chcą wprowadzić sztuczną inteligencję do większej liczby dyscyplin naukowych. To dzięki rozmowie z różnymi współpracownikami w dziedzinie klimatologii, sejsmologii i materiałoznawstwa Anandkumar po raz pierwszy postanowiła stawić czoła wyzwaniu PDE ze swoimi kolegami i studentami. Obecnie pracują nad wprowadzeniem swojej metody w życie wraz z innymi badaczami z Caltech i Lawrence Berkeley National Laboratory.

Jeden z tematów badawczych, który Anandkumar jest szczególnie podekscytowany: zmiany klimatyczne. Navier-Stokes jest nie tylko dobry w modelowaniu turbulencji powietrza; służy również do modelowania wzorców pogodowych. Mówi, że posiadanie dobrych, precyzyjnych prognoz pogody w skali globalnej jest tak trudnym problemem, że nawet w przypadku największych superkomputerów nie możemy dziś zrobić tego na skalę globalną. Jeśli więc możemy użyć tych metod do przyspieszenia całego rurociągu, będzie to miało ogromny wpływ.

Jest też wiele, wiele więcej zastosowań – dodaje. W tym sensie niebo jest granicą, ponieważ mamy ogólny sposób na przyspieszenie wszystkich tych aplikacji.

ukryć