Dlaczego sztuczna inteligencja Google może pisać piękne piosenki, ale nadal nie może opowiedzieć dowcipu

Jeremy Portje

Tworzenie makaronowych melodii fortepianowych i niekończących się konfiguracji rysunków kotów za pomocą AI może nie brzmieć jak oczywisty projekt dla Google, ale dla Douglasa Ecka ma to duży sens.

Eck spędził około 15 lat na badaniu sztucznej inteligencji i muzyki, a obecnie jest naukowcem w zespole Google Brain, prowadzącym Magenta — projekt badawczy Google o otwartym kodzie źródłowym, którego celem jest tworzenie sztuki i muzyki za pomocą uczenia maszynowego.

Przemówił do Przegląd technologii MIT o tym, jak Google produkuje nowe dźwięki za pomocą głębokich sieci neuronowych, gdzie Magenta bierze muzykę AI i dlaczego komputery są beznadziejne w opowiadaniu dowcipów.

Poniżej zredagowany fragment wywiadu. Premia Przegląd technologii MIT abonenci mogą wysłuchać pełnego wywiadu.

Wykorzystywanie sztucznej inteligencji do tworzenia sztuki nie jest niczym nowym, więc co jest wyjątkowego w podejściu Google?

Badamy ten bardzo specyficzny kierunek związany z głębokimi sieciami neuronowymi i powtarzalnymi sieciami neuronowymi oraz innymi rodzajami uczenia maszynowego. Staramy się również bardzo mocno zaangażować zarówno społeczność artystyczną, jak i kreatywnych programistów oraz programistów open source, więc stworzyliśmy projekt open source.

Wiele Magenta skupia się na muzyce. Dlaczego sztuczna inteligencja jest dobra do tworzenia i ulepszania muzyki?

Szczerze mówiąc, to tylko moje uprzedzenie. Cała moja kariera naukowa dotyczyła muzyki i dźwięku. Myślę, że zakres Magenta zawsze dotyczył sztuki w ogóle, opowiadania historii, muzyki, narracji, obrazowania i próby zrozumienia, jak wykorzystać sztuczną inteligencję jako narzędzie twórcze. Ale od czegoś trzeba zacząć. I myślę, że jeśli zrobisz poważny postęp w czymś tak skomplikowanym jak muzyka i tak ważnym dla nas jak muzyka, to mam nadzieję, że część z tego przeniesie się również na inne dziedziny.

Czy możemy posłuchać muzyki stworzonej za pomocą Magenta?

Ten jest jakaś muzyka z modelu o nazwie Wydajność RNN .

Posłuchaj i po prostu zwróć uwagę na teksturę i wszystko, co tam jest. Jest to rodzaj kompozycji muzycznej, ale jest to jednocześnie wykonanie muzyczne, ponieważ model nie tylko generuje ćwierćnuty – to decyduje o tym, jak szybko zostaną zagrane, jak głośno będą grane, i w rzeczywistości odtwarza to, na czym go szkolono, czyli kilka występów na fortepianie wykonanych w ramach konkursu pianistycznego.

Jak pokazuje ten utwór, muzyka stworzona do tej pory z Magentą jest zasadniczo improwizacją. Czy AI można wykorzystać do stworzenia spójnego utworu muzycznego o strukturze?

Pracujemy nad tym. Tak więc jednym z głównych przyszłych kierunków badań dla nas i, szczerze mówiąc, dla całej dziedziny modeli generatywnych – mam tu na myśli modele uczenia maszynowego, które mogą próbować wygenerować coś nowego – jest struktura uczenia się. I to widać w muzyce tutaj. Słyszysz, że nie ma nadrzędnego modelu, który decydowałby o tym, gdzie powinny iść.

Gdybyśmy chcieli nadać mu zmiany akordów, nawet symbole akordów, i nauczyć się kontekstowo, jak korzystać z tych zmian akordów, moglibyśmy to zrobić. Moglibyśmy nawet mieć osobny model, który generuje zmiany akordów. Naszym celem jest opracowanie tego kompleksowego modelu, który samodzielnie określa wszystkie te poziomy struktury.

Opowiedz mi o Szkic-RNN , czyli niedawny eksperyment z magenta, który pozwala rysować z rekurencyjną siecią neuronową — w zasadzie zaczynasz rysować ananasa, a następnie Sketch-RNN przejmuje go i uzupełnia go w kółko, w wielu różnych stylach.

Udało nam się wykorzystać kilka rysunków wykonanych przez ludzi grających w Pictionary przeciwko algorytmowi uczenia maszynowego — to były [dane z innego eksperymentu rysunkowego Google AI wykonanego przez Google Creative Lab] Szybkie losowanie!

Dane są ograniczone. Z tych malutkich, 20-sekundowych rysunków można tylko tyle wydobyć. Ale myślę, że praca wykonana przez głównego badacza [Sketch-RNN], Davida Ha, była naprawdę piękna. Zasadniczo wyszkolił powtarzalną sieć neuronową, aby nauczyć się odtwarzać te rysunki. W pewnym sensie zmusił modela, aby dowiedział się, co jest ważne. Model nie był wystarczająco mocny, aby zapamiętać cały rysunek. Ponieważ nie może zapamiętać wszystkich uderzeń, które widzi, jego zadaniem jest po prostu reprodukcja wielu kotów lub cokolwiek innego, jest zmuszona dowiedzieć się, co jest ważne w kotach — jakie są wspólne aspekty rysunków kotów na milionach rysunków kotów? I tak, bawiąc się tym modelem, możesz poprosić go o wygenerowanie nowych kotów z powietrza. Generuje naprawdę ciekawie wyglądające koty, które wyglądają, jak sądzę, niesamowicie podobnie jak ludzie rysowali koty.

Przepływ Tensora

Czytałem, że pracujesz z Magentą, aby uczyć komputery opowiadać dowcipy. Jakie żarty generują komputery? (To nie była pierwsza linijka żartu).

Projekt był bardzo wstępny, bardzo odkrywczy, zadający pytanie: czy możemy zrozumieć ten element opowiadania dowcipów, który dotyczy zaskoczenia? Zwłaszcza dowcipy i kalambury związane z puentą, jest wyraźnie punkt, w którym wszystko idzie normalnie, myślę, że wiem, o co chodzi z tym zdaniem, a potem bum! Prawidłowy? A także myślę, intuicyjnie, że w puncie jest geometria. To zaskakujące, jeśli budynek zawali się na twoją głowę; [puenta nie jest] tego rodzaju niespodzianką. To jest jak, och, dobrze, rozumiem! Wiesz, że? I to poczucie, że to rozumiem, jest, jak sądzę, rodzajem cofania się, do którego jesteś zmuszony, aby to osiągnąć. Przyjrzeliśmy się więc szczególnym rodzajom modeli uczenia maszynowego, które mogą generować te rzeczy zwane wektorami prawdy, które próbują zrozumieć, co dzieje się semantycznie w zdaniu, a następnie czy możemy aktywnie nimi manipulować, aby uzyskać inny efekt?

A rodzaj żartu, o którym słyszeliśmy, był… Czarodziejka była tak wściekła, że ​​wyciągnęła zająca. A kalambur z zającem, włosami i królikiem – rozumiesz, prawda?

Tak. Ale musisz dużo wiedzieć o słowach i języku, żeby to zrozumieć.

Tak, musisz dużo wiedzieć. Ten model nie tylko nie opowiadał żadnych dowcipów, zabawnych czy nie, ale tak naprawdę nie udało nam się uzyskać zbieżności kodu.

Na czym właśnie teraz próbujesz rozgryźć Magenta?

Próbując lepiej zrozumieć długoterminową strukturę muzyki, a także próbując rozwinąć inne interesujące pytanie, które brzmi: czy możemy uczyć się na informacjach zwrotnych nie od artysty, ale od publiczności?

To spojrzenie na proces artystyczny jako rodzaj iteracji. The Beatles mieli 12 albumów i każdy z nich był inny. I wszyscy pokazali, że ci muzycy uczą się na informacjach zwrotnych, które otrzymują od rówieśników i od tłumów, ale także na innych rzeczach, które dzieją się z innymi artystami. Są naprawdę związani z kulturą. Artyści nie są statyczni.

I ten bardzo prosty pomysł: czy możesz mieć kogoś, kto zrobi coś z generatywnym modelem, wypuszcza to, a potem wykorzystuje fakt, że otrzymuje informację zwrotną? Och, to było dobre, to było złe. Ta informacja zwrotna, którą otrzymujemy, artysta może się z tego uczyć w jeden sposób, ale może model uczenia maszynowego również może się z tego nauczyć i powiedzieć: Och, rozumiem, tutaj są wszyscy ludzie i oto, co myślą o tym, co robię i mam te parametry. Możemy ustawić te parametry na podstawie informacji zwrotnej, używając uczenia się przez wzmacnianie, i nad tym też pracujemy.

Kiedy słucham muzyki stworzonej za pomocą Magenta, zastanawiam się: jeśli używasz danych do trenowania sztucznej inteligencji, czy sztuczna inteligencja może stworzyć coś naprawdę oryginalnego, czy będzie po prostu pochodną tego, na czym była szkolona, ​​niezależnie od tego, czy są to utwory Madonny, czy obrazy impresjonistyczne, czy jedno i drugie?

Myślę, że to zależy od tego, co rozumiemy przez oryginał. Myślę, że jest mało prawdopodobne, aby pojawił się algorytm uczenia maszynowego i wygenerował nowy, transformujący sposób robienia sztuki. Myślę, że osoba pracująca z tą technologią mogłaby to zrobić. I myślę, że jesteśmy po prostu tacy, tacy, tak daleko od tej sztucznej inteligencji, która ma poczucie, jak naprawdę wygląda świat. Jakby tak było, tak daleko. Jednocześnie uważam, że wiele dzieł sztuki jest oryginalnych w innym sensie. Na przykład, robię jeszcze jedną fajną piosenkę EDM z kroplą we właściwym miejscu, do której fajnie się tańczy i jest nowa, ale może nie tworzy zupełnie nowego gatunku. A myślę, że ten rodzaj kreatywności i tak jest naprawdę interesujący. Ogólnie rzecz biorąc, większość tego, co robimy, to siedzieć w gatunku, który w pewnym sensie rozumiemy, i próbujemy nowych rzeczy, i tego rodzaju kreatywności myślę, że sztuczna inteligencja, którą mamy teraz, może odegrać ogromną rolę. zbiór danych, prawda? To miesza.

ukryć