Laboratorium sztucznej inteligencji Baidu prezentuje syntetyczny system mowy

W walce o zastosowanie technik uczenia głębokiego w prawdziwym świecie jedna firma stoi o krok od konkurencji. Filia Google DeepMind wykorzystała tę technikę do stworzenia maszyn, które mogą pokonać ludzi w grach wideo i starożytnej grze Go. W zeszłym roku usługi Tłumacza Google uległy znacznej poprawie dzięki zakulisowemu wprowadzeniu technik głębokiego uczenia.

Ciekawe więc, jak inne firmy ścigają się, aby nadrobić zaległości. Dziś przyszła kolej na Baidu, wyszukiwarkę internetową, którą czasami określa się mianem chińskiego odpowiednika Google. W 2013 roku Baidu otworzył laboratorium badawcze sztucznej inteligencji w Dolinie Krzemowej, stawiając interesujące pytanie: o co chodzi?

Teraz laboratorium sztucznej inteligencji Baidu ujawniło swoje prace nad syntezą mowy. Jednym z wyzwań związanych z syntezą mowy jest zmniejszenie ilości dostrajania, które odbywa się za kulisami. Wielkim przełomem w Baidu jest stworzenie maszyny do głębokiego uczenia się, która w dużej mierze eliminuje tego rodzaju wtrącanie się. W rezultacie powstał system zamiany tekstu na mowę o nazwie Deep Voice, który może nauczyć się mówić w ciągu zaledwie kilku godzin bez ingerencji człowieka.

Najpierw trochę tła. Systemy przetwarzania tekstu na mowę są znane we współczesnym świecie w aplikacjach nawigacyjnych, mówiących zegarach, systemach odbierania telefonów i tak dalej. Tradycyjnie były one tworzone przez rejestrowanie dużej bazy danych wypowiedzi jednej osoby, a następnie ponowne łączenie wypowiedzi w celu utworzenia nowych fraz.

Problem z tymi systemami polega na tym, że trudno jest przestawić się na nowego mówcę lub zmienić akcent w jego słowach bez zapisania zupełnie nowej bazy danych. Dlatego informatycy pracują nad innym podejściem. Ich celem jest synteza mowy w czasie rzeczywistym od podstaw, tak jak jest to wymagane.

W zeszłym roku DeepMind firmy Google dokonał znaczącego przełomu w tej dziedzinie. Ujawniono sieć neuronową, która uczy się mówić, słuchając fal dźwiękowych z prawdziwej mowy, porównując je z transkrypcją tekstu. Po przeszkoleniu potrafił wytwarzać mowę syntetyczną na podstawie podanego tekstu. Google DeepMind nazwał swój system WaveNet.

Praca Baidu jest ulepszeniem WaveNet, która wciąż wymaga pewnego dopracowania podczas procesu szkoleniowego. WaveNet jest również wymagający pod względem obliczeniowym, do tego stopnia, że ​​nie jest jasne, czy kiedykolwiek można by go użyć do syntezy mowy w czasie rzeczywistym w rzeczywistym świecie.

Baidu twierdzi, że przezwyciężył te problemy. Jego podejście jest stosunkowo proste. Wykorzystuje techniki głębokiego uczenia się, aby konwertować tekst na najmniejsze percepcyjnie odrębne jednostki dźwięku, zwane zjawiskami. Następnie wykorzystuje sieć syntezy mowy do odtwarzania tych dźwięków. Kluczowa różnica polega na tym, że na każdym etapie procesu działa głębokie uczenie się, więc po przeszkoleniu nie ma potrzeby dostrajania przez człowieka.

Weźmy na przykład słowo cześć. System Baidu musi najpierw wypracować granice zjawisk w następujący sposób: (cisza HH), (HH, EH), (WH, L), (L, SZ), (SZ, cisza). Następnie wprowadza je do systemu syntezy mowy, który wypowiada słowo.

Jedynymi zmiennymi, których nowy system nie kontroluje, są naciski na fonemy, czas ich trwania i naturalna częstotliwość dźwięku. Pozwala to Baidu na zmianę głosu mówiącego i emocji, które przekazuje słowo.

Wszystko to jest wymagające obliczeniowo. Częstotliwość próbkowania realistycznej mowy mieści się w zakresie 48 kHz. Tak więc komputer ma około 20 mikrosekund na wygenerowanie każdej próbki. Ponieważ proces tworzenia tego dźwięku składa się z kilku warstw, każda z nich musi wykonać swoje zadanie w 1,5 mikrosekundy. Aby umieścić to w kontekście, dostęp do wartości znajdującej się w pamięci głównej procesora może zająć 0,1 mikrosekundy.

Aby przeprowadzić wnioskowanie w czasie rzeczywistym, musimy bardzo uważać, aby nigdy nie przeliczać żadnych wyników, przechowywać cały model w pamięci podręcznej procesora (w przeciwieństwie do pamięci głównej) i optymalnie wykorzystywać dostępne jednostki obliczeniowe, twierdzą naukowcy Baidu.

Niemniej jednak twierdzą, że w ich systemie możliwa jest synteza mowy w czasie rzeczywistym i przetestowali ją, korzystając z metody crowdsourcingowej postrzegania jej na platformie Mechanical Turk firmy Amazon. Wiązało się to z poproszeniem dużej liczby słuchaczy o ocenę jakości dźwięku, porównując go z danymi podstawowymi w postaci oryginalnego nagrania ludzkiego.

Baidu twierdzi, że wyniki są wysokiej jakości. Optymalizujemy wnioskowanie do prędkości szybszych niż w czasie rzeczywistym, pokazując, że te techniki można zastosować do generowania dźwięku w czasie rzeczywistym w sposób strumieniowy.

Ale jeszcze ważniejsza jest użyteczność systemu, który można szybko przeszkolić na zupełnie nowych zestawach danych. Nasz system można wyszkolić bez udziału człowieka, co znacznie upraszcza proces tworzenia systemów zamiany tekstu na mowę, mówi zespół.

To interesująca praca, która opiera się na wysiłkach Google, aby znacznie ulepszyć systemy zamiany tekstu na mowę. To ważne, ponieważ marzeniem pisarzy science fiction sprzed dziesięcioleci jest możliwość rozmawiania z komputerami w czasie rzeczywistym i odpowiadania na nie. Ważną częścią tego jest zamiana tekstu na mowę.

Oczywiście jest mało prawdopodobne, aby DeepMind firmy Google (lub ktokolwiek inny w świecie głębokiego uczenia się) siedział nieruchomo, podczas gdy Baidu udoskonala swój system mowy syntetycznej. Z pewnością będzie tylko kwestią czasu, zanim zobaczymy, co oni kombinowali i jak to wygląda w porównaniu.

Nr ref.: arxiv.org/abs/1702.07825 : Deep Voice: neuronowa zamiana tekstu na mowę w czasie rzeczywistym

ukryć