211service.com
Ta sztuczna inteligencja umożliwia głębokie fałszowanie głosu, aby mówić jak Barack Obama
Pani Tech | Obrazy Getty
Poznaj moje alter ego, Katie:
Akcent, emocje i intonacja są moje. Ale jakoś teraz brzmię jak młoda kobieta o wysokim głosie.
Moja skórka kobiecego głosu została stworzona przez Modulate.ai , firma z siedzibą w Cambridge w stanie Massachusetts. Firma wykorzystuje uczenie maszynowe do kopiowania, modelowania i manipulowania właściwościami głosu w nowy, potężny sposób.
Technologia wykracza daleko poza proste filtry głosowe, dzięki którym możesz brzmieć jak Kylo Ren. Korzystając z tego podejścia, można w czasie rzeczywistym przyjąć dowolny wiek, płeć lub tonację. Albo przejąć głos celebryty. Jeśli zechcę, mogę przeprowadzić długą rozmowę telefoniczną w przebraniu Katie.
Odwiedziłem centralę Modulate, aby usłyszeć o technologii i ambicjach firmy oraz omówić etyczne implikacje korzystania ze sztucznej inteligencji do kopiowania czyjegoś głosu. W dźwiękoszczelnej kabinie wypróbowałem kilka skórek głosowych firmy.
Oto mój prawdziwy głos:
A tutaj jest karmiony przez inną personę:
I zmienianie się między dwiema postaciami w czasie rzeczywistym.
Technologia modelowania głosu nie jest idealna; każdy nowy głos jest trochę gadatliwy. Ale jest wyjątkowo dobry i poprawia się, czerpiąc z większej ilości danych głosowych. Pokazuje też, jak postępy w uczeniu maszynowym szybko zaczynają zmieniać cyfrową rzeczywistość. Modulate wykorzystuje generatywne sieci kontradyktoryjne (GAN) do przechwytywania i modelowania właściwości audio sygnału głosowego. Sieci GAN przeciwstawiają sobie dwie sieci neuronowe w walce o przekonujące przechwycenie i odtworzenie właściwości zbioru danych (patrz The GANfather ).
Uczenie maszynowe umożliwiło zamianę twarzy dwojga ludzi na wideo za pomocą oprogramowania, które można pobrać bezpłatnie z Internetu (zobacz ponownie Fake America świetnie ). Badacze AI używają GAN i innych technik do manipulowania scenami wizualnymi, a nawet do całkowitego wyczarowania fałszywe twarze .
Modulate ma na swojej stronie demonstracyjną skórkę głosu Baracka Obamy, a współzałożyciel i dyrektor generalny Mike Pappas powiedział, że byłoby możliwe wygenerowanie takiego głosu dla każdego, mając wystarczającą ilość danych szkoleniowych. Dodaje jednak, że firma nie udostępni skórki głosu celebryty bez zgody właściciela. Twierdzi również, że oszustwo nie jest głównym celem.
To nie jest technologia stworzona do naśladowania ludzi, mówi Pappas. Został stworzony, aby dać Ci nowe możliwości.
Modulate jest skierowany do gier online, takich jak Fornite czy Call of Duty, w których gracze mogą rozmawiać z nieznajomymi przez mikrofon. Może to poprawić rozgrywkę, ale może również otworzyć drzwi do nadużyć i nękania.
Kiedy chcemy wchodzić w interakcje online i mieć naprawdę głębokie doświadczenia, głosy są kluczowe, mówi Pappas. Ale niektórzy ludzie nie chcą tak naprawdę wypowiadać się. W niektórych przypadkach może po prostu chcę pozostać anonimowy. W innych przypadkach obawiam się, że ujawnię swój wiek lub płeć i będę nękany.
Mydło Karola Profesor na Uniwersytecie Nowojorskim, który bada rozprzestrzenianie się dezinformacji, mówi, że technologia wydaje się znacznie bardziej zaawansowana niż inne technologie modyfikacji głosu. Mówi, że sposób, w jaki sztuczna inteligencja może teraz manipulować obrazem i dźwiękiem, może zasadniczo zmienić media. Musimy zacząć myśleć o tym, co składa się na rzeczywistość – mówi.
„Do tej pory jakość technologii konwersji głosu była niska, dzięki czemu można łatwo odróżnić przekonwertowany głos” – dodaje Tuomas Virtanen , ekspert w dziedzinie syntezy i manipulacji głosu na Uniwersytecie w Tampere w Finlandii. „Ale mogę sobie wyobrazić, że w niedalekiej przyszłości jakość będzie na tyle dobra, że nie będzie można łatwo wykryć konwersji”.
Modulate zdaje sobie sprawę, że jego technologia może być niewłaściwie wykorzystana. Firma twierdzi, że będzie starać się o zapewnienie, że każdy klient kopiujący czyjś głos ma zgodę tej osoby. Opracowała również technologię znakowania wodnego dźwięku, która może być wykorzystana do wykrywania skopiowanego głosu. Może to na przykład wygenerować ostrzeżenie, jeśli ktoś używa fałszywego głosu podczas połączenia.
„Wbudowaliśmy w naszą firmę zabezpieczenia etyczne od podstaw”, mówi współzałożyciel i dyrektor ds. technologii, Carter Huffman, „od sposobu dystrybucji naszej technologii, przez wybór oferowanych skórek głosowych, po znak wodny naszego dźwięku w celu wykrywania systemy.
Modulate może być w stanie ograniczyć niewłaściwe wykorzystanie własnej technologii, ale możliwe jest, że inni opracują podobną technologię niezależnie i udostępnią ją ludziom do niewłaściwego użytkowania. Pytanie brzmi, jak szeroko może to być nadużywane i jak rozsądna będzie opinia publiczna?
Pappas jest optymistą, że potencjał fałszerstwa AI jest często przesadny. To zdecydowanie coś, w czym chcesz być tego świadomy, ale nie jest to coś, w którym kruszą się same aspekty społeczeństwa, mówi. Mamy do tego narzędzia.