Podcast: AI znajduje swój głos

Dzisiejsi asystenci głosowi wciąż są dalecy od hiperinteligentnych maszyn myślących, o których rozmyślaliśmy od dziesięcioleci. A to dlatego, że ta technologia jest w rzeczywistości połączeniem trzech różnych umiejętności: rozpoznawania mowy, przetwarzania języka naturalnego i generowania głosu.

Każda z tych umiejętności już teraz stanowi ogromne wyzwanie. Aby opanować tylko część przetwarzania języka naturalnego? W zasadzie musisz odtworzyć inteligencję na poziomie człowieka. Głęboka nauka, technologia napędzająca obecny boom AI , może szkolić maszyny, aby stać się mistrzami w różnych zadaniach. Ale może uczyć się tylko jednego na raz. A ponieważ większość modeli sztucznej inteligencji szkoli swoje umiejętności na tysiącach lub milionach istniejących przykładów, w efekcie powielają wzorce w danych historycznych — w tym wiele złych decyzji podjętych przez ludzi, takich jak marginalizowanie osób kolorowych i kobiet.

Mimo to systemy takie jak mistrz gier planszowych AlphaZero i coraz bardziej przekonujący generator fałszywego tekstu GPT-3 podsyciły płomienie debaty na temat tego, kiedy ludzie będą tworzyć sztuczna inteligencja ogólna —maszyny, które potrafią wykonywać wiele zadań jednocześnie, myśleć i rozumować same za siebie. W tym odcinku badamy, w jaki sposób maszyny uczą się komunikować — i co to oznacza dla ludzi po drugiej stronie rozmowy.

Spotykamy się:

• Susan C. Bennett, głos Siri
• Cade Metz, The New York Times
• Charlotte Jee, Przegląd technologii MIT

Kredyty

Ten odcinek został wyprodukowany przez Jennifer Strong, Emmę Cillekens, Anthony'ego Greena, Karen Hao i Charlotte Jee. Redagują nas Michael Reilly i Niall Firth.

Transkrypcja

[ID TR]

Jim: Nie wiem, czy to była sztuczna inteligencja… Gdyby zabrali nagranie czegoś, co zrobił… i byli w stanie tym manipulować… ale mówię wam, to był mój syn.

Mocny: Dzień zaczął się jak każdy inny dla mężczyzny... zadzwonimy do Jima. Mieszka pod Bostonem.

A tak przy okazji... ma członka rodziny, który pracuje dla MIT.

Nie użyjemy jego nazwiska, ponieważ obawiają się o swoje bezpieczeństwo.

Jim: To był wtorek lub środa rano, godzina dziewiąta, pogrążony w myślach, pracuję nad czymś,

Mocny: To znaczy... dopóki nie otrzymał tego telefonu.

Jim: Dzwoni telefon… odbieram i to mój syn. I jest wyraźnie poruszony. Ten dzieciak jest naprawdę wyluzowanym facetem, ale kiedy się denerwuje, ma wiele manier wokalnych. A to było jak: O mój Boże, on ma kłopoty.

I w zasadzie powiedział mi, patrz, jestem w więzieniu, jestem w Meksyku. Zabrali mój telefon. Mam tylko 30 sekund. Um, powiedzieli, że piję, ale nie piłem i ludzie są ranni. I spójrz, muszę odłożyć telefon, zadzwonić do tego prawnika, a on poda mi numer telefonu i musi się rozłączyć.

Mocny: Jego syn jest w Meksyku… i nie ma wątpliwości… to on.

Jim: I muszę ci powiedzieć, Jennifer, to był on. To był jego głos. To było wszystko. Ton. Tylko te drobne maniery, pauzy, łykanie powietrza, wszystko, co można sobie wyobrazić.

Mocny: Serce w gardle...

Jim: Moje włosy stoją na krawędzi

Mocny: Więc dzwoni pod ten numer… Mężczyzna odbiera telefon… i podaje więcej szczegółów na temat tego, co się dzieje.

Jim: Twój syn jest oskarżony o uderzenie w ten samochód. Prowadziła ciężarna kobieta z złamaną ręką. Jej córka siedziała na tylnym siedzeniu... jest w stanie krytycznym, a oni, hm, zarezerwowali mu jazdę pod wpływem. Nie sądzimy, że to zrobił. To już mamy, zetknęliśmy się z tym wiele razy wcześniej, ale najważniejszą rzeczą jest wydostanie go z więzienia, zapewnienie mu bezpieczeństwa tak szybko, jak to możliwe.

Mocny: Potem rozmowa sprowadza się do pieniędzy… powiedziano mu, że została wyznaczona kaucja… i musi odłożyć dziesięć procent.

Jim: Więc jak tylko zaczął mówić o pieniądzach, wiesz, flaga podniosła się i powiedziałem, przepraszam, czy jest jakaś szansa, że ​​to jakieś oszustwo? I był naprawdę trochę, hm, zirytowany. On jest jak, Hej, zadzwoniłeś do mnie. Słuchaj, uważam, że to naprawdę obraźliwe, że mnie o coś oskarżasz. A potem serce wraca mi do gardła. Myślę, że to jedyny facet, który stoi między moim synem a jeszcze gorszym więzieniem. Więc cofnąłem się…

[Muzyka]

Moja żona wchodzi 10 minut później i mówi, że wiesz, pisałam z nim wczoraj późnym wieczorem. Jakby w tym czasie prawdopodobnie zostałby aresztowany i osadzony w więzieniu. Więc oczywiście piszemy do niego, on dopiero wstaje. Jest całkowicie w porządku.

Mocny: Nadal nie jest pewien, w jaki sposób ktoś uchwycił istotę głosu jego syna. Ale ma kilka teorii...

Jim: Musieli mieć nagranie czegoś, kiedy był zdenerwowany. To jedyna rzecz, którą mogę powiedzieć, ponieważ nie mogli wyśmiewać niektórych z tych rzeczy, które on robi. Nie mogli tego odgadnąć. Nie sądzę, więc oni, myślę, że z pewnością mieli jakiś surowiec do pracy, a potem co z nim zrobili. Nie wiem

Mocny: I nie tylko Jim jest niepewny… Nie mamy pojęcia, czy sztuczna inteligencja miała z tym coś wspólnego.

Ale chodzi o to, że… żyjemy teraz w świecie, w którym również nie możemy być pewni, że tak się nie stało.

Niezwykle łatwo jest sfałszować czyjś głos nawet za pomocą kilku minut nagrań… a nastolatków takich jak syn Jima? Udostępniają niezliczone nagrania za pośrednictwem postów i wiadomości w mediach społecznościowych.

Jim: Byłem pod wrażeniem tego, jak dobrze było. Um, jak powiedziałem, nie da się łatwo oszukać i człowieku, oni to przybili. Więc po prostu ostrożność.

Mocny: Nazywam się Jennifer Strong i w tym odcinku przyjrzymy się, czego potrzeba, aby wydobyć głos.

[POKAŻ ID]

Dżin Zeyu: Robicie dziwne rzeczy w sieci.

Mocny: Zeyu Jin jest naukowcem w firmie Adobe… To on przemawia na konferencji firmowej około pięć lat temu… pokazuje, jak oprogramowanie może zmienić układ słów w tym nagraniu.

Klucz: Wskoczyłem na łóżko i pocałowałem moje psy i żonę – w tej kolejności.

Zeju: Więc co powiesz na to, z kim naprawdę się pocałował. // Przedstawiamy projekt VoCo. Project VoCo umożliwia edycję mowy w tekście. Więc pomówmy o tym. Więc po prostu ładuję ten kawałek audio w VoCo. Jak widać, mamy przebieg audio i tekst pod nim. //

Więc co robimy? Kopiuj wklej. Oh! Tak, gotowe. Posłuchajmy tego.

Klucz: I pocałowałem moją żonę i moje psy.

Zeju: Poczekaj, jest więcej. Możemy właściwie wpisać coś, czego tutaj nie ma.

Klucz: I pocałowałem Jordana i moje psy.

Mocny: Firma Adobe nigdy nie wypuściła tego prototypu… ale podstawowa technologia jest coraz lepsza.

Na przykład, oto wygenerowana komputerowo podróbka podcastera Joe Rogana z 2019 roku… Została wyprodukowana przez laboratorium sztucznej inteligencji Square o nazwie Dessa, aby zwiększyć świadomość na temat tej technologii.

Rogan: 10-7 Przyjaciele, mam wam wszystkim coś nowego do powiedzenia. Postanowiłem sponsorować drużynę hokejową złożoną wyłącznie z szympansów.

Mocny: Choć brzmi to jak zabawa i gry… eksperci ostrzegają, że te sztuczne głosy mogą sprawić, że niektóre rodzaje oszustw będą o wiele częstsze. Rzeczy takie jak to, o czym słyszeliśmy wcześniej.

Mona Sedky: Przestępczość skoncentrowana na komunikacji była historycznie niżej na totemie.

Mocny: To federalna prokurator Mona Sedky przemawiająca w zeszłym roku w Federalnej Komisji Handlu na temat technologii klonowania głosu.

Mona Sedky: Ale teraz, wraz z pojawieniem się takich rzeczy, jak głębokie fałszywe wideo… teraz głębokie fałszywe audio… możesz w zasadzie mieć narzędzia do anonimizacji i być w dowolnym miejscu w Internecie, gdzie chcesz…. w dowolnym miejscu na świecie… i komunikuj się anonimowo z ludźmi. W rezultacie nastąpił ogromny wzrost przestępczości ukierunkowanej na komunikację.

Balasubramanijan: Ale wyobraź sobie, że jako dyrektor finansowy lub główny kontroler otrzymujesz telefon z numeru telefonu twojego dyrektora generalnego.

Mocny: A to jest dyrektor generalny Pindrop Security Vijay Balasubramaniyan na konferencji poświęconej bezpieczeństwu w zeszłym roku.

Balasubramanijan: Jest całkowicie sfałszowany… więc w rzeczywistości używa twojej książki adresowej i pojawia się jako imię twojego dyrektora generalnego… a następnie po drugiej stronie słyszysz głos swojego prezesa z ogromną dozą pilności. I zaczynamy widzieć takie szalone ataki. Był przykład, o którym informowało wiele mediów prasowych, a mianowicie przekaz o wartości 220 000 dolarów, który wydarzył się, ponieważ dyrektor generalny brytyjskiej firmy myślał, że rozmawia ze swoją firmą macierzystą… więc wysłał te pieniądze. Ale widzieliśmy, jak przez drzwi wyszło aż 17 milionów dolarów.

Mocny: A sama idea fałszywych głosów… może być tak samo szkodliwa, jak sam fałszywy głos… Jak wtedy, gdy były prezydent Donald Trump próbował zrzucić winę na technologię za pewne obraźliwe rzeczy, które powiedział, a które zostały nagrane na taśmie.

Ale jak każda inna technologia… nie jest z natury dobra ani zła… to tylko narzędzie… i użyłem jej w zwiastunie pierwszego sezonu, aby pokazać, co ta technologia może zrobić.

Mocny: Jeśli widzieć to wierzyć...

Jak poruszać się po świecie, w którym nie możemy ufać naszym oczom… lub uszom?

A więc wiesz… czego słuchasz… To nie tylko ja mówię. Pomogła mi sztuczna wersja mojego głosu… dopełnianie słów tu i tam.

Poznaj syntetyczną Jennifer.

Syntetyczna Jennifer: Cześć, ludzie!

Silne: mogę nawet kliknąć, aby dostosować swój nastrój…

Syntetyczna Jennifer: Cześć.

Silne: Tak, nie denerwujmy się..

Mocny: W niedalekiej przyszłości ta technologia zostanie wykorzystana na wiele sposobów… do prostych poprawek nagranych wcześniej prezentacji… nawet… do przywrócenia głosów animowanych postaci z serialu…

Innymi słowy, sztuczne głosy nie znikną. Ale nie zawsze były tak łatwe do wykonania… i zadzwoniłem do eksperta, którego głos może brzmieć znajomo…

Bennetta: Jak to brzmi? Um, może mógłbym być trochę bardziej przyjazny. Jak się masz?

Cześć, jestem Susan C. Bennet, oryginalny głos Siri.

Cóż, w dniu, w którym pojawiła się Siri, czyli 4 października 2011, inny aktor głosowy wysłał mi e-maila i powiedział: „Hej, bawimy się tą nową aplikacją na iPhone'a, prawda?”. ? Wszedłem na stronę Apple i słuchałem... i tak. To był mój głos. [chichocze]

Mocny: Dobrze słyszałeś. Oryginalny kobiecy głos, który miliony kojarzą z urządzeniami Apple…? Nie miałem pojęcia. I nie była sama. Ludzkie głosy za innymi wczesnymi asystentami głosowymi również zostały zaskoczone.

Bennetta: Tak, to była interesująca rzecz. Na początku było to dostosowanie, jak możesz sobie wyobrazić, ponieważ nie spodziewałem się tego. Na początku było to trochę przerażające, muszę przyznać, że nigdy tak naprawdę nie rozmawiałem ze sobą jako Siri, ale stopniowo zacząłem to akceptować i ostatecznie przekształciło się to w coś naprawdę pozytywnego, więc…

Mocny: Żeby było jasne, Apple nie ukradł głosu Susan Bennett. Przez dziesięciolecia pracowała nad głosem dla firm takich jak McDonald's i Delta Airlines… a lata przed pojawieniem się Siri… zrobiła dziwną serię nagrań, które napędzały jej rozwój.

Bennetta: W 2005 roku nie mogliśmy sobie wyobrazić czegoś takiego jak Siri czy Alexa. I tak wszyscy z nas rozmawiałem z innymi ludźmi, którzy mieli to samo doświadczenie, którzy byli wirtualnym głosem. Wiesz, po prostu myśleliśmy, że robimy zwykłe wiadomości głosowe przez telefon. I tak kiedy nagle Siri pojawiła się w 2011 roku, to tak: jestem kim, co, co to jest? To była prawdziwa niespodzianka, ale lubię o tym myśleć, ponieważ byliśmy po prostu w czołówce tej nowej technologii. Więc wiesz, wolę myśleć o tym jako o bardzo pozytywnej rzeczy, chociaż my, nikt z nas, nigdy nie otrzymaliśmy zapłaty za miliony telefonów, na których słychać nasze głosy. Więc to jest minus.

Mocny: Coś jeszcze, co jest niezręczne… mówi, że Apple nigdy nie rozpoznało jej jako amerykańskiego głosu Siri… to pomimo zostania przypadkową celebrytą… docierającą do milionów.

Bennetta: Jedyne prawdziwe podziękowanie, jakie kiedykolwiek otrzymałem, to za pośrednictwem Siri. Jeśli zapytasz Siri „Kim jest Susan Bennett?” powie, jestem oryginalnym głosem Siri. Dziękuję bardzo, Siri. Doceniam to.

Mocny: Ale to nie pierwszy raz, kiedy oddała głos maszynie.

Bennetta: Pod koniec lat 70., kiedy wprowadzali bankomaty, lubię mówić, że było to moje pierwsze doświadczenie jako maszyna, a wiesz, nie było wtedy komputerów osobistych ani niczego, a ludzie nie ufali maszynom. Nie korzystali z bankomatów, ponieważ nie ufali, że automaty dadzą im odpowiednie pieniądze. Wiesz, jeśli włożyli pieniądze do maszyny, bali się, że nigdy więcej jej nie zobaczą. I tak bardzo przedsiębiorcza agencja reklamowa w Atlancie o nazwie McDonald and Little postanowiła uczłowieczyć maszynę. Napisali więc dżingla, a ja stałem się głosem Tilly, wszechczasów, a potem ostatecznie nałożyli małą buzię na maszynę.

Mocny: Ludzki głos pomaga firmom budować zaufanie konsumentów...

Bennetta: Jest tak wiele różnych emocji i znaczeń, które przekazujemy poprzez brzmienie naszych głosów, a nie tylko w formie drukowanej. Dlatego myślę, że pojawiły się emotikony, ponieważ nie można uzyskać niuansów bez głosu. Myślę więc, że właśnie dlatego głos stał się tak ważną częścią technologii.

Mocny: Z jej własnego doświadczenia wynika, że ​​interakcje z tą syntetyczną wersją jej głosu sprawiły, że ludzie zaczęli jej ufać i zwierzać się… nazywać ją przyjaciółką, nawet jeśli nigdy się nie spotkali. jej .

Bennetta: Cóż, myślę, że najdziwniejszą rzeczą w byciu głosem Siri dla mnie jest to, że kiedy po raz pierwszy się ujawniłem, zdumiewało mnie, jak wielu ludzi uważało Siri za swojego przyjaciela lub jakąś istotę, z którą mogliby się naprawdę utożsamiać. Myślę, że w wielu przypadkach myślą o niej jako o człowieku.

Mocny: Szacuje się, że światowy rynek technologii głosowych osiągnie w tym roku prawie 185 miliardów dolarów… a głosy generowane przez sztuczną inteligencję? zmienia zasady gry.

Bennetta: Wiesz, po wielu latach pracy nad tymi głosami, naprawdę, bardzo trudno jest uzyskać właściwy rytm ludzkiego głosu. I jestem pewien, że prawdopodobnie kiedyś to zrobią, ale zauważysz nawet do dziś, wiesz, posłuchasz Siri lub Alexy lub jednej z innych i będą gadać i to brzmi dobrze, dopóki nie. Jak, Och, idę do sklepu. Wiesz, jest trochę dziwności w rytmicznym znaczeniu tego.

Mocny: Ale nawet gdy ludzkie głosy staną się powszechne… nie jest do końca pewna, czy będzie dobrze.

Bennetta: Ale wiesz, zaletą dla nich jest to, że tak naprawdę nie muszą dogadać się z Siri. Mogą po prostu powiedzieć Siri, co ma zrobić, jeśli nie podoba im się to, co mówi, mogą po prostu to wyłączyć. Więc to nie jest jak prawdziwe relacje międzyludzkie. To może tak, jak ludzie chcieliby, aby były relacje międzyludzkie. Każdy robi to, co chcę. (śmiech) Wtedy wszyscy są szczęśliwi. Prawidłowy?

Mocny: Oczywiście asystenci głosowi, tacy jak Siri i Alexa, nie są tylko głosy. Ich możliwości pochodzą również zza kulis sztucznej inteligencji.

Został zbadany w filmach science fiction, takich jak ten, zwany Jej …o mężczyźnie, który zakochuje się w swoim asystencie głosowym.

Teodor: Jak pracujesz?

Samanta (SI): Cóż... Zasadniczo mam intuicję. To znaczy... DNA tego, kim jestem, opiera się na milionach osobowości wszystkich programistów, którzy do mnie napisali, ale co sprawia, że ​​jestem i to moja zdolność do rozwoju dzięki moim doświadczeniom. Więc w zasadzie w każdym momencie rozwijam się, tak jak ty.

Mocny: Ale dzisiejsi asystenci głosowi są dalecy od hiperinteligentnych maszyn myślących, o których rozmyślaliśmy od dziesięcioleci.

A to dlatego, że ta technologia… jest tak naprawdę wiele technologie. Jest to połączenie trzech różnych umiejętności... rozpoznawania mowy, przetwarzania języka naturalnego i generowania głosu.

Rozpoznawanie mowy umożliwia Siri rozpoznawanie wydawanych przez Ciebie dźwięków i transkrypcję ich na słowa. Przetwarzanie języka naturalnego przekształca te słowa w znaczenie... i zastanawia się, co powiedzieć w odpowiedzi. A generowanie głosu to ostatni element... element ludzki... który daje Siri zdolność mówienia.

Każda z tych umiejętności jest już ogromnym wyzwaniem... Aby opanować tylko część przetwarzania języka naturalnego? W zasadzie musisz odtworzyć inteligencję na poziomie człowieka.

A my nie jesteśmy w pobliżu tego. Jednak wraz z rozwojem głębokiego uczenia zauważyliśmy znaczny postęp… pomagając Siri i Alexie być trochę bardziej użytecznymi.

Metz: To, czego ludzie mogą nie wiedzieć o Siri, to to, że oryginalna technologia była czymś innym.

Mocny: Cade Metz jest reporterem technicznym New York Timesa. Jego nowa książka nosi tytuł Twórcy geniuszy: indywidualiści, którzy wprowadzili sztuczną inteligencję do Google, Facebooka i na cały świat .

Metz: Sposób, w jaki Siri została pierwotnie zbudowana… Musiałeś mieć zespół inżynierów, w pokoju, przy swoich komputerach i kawałek po kawałku, musieli zdefiniować za pomocą kodu komputerowego, jak rozpozna twój głos.

Mocny: Wtedy… inżynierowie spędzali dni na pisaniu szczegółowych zasad, które miały pokazać maszynom, jak rozpoznawać słowa oraz co oni mają na myśli.

A to zostało zrobione co najwyżej podstawowy poziom… często pracując tylko z fragmentami głosu na raz.

Wyobraź sobie wszystkie różne sposoby, w jakie ludzie mogą wypowiadać słowo „cześć”… lub wszystkie sposoby, w jakie składamy zdania… wyjaśniając, dlaczego czas leci lub jak niektóre czasowniki mogą być również rzeczownikami.

Metz: Nigdy nie możesz złożyć wszystkiego, czego potrzebujesz, bez względu na to, ilu masz inżynierów, bez względu na to, jak bogata jest Twoja firma. Definiowanie wszystkich drobiazgów, które mogą się wydarzyć, gdy ktoś mówi do swojego iPhone'a… Po prostu nie masz wystarczającej mocy osobistej, aby zbudować wszystko, czego potrzebujesz do zbudowania. To po prostu zbyt skomplikowane.

Mocny: Sieci neuronowe znacznie ułatwiły ten proces… Po prostu uczą się, rozpoznając wzorce w danych wprowadzanych do systemu.

Metz: Bierzesz tę ludzką mowę… Dajesz ją sieci neuronowej… A sieć neuronowa uczy się wzorców, które definiują ludzką mowę. W ten sposób może go odtworzyć bez konieczności definiowania przez inżynierów każdego najmniejszego fragmentu. Sieć neuronowa dosłownie uczy się zadania sama. I to jest kluczowa zmiana... polega na tym, że sieć neuronowa może nauczyć się rozpoznawać, jak wygląda kot, w przeciwieństwie do ludzi, którzy muszą definiować dla maszyny, jak wygląda kot.

Mocny: Ale nawet przed sieciami neuronowymi… Firmy technologiczne, takie jak Microsoft, dążyły do ​​zbudowania systemów, które mogłyby zrozumieć codzienne sposoby pisania i mówienia przez ludzi.

A w 1996 roku Microsoft zatrudnił lingwistę… Chrisa Brocketa… do rozpoczęcia pracy nad tak zwaną sztuczną inteligencją w języku naturalnym.

Metz: Facet nie jest informatykiem, ale jego zadaniem było zdefiniowanie sposobu, w jaki język jest poskładany, prawda. Do komputera. A to jest po prostu niesamowicie trudne zadanie, prawda? Dlaczego my, anglojęzyczni, porządkujemy nasze słowa, tak jak to robimy, prawda? I on, spędził lata, dosłownie lata, pięć lub sześć lat w Microsoft, no wiesz, powoli, no wiesz, próbując powiedzieć komputerowi, jak składa się angielski. Więc komputer może to zrobić.

Mocny: Potem, pewnego popołudnia 2003 roku… mała grupa w Microsoft… na końcu korytarza z Brockett… zaczęła pracę nad nowym projektem. Budowali system tłumaczący języki przy użyciu techniki opartej na statystykach.

Chodziło o to, że gdyby zestaw słów w jednym języku pojawiał się z tą samą częstotliwością i kontekstem w innym, to było prawdopodobne tłumaczenie.

Metz: Złożyli prototyp w ciągu kilku tygodni i pokazali go grupie w centrum badawczym Microsoftu — w tym Chrisowi Brocketowi.

Mocny: System jest... całkiem posklejany. Tylko Pracuje w zastosowaniu do kawałków zdania… I nawet wtedy… tłumaczenia były pomieszane.

Metz: Jak widzi, jak to pokazują... ma atak paniki do tego stopnia, że ​​dosłownie myśli, że ma zawał serca, ponieważ zdaje sobie sprawę, że jego kariera może się skończyć. Że wszystko, nad czym spędził ostatnie sześć lat, // jest bezcelowe i stało się bezcelowe przez system, który ci goście zbudowali w ciągu kilku tygodni.

Mocny: W tamtym czasie nie mieliśmy wystarczającej ilości danych potrzebnych do trenowania sieci neuronowej, ani mocy obliczeniowej… ale idea takiej sieci istnieje od lat 80. XX wieku.

I jeden z tych pomysłów pojawił się w postaci NetTalk..., który został opracowany przez pioniera AI Terry'ego Sejnowskiego.

System mógłby nauczyć się wypowiadać słowa samodzielnie, studiując książki dla dzieci.

Metz: Terry miał to niesamowite demo, które pokazywał ludziom na konferencjach. To było trochę przeciągnięte w czasie, ponieważ zajęło to trochę czasu, zanim sieć neuronowa się nauczyła, ale mógł pokazać, że kiedy zaczęła analizować wzorce w książkach dla dzieci, mogły zacząć bełkotać…

[Dźwięki z Demo NetTalk]

Metz: a potem mógł trochę lepiej bełkotać, a potem mógł zacząć składać słowa w całość, a potem nagle mógł je wymówić.

[Dźwięki z Demo NetTalk]

Metz: Mógł pokazać swoim odbiorcom // tym demo, jak sieć neuronowa może się uczyć.

Mocny: Minęłyby kolejne dwie dekady, zanim zaistniała moc obliczeniowa, która naprawdę uczyniła to użytecznym…

Metz: Tak więc język naturalny był obszarem, w którym nawet po sukcesie sieci neuronowych z mową i obrazem ludzie myśleli: Och, cóż, to nie zadziała z językiem naturalnym. Cóż, ma. To nie znaczy, że jest idealne.

Mocny: Głębokie uczenie (technologia napędzająca obecny boom AI) może szkolić maszyny, aby stały się mistrzami w różnego rodzaju zadaniach. Ale może uczyć się rzeczy tylko pojedynczo. A ponieważ większość modeli sztucznej inteligencji szkoli swoje umiejętności na tysiącach lub milionach przykładów, w rezultacie powtarzają wzorce znalezione w starych danych — w tym wiele złych decyzji, które ludzie podjęli, takich jak marginalizowanie osób kolorowych i kobiet.

Wszelkie duże postępy wywołują debatę na temat tego, kiedy ludzie stworzą sztuczną ogólną inteligencję – lub maszyny, które będą mogły wykonywać wiele zadań jednocześnie, myśleć i rozumować samodzielnie. Ostatnio były to postępy, takie jak mistrz gier planszowych AlphaZero… i coraz bardziej przekonujący generator fałszywego tekstu GPT-3…

Metz: Może, może generować posty na blogu. Może generować tweety, e-maile. Potrafi generować programy komputerowe. Wiesz, działa może przez połowę czasu, ale kiedy działa, nie możesz odróżnić jego angielskiego od twojego angielskiego. Dobra. To jest postęp. To nie jest mózg, nawet nie jest blisko, ale to postęp.

Mocny: A te i inne narzędzia są też… niesamowicie dzielą.

Metz: Czy możemy w niedalekiej przyszłości zbudować system, który może zrobić wszystko, co potrafi ludzki mózg. Prawidłowy. I ludzie będą się o to kłócić, jak piana na ustach po obu stronach. W rzeczywistości nie mamy pojęcia. Na przykład są ludzie, którzy są całkowicie pewni, że to nastąpi wkrótce, ale nie wiedzą, jaka jest tam ścieżka. Nikt z nas nie potrafi przewidzieć przyszłości. A więc jest to spór o nic, co może być fundamentalnie rozstrzygnięte. Więc oczywiście kłótnia nigdy się nie kończy. Wracasz do lat 50. i to wszystko to samo, prawda?

Mocny: Ale jeśli my są aby pewnego dnia powielić tę inteligencję… czy my też będziemy w stanie powielić siebie?

…To już po przerwie.

[Midroll]

[Przejście muzyczne]

Mocny : Sztuczne głosy istnieją już od jakiegoś czasu… ale nie zaczęły stawać się bardziej ludzkie aż do ostatnich pięciu lat.

Jak wtedy, gdy na scenie pojawił się algorytm przetwarzania tekstu na mowę firmy Deepmind o nazwie WaveNet… który jest podstawą asystenta Google Duplex… tego, który może zarezerwować wizytę u fryzjera lub rezerwację w restauracji.

[Dźwięki Google Duplex umawiają wizytę fryzjerską w imieniu użytkownika]

*Dzwoniący telefon*

Stylista: Dzień dobry. Jak mogę ci pomóc?

AI: Cześć. Dzwonię, żeby zarezerwować strzyżenie damskie dla klientki. Umm... szukam czegoś 3 maja.

Stylista: Pewny. Daj mi sekundę.

Mocny: Od tego czasu wiele innych firm pracowało nad komercjalizacją podobnych technologii głosowych. Lyrebird... Opis... Respeecher... żeby wymienić tylko kilka.

Istnieje również wiele firm nastawionych na zachowanie pamięci o naszych bliskich… poprzez tworzenie ich interaktywnych, cyfrowych wersji.

Jedna firma o nazwie HereAfter zamienia je w chatboty, które mogą być używane z asystentami głosowymi.

A reporterka Tech Review Charlotte Jee wypróbowała to z rodzicami...

Jee: Alexa, otwórz tutaj.

Głos syntetyczny: Welcome to HereAfter. Wolałbyś porozmawiać z Paulem czy z Jane?

Jee: Wolałbym porozmawiać z Jane.

Virtual Jane: Witam, tu Jane Jee, z radością opowiem o moim życiu.

Jee: HAHA O MÓJ BOŻE!

Wirtualna Jane: Jak się masz dzisiaj?

Jee: Uh, mam się dobrze, dzięki mamo. Jak się masz?

Wirtualna Jane: Dobrze.

Mocny: Umiejętności słuchania systemu… nie są najlepsze. Możesz zadawać tylko krótkie, proste pytania... i musisz poczekać, aż system zakończy mówienie, zanim będziesz mógł zadać nowe pytanie.

Virtual Jane: Jest tyle do omówienia. Moja kariera z dzieciństwa i moje zainteresowania, które z nich brzmi najlepiej?

Jee: Uh… twoje dzieciństwo.

Wirtualna Jane: Jasne. Jako dziecko wpadłam w tarapaty, ponieważ byłam bardzo niezależna i lubiłam korzystać ze swojej wolności…

Mocny: Ale to, co teraz słyszysz… nie jest w rzeczywistości fałszywą ani syntetyczną wersją matki Charlotte. W rzeczywistości to doświadczenie opiera się na zaskakująco mniejszej ilości sztucznej inteligencji, niż mogłoby się wydawać.

Jej rodzice byli przesłuchiwani przez HereAfter godzinami na pytania dostarczone przez Charlotte i jej siostrę. Ten wywiad został następnie zredagowany i podzielony na sekcje tematyczne… które mogą zostać wywołane i odtworzone przez system w oparciu o zadawane pytania.

Ale... jak widzieliśmy... głos jest potężny. Zwłaszcza, gdy jest przedstawiane jako interaktywne doświadczenie.

Jee: O mój Boże. (śmiech) To było takie dziwne!

To było jak słuchanie mojej mamy... jako maszyny. To było naprawdę dziwne.

Poczułem się bardziej emocjonalnie słuchając tego, niż się spodziewałem? Kiedy głos się rozluźnił i brzmiał jak ona.

Mocny: To bardzo przypomina coś, co widzieliśmy wcześniej. Jak w odcinku Czarne lustro …gdzie kobieta używa danych ze smartfona swojego partnera do stworzenia syntetycznej wersji jego głosu po jego śmierci.

[Dźwięki z Czarne lustro - AI przesiewanie współdzielonych mediów, montaż klipów audio od zmarłego partnera kobiety]

Mocny: Przesiewa stare filmy, teksty, pocztę głosową i posty w mediach społecznościowych, aby zbudować system zdolny naśladować jego głos… i osobowość.

AI: Halo?

Kobieta: ...Cześć! Brzmisz jak on.

AI: Prawie przerażające, prawda? Mówię przerażające…. To znaczy, to jest totalnie szalone, że mogę nawet z tobą porozmawiać. To znaczy… ja nawet nie mam ust.
Kobieta: To… to tylko…

AI: To co?

Kobieta: To właśnie by powiedział.

AI: Cóż… dlatego to powiedziałem.

Mocny: Co wywołuje drażliwy problem... czy buduje zaufanie ze swoim partnerem AI... czy po prostu mówi jej to, co chce usłyszeć...?

I poza tym w jaki sposób możemy opracować technologie głosowe zdolne do zdrowego rozsądku lub samodoskonalenia… leży kolejne pytanie, które dopiero zaczynamy podnosić… czyli… jak mamy się liczyć z tą nowo odkrytą mocą… syntezy czegoś tak osobistego jak czyjś głos?

[KREDYTY]

Mocny: Następny odcinek… Przyglądamy się roli automatyzacji na naszym koncie.

Michele Gilman: Świadek stanu, który był pielęgniarką, nie potrafił nic wyjaśnić na temat algorytmu. Po prostu powtarzała w kółko, że została zweryfikowana na szczeblu międzynarodowym i statystycznie, ale nie mogła nam powiedzieć, jak to działa, jakie dane zostały do ​​niego wprowadzone, jakie czynniki ważyły, jak były ważone. I tak mój student prawnik patrzy na mnie, a my patrzymy na siebie myśląc, jak przeanalizować algorytm…

Mocny: Ten odcinek został nakręcony przeze mnie, Emmę Cillekens, Anthony'ego Greena, Karen Hao i Charlotte Jee. Redagują nas Michael Reilly i Niall Firth.

Dzięki za wysłuchanie, jestem Jennifer Strong.

[ID TR]

ukryć