Jak Apple personalizuje Siri bez pobierania danych

Kobieta używa swojego asystenta głosowego na swoim telefonie. kyonntra/Getty Images

Jeśli masz iPhone'a, być może zauważyłeś zmianę w zachowaniu Siri w ciągu ostatniego roku. Asystent głosowy w telefonie obudzi się, gdy powiesz Hej Siri, ale nie, gdy to samo zdanie pochodzi od znajomych lub rodziny.

Powód, dla którego Apple to zrobił, był rozsądny: chciał, aby wszystkie iPhone'y w pokoju nie reagowały, gdy jedna osoba wypowie frazę budzenia. Możesz pomyśleć, że Apple musiałby zebrać dużo danych dźwiękowych, aby to zrobić. Co zaskakujące, tak nie jest.

Zamiast tego opiera się przede wszystkim na technice zwanej sfederowanym uczeniem, powiedział szef Apple ds. prywatności Julien Freudiger podczas konferencji Neural Processing Information Systems 8 grudnia. po raz pierwszy wprowadzony przez Google w 2017 r. . Umożliwia Apple trenowanie różnych kopii modelu rozpoznawania głośników na wszystkich urządzeniach użytkowników, używając tylko danych dźwiękowych dostępnych lokalnie. Następnie wysyła tylko zaktualizowane modele z powrotem do centralnego serwera w celu połączenia w model główny. W ten sposób surowy dźwięk żądań Siri użytkowników nigdy nie opuszcza ich iPhone'ów i iPadów, ale asystent stale poprawia się w identyfikowaniu właściwego głośnika.

Oprócz sfederowanego uczenia się Apple używa również czegoś, co nazywa się prywatnością różnicową, aby dodać kolejną warstwę ochrony. Technika wprowadza niewielką ilość szumu do dowolnych nieprzetworzonych danych, zanim zostaną one wprowadzone do lokalnego modelu uczenia maszynowego. Dodatkowy krok sprawia, że ​​złośliwym podmiotom niezwykle trudno jest dokonać inżynierii wstecznej oryginalnych plików audio z wytrenowanego modelu.

Chociaż Apple było korzystanie z prywatności różnicowej od 2017 roku jest połączony ze sfederowanym uczeniem się dopiero od iOS 13, który został udostępniony publicznie we wrześniu tego roku. Oprócz personalizacji Siri, obie techniki są teraz używane również w kilku innych aplikacjach, w tym QuickType (spersonalizowana klawiatura Apple) i funkcji Znalezione w aplikacjach, która skanuje kalendarz i aplikacje pocztowe w poszukiwaniu nazwisk osób, które dzwonią i wysyłają SMS-y, których numery nie masz w telefonie. Freudiger powiedział, że firma planuje wkrótce wprowadzić metody prywatności w większej liczbie aplikacji i funkcji.

W ubiegłym roku sfederowane uczenie się stało się coraz bardziej popularne w społeczności badawczej AI, ponieważ wzrosły obawy o prywatność danych. W marcu Google wydany nowy zestaw narzędzi, aby ułatwić programistom wdrażanie własnych modeli uczenia federacyjnego. Naukowcy mają nadzieję, że oprócz wielu innych zastosowań pomoże ona przezwyciężyć wyzwania związane z prywatnością w stosowaniu sztucznej inteligencji w opiece zdrowotnej . Firmy takie jak Owkin, Doc.ai i Nvidia są zainteresowane wykorzystaniem go w ten sposób.

Chociaż technika ta jest wciąż stosunkowo nowa i wymaga dalszego udoskonalenia, najnowsze przyjęcie firmy Apple oferuje kolejne studium przypadku, w jaki sposób można ją zastosować na dużą skalę. Oznacza to również fundamentalną zmianę w kompromisie, jaki przemysł technologiczny tradycyjnie zakładał między prywatnością a użytecznością: w rzeczywistości można teraz osiągnąć oba. Miejmy nadzieję, że inne firmy szybko się do tego dobiorą.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć