211service.com
Usuwanie „odcisku palca” Siri
Nawet w epoce zanikającej prywatności osoby korzystające z cyfrowego asystenta Apple Siri mają wyraźną obawę. Nagrania ich rzeczywistych głosów, zadawania pytań, które mogą być osobiste, są przesyłane przez Internet na zdalny serwer Apple w celu przetworzenia. Następnie pozostają tam przechowywane; Apple nie powie na jak długo.
To nagranie głosu, w przeciwieństwie do większości danych generowanych przez smartfony i inne komputery, jest rzeczywistym identyfikatorem biometrycznym. Odcisk głosu — jeśli zostanie ujawniony przez przypadek, włamanie lub wezwanie do sądu — może być powiązany z konkretną osobą. A przy obecnym boomie na aplikacje do rozpoznawania mowy, Apple nie jest jedynym, który gromadzi takie dane.
Może istnieć sposób na zachowanie większej prywatności tego identyfikatora. Naukowcy twierdzą, że Apple i inne firmy opracowujące aplikacje do rozpoznawania głosu, takie jak Siri, mogą wykonywać część przetwarzania danych bezpośrednio w telefonie. Wtedy, zamiast wysyłać pełne nagranie, mogliby przekazać konkretne informacje, które trudniej jest ostatecznie powiązać z daną osobą.
Może cokolwiek, co potwierdza, że powinieneś pozostać przy telefonie, mówi Prem Natarajan, wiceprezes wykonawczy Raytheon BBN Technologies w Cambridge w stanie Massachusetts, ważnego ośrodka badań nad rozpoznawaniem mowy. Mówi, że rozsądniej byłoby, gdyby Apple przesyłało funkcje z mowy – a nie z samej mowy.
Chociaż takie podejście spowodowałoby większe obciążenie procesora i baterii telefonu, nie zaszkodziłoby to jakości rozpoznawania mowy. Myślę, że można bezpiecznie powiedzieć, że brak dostępu do sygnału [pełnego głosu] nie oznacza żadnej znaczącej kary, mówi Natarajan. Ograniczenie ilości udostępnianych danych biometrycznych byłoby zgodne z przykładem urządzeń takich jak Kinect firmy Microsoft, które ze względu na ochronę prywatności zostały zaprojektowane tak, aby przechowywać takie dane na pokładzie.
Trudy Muller, rzeczniczka Apple, potwierdziła, że nagrania głosowe są przechowywane, gdy użytkownicy zadają pytanie głosowe, takie jak Jaka jest teraz pogoda? Te dane są wykorzystywane tylko do działania Siri i pomagają Siri w lepszym zrozumieniu i rozpoznaniu, powiedziała. Muller dodał, że firma bardzo poważnie traktuje prywatność, zauważając, że pytania i odpowiedzi wysyłane przez Siri przez Internet są szyfrowane, a nagrania Twojego głosu nie są powiązane z innymi informacjami na Twój temat wygenerowanymi przez Apple. (Siri przesyła jednak twoją listę kontaktów, lokalizację i listę przechowywanych utworów, aby pomóc mu odpowiedzieć na twoje prośby).
Chociaż odciski głosu nie są tak unikalne jak odciski palców, w wielu okolicznościach mogą pozytywnie zidentyfikować mówcę. Departament Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych wykorzystuje odciski głosu do identyfikowania osób często podróżujących, które zarejestrowały się w systemie umożliwiającym szybkie przekraczanie granicy.
Aby zobaczyć, dlaczego odciski głosu mogą mieć znaczenie, rozważ proces morderstwa Casey Anthony, matki z Florydy, uniewinnionej w zeszłym roku z powodu śmierci jej dwuletniej córki Caylee. W pewnym momencie prokuratorzy wskazali na wyszukiwania w Internecie – chloroformu i innych obciążających terminów – wykonane z komputera oskarżonego. Matka Anthony'ego zeznała, że sama wpisała wyszukiwane hasło jako błędną pisownię chlorofilu. Gdyby przeszukania przeprowadzono głosowo na Siri, prokuratorzy i przysięgli mogliby ustalić, kto faktycznie powiedział chloroform. (Apple odmówiło podania informacji, czy kiedykolwiek otrzymało wezwanie do sądu w sprawie czyjegoś odcisku głosu).
Tymczasem, jeśli podyktujesz nieodpowiedni tekst lub zapytasz Siri o delikatną sprawę medyczną, a Apple zostanie zhakowany (lub złośliwy pracownik udostępni dane), nie tylko zostanie opublikowana zawstydzająca wiadomość, ale będzie to Twój własny głos. Natarajan mówi, że biometria może wywołać zupełnie nowe pytania dotyczące prywatności. Na przykład ktoś, kto szuka miejsca protestu przeciwko represyjnemu reżimowi, może mieć kłopoty, jeśli dane staną się dostępne dla tego rządu. Jeśli masz grupę ludzi pytających o protesty, to niestety masz teraz biometrię głosu dla tych ludzi, mówi.
Niektórzy obserwatorzy, w tym duże firmy technologiczne, zadają szersze pytania dotyczące Siri. W zeszłym miesiącu Przegląd technologii poinformował, że IBM poprosił swoich pracowników, aby nie korzystali z tej funkcji , decyzja IBM była motywowana potrzebą ochrony list kontaktów i innych poufnych informacji firmy. Niektórzy eksperci uważają, że to problem, który powinny dzielić inne organizacje. Gdybym miał prowadzić agencję wywiadowczą lub dużą korporację, nie pozwoliłbym na taką usługę we własnym zakresie, mówi Radu Sion, informatyk ze Stony Brook University i czołowy badacz bezpieczeństwa przetwarzania w chmurze.
Rozpoznawanie głosu Siri działa w następujący sposób: wypowiadasz pytanie lub prośbę, a nagranie głosowe jest wysyłane na serwer Apple. Tam nagranie jest rozbijane w procesie zwanym wyodrębnianiem cech, który numerycznie przekształca falę dźwiękową i wyciąga odpowiednie cechy. Są one uruchamiane przez silnik rozpoznawania mowy, aby zinterpretować to, co mówisz, i przekształcić to w tekst. Siri następnie korzysta z zasobów, które mogą obejmować Internet, Twoją listę kontaktów (Zadzwoń do taty) lub Twoją lokalizację (Gdzie jest najbliższe tajskie jedzenie?), aby odpowiedzieć na Twoje potrzeby.
Nie ma powodu, dla którego początkowe zadanie wyodrębniania funkcji nie mogłoby zostać wykonane bezpośrednio w telefonie, aby niektóre elementy mogły tam pozostać. Na przykład wzór tonu jest ważny dla identyfikacji mówcy, ale nie dla rozpoznania tego, co zostało powiedziane. Z punktu widzenia technologii możesz wysłać rzeczy, nad którymi aparat rozpoznawania będzie pracował, ale nie pełny przebieg, mówi Natarajan. Chociaż może to nie być idealne rozwiązanie, mówi, znacząco poprawiłoby prywatność – i, co być może ważniejsze, postrzeganie prywatności, ponieważ nie można zrekonstruować sygnału głosowego z funkcji.
James Glass, starszy pracownik naukowy w MIT i szef jej Grupa systemów języka mówionego , mówi, że przetwarzanie na pokładzie, znane również jako rozproszone rozpoznawanie mowy, zostało szeroko zbadane. Nie zapewnia to pełnej ochrony, ostrzega: Metody biometryczne, które dokonują identyfikacji mówcy… zazwyczaj wykorzystują podobne reprezentacje sygnału, jak te, które wykonują tylko rozpoznawanie mowy. Tak więc lokalne [przetwarzanie] nie doprowadziłoby do całkowitej anonimizacji danych, gdyby taki był Twój cel.
Dodaje, że najłatwiejszym sposobem anonimizacji odcisku głosu jest oddzielenie nagrań od innych danych, takich jak numer telefonu komórkowego. Oznaczałoby to, że systemom byłoby trudniej dostosować je do Twojego głosu i zapytań, ale niektórzy ludzie mogą woleć tę opcję, jeśli zapewnia im większą prywatność, mówi. Jest to stanowisko, za którym bym się zalecał, ponieważ jest podobny do tego, w jaki sposób niektóre aplikacje proszą teraz o pozwolenie na korzystanie z Twojej lokalizacji.
W miarę jak coraz więcej aplikacji głosowych pojawia się w większej liczbie ustawień, ochrona identyfikatorów biometrycznych stanie się ważniejsza, mówi Andrew Sudbury, współzałożyciel Abine, firmy zajmującej się oprogramowaniem do ochrony prywatności w Internecie z Bostonu, która pomaga konsumentom blokować śledzenie ich działań online. To naprawdę prawie przełomowy moment, ponieważ będzie to zwiastun bardzo szybkiego wzrostu rozpoznawania głosu używanego w wielu miejscach, mówi. I łatwiej będzie wykonać całkiem dobrą robotę polegającą na identyfikowaniu ludzi za pomocą ich głosu.
Rzeczywiście, jednym z powodów, dla których Apple może chcieć przechowywać pełne odciski głosu, jest zachowanie opcji świadczenia takich usług. Teoretycznie, rozpoznawanie mowy może wiedzieć, że to ty mówisz, a nie twój współmałżonek lub dziecko, i udzielić ci indywidualnie dostosowanych odpowiedzi. Byłoby całkiem fajnie, gdybyś zadzwonił z innego telefonu i mogli cię zidentyfikować, mówi Natarajan.
Dzięki ogromnej bazie danych rzeczywistych głosów ludzi jest to możliwe. Takie cechy są nadal spekulacyjne, ostrzega. Ale wszystkie innowacje polegają na robieniu rzeczy, których nikt teraz nie planuje, mówi. Ja też chciałbym mieć dostęp do wszystkich tych danych.