211service.com
Microsoft i Google chcą uwolnić sztuczną inteligencję w naszych najbardziej prywatnych danych
Niedawne pojawienie się potężnej techniki uczenia maszynowego znanej jako głębokie uczenie sprawiło, że giganci komputerowi, tacy jak Google, Facebook i Microsoft, są jeszcze bardziej głodni danych. Dzięki temu oprogramowanie uczy się takich rzeczy, jak rozpoznawanie obrazów lub rozumienie języka.
Jednak wiele problemów, w których uczenie głębokie może być najbardziej wartościowe, dotyczy danych, które są trudne do zdobycia lub są przechowywane przez organizacje, które nie chcą się nimi dzielić. Jak ujął to CEO Apple, Tim Cook, niektórzy konsumenci już obawiają się, że firmy pochłoną ich dane osobowe.
Wiele osób, które przechowują wrażliwe zestawy danych, takie jak obrazy medyczne, po prostu nie zamierza ich udostępniać ze względów prawnych i regulacyjnych, mówi Witalij Szmatikow , profesor Cornell Tech, który bada prywatność. W pewnym sensie pozbawiamy tych ludzi korzyści płynących z głębokiego uczenia się.
Shmatikov i badacze z Microsoftu i Google pracują nad sposobami obejścia tego problemu z prywatnością. Zapewniając sposoby wykorzystania i trenowania sztucznych sieci neuronowych wykorzystywanych w głębokim uczeniu bez konieczności pożerania wszystkiego, mają nadzieję, że będą w stanie wyszkolić inteligentniejsze oprogramowanie i przekonać strażników wrażliwych danych do korzystania z takich systemów.
Shmatikov i kolega Reza Shokri testują to, co nazywają głębokie uczenie z zachowaniem prywatności . Daje sposób na czerpanie korzyści z łączenia danych przez wiele organizacji — powiedzmy różnych szpitali — w celu szkolenia oprogramowania do uczenia głębokiego bez konieczności podejmowania ryzyka faktycznego ich udostępniania.
Każda organizacja szkoli algorytmy uczenia głębokiego na własnych danych, a następnie udostępnia tylko kluczowe parametry z wytrenowanego oprogramowania. Można je połączyć w system, który działa prawie tak dobrze, jak gdyby był szkolony na wszystkich danych jednocześnie.
Badanie Cornell zostało częściowo sfinansowane przez firmę Google, która: opublikował artykuł o podobnych eksperymentach i rozmawia ze Szmatikowem o swoich pomysłach. Badacze firmy wymyślili sposób na trenowanie algorytmów głębokiego uczenia się firmy przy użyciu danych, takich jak obrazy ze smartfonów, bez przesyłania tych danych do chmury Google.
To może ułatwić firmie wykorzystanie bardzo osobistych informacji przechowywanych na naszych urządzeniach mobilnych, napisali. Google odmówił udostępnienia kogoś, kto mógłby omówić te badania, ale Shmatikov uważa, że firma nadal nad tym pracuje.
Grupa badawcza kryptografii firmy Microsoft opracowała własne rozwiązanie problemu prywatności związanego z uczeniem maszynowym. Wymyślił sposób na wykorzystanie wyszkolonego oprogramowania do głębokiego uczenia się na zaszyfrowanych danych i wypluwanie zaszyfrowanych odpowiedzi. Pomysł jest taki, że na przykład szpital mógłby poprosić Microsoft o skorzystanie z jednego z nich Sieci kryptograficzne do oznaczania skanów medycznych zawierających możliwe problemy, unikając zwykłej potrzeby udostępniania obrazów firmie.
Badacze z Microsoftu wykonali tę sztuczkę za pomocą techniki zwanej szyfrowaniem homomorficznym, która umożliwia wykonywanie operacji matematycznych na zaszyfrowanych danych i uzyskanie zaszyfrowanego wyniku (zob. 10 Breakthrough Technologies 2011: Homomorphic Encryption). Przetestowali ten pomysł za pomocą oprogramowania do głębokiego uczenia się, które rozpoznaje pismo ręczne, oraz systemu, który szacuje ryzyko zapalenia płuc u pacjenta na podstawie jego parametrów życiowych.
CryptoNet wymaga większej mocy obliczeniowej niż konwencjonalne oprogramowanie do głębokiego uczenia się, aby wykonać tę samą pracę. Ale Kristin Lauter , który prowadzi badania nad kryptografią Microsoftu, twierdzi, że luka jest na tyle mała, że CryptoNets może stać się praktycznym rozwiązaniem do użytku w świecie rzeczywistym. Uważam, że najprawdopodobniej w pierwszej kolejności zastosuje się to w branży medycznej, finansowej i farmaceutycznej.