211service.com
Jak zmieniło się przetwarzanie
Jeanette Wing wierzy, że godna zaufania sztuczna inteligencja i rozumowanie przyczynowe mogą pomóc społeczeństwu w rozwiązywaniu rzeczywistych problemów. Ale to nie będzie łatwe.
27 października 2021
Piotr Garritano
Nadszedł czas, abyśmy zaczęli skupiać się na danych, aby rozwiązać nasze problemy, mówi jeden z wiodących światowych ekspertów w dziedzinie nauki o danych.
W 2006 roku Jeannette Wing, ówczesna kierownik wydziału informatyki na Uniwersytecie Carnegie Mellon, opublikowała wpływowy esej pt. Myślenie obliczeniowe, argumentując, że każdy odniósłby korzyści z używania koncepcyjnych narzędzi informatyki do rozwiązywania problemów we wszystkich obszarach ludzkiej działalności.
Ta historia była częścią naszego wydania z listopada 2021 r.
- Zobacz resztę numeru
- Subskrybuj
Sama Wing nigdy nie zamierzała studiować informatyki. W połowie lat siedemdziesiątych wstąpiła na MIT, aby zająć się elektrotechniką, zainspirowana przez swojego ojca, profesora w tej dziedzinie. Kiedy odkryła, że interesuje się informatyką, zadzwoniła do niego, by zapytać, czy to przemijająca moda. W końcu na polu nie było nawet podręczników. Zapewnił ją, że tak nie jest. Wing zmienił kierunek i nigdy nie oglądał się za siebie.
Wcześniej wiceprezes firmy Microsoft Research, a teraz wiceprezes wykonawczy ds. badań na Uniwersytecie Columbia, Wing jest liderem w promowaniu nauki o danych w wielu dyscyplinach.
Anil Ananthaswamy niedawno zapytał Wing o jej ambitny plan promowania godnej zaufania sztucznej inteligencji, jednego z 10 wyzwań badawczych została zidentyfikowana w jej próbie uczynienia systemów AI bardziej sprawiedliwymi i mniej stronniczymi.
P: Czy powiedziałbyś, że następuje transformacja w sposobie wykonywania obliczeń?
O: Absolutnie. Prawo Moore'a poniosło nas długą drogę. Wiedzieliśmy, że osiągniemy pułap Prawa Moore'a, [więc] obliczenia równoległe zyskały na znaczeniu. Ale przesunięciem fazowym było przetwarzanie w chmurze. Oryginalne rozproszone systemy plików były rodzajem dziecięcej chmury obliczeniowej, w której twoje pliki nie były lokalne na twoim komputerze; byli gdzieś indziej na serwerze. Przetwarzanie w chmurze przejmuje to i wzmacnia jeszcze bardziej, gdy dane nie są blisko Ciebie; komputer nie jest blisko ciebie.
Następna zmiana dotyczy danych. Przez długi czas skupialiśmy się na cyklach, dzięki czemu wszystko działało szybciej — procesory, procesory, karty graficzne i więcej serwerów równoległych. Zignorowaliśmy część dotyczącą danych. Teraz musimy skupić się na danych.
P: To dziedzina nauki o danych. Jak byś to zdefiniował? Jakie są wyzwania związane z wykorzystaniem danych?
DO: Mam bardzo zwięzłą definicję. Nauka o danych to nauka o wydobywaniu wartości z danych.
Nie możesz po prostu podać mi garści surowych danych, a ja naciskam przycisk i pojawia się wartość. Zaczyna się od zbierania, przetwarzania, przechowywania, zarządzania, analizowania i wizualizacji danych, a następnie interpretacji wyników. Nazywam to cyklem życia danych. Każdy krok w tym cyklu to dużo pracy.
P: Kiedy korzystasz z dużych zbiorów danych, często pojawiają się obawy dotyczące prywatności, bezpieczeństwa, uczciwości i stronniczości. Jak rozwiązać te problemy, zwłaszcza w sztucznej inteligencji?
DO: Mam nowy program badawczy, który promuję. Nazywam to godną zaufania sztuczną inteligencją, zainspirowaną dziesięcioleciami postępów, jakie poczyniliśmy w dziedzinie godnych zaufania komputerów. Przez wiarygodność zwykle rozumiemy bezpieczeństwo, niezawodność, dostępność, prywatność i użyteczność. W ciągu ostatnich dwóch dekad poczyniliśmy duże postępy. Mamy formalne metody, które mogą zapewnić poprawność fragmentu kodu; mamy protokoły bezpieczeństwa, które zwiększają bezpieczeństwo konkretnego systemu. I mamy pewne pojęcia prywatności, które są sformalizowane.
Godna zaufania sztuczna inteligencja podnosi stawkę na dwa sposoby. Nagle mówimy o solidności i uczciwości – oznacza to, że jeśli zakłócisz wejście, wyjście nie jest zbytnio zaburzone. A my mówimy o interpretowalności. To są rzeczy, o których nigdy nie rozmawialiśmy, kiedy rozmawialiśmy o komputerach.
[Ponadto] Systemy AI mają charakter probabilistyczny. Systemy obliczeniowe z przeszłości są w zasadzie maszynami deterministycznymi: są włączone lub wyłączone, prawda lub fałsz, tak lub nie, 0 lub jeden . Wynikiem naszych systemów AI są w zasadzie prawdopodobieństwa. Jeśli powiem ci, że twoje prześwietlenie wskazuje, że masz raka, to z prawdopodobieństwem 0,75, że ta mała biała plamka, którą widziałem, jest złośliwa.
Więc teraz musimy żyć w tym świecie prawdopodobieństw. Z matematycznego punktu widzenia wykorzystuje logikę probabilistyczną i wprowadza wiele statystyk, rozumowania stochastycznego i tak dalej. Jako informatyk nie jesteś wyszkolony, aby myśleć w ten sposób. Tak więc systemy sztucznej inteligencji naprawdę skomplikowały nasze formalne rozumowanie na temat tych systemów.
P: Godna zaufania sztuczna inteligencja jest jednym z 10 wyzwań badawczych zidentyfikowałeś dla naukowców zajmujących się danymi. Przyczynowość wydaje się być kolejną dużą przyczyną.
O: Myślę, że przyczynowość to kolejna granica dla sztucznej inteligencji i uczenia maszynowego. Obecnie algorytmy i modele uczenia maszynowego są dobre w znajdowaniu wzorców, korelacji i skojarzeń. Ale nie mogą nam powiedzieć: czy to to spowodowało? Albo gdybym to zrobił, to co by się stało? I tak jest jeszcze jeden obszar aktywności dotyczący wnioskowania przyczynowego i wnioskowania przyczynowego w informatyce. Społeczność statystyczna od dziesięcioleci przygląda się przyczynowości. Czasami trochę się wkurzają społeczność informatyków, myśląc, że Och, to zupełnie nowy pomysł. Dlatego chcę podziękować społeczności statystycznej za jej fundamentalny wkład w przyczynowość. Połączenie dużych zbiorów danych i wnioskowania przyczynowego może naprawdę posunąć tę dziedzinę do przodu.
P: Czy jesteś podekscytowany tym, co może osiągnąć data science?
DO: Wszyscy zaczynają się zastanawiać nad nauką o danych, ponieważ widzą, jak ich dziedziny zmieniają się dzięki wykorzystaniu metod analizy danych na danych cyfrowych, które teraz generują, produkują, zbierają i tak dalej. To bardzo ekscytujący czas.