Nie jesteśmy gotowi na sztuczną inteligencję, mówi zwycięzca nowej nagrody AI w wysokości 1 miliona dolarów

Rachel Wu / MIT CSAIL

Regina Barzilay , profesor w Laboratorium Informatyki i Sztucznej Inteligencji MIT (CSAIL), jest pierwszym zwycięzcą nagrody Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, nowej nagrody przyznającej wybitne badania w dziedzinie sztucznej inteligencji. Barzilay rozpoczęła swoją karierę od przetwarzania języka naturalnego. Po przeżyciu raka piersi w 2014 roku skupiła się na: algorytmy uczenia maszynowego do wykrywania raka i projektowania nowych leków . Nagrodę wręczy w lutym 2021 r. Stowarzyszenie na rzecz Rozwoju Sztucznej Inteligencji (AAAI).

Nagroda pieniężna w wysokości 1 miliona dolarów, dostarczona przez Chińska firma edukacyjna online Squirrel AI , o którym pisaliśmy wcześniej, stawia nagrodę na tym samym poziomie finansowym, co Nagroda Nobla i Nagroda Turinga w dziedzinie informatyki. Rozmawiałem z Barzilayem przez telefon o nagrodzie — oraz o obietnicy i frustracji sztucznej inteligencji.

Nasza rozmowa została zredagowana pod kątem długości i przejrzystości.

Gratulujemy tej nagrody. Co to oznacza dla ciebie i ogólnie dla sztucznej inteligencji?

Dziękuję Ci. Wiesz, jest wiele obszarów, w których sztuczna inteligencja nadal nie robi różnicy, ale może być. Cały czas używamy tłumaczeń maszynowych lub systemów rekomendacji, ale nikt nie myśli o nich jako o wymyślnej technologii, nikt o nie nie pyta. Jednak w przypadku innych obszarów naszego życia, które są kluczowe dla naszego dobrego samopoczucia, takich jak opieka zdrowotna, sztuczna inteligencja nie zyskała jeszcze akceptacji społeczeństwa. Mam nadzieję, że ta nagroda i związane z nią zainteresowanie pomogą zmienić umysły ludzi i pozwolą im dostrzec możliwości — i popchną społeczność AI do podjęcia kolejnych kroków.

Jakie kroki?

Kiedy technologia przeszła z energii parowej na elektryczność, pierwsze próby dostarczenia elektryczności do przemysłu nie były zbyt udane, ponieważ ludzie po prostu próbowali odtworzyć silniki parowe. Myślę, że coś podobnego dzieje się teraz z AI. Musimy wypracować, jak zintegrować go z wieloma różnymi obszarami: nie tylko opieką zdrowotną, ale także edukacją, projektowaniem materiałów, planowaniem miasta i tak dalej. Oczywiście jest jeszcze więcej do zrobienia po stronie technologii, w tym tworzenie lepszych algorytmów, ale wprowadzamy tę technologię w wysoce uregulowane środowiska i tak naprawdę nie zastanawialiśmy się, jak to zrobić.

W tej chwili sztuczna inteligencja kwitnie w miejscach, w których koszt awarii jest bardzo niski. Jeśli Google znajdzie ci złe tłumaczenie lub poda zły link, to nic nie szkodzi; możesz po prostu przejść do następnego. Ale to nie zadziała dla lekarza. Jeśli zapewnisz pacjentom niewłaściwe leczenie lub przegapisz diagnozę, to są naprawdę poważne implikacje. Wiele algorytmów potrafi robić rzeczy lepiej niż ludzie. Ale zawsze ufamy własnej intuicji, własnemu umysłowi, bardziej niż czemuś, czego nie rozumiemy. Musimy dać lekarzom powody, by zaufali AI. FDA przygląda się temu problemowi, ale myślę, że jest on bardzo daleki od rozwiązania w USA czy gdziekolwiek indziej na świecie.

W 2014 roku zdiagnozowano u Ciebie raka piersi. Czy to zmieniło sposób myślenia o swojej pracy?

O tak, absolutnie. Jedną z rzeczy, które wydarzyły się, gdy przeszedłem leczenie i spędziłem nadmierną ilość czasu w szpitalu, było to, że rzeczy, nad którymi pracowałem, wydawały się teraz trywialne. Pomyślałem: ludzie cierpią. Możemy coś zrobić.

Kiedy zaczynałem leczenie, pytałem, co dzieje się z pacjentami takimi jak ja, z moim typem nowotworu, wiekiem i tym leczeniem. Powiedzieliby: Och, była taka próba kliniczna, ale tak naprawdę nie pasujesz do niej dokładnie. Pomyślałem, że rak piersi to bardzo powszechna choroba. Jest tak wielu pacjentów z tak dużą ilością zgromadzonych danych. Dlaczego go nie używamy? Ale nie można łatwo uzyskać tych informacji z systemu w szpitalach w USA. Jest tam, ale jest w tekście. Zacząłem więc korzystać z NLP, aby uzyskać do niego dostęp. Nie wyobrażam sobie innej dziedziny, w której ludzie dobrowolnie wyrzucają dostępne dane. Ale tak właśnie działo się w medycynie.

Czy szpitale skorzystały z szansy na większe wykorzystanie tych danych?

Trochę czasu zajęło znalezienie lekarza, który by ze mną pracował. Mówiłem ludziom, jeśli masz jakiś problem, postaram się go rozwiązać. Nie potrzebuję funduszy. Podaj mi tylko problem i dane. Ale zajęło mi trochę czasu znalezienie współpracowników. Wiesz, nie byłam szczególnie popularną postacią.

Z tej pracy NLP przeszedłem następnie do przewidywania ryzyka pacjenta na podstawie mammografii, wykorzystując rozpoznawanie obrazów do przewidywania, czy zachorujesz na raka, czy nie – jak twoja choroba prawdopodobnie będzie postępować.

Czy te narzędzia zrobiłyby różnicę, gdyby były dostępne podczas diagnozy?

Absolutnie. Możemy to sprawdzić na moich mammogramach sprzed mojej diagnozy i już tam było – można to wyraźnie wykryć. To nie jest jakiś cud — rak nie rozwija się od wczoraj do dziś. To dość długi proces. W tkance są oznaki, ale ludzkie oko ma ograniczoną zdolność do wykrywania bardzo małych wzorów. W moim przypadku byłoby to widoczne dwa lata wcześniej.

Dlaczego lekarz tego nie zauważył?

To trudne zadanie. Każda mammografia ma białe plamki, które mogą, ale nie muszą, być rakiem, a lekarz musi zdecydować, które z tych białych plam należy poddać biopsji. Lekarz musi zrównoważyć działanie intuicyjne i krzywdzenie pacjenta, wykonując niepotrzebne biopsje. Ale jest to dokładnie ten rodzaj decyzji, którą sztuczna inteligencja oparta na danych może nam pomóc w podjęciu w znacznie bardziej systematyczny sposób.

Co sprowadza nas z powrotem do problemu zaufania. Czy potrzebujemy poprawki technicznej, która sprawi, że narzędzia będą bardziej zrozumiałe, czy też musimy edukować ludzi, którzy z nich korzystają?

To świetne pytanie. Niektóre decyzje byłyby naprawdę łatwe do wytłumaczenia człowiekowi. Jeśli sztuczna inteligencja wykryje raka na obrazie, możesz powiększyć obszar, na który patrzy model podczas prognozowania. Ale jeśli poprosisz maszynę, jak coraz częściej jesteśmy, o zrobienie rzeczy, których człowiek nie może, co dokładnie ta maszyna ci pokaże? To jak pies, który potrafi pachnieć znacznie lepiej od nas, wyjaśniając, jak może coś wąchać. Po prostu nie mamy takiej zdolności. Myślę, że w miarę jak maszyny stają się znacznie bardziej zaawansowane, to jest wielkie pytanie. Jakie wyjaśnienie przekonałoby Cię, gdybyś sam nie mógł rozwiązać tego zadania?

Czy powinniśmy więc poczekać, aż sztuczna inteligencja będzie mogła się w pełni wyjaśnić?

Nie. Zastanów się, jak teraz odpowiadamy na pytania o życie i śmierć. Na większość pytań medycznych, takich jak sposób, w jaki zareagujesz na to leczenie lub lek, odpowiada się za pomocą modeli statystycznych, które mogą prowadzić do błędów. Żaden z nich nie jest doskonały.

Tak samo jest z AI. Nie sądzę, że dobrze jest czekać, aż opracujemy idealną sztuczną inteligencję. Nie sądzę, żeby miało to nastąpić w najbliższym czasie. Pytanie brzmi, jak wykorzystać jego mocne strony i uniknąć słabości.

Wreszcie, dlaczego sztuczna inteligencja nie miała jeszcze dużego wpływu na Covid-19?

Sztuczna inteligencja nie rozwiąże wszystkich naszych wielkich problemów. Ale było kilka małych przykładów. Kiedy na początku tego roku wszystkie nieistotne usługi kliniczne zostały ograniczone, wykorzystaliśmy narzędzie sztucznej inteligencji, aby określić, którzy pacjenci onkologiczni w Bostonie powinni nadal iść na coroczną mammografię.

Ale głównym powodem, dla którego sztuczna inteligencja nie była bardziej użyteczna, nie jest brak technologii, ale brak danych. Wiesz, jestem w zespole kierowniczym J-Clinic MIT, centrum sztucznej inteligencji w opiece zdrowotnej, i wielu z nas w kwietniu mówiło: Naprawdę chcemy coś zrobić – skąd możemy uzyskać dane? Ale nie mogliśmy tego zdobyć. To było niemożliwe. Nawet teraz, sześć miesięcy później, nie jest oczywiste, w jaki sposób pozyskujemy dane.

Drugim powodem jest to, że nie byliśmy gotowi. Nawet w normalnych okolicznościach, gdy ludzie nie są zestresowani, trudno jest zastosować narzędzia sztucznej inteligencji w procesie i upewnić się, że wszystko jest odpowiednio uregulowane. W obecnym kryzysie po prostu nie mamy takiej zdolności.

Wiesz, rozumiem, dlaczego lekarze są konserwatywni: zagrożone jest ludzkie życie. Mam jednak nadzieję, że będzie to sygnał ostrzegawczy, jak nieprzygotowani jesteśmy do szybkiego reagowania na nowe zagrożenia. Choć myślę, że sztuczna inteligencja jest technologią przyszłości, dopóki nie wymyślimy, jak jej zaufać, nie zobaczymy, jak posuwa się do przodu.

ukryć