Jak narzędzie AI do walki ze zgonami szpitalnymi faktycznie działało w prawdziwym świecie?

Getty

W listopadzie 2018 r. na oddziale ratunkowym Duke University Health System pojawiło się nowe narzędzie do głębokiego uczenia się. Nazywany Sepsis Watch został zaprojektowany, aby pomóc lekarzom wykryć wczesne oznaki jednej z głównych przyczyn zgonów w szpitalach na całym świecie.

Sepsa występuje, gdy infekcja wywołuje stan zapalny całego ciała i ostatecznie powoduje zamknięcie narządów. Można ją leczyć, jeśli zostanie odpowiednio wcześnie zdiagnozowana, ale jest to niezwykle trudne zadanie, ponieważ jej objawy można łatwo pomylić z oznakami czegoś innego.

Sepsis Watch obiecał to zmienić. Produkt trzy i pół roku rozwoju (obejmującego digitalizację dokumentacji medycznej, analizę 32 milionów punktów danych i zaprojektowanie prostego interfejsu w postaci aplikacji na iPada), co godzinę ocenia pacjentów pod kątem prawdopodobieństwa rozwoju stan: schorzenie. Następnie oznacza osoby o średnim lub wysokim ryzyku oraz osoby, które już spełniają kryteria. Gdy lekarz potwierdzi diagnozę, pacjenci otrzymują natychmiastową pomoc.

W ciągu dwóch lat od wprowadzenia narzędzia, niepotwierdzone dowody od kierowników szpitali i klinicystów Duke Health sugerowały, że Sepsis Watch naprawdę działa. Znacznie zmniejszył liczbę zgonów pacjentów spowodowanych sepsą i jest teraz częścią zarejestrowanego federalnie badania klinicznego, które ma udostępnić wyniki w 2021 r.

Na pierwszy rzut oka jest to przykład wielkiego zwycięstwa technicznego. Dzięki starannemu opracowaniu i testowaniu model AI skutecznie zwiększył zdolność lekarzy do diagnozowania chorób. Ale… nowy raport z instytutu badawczego Data & Society twierdzi, że to tylko połowa sukcesu. Druga połowa to ilość wykwalifikowanej pracy społecznej, którą klinicyści prowadzący projekt musieli wykonać, aby zintegrować narzędzie z ich codziennymi przepływami pracy. Obejmowało to nie tylko projektowanie nowych protokołów komunikacyjnych i tworzenie nowych materiałów szkoleniowych, ale także nawigację w polityce miejsca pracy i dynamice władzy.

Studium przypadku jest uczciwym odzwierciedleniem tego, czego naprawdę potrzeba, aby narzędzia AI odniosły sukces w prawdziwym świecie. To było naprawdę skomplikowane, mówi trenerka Madeleine Clare Elish, antropolog kultury, która bada wpływ sztucznej inteligencji.

Naprawianie innowacji

Innowacja ma być destrukcyjna. Potrząsa starymi sposobami robienia rzeczy, aby osiągnąć lepsze wyniki. Ale rzadko w rozmowach o zakłóceniach technologicznych pojawia się potwierdzenie, że zakłócenia są również formą zerwania. Istniejące protokoły stają się przestarzałe; pomieszanie się hierarchii społecznych. Wprowadzenie innowacji do istniejących systemów wymaga tego, co Elish i jej współautorka Elizabeth Anne Watkins nazywają naprawą.

Podczas dwuletniego badania Sepsy Watch w Duke Health naukowcy udokumentowali liczne przykłady tego zakłócenia i naprawy. Jednym z głównych problemów był sposób, w jaki narzędzie zakwestionowało głęboko zakorzenioną w świecie medycznym dynamikę władzy między lekarzami a pielęgniarkami.

Na wczesnych etapach projektowania narzędzi stało się jasne, że głównymi użytkownikami będą musiały być pielęgniarki zespołu szybkiego reagowania (RRT). Chociaż lekarze prowadzący są zwykle odpowiedzialni za ocenę pacjentów i diagnozowanie sepsy, nie mają czasu na ciągłe monitorowanie innej aplikacji oprócz swoich dotychczasowych obowiązków na oddziale ratunkowym. Natomiast główny obowiązek pielęgniarki RRT jest do ciągłego monitorowania samopoczucia pacjenta i zapewniania dodatkowej pomocy w razie potrzeby. Sprawdzenie, czy aplikacja Sepsis Watch jest naturalnie dopasowana do ich przepływu pracy.

Ale tutaj pojawiło się wyzwanie. Gdy aplikacja oznaczy pacjenta jako wysokiego ryzyka, pielęgniarka musiałaby zadzwonić do lekarza prowadzącego (znanego w medycynie jako wizyta na oddziałach ratunkowych). Nie tylko te pielęgniarki i pielęgniarki często nie miały wcześniejszych relacji, ponieważ spędzały dni w zupełnie innych częściach szpitala, ale protokół stanowił całkowite odwrócenie typowego łańcucha dowodzenia w każdym szpitalu. Czy ty żartujesz? jedna z pielęgniarek przypomniała sobie, że myślała po tym, jak dowiedziała się, jak wszystko będzie działać. Zadzwonimy ED uczęszczanie ?

Ale to było rzeczywiście najlepsze rozwiązanie. Zespół projektowy zajął się więc naprawą zakłóceń na różne duże i małe sposoby. Naczelne pielęgniarki zorganizowały nieformalne przyjęcia z pizzą, aby wzbudzić wśród innych pielęgniarek podekscytowanie i zaufanie związane z Sepsis Watch. Opracowali także taktykę komunikacji, aby wygładzić rozmowy z uczestnikami. Na przykład postanowili wykonać tylko jeden telefon dziennie, aby omówić wielu pacjentów wysokiego ryzyka jednocześnie, w czasie, gdy lekarze byli najmniej zajęci.

Ponadto kierownicy projektu zaczęli regularnie informować kierownictwo kliniczne o wpływie programu Sepsis Watch. Zespół projektu odkrył, że nie każdy personel szpitala uważa, że ​​śmierć spowodowana sepsą stanowi problem w Duke Health. Zwłaszcza lekarze, którzy nie patrzyli z lotu ptaka na statystyki szpitala, byli znacznie bardziej zajęci sytuacjami awaryjnymi, z którymi mieli do czynienia na co dzień, takimi jak złamania kości i ciężka choroba psychiczna. W rezultacie niektórzy uważają, że Obserwacja sepsy jest uciążliwa. Jednak dla kierownictwa klinicznego sepsa była ogromnym priorytetem i im więcej widzieli, jak działa Sepsis Watch, tym bardziej pomagali smarować przekładnie operacyjne.

Zmiana norm

Elish identyfikuje dwa główne czynniki, które ostatecznie pomogły firmie Sepsis Watch odnieść sukces. Po pierwsze, narzędzie zostało przystosowane do hiperlokalnego, hiperspecyficznego kontekstu: zostało opracowane dla oddziału ratunkowego w Duke Health i nigdzie indziej. Ten naprawdę zindywidualizowany rozwój był kluczem do sukcesu, mówi. Jest to sprzeczne z typowymi normami AI.

Po drugie, przez cały proces opracowywania zespół regularnie szukał informacji zwrotnych od pielęgniarek, lekarzy i innych pracowników w hierarchii szpitalnej. To nie tylko sprawiło, że narzędzie stało się bardziej przyjazne dla użytkownika, ale także wykształciło niewielką grupę zaangażowanych pracowników, którzy przyczynili się do jego sukcesu. Różnicę stanowiło również to, że projekt był prowadzony przez własnych klinicystów Duke Health, mówi Elish, a nie przez technologów, którzy zlecieli na spadochronie z firmy programistycznej. Mówi, że jeśli nie masz dającego się wytłumaczyć algorytmu, musisz budować zaufanie w inny sposób.

Te lekcje są bardzo znane Marzyeh Ghassemi, przychodzącej asystentce na MIT, która bada aplikacje uczenia maszynowego w opiece zdrowotnej. Mówi, że wszystkie systemy uczenia maszynowego, które mają być oceniane lub używane przez ludzi, muszą mieć na uwadze ograniczenia socjotechniczne. Dodaje, że szczególnie w warunkach klinicznych, które są prowadzone przez decydentów ludzkich i obejmują opiekę nad ludźmi w ich najsłabszych punktach, ograniczenia, o których ludzie muszą być świadomi, są naprawdę ograniczeniami ludzkimi i logistycznymi.

Elish ma nadzieję, że jej studium przypadku Sepsis Watch przekona naukowców do ponownego przemyślenia podejścia do badań nad sztuczną inteligencją w medycynie i ogólnego rozwoju sztucznej inteligencji. Tak wiele z wykonywanej teraz pracy skupia się na tym, co AI móc być lub mógłbym zrobić W teorii , ona mówi. Za mało jest informacji o tym, co faktycznie dzieje się na ziemi. Ale aby sztuczna inteligencja mogła spełnić swoją obietnicę, ludzie muszą myśleć tyle samo o integracji społecznej, co o rozwoju technicznym.

Jej praca rodzi również poważne pytania. Odpowiedzialna sztuczna inteligencja musi wymagać zwrócenia uwagi na lokalny i specyficzny kontekst, mówi. Moje czytanie i treningi uczą mnie, że nie można po prostu opracować jednej rzeczy w jednym miejscu, a potem wdrożyć jej gdzie indziej.

Tak więc wyzwaniem jest właściwie ustalenie, w jaki sposób zachowujemy lokalną specyfikę, próbując pracować na dużą skalę, dodaje. To kolejna granica badań nad sztuczną inteligencją.

ukryć