Poza cyklem szumu AI: zaufanie i przyszłość AI

Dostarczone przez Niuans

Jeśli chodzi o sztuczną inteligencję, nie brakuje obietnic. Niektórzy twierdzą, że rozwiąże to wszystkie problemy, podczas gdy inni ostrzegają, że przyniesie koniec świata, jaki znamy. Obie pozycje regularnie rozgrywają się w hollywoodzkich wątkach, takich jak Westworld, sadza, Raport mniejszości, Jej, oraz Była maszyna . Te historie są fascynujące, ponieważ wymagają od nas, jako twórców i konsumentów technologii sztucznej inteligencji, podjęcia decyzji, czy ufamy systemowi sztucznej inteligencji, czy też, dokładniej, temu, co system robi z otrzymanymi informacjami.

Ta treść została wyprodukowana przez firmę Nuance. Nie została napisana przez redakcję MIT Technology Review.

Joe Petro jest dyrektorem ds. technologii w firmie Nuance.

Historie te stanowią również ważną lekcję dla tych z nas, którzy spędzają całe dnie na projektowaniu i budowaniu aplikacji AI: zaufanie jest kluczowym czynnikiem decydującym o sukcesie aplikacji AI. Kto chce wejść w interakcję z systemem, któremu nie ufa?

Czarna skrzynka i zrozumienie niewiadomych

Nawet jako rodząca się technologia, sztuczna inteligencja jest niezwykle złożona i potężna, zapewniając korzyści dzięki szybkiemu i wydajnemu wykonywaniu obliczeń i wykrywaniu wzorców w ogromnych zestawach danych. Ale ta moc, w połączeniu z postrzeganiem AI przez czarną skrzynkę i jej apetytem na dane użytkowników, wprowadza wiele zmiennych, niewiadomych i możliwych niezamierzonych konsekwencji. W praktycznych zastosowaniach sztucznej inteligencji ukryty jest fakt, że zaufanie może mieć głęboki wpływ na postrzeganie systemu przez użytkownika, a także powiązanych firm, dostawców i marek, które wprowadzają te aplikacje na rynek.

Udoskonalenia, takie jak wszechobecna chmura i moc obliczeniowa brzegowa, sprawiają, że sztuczna inteligencja jest bardziej wydajna i skuteczna, jednocześnie ułatwiając i przyspieszając tworzenie i wdrażanie aplikacji. W przeszłości nacisk kładziono na rozwój oprogramowania i projektowanie doświadczeń użytkownika. Ale nie chodzi już tylko o zaprojektowanie systemu, który rozwiązuje problem x . Naszym obowiązkiem jest stworzenie angażującego, spersonalizowanego, bezproblemowego i godnego zaufania doświadczenia dla każdego użytkownika.

Sztuczna inteligencja jest głodna danych: wiedz, czym je karmisz

Zdolność do tego z powodzeniem zależy w dużej mierze od danych użytkownika. Wydajność systemu, niezawodność i zaufanie użytkowników do danych wyjściowych modelu AI zależy w takim samym stopniu od jakości projektu modelu, jak i wprowadzanych do niego danych. Dane to paliwo napędzające silnik sztucznej inteligencji, który wirtualnie przekształca potencjalną energię danych użytkownika w energię kinetyczną w postaci praktycznych spostrzeżeń i inteligentnych wyników. Tak jak napełnianie samochodu wyścigowego Formuły 1 kiepskim lub zanieczyszczonym paliwem zmniejszyłoby osiągi i zdolność kierowcy do rywalizacji, system sztucznej inteligencji przeszkolony z nieprawidłowymi lub nieodpowiednimi danymi może dawać niedokładne lub nieprzewidywalne wyniki, które łamią zaufanie użytkowników. Raz złamane zaufanie jest trudne do odzyskania. Właśnie dlatego rygorystyczne praktyki zarządzania danymi przez programistów i dostawców AI mają kluczowe znaczenie dla budowania skutecznych modeli AI, a także tworzenia akceptacji, satysfakcji i utrzymania klientów.

Odpowiedzialne zarządzanie danymi tworzy łańcuch zaufania, który rozciąga się od konsumentów po firmy gromadzące dane użytkowników i te z nas, które budują systemy oparte na sztucznej inteligencji. Naszym obowiązkiem jest znać i rozumieć przepisy i zasady dotyczące prywatności oraz brać pod uwagę bezpieczeństwo i zgodność na pierwszym etapie projektowania. Musimy dobrze rozumieć, w jaki sposób wykorzystywane są dane i kto ma do nich dostęp. Musimy również wykrywać i eliminować ukryte błędy w danych poprzez kompleksowe testy.

Traktowanie danych użytkownika jako zastrzeżonego „kodu źródłowego”

Traktuj dane użytkownika jako wrażliwą własność intelektualną (IP). Jest to zastrzeżony kod źródłowy używany do budowania modeli AI, które rozwiązują określone problemy, tworzą niestandardowe doświadczenia i osiągają pożądane wyniki. Dane te pochodzą z osobistych interakcji użytkownika, takich jak rozmowy między konsumentami i agentami telefonicznymi, lekarzami i pacjentami oraz bankami i klientami. Jest wrażliwy, ponieważ tworzy intymne, bardzo szczegółowe cyfrowe profile użytkowników na podstawie prywatnych informacji finansowych, zdrowotnych, biometrycznych i innych.

Dane użytkowników muszą być chronione i wykorzystywane tak samo ostrożnie, jak każdy inny adres IP, zwłaszcza w przypadku systemów sztucznej inteligencji w branżach o wysokim stopniu regulacji, takich jak opieka zdrowotna i usługi finansowe. Lekarze wykorzystują mowę AI, rozumienie języka naturalnego i konwersacyjne agenty wirtualne utworzone na podstawie danych dotyczących zdrowia pacjenta do dokumentowania opieki i dostępu wskazówki diagnostyczne w czasie rzeczywistym . W usługach bankowych i finansowych systemy sztucznej inteligencji przetwarzają miliony transakcji klientów i wykorzystują biometryczny odcisk głosu, ruch gałek ocznych i dane behawioralne (na przykład szybkość pisania, używane słowa, którą ręką przeciągasz palcem) do wykryć ewentualne oszustwo lub uwierzytelnić tożsamość użytkowników .

Zarówno placówki służby zdrowia, jak i firmy tworzą własne, markowe cyfrowe drzwi wejściowe, które zapewniają wydajne, spersonalizowane wrażenia użytkownika za pośrednictwem wiadomości SMS, Internetu, telefonu, wideo, aplikacji i innych kanałów. Konsumenci decydują się również na oszczędzające czas interakcje cyfrowe w czasie rzeczywistym. Organizacje medyczne i komercyjne słusznie chcą kontrolować i chronić swoje relacje i dane z pacjentami i klientami za pomocą każdej metody cyfrowego zaangażowania, aby budować świadomość marki, spersonalizowane interakcje i lojalność.

Każdy dostawca i programista sztucznej inteligencji musi nie tylko zdawać sobie sprawę z wrażliwej natury danych użytkownika, ale także z potrzeby działania zgodnie z wysokimi standardami etycznymi w celu budowania i utrzymywania wymaganego łańcucha zaufania.

Oto kluczowe pytania do rozważenia:

Kto ma dostęp do danych? Posiadaj jasną i przejrzystą politykę, która obejmuje ścisłe zabezpieczenia, takie jak ograniczanie dostępu do niektórych rodzajów danych oraz zakaz odsprzedaży lub udostępniania stronom trzecim. Te same zasady powinny mieć zastosowanie do dostawców chmury lub innych partnerów programistycznych.

Gdzie i jak długo przechowywane są dane? Zapytaj, gdzie znajdują się dane (chmura, brzeg, urządzenie) i jak długo będą przechowywane. Wdrożenie ogólnego rozporządzenia o ochronie danych Unii Europejskiej, kalifornijskiej ustawy o ochronie prywatności konsumentów oraz perspektywa dodatkowych stanowych i federalnych środków ochrony prywatności powinny sprawić, że praktyki przechowywania i przechowywania danych staną się priorytetem podczas opracowywania sztucznej inteligencji.

Jak definiowane i dzielone są korzyści? Aplikacje AI muszą być również testowane z różnymi zestawami danych, aby odzwierciedlić zamierzone zastosowania w świecie rzeczywistym, wyeliminować niezamierzone błędy i zapewnić wiarygodne wyniki.

Jak dane manifestują się w systemie? Dowiedz się, jak dane będą przepływać przez system. Czy dane wrażliwe są dostępne i zasadniczo przetwarzane przez sieć neuronową w postaci serii zer i jedynek, czy też są one przechowywane w swojej oryginalnej formie z informacjami medycznymi lub umożliwiającymi identyfikację osoby? Ustanowienie i przestrzeganie odpowiednich zasad przechowywania i usuwania danych dla każdego rodzaju danych wrażliwych.

Kto może czerpać wartość handlową z danych użytkownika? Rozważ potencjalne konsekwencje udostępniania danych do celów wykraczających poza pierwotny zakres lub źródło danych. Uwzględnij możliwe fuzje i przejęcia, możliwe dalsze produkty i inne czynniki.

Czy system jest bezpieczny i zgodny? Najpierw zaprojektuj i zbuduj z myślą o prywatności i bezpieczeństwie. Zastanów się, jak przejrzystość, zgoda użytkownika i wydajność systemu mogą wpłynąć na cały cykl życia produktu lub usługi.

Rzeczywistość AI w akcji

Aplikacje biometryczne pomagają zapobiegać oszustwom i upraszczają uwierzytelnianie. System biometrii głosu VoiceID firmy HSBC ma skutecznie zapobiegły kradzieży prawie 400 milionów funtów (około 493 miliony dolarów) przez oszustów telefonicznych w Wielkiej Brytanii. Porównuje ślad głosowy osoby z tysiącami indywidualnych cech mowy w ustalonym nagraniu głosowym, aby potwierdzić tożsamość użytkownika. Inne firmy wykorzystują biometrię głosu do weryfikacji tożsamości pracowników zdalnych call center, zanim uzyskają oni dostęp do zastrzeżonych systemów i danych. Potrzeba takich środków rośnie, ponieważ konsumenci prowadzą coraz więcej interakcji cyfrowych i telefonicznych.

Inteligentne aplikacje zapewniają bezpieczną, spersonalizowaną, cyfrową obsługę klienta. Globalna firma telekomunikacyjna wykorzystuje konwersacyjną sztuczną inteligencję do tworzenia spójnych, bezpiecznych i spersonalizowanych doświadczeń klientów w swoim dużym i zróżnicowanym portfolio marek. W związku z rosnącym zaangażowaniem klientów w kanałach cyfrowych, firma zwróciła się do partnerów technologicznych, aby poszerzyć własną wiedzę specjalistyczną, zapewniając jednocześnie kontrolę nad swoimi danymi podczas wdrażania wirtualnego asystenta do obsługi klienta.

Jeden z trzech największych sprzedawców korzysta z technologii wirtualnych asystentów głosowych, aby umożliwić kupującym przesyłanie zdjęć produktów, które widzieli w trybie offline, a następnie przedstawianie im produktów, które mogą rozważyć na podstawie tych zdjęć.

Aplikacje kliniczne wykorzystujące sztuczną inteligencję w otoczeniu poprawiają jakość opieki zdrowotnej, jednocześnie zmniejszając wypalenie zawodowe lekarzy. EmergeOrtho w Północnej Karolinie korzysta z Nuance Dragon Ambient eXperience (DAX), aby zmienić sposób, w jaki jego praktyki ortopedyczne w całym stanie mogą współpracować z pacjentami i dokumentować opiekę. Aplikacja telezdrowia z inteligencją kliniczną otoczenia dokładnie rejestruje każdą interakcję lekarz-pacjent w sali egzaminacyjnej lub podczas rozmowy telezdrowia, a następnie automatycznie aktualizuje dokumentację medyczną pacjenta. Pacjenci mają pełną uwagę lekarza, jednocześnie usprawniając powodującą wypalenie elektroniczną robotę, którą lekarze muszą wypełnić, aby otrzymać wynagrodzenie za świadczenie opieki.

Systemy obrazowania diagnostycznego oparte na sztucznej inteligencji zapewniają pacjentom niezbędną dalszą opiekę. Radiolodzy w wielu szpitalach wykorzystują sztuczną inteligencję i przetwarzanie języka naturalnego, aby automatycznie identyfikować i wyodrębniać zalecenia dotyczące badań kontrolnych pod kątem podejrzenia raka i innych chorób widocznych na zdjęciach rentgenowskich i innych obrazach. Ta sama technologia może pomóc w zarządzaniu gwałtownym wzrostem liczby zaległych i kontrolnych obrazów, ponieważ ograniczenia związane z COVID-19 łagodzą, umożliwiając dostawcom planowanie procedur, rozpoczęcie odzyskiwania dochodów i utrzymanie opieki nad pacjentem.

Wraz z przyspieszeniem cyfrowej transformacji musimy stawić czoła wyzwaniom, przed którymi stoimy dzisiaj, jednocześnie przygotowując się na mnóstwo przyszłych możliwości. U podstaw tych wysiłków leży zobowiązanie do budowania zaufania i zarządzania danymi w naszych projektach i organizacjach związanych z rozwojem sztucznej inteligencji.

ukryć