„Wiarygodna sztuczna inteligencja” to struktura ułatwiająca zarządzanie unikalnym ryzykiem

„Wiarygodna sztuczna inteligencja” to struktura ułatwiająca zarządzanie unikalnym ryzykiem

Dostarczone przez Instytut Deloitte AI

Technologia sztucznej inteligencji (AI) rozwija się w zawrotnym tempie i szybko staje się potencjalnym czynnikiem zakłócającym i niezbędnym czynnikiem umożliwiającym niemal każdej firmie w każdej branży. Na tym etapie jedną z barier w powszechnym wdrażaniu sztucznej inteligencji nie jest już sama technologia; jest to raczej zestaw wyzwań, które, jak na ironię, są znacznie bardziej ludzkie: etyka, zarządzanie i wartości ludzkie.

Irfan Saif jest dyrektorem w Deloitte Risk and Financial Advisory. Beena Ammanath jest dyrektorem zarządzającym w Deloitte Consulting LLP.

Ponieważ sztuczna inteligencja rozszerza się na prawie każdy aspekt współczesnego życia, ryzyko niewłaściwego zachowania sztucznej inteligencji rośnie wykładniczo – do punktu, w którym ryzyko to może dosłownie stać się kwestią życia i śmierci. Rzeczywiste przykłady nieprawidłowej sztucznej inteligencji obejmują systemy dyskryminujące ludzi ze względu na ich rasę, wiek lub płeć oraz systemy mediów społecznościowych, które nieumyślnie rozpowszechniają plotki i dezinformację i nie tylko.

Co gorsza, te przykłady to tylko wierzchołek góry lodowej. Ponieważ sztuczna inteligencja jest wdrażana na większą skalę, związane z nią ryzyko prawdopodobnie tylko wzrośnie, co może mieć poważne konsekwencje dla całego społeczeństwa, a jeszcze większe konsekwencje dla odpowiedzialnych firm. Z perspektywy biznesowej te potencjalne konsekwencje obejmują wszystko, od procesów sądowych, grzywien regulacyjnych i wściekłych klientów po zakłopotanie, utratę reputacji i zniszczenie wartości dla akcjonariuszy.

Jednak teraz, gdy sztuczna inteligencja staje się teraz wymaganą zdolnością biznesową – a nie tylko fajną do posiadania – firmy nie mają już możliwości unikania unikalnych zagrożeń związanych ze sztuczną inteligencją poprzez całkowite unikanie sztucznej inteligencji. Zamiast tego muszą nauczyć się, jak skutecznie identyfikować i zarządzać ryzykiem sztucznej inteligencji. Aby wykorzystać potencjał współpracy ludzi i maszyn, organizacje muszą przekazać plan dotyczący sztucznej inteligencji, który jest przyjmowany i wypowiadany z biura pocztowego do sali konferencyjnej. Posiadając ramy etyczne, organizacje tworzą wspólny język, za pomocą którego wyrażają zaufanie i pomagają zapewnić integralność danych wśród wszystkich swoich wewnętrznych i zewnętrznych interesariuszy. Posiadanie wspólnej struktury i obiektywu w celu spójnego stosowania nadzoru i zarządzania ryzykiem związanym ze sztuczną inteligencją w całym przedsiębiorstwie może umożliwić szybsze i bardziej spójne wdrażanie sztucznej inteligencji.

Struktury godnej zaufania sztucznej inteligencji

Aby lepiej stawić czoła wyzwaniom związanym z etyką i zarządzaniem AI — pomaga wykorzystać ramy. Platforma Trustworthy AI firmy Deloitte wprowadza sześć kluczowych wymiarów, które – rozpatrywane łącznie na etapie projektowania, rozwoju, wdrażania i eksploatacji systemu AI – mogą pomóc chronić etykę i budować wiarygodną strategię AI.

Platforma Trustworthy AI ma na celu pomóc firmom w identyfikowaniu i ograniczaniu potencjalnych zagrożeń związanych z etyką AI na każdym etapie cyklu życia AI. Oto bliższe spojrzenie na każdy z sześciu wymiarów ramy.

Struktury godnej zaufania sztucznej inteligencji

1. Uczciwe, nie stronnicze

Godna zaufania sztuczna inteligencja musi być zaprojektowana i przeszkolona, ​​aby postępować zgodnie z uczciwym, spójnym procesem i podejmować uczciwe decyzje. Musi również obejmować kontrole wewnętrzne i zewnętrzne w celu zmniejszenia uprzedzeń dyskryminacyjnych.

Stronniczość jest nieustannym wyzwaniem dla ludzi i społeczeństwa, a nie tylko sztucznej inteligencji. Jednak wyzwanie jest jeszcze większe dla sztucznej inteligencji, ponieważ brakuje jej zniuansowanego zrozumienia standardów społecznych – nie wspominając o nadzwyczajnej ogólnej inteligencji wymaganej do osiągnięcia zdrowego rozsądku – potencjalnie prowadzącej do decyzji, które są technicznie poprawne, ale społecznie nieakceptowalne. Sztuczna inteligencja uczy się na podstawie zestawów danych wykorzystywanych do jej trenowania, a jeśli te zestawy danych zawierają rzeczywiste nastawienie, systemy sztucznej inteligencji mogą uczyć się, wzmacniać i propagować to nastawienie z cyfrową prędkością i na skalę.

Na przykład system sztucznej inteligencji, który decyduje na bieżąco, gdzie umieścić internetowe ogłoszenia o pracę, może niesprawiedliwie kierować reklamy na lepiej płatne oferty pracy do mężczyzn odwiedzających witrynę, ponieważ z rzeczywistych danych wynika, że ​​mężczyźni zazwyczaj zarabiają więcej niż kobiety. Podobnie firma świadcząca usługi finansowe, która wykorzystuje sztuczną inteligencję do sprawdzania wniosków o kredyt hipoteczny, może uznać, że jej algorytm niesprawiedliwie dyskryminuje ludzi na podstawie czynników, które nie są akceptowane społecznie, takich jak rasa, płeć czy wiek. W obu przypadkach firma odpowiedzialna za sztuczną inteligencję może ponieść poważne konsekwencje, w tym grzywny regulacyjne i utratę reputacji.

Aby uniknąć problemów związanych z uczciwością i uprzedzeniami, firmy muszą najpierw określić, co stanowi sprawiedliwość. Może to być o wiele trudniejsze, niż się wydaje, ponieważ dla każdej kwestii nie ma generalnie jednej definicji uczciwości, z którą wszyscy się zgadzają. Firmy muszą również aktywnie szukać stronniczości w swoich algorytmach i danych, dokonując niezbędnych korekt i wdrażając kontrole, aby zapewnić, że dodatkowe stronniczość nie pojawi się nieoczekiwanie. W przypadku wykrycia stronniczości należy je zrozumieć, a następnie złagodzić za pomocą ustalonych procesów rozwiązywania problemu i odbudowy zaufania klientów.

AI nie może być dłużej traktowana jako czarna skrzynka, która otrzymuje dane wejściowe i generuje dane wyjściowe bez jasnego zrozumienia, co dzieje się w środku.

2. Przejrzyste i wytłumaczalne

Aby sztuczna inteligencja była godna zaufania, wszyscy uczestnicy mają prawo zrozumieć, w jaki sposób wykorzystywane są ich dane i w jaki sposób sztuczna inteligencja podejmuje decyzje. Algorytmy, atrybuty i korelacje sztucznej inteligencji muszą być dostępne do wglądu, a jej decyzje muszą być w pełni wyjaśnione.

Ponieważ decyzje i procesy, które opierają się na sztucznej inteligencji, rosną zarówno pod względem liczby, jak i znaczenia, sztuczna inteligencja nie może być dłużej traktowana jako czarna skrzynka, która otrzymuje dane wejściowe i generuje dane wyjściowe bez jasnego zrozumienia, co dzieje się w środku.

Na przykład sprzedawcy internetowi, którzy wykorzystują sztuczną inteligencję do polecania klientom produktów, są pod presją, aby wyjaśnić swoje algorytmy i sposób podejmowania decyzji o rekomendacjach. Podobnie amerykański system sądowy stoi w obliczu ciągłych kontrowersji dotyczących wykorzystywania nieprzejrzystych systemów sztucznej inteligencji do informowania o decyzjach dotyczących wyroków karnych.

Ważne kwestie do rozważenia w tym obszarze obejmują identyfikację przypadków użycia sztucznej inteligencji, dla których przejrzystość i możliwość wyjaśnienia są szczególnie ważne, a następnie zrozumienie, jakie dane są wykorzystywane i w jaki sposób podejmowane są decyzje w tych przypadkach użycia. Ponadto, jeśli chodzi o przejrzystość, rośnie presja, aby: wyraźnie informuj ludzi kiedy wchodzą w interakcję z AI, zamiast udawać, że sztuczna inteligencja jest prawdziwą osobą.

3. Odpowiedzialny i odpowiedzialny

Wiarygodne systemy sztucznej inteligencji muszą obejmować polityki, które jasno określają, kto jest odpowiedzialny za ich wyniki. Obwinianie samej technologii za złe decyzje i błędne obliczenia nie jest wystarczająco dobre – nie dla poszkodowanych ludzi, a już na pewno nie dla rządowych organów regulacyjnych. Jest to kluczowa kwestia, która prawdopodobnie stanie się ważniejsza, ponieważ sztuczna inteligencja jest wykorzystywana do coraz szerszego zakresu coraz bardziej krytycznych zastosowań, takich jak diagnostyka chorób, zarządzanie majątkiem i jazda autonomiczna.

Na przykład, jeśli pojazd bez kierowcy spowoduje kolizję, kto jest odpowiedzialny za szkodę? Kierowca? Właściciel pojazdu? Wytwórca? Programiści AI? Dyrektor Generalny?

Podobnie rozważmy przykład firmy inwestycyjnej, która wykorzystuje zautomatyzowaną platformę obsługiwaną przez sztuczną inteligencję do handlu w imieniu swoich klientów. Jeśli klient inwestuje oszczędności swojego życia za pośrednictwem firmy, a następnie traci wszystko z powodu słabych algorytmów, powinien istnieć mechanizm identyfikujący, kto jest odpowiedzialny za problem, a kto jest odpowiedzialny za naprawienie rzeczy.

Kluczowe czynniki, które należy wziąć pod uwagę, obejmują to, które przepisy ustawowe i wykonawcze mogą określać odpowiedzialność prawną oraz czy systemy sztucznej inteligencji podlegają audytowi i czy są objęte obowiązującymi przepisami dotyczącymi sygnalistów. Ponadto, w jaki sposób problemy będą komunikowane społeczeństwu i organom regulacyjnym oraz jakie konsekwencje poniosą odpowiedzialne strony?

4. Solidny i niezawodny

Aby sztuczna inteligencja mogła osiągnąć szerokie zastosowanie, musi być co najmniej tak samo solidna i niezawodna, jak tradycyjne systemy, procesy i ludzie, których rozszerza lub zastępuje.

Aby sztuczna inteligencja została uznana za godną zaufania, musi być dostępna wtedy, gdy powinna być dostępna oraz musi generować spójne i niezawodne wyniki — prawidłowo wykonując zadania w mniej niż idealnych warunkach oraz w przypadku napotkania nieoczekiwanych sytuacji i danych. Wiarygodna sztuczna inteligencja musi się dobrze skalować, pozostając solidną i niezawodną w miarę rozszerzania się i zwiększania jej wpływu. A jeśli zawiedzie, to musi zawieść w przewidywalny, oczekiwany sposób.

Rozważmy przykład firmy medycznej, która wykorzystuje sztuczną inteligencję do identyfikowania nieprawidłowości w skanach mózgu i przepisywania odpowiedniego leczenia. Aby być godnym zaufania, absolutnie niezbędne jest, aby algorytmy Al generowały spójne i wiarygodne wyniki, ponieważ życie może być zagrożone.

Firmy muszą rozważyć i zająć się wszystkimi rodzajami zagrożeń — zewnętrznymi, fizycznymi, cyfrowymi — a następnie informować o nich użytkowników.

Aby uzyskać sztuczną inteligencję, która jest solidna i niezawodna, firmy muszą zapewnić, że ich algorytmy AI generują właściwe wyniki dla każdego nowego zestawu danych. Potrzebują również ustalonych procesów rozwiązywania problemów i niespójności, jeśli i kiedy się pojawią. Czynnik ludzki jest tutaj kluczowym elementem: zrozumienie, w jaki sposób wkład ludzki wpływa na niezawodność; określenie, kim są właściwi ludzie do wniesienia wkładu; oraz zapewnienie, że ci ludzie są odpowiednio wyposażeni i przeszkoleni – szczególnie w zakresie uprzedzeń i etyki.

5. Szanujemy prywatność

Prywatność ma kluczowe znaczenie dla wszystkich rodzajów systemów danych, ale jest szczególnie ważna dla sztucznej inteligencji, ponieważ wyrafinowane spostrzeżenia generowane przez systemy sztucznej inteligencji często wynikają z danych, które są bardziej szczegółowe i osobiste. Godna zaufania sztuczna inteligencja musi przestrzegać przepisów dotyczących danych i wykorzystywać dane wyłącznie do określonych i uzgodnionych celów.

Kwestia prywatności AI często wykracza poza własne mury firmy. Na przykład prywatność danych dźwiękowych przechwyconych przez asystentów AI pojawiła się ostatnio na pierwszych stronach gazet, a kontrowersje pojawiają się na temat zakresu, w jakim dostawcy i partnerzy firmy uzyskują dostęp do danych oraz czy dane powinny być udostępniane organom ścigania.

Firmy muszą wiedzieć, jakie dane klientów są gromadzone i dlaczego oraz czy dane są wykorzystywane w sposób, w jaki klienci zrozumieli i zgodzili się. Ponadto klientom należy zapewnić wymagany poziom kontroli nad swoimi danymi, w tym możliwość: zaakceptuj lub zrezygnować udostępniania swoich danych. A jeśli klienci mają obawy dotyczące prywatności danych, potrzebują możliwości wyrażenia tych obaw.

6. Bezpieczne i bezpieczne

Aby sztuczna inteligencja była wiarygodna, musi być chroniona przed zagrożeniami cyberbezpieczeństwa, które mogą prowadzić do szkód fizycznych i/lub cyfrowych. Chociaż bezpieczeństwo i ochrona są wyraźnie ważne dla wszystkich systemów komputerowych, są one szczególnie ważne dla sztucznej inteligencji ze względu na dużą i rosnącą rolę sztucznej inteligencji oraz jej wpływ na działania w świecie rzeczywistym.

Na przykład, jeśli system finansowy oparty na sztucznej inteligencji zostanie zhakowany, może to spowodować utratę reputacji i utratę pieniędzy lub danych. To oczywiście poważne konsekwencje. Jednak nie są one tak poważne, jak potencjalne konsekwencje zhakowania pojazdu napędzanego sztuczną inteligencją, co może narazić życie ludzi na ryzyko.

Innym przykładem ryzyka cyberbezpieczeństwa AI jest niedawne naruszenie danych obejmujące miliony zapisy linii papilarnych i rozpoznawania twarzy . To naruszenie było szczególnie poważne, ponieważ dotyczyło danych biometrycznych ludzi, które są trwałe i nie można ich zmienić (w przeciwieństwie do skradzionego hasła lub innego standardowego rodzaju danych, które można szybko i łatwo zmienić, aby ograniczyć szkody).

Aby zapewnić bezpieczeństwo i ochronę swoich systemów sztucznej inteligencji, firmy muszą dokładnie rozważyć i zająć się wszystkimi rodzajami zagrożeń — między innymi zewnętrznymi, fizycznymi i cyfrowymi — a następnie informować o nich użytkowników. Chociaż najwięcej uwagi poświęca się ryzyku zewnętrznemu, ryzyko wewnętrzne, takie jak oszustwo, może być równie poważne. W każdym przypadku użycia sztucznej inteligencji firmy muszą ocenić, czy potencjalne korzyści wystarczająco przewyższają związane z tym ryzyko.

AI, której możesz zaufać

Etyka AI staje się największym pojedynczym wyzwaniem dla dalszego postępu AI i powszechnego wdrażania — i jest to wyzwanie, którego firmy nie mogą już dłużej ignorować, gdy sztuczna inteligencja staje się podstawową zdolnością biznesową. Platforma Trustworthy AI oferuje uporządkowany i kompleksowy sposób myślenia o etyce AI, pomagając firmom projektować, rozwijać, wdrażać i obsługiwać systemy AI, które można zaufać.

Po więcej informacji odwiedź www.deloitte.com/us/trustai .

ukryć