Martwisz się o etykę AI w swojej firmie? Te startupy są tutaj, aby pomóc.

Getty

Kiedyś praca Rummana Chowdhury'ego wymagała dużej ilości tłumaczeń. Jako odpowiedzialna kierowniczka AI w firmie konsultingowej Accenture, pracowała z klientami, którzy mają problemy ze zrozumieniem ich modeli AI. Skąd wiedzieli, że modelki robią to, co powinny? Zamieszanie często pojawiało się częściowo dlatego, że naukowcy zajmujący się danymi, prawnicy i kadra kierownicza firmy wydawali się mówić różnymi językami. Jej zespół działałby jako pośrednik, aby wszystkie strony mogły znaleźć się na tej samej stronie. Było to co najmniej nieefektywne: badanie pojedynczego modelu mogło zająć miesiące.

Tak więc pod koniec 2020 roku Chowdhury opuściła stanowisko, aby rozpocząć własne przedsięwzięcie. Nazywa Parzystość AI , oferuje klientom zestaw narzędzi, które starają się skrócić proces do kilku tygodni. Najpierw pomaga im określić, w jaki sposób chcą przeprowadzić audyt swojego modelu — czy to pod kątem stronniczości, czy pod kątem zgodności z prawem? — a następnie zawiera zalecenia dotyczące rozwiązania problemu.

Parity należy do rosnącej liczby startupów obiecujących organizacjom sposoby opracowywania, monitorowania i naprawiania modeli AI. Oferują szereg produktów i usług, od narzędzi łagodzących uprzedzenia po platformy wyjaśniające. Początkowo większość ich klientów pochodziła z silnie regulowanych branż, takich jak finanse i opieka zdrowotna. Ale wzmożone badania i zainteresowanie mediów kwestie uprzedzeń , prywatność i przejrzystość zmieniły temat rozmowy. Nowi klienci często po prostu martwią się odpowiedzialnością, podczas gdy inni chcą sprawdzić się w przyszłości w oczekiwaniu na regulacje.

Tak wiele firm naprawdę staje w obliczu tego po raz pierwszy, mówi Chowdhury. Prawie wszyscy z nich proszą o pomoc.

Od ryzyka do wpływu

Pracując z nowymi klientami, Chowdhury unika używania terminu odpowiedzialność. Słowo jest zbyt miękkie i źle zdefiniowane; pozostawia zbyt wiele miejsca na nieporozumienia. Zamiast tego zaczyna od bardziej znanego korporacyjnego żargonu: pojęcia ryzyka. Wiele firm posiada ramiona ryzyka i zgodności oraz ustanowione procesy ograniczania ryzyka.

Nie inaczej jest w ograniczaniu ryzyka AI. Firma powinna zacząć od rozważenia różnych rzeczy, o które się martwi. Mogą to być ryzyko prawne, możliwość złamania prawa; ryzyko organizacyjne, możliwość utraty pracowników; lub ryzyko utraty reputacji, możliwość doznania katastrofy PR. Stamtąd może pracować wstecz, aby zdecydować, jak przeprowadzić audyt swoich systemów AI. Firma finansowa działająca zgodnie z amerykańskimi przepisami dotyczącymi uczciwego udzielania pożyczek chciałaby sprawdzić swoje modele pożyczkowe pod kątem stronniczości, aby złagodzić ryzyko prawne. Firma telemedyczna, której systemy szkolą się na wrażliwych danych medycznych, może przeprowadzać audyty prywatności w celu ograniczenia ryzyka reputacji.

Parity zawiera bibliotekę sugerowanych pytań, aby pomóc firmom ocenić ryzyko ich modeli AI.

PARYTET

Parzystość pomaga zorganizować ten proces. Platforma najpierw prosi firmę o zbudowanie wewnętrznej oceny wpływu — zasadniczo jest to zestaw otwartych pytań ankietowych dotyczących sposobu działania jej systemów biznesowych i sztucznej inteligencji. Może napisać niestandardowe pytania lub wybrać je z biblioteki Parity, która zawiera ponad 1000 podpowiedzi dostosowanych do wytycznych etycznych AI i odpowiednich przepisów z całego świata. Po utworzeniu oceny zachęca się pracowników w całej firmie do jej wypełniania na podstawie ich funkcji i wiedzy. Platforma następnie uruchamia ich odpowiedzi tekstowe za pomocą modelu przetwarzania w języku naturalnym i tłumaczy je z uwzględnieniem kluczowych obszarów ryzyka firmy. Innymi słowy, parzystość służy jako nowy pośrednik w zbliżeniu naukowców zajmujących się danymi i prawników do tej samej strony.

Następnie platforma rekomenduje odpowiedni zestaw działań ograniczających ryzyko. Mogą one obejmować tworzenie pulpitu nawigacyjnego do ciągłego monitorowania dokładności modelu lub wdrażanie nowych procedur dokumentacji w celu śledzenia, w jaki sposób model był trenowany i dostrajany na każdym etapie jego rozwoju. Oferuje również zbiór frameworków i narzędzi typu open source, które mogą pomóc, takie jak IBM Sprawiedliwość AI 360 do monitorowania stronniczości lub Karty wzorcowe Google do dokumentacji.

Chowdhury ma nadzieję, że jeśli firmy skrócą czas potrzebny na audyt swoich modeli, staną się bardziej zdyscyplinowane w robieniu tego regularnie i często. Ma nadzieję, że z czasem może to również otworzyć ich na myślenie wykraczające poza ograniczanie ryzyka. Moim podstępnym celem jest, aby więcej firm myślało o wpływie, a nie tylko o ryzyku, mówi. Ryzyko to język, który ludzie rozumieją dzisiaj i jest to bardzo cenny język, ale ryzyko jest często reaktywne i responsywne. Impact jest bardziej proaktywny i jest to właściwie lepszy sposób na określenie tego, co powinniśmy robić.

Ekosystem odpowiedzialności

Podczas gdy Parity koncentruje się na zarządzaniu ryzykiem, inny startup Skrzypek , skupia się na wyjaśnialności. Dyrektor generalny Krishna Gade zaczął myśleć o potrzebie większej przejrzystości w podejmowaniu decyzji przez modele AI, pełniąc jednocześnie funkcję kierownika ds. inżynierii w zespole News Feed Facebooka. Po wyborach prezydenckich w 2016 r. firma dokonała dużego nacisku wewnętrznego, aby lepiej zrozumieć, w jaki sposób jej algorytmy oceniają zawartość. Zespół Gade opracował wewnętrzne narzędzie, które później stało się podstawą Dlaczego to widzę? funkcja .

Powiązana historia

Pięć sposobów, aby sztuczna inteligencja stała się większą siłą na dobre w 2021 r. Więcej uwagi na wpływ AI niż kiedykolwiek wcześniej. Niech to się liczy.

Gade uruchomił program Fiddler krótko po tym, w październiku 2018 r. Pomaga zespołom zajmującym się analizą danych śledzić ewolucję wydajności ich modeli i tworzy raporty wysokiego poziomu dla kadry kierowniczej na podstawie wyników. Jeśli dokładność modelu pogarsza się z czasem lub wykazuje on tendencyjne zachowania, Fiddler pomaga debugować, dlaczego tak się dzieje. Gade postrzega modele monitorowania i poprawę wyjaśnialności jako pierwsze kroki do bardziej celowego opracowywania i wdrażania sztucznej inteligencji.

Artur , założona w 2019 roku oraz Wagi i uprzedzenia , założona w 2017 roku, to dwie kolejne firmy, które oferują platformy monitorujące. Podobnie jak Fiddler, Arthur kładzie nacisk na wyjaśnianie i łagodzenie uprzedzeń, podczas gdy Weights & Biases śledzi eksperymenty uczenia maszynowego w celu poprawy badań odtwarzalność . Wszystkie trzy firmy zaobserwowały stopniową zmianę głównych problemów firm, od zgodności z prawem lub wyników modelowych po etykę i odpowiedzialność.

Cyniczna część mnie na początku martwiła się, że zobaczymy klientów wchodzących i myślących, że mogą po prostu zaznaczyć pole, kojarząc swoją markę z kimś innym zajmującym się odpowiedzialną sztuczną inteligencją, mówi Liz O'Sullivan, wiceprezes firmy Arthur ds. odpowiedzialnej sztucznej inteligencji, która pełni również funkcję dyrektora technologicznego Surveillance Technology Oversight Project, organizacji aktywistycznej. Jednak wielu klientów Arthura starało się myśleć poza technicznymi poprawkami w swoich strukturach zarządzania i podejściach do projektowania włączającego. To ekscytujące zobaczyć, że naprawdę inwestują w robienie właściwych rzeczy, mówi.

O’Sullivan i Chowdhury są również podekscytowani, że więcej takich startupów pojawi się w Internecie. O’Sullivan mówi, że nie ma tylko jednego narzędzia lub jednej rzeczy, którą musisz zrobić, aby prowadzić odpowiedzialną sztuczną inteligencję. Chowdury zgadza się: to będzie ekosystem.

ukryć