211service.com
Microsoft tworzy wyrocznię do łapania stronniczych algorytmów AI
Rzeczownik | Andrejs Kirma | SM. Technika
Microsoft buduje narzędzie do automatycznej identyfikacji stronniczości w szeregu różnych algorytmów sztucznej inteligencji. Jest to najśmielsza jak dotąd próba zautomatyzowania wykrywania nieuczciwości, która może wkraść się do uczenia maszynowego — i może pomóc firmom w korzystaniu ze sztucznej inteligencji bez nieumyślnej dyskryminacji niektórych osób.
Wielkie firmy technologiczne ścigają się, aby sprzedawać gotową technologię uczenia maszynowego, do której można uzyskać dostęp za pośrednictwem chmury. Ponieważ coraz więcej klientów korzysta z tych algorytmów do automatyzacji ważnych osądów i decyzji, kwestia stronniczości stanie się kluczowa. A ponieważ stronniczość może łatwo wkraść się do modeli uczenia maszynowego, sposoby automatyzacji wykrywania nieuczciwości mogą stać się cenną częścią zestawu narzędzi AI.
Rzeczy takie jak przejrzystość, zrozumiałość i wyjaśnienie są na tyle nowe w tej dziedzinie, że niewielu z nas ma wystarczające doświadczenie, aby wiedzieć wszystko, czego powinniśmy szukać i wszystkie sposoby, w jakie stronniczość może czaić się w naszych modelach, mówi Bogaty Karuna , starszy pracownik naukowy w firmie Microsoft, który pracuje nad pulpitem nawigacyjnym do wykrywania stronniczości.
Błąd algorytmiczny jest coraz większym problemem dla wielu badaczy i ekspertów technologicznych (patrz Sprawdzanie algorytmów pod kątem błędu systematycznego). Ponieważ algorytmy są wykorzystywane do automatyzacji ważnych decyzji, istnieje ryzyko, że stronniczość może zostać zautomatyzowana, wprowadzona na dużą skalę i trudniejsza do wykrycia przez ofiary.
Caruna twierdzi, że produkt Microsoftu wyłapujący uprzedzenia pomoże badaczom AI wyłapać więcej przypadków niesprawiedliwości, choć nie wszystkie. Oczywiście nie możemy oczekiwać perfekcji – zawsze będzie jakieś uprzedzenie niewykryte lub którego nie da się wyeliminować – celem jest zrobienie tego, jak najlepiej możemy, mówi.
Najważniejszą rzeczą, jaką firmy mogą teraz zrobić, jest edukowanie swoich pracowników, aby byli świadomi niezliczonych sposobów, w jakie mogą powstawać i manifestować się uprzedzenia, a także tworzyć narzędzia, dzięki którym modele będą łatwiejsze do zrozumienia i łatwiejsze do wykrycia – dodaje Caruna.
Facebook ogłosił swoje własne narzędzie do wykrywania uprzedzeń na dorocznej konferencji deweloperów 2 maja. Jego narzędzie o nazwie Fairness Flow automatycznie ostrzega, jeśli algorytm dokonuje niesprawiedliwej oceny kogoś na podstawie jego rasy, płci lub wieku. Facebook twierdzi, że potrzebuje Fairness Flow, ponieważ coraz więcej osób w firmie wykorzystuje sztuczną inteligencję do podejmowania ważnych decyzji.
Bin Yu , profesor na UC Berkeley, mówi, że narzędzia Facebooka i Microsoftu wydają się krokiem we właściwym kierunku, ale mogą nie wystarczyć. Sugeruje, aby duże firmy zleciły zewnętrznym ekspertom audyt ich algorytmów, aby udowodnić, że nie są stronnicze. Ktoś inny musi zbadać algorytmy Facebooka — nie mogą one być tajemnicą dla wszystkich, mówi Yu.