211service.com
Google powołuje radę AI, która ma przeciwdziałać kontrowersjom, ale okazuje się, że jest kontrowersyjna
Jeremy port
Opracowywanie i komercjalizacja sztucznej inteligencji okazało się etycznym polem minowym dla firm takich jak Google. Firma widziała, jak jej algorytmy są oskarżane o utrwalanie uprzedzeń związanych z rasą i płcią oraz podsycanie wysiłków na rzecz budowy broni autonomicznej.
Gigant wyszukiwania ma teraz nadzieję, że zespół filozofów, inżynierów i ekspertów ds. Polityki pomoże mu poradzić sobie z zagrożeniami moralnymi stwarzanymi przez sztuczną inteligencję bez skandali prasowych, protestów pracowników czy problemów prawnych.
Kent Walker, starszy wiceprezes Google ds. spraw globalnych i dyrektor prawny, ogłosił utworzenie nowego niezależnego organu do przeglądu praktyk firmy w zakresie sztucznej inteligencji na konferencji EmTech Digital w San Francisco organizowanej przez MIT Technology Review.
Walker powiedział, że grupa, znana jako Zewnętrzna Rada Doradcza ds. Zaawansowanych Technologii (ATEAC), dokona przeglądu projektów i planów firmy oraz opracuje raporty, które pomogą ustalić, czy którykolwiek z nich narusza własne zasady sztucznej inteligencji firmy. Rada nie będzie miała ustalonego programu, powiedział Walker, i nie będzie miała uprawnień do zawetowania samych projektów. Powiedział jednak, że raporty grupy pomogą nam zachować uczciwość.
W pierwszym ATEAC weźmie udział filozof, ekonomista, ekspert ds. polityki publicznej oraz kilku badaczy zajmujących się nauką o danych, uczeniem maszynowym i robotyką. Kilku z wybranych aktywnie bada takie kwestie, jak błąd algorytmiczny. Pełna lista jest następująca: Alessandro Acquisti, Bubacarr Ba, De Kai, Dyan Gibbens, Joannie Bryson, Kay Coles James, Luciano Floridi , oraz William Joseph Burns .
Ale to firmy technologiczne muszą udowodnić, że szczerze podchodzą do kwestii etycznych. Ogłoszenie wywołało już reakcję niektórych ekspertów AI, którzy kwestionują włączenie Gibbensa i Jamesa.
Pierwszy z nich jest założycielem i dyrektorem generalnym firmy zajmującej się dronami, wybór, który wydaje się głuchy po tym, jak Google spotkał się z reakcją pracowników i burzą negatywnej prasy za zaangażowanie w Maven, projekt dostarczania sztucznej inteligencji w chmurze do analizy sił powietrznych USA zdjęć z drona. Opad skłonił Google do ogłoszenia zestawu Zasady sztucznej inteligencji na pierwszym miejscu. Ten ostatni jest prezesem konserwatywnego think tanku The Heritage Foundation, który forsował program anty-LGBTQ i którego organizacja rozpowszechnia m.in. dezinformacje na temat zmian klimatycznych.
Kontrowersyjne ogłoszenie pojawia się w związku z serią skandali, z którymi borykał się Google i inne duże firmy technologiczne, związanych z rozwojem i wykorzystaniem sztucznej inteligencji. Na przykład algorytmy używane do rozpoznawanie twarzy oraz filtrowanie kandydatów do pracy wykazano, że wykazują uprzedzenia rasowe.
Walker powiedział na scenie, że Google już dokładnie sprawdza swoje projekty AI. Zauważył, że firma zdecydowała się nie dostarczać technologii rozpoznawania twarzy w obawie, że może ona zostać niewłaściwie wykorzystana. W innym przypadku powiedział, że firma zdecydowała się wydać algorytm AI do czytania z ruchu warg, pomimo obaw, że może on zostać wykorzystany do nadzoru, ponieważ uznano, że potencjalne korzyści przewyższają ryzyko.
W EmTech Walker przyznał, że rada będzie musiała wziąć pod uwagę pojawiające się zagrożenia AI, i zidentyfikował dezinformację i manipulację wideo za pomocą sztucznej inteligencji jako szczególne problemy. Jak to wykrywamy na naszych platformach? Bardzo ciężko nad tym pracujemy, powiedział. Jesteśmy wyszukiwarką, a nie wyszukiwarką prawdy.