Kongres chce chronić Cię przed stronniczymi algorytmami, deepfake'ami i inną złą sztuczną inteligencją

Simone Nironha

W ubiegłą środę amerykańscy prawodawcy wprowadzili nowy rachunek to jedno z pierwszych poważnych wysiłków tego kraju na rzecz uregulowania sztucznej inteligencji. Prawdopodobnie będzie ich więcej.

Wskazuje na dramatyczną zmianę stanowiska Waszyngtonu w kierunku jednej z najpotężniejszych technologii tego stulecia. Jeszcze kilka lat temu decydenci mieli niewielką skłonność do regulowania sztucznej inteligencji. Teraz, gdy konsekwencje zaniechania tego stają się coraz bardziej namacalne, mały kontyngent w Kongresie opracowuje szerszą strategię, aby opanować technologię.

Chociaż Stany Zjednoczone nie są w tym osamotnione – Wielka Brytania, Francja , Australia i inne kraje niedawno opracowały lub uchwaliły przepisy, które pociągają firmy technologiczne do odpowiedzialności za ich algorytmy — kraj ten ma wyjątkową okazję kształtowania globalnego wpływu sztucznej inteligencji jako ojczyzny Doliny Krzemowej. W Europie problemem jest to, że nie jesteśmy liderami w rozwoju sztucznej inteligencji, mówi Bendert Zevenbergen, były doradca ds. polityki technologicznej w Parlamencie Europejskim, a obecnie badacz na Uniwersytecie Princeton. Jesteśmy niejako odbiorcami technologii AI na wiele sposobów. Jesteśmy zdecydowanie drugim poziomem. Pierwsza warstwa to Stany Zjednoczone i Chiny.

Nowa ustawa, zwana ustawą o odpowiedzialności algorytmicznej, wymagałaby od dużych firm audytu swoich systemów uczenia maszynowego pod kątem uprzedzeń i dyskryminacji oraz podjęcia działań naprawczych w odpowiednim czasie, gdyby takie problemy zostały zidentyfikowane. Wymagałoby to również od tych firm audytu nie tylko uczenia maszynowego, ale wszystkich procesów obejmujących dane wrażliwe — w tym informacje umożliwiające identyfikację osób, informacje biometryczne i genetyczne — pod kątem zagrożeń prywatności i bezpieczeństwa. Gdyby to przeszło, ustawa przekazałaby władzę regulacyjną w ręce amerykańskiej Federalnej Komisji Handlu, agencji odpowiedzialnej za ochronę konsumentów i regulacje antymonopolowe.

Projekt aktu prawnego jest pierwszym efektem wielomiesięcznych dyskusji między ustawodawcami, badaczami i innymi ekspertami mającymi na celu ochronę konsumentów przed negatywnymi skutkami sztucznej inteligencji, mówi Mutale Nkonde, badacz z Data & Society Research Institute, który był zaangażowany w ten proces. Jest odpowiedzią na kilka głośnych rewelacji z zeszłego roku, które pokazały, że algorytmiczne nastawienie na daleko idące szkody może mieć w wielu kontekstach. Należą do nich Amazon wewnętrzne narzędzie rekrutacyjne że karano kandydatki; komercyjne platformy do analizy i rozpoznawania twarzy, które są znacznie mniej dokładne w przypadku kobiet o ciemniejszej karnacji niż w przypadku mężczyzn o jaśniejszej karnacji; i, ostatnio, algorytm rekomendacji reklam na Facebooku, który prawdopodobnie utrwala dyskryminację w zakresie zatrudnienia i mieszkania niezależnie od określonej grupy docelowej reklamodawcy.

Powiązana historia

Powiązana historia Tendencje mogą wkradać się na wielu etapach procesu uczenia głębokiego, a standardowe praktyki w informatyce nie są zaprojektowane do ich wykrywania.

Ustawa została już pochwalona przez członków społeczności zajmującej się etyką i naukami o sztucznej inteligencji jako ważny i przemyślany krok w kierunku ochrony ludzi przed takimi niezamierzonymi, odmiennymi skutkami. Świetny pierwszy krok, napisał Andrew Selbst, naukowiec ds. technologii i prawa w Data & Society, w dniu Świergot . Wymagałoby dokumentacji, oceny i prób zajęcia się przewidywanymi skutkami. To nowe, ekscytujące i niezwykle potrzebne.

To też nie będzie jedyny krok. Propozycja, mówi Nkonde, jest częścią większej strategii mającej na celu wprowadzenie w przyszłości nadzoru regulacyjnego do wszelkich procesów i produktów AI. Prawdopodobnie wkrótce pojawi się kolejna ustawa dotycząca rozprzestrzeniania się dezinformacji, w tym deepfake, jako zagrożenia dla bezpieczeństwa narodowego, mówi. Kolejny rachunek wprowadzony we wtorek zakazałby manipulacyjnych praktyk projektowych, których czasami używają giganci technologiczni, aby skłonić konsumentów do rezygnacji ze swoich danych. To wielokierunkowy atak, mówi Nkonde.

Każdy projekt ustawy jest celowo rozbudowany i obejmuje różne produkty AI i procesy danych w różnych dziedzinach. Jednym z wyzwań, z jakim borykał się Waszyngton, jest to, że można wykorzystać technologię taką jak rozpoznawanie twarzy drastycznie różne cele w różnych branżach , takich jak organy ścigania, motoryzacja, a nawet handel detaliczny. Z prawnego punktu widzenia nasze produkty są specyficzne dla branży, mówi Nkonde. Regulatorzy, którzy patrzą na samochody, nie są tymi samymi regulatorami, którzy patrzą na kontrakty w sektorze publicznym, którzy nie są tymi samymi regulatorami, którzy patrzą na urządzenia.

Kongres stara się przemyśleć, jak przerobić tradycyjne ramy regulacyjne, aby dostosować się do tej nowej rzeczywistości. Ale trudno będzie to zrobić bez narzucania jednego uniwersalnego rozwiązania w różnych kontekstach. Ponieważ rozpoznawanie twarzy jest używane do tak wielu różnych rzeczy, trudno będzie powiedzieć: „To są zasady rozpoznawania twarzy” — mówi Zevenbergen.

Nkonde przewiduje, że ten ruch regulacyjny ostatecznie doprowadzi do powstania nowego biura lub agencji skoncentrowanej na zaawansowanych technologiach. Po drodze pojawią się jednak poważne przeszkody. Podczas gdy ochrona przed dezinformacją i manipulacyjnym gromadzeniem danych zyskała poparcie obu partii, ustawa o algorytmicznej rozliczalności jest sponsorowana przez trzech Demokratów, co zmniejsza prawdopodobieństwo, że zostanie uchwalona przez kontrolowany przez Republikanów Senat i podpisana przez prezydenta Trumpa. Ponadto obecnie tylko garstka członków Kongresu ma wystarczająco głęboką wiedzę techniczną na temat danych i uczenia maszynowego, aby podejść do przepisów w odpowiednio zniuansowany sposób. Te pomysły i propozycje są w tej chwili rodzajem niszy, mówi Nkonde. Masz tych trzech lub czterech członków, którzy je rozumieją.

Ale pozostaje optymistką. Część strategii posuwającej się naprzód obejmuje edukowanie większej liczby członków na temat problemów i wprowadzanie ich na pokład. Kiedy będziesz ich edukować na temat tego, co zawierają te rachunki, i kiedy rachunki będą sponsorowane, będą coraz bardziej przenosić się do centrum, dopóki regulacja przemysłu technologicznego nie stanie się oczywista, mówi.

Ta historia pierwotnie pojawiła się w naszym nominowanym przez Webby biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.

ukryć