Dyrektor generalny Microsoftu wzywa do odpowiedzialnej sztucznej inteligencji, ignoruje algorytmy, które już rządzą naszym życiem

Dyrektor generalny Microsoftu, Satya Nadella, jest zaniepokojony władzą, jaką sztuczna inteligencja będzie miała nad naszym życiem. W poście na Łupek wczoraj poradził branży komputerowej, aby zacznij teraz myśleć o tym, jak zaprojektować inteligentne oprogramowanie, aby szanować nasze człowieczeństwo .

Przemysł technologiczny nie powinien dyktować wartości i zalet tej przyszłości – napisał.

Nadella wezwał do odpowiedzialności algorytmicznej, aby ludzie mogli cofnąć niezamierzone szkody. Powiedział, że inteligentne oprogramowanie musi być zaprojektowane w sposób, który pozwala nam kontrolować jego działanie i zapobiegać dyskryminowaniu niektórych osób lub wykorzystywaniu prywatnych danych w nieprzyjemny sposób.

Satya Nadella, CEO Microsoftu.

Są to szlachetne i racjonalne obawy – ale liderzy technologii powinni byli mówić o nich jakiś czas temu. Istnieje wiele dowodów na to, że algorytmy i oprogramowanie kształtujące codzienne życie mogą już być naznaczone niepokojącymi uprzedzeniami.

Badania Federalnej Komisji Handlu wykazały, że uprzedzenia rasowe i ekonomiczne potępione w czasach przed internetem teraz pojawiają się ponownie w systemach zasilających reklamy kierowane i inne usługi online. W Wisconsin toczy się walka o to, dlaczego działa system, który próbuje przewidzieć, czy przestępca ponownie popełni przestępstwo — i służy do określania warunków więzienia – musi być trzymane w tajemnicy.

Właśnie dzisiaj ACLU złożyło pozew przeciwko rządowi USA w imieniu badaczy z planem poszukiwania dyskryminacja rasowa w internetowych ogłoszeniach o pracę i mieszkania . Nie mogą tego wykonać ze względu na ograniczenia w federalnych przepisach dotyczących hakowania i sposób, w jaki firmy technologiczne piszą swoje warunki.

Oczywiste jest, że niektóre z problemów, które według Nadelli mogą stwarzać przyszła sztuczna inteligencja, w rzeczywistości już istnieją. Badaczka Microsoft, Kate Crawford, ładnie podsumowała źródło błędu algorytmicznego w ostatnim badaniu Nowy Jork Czasy op-ed, pisząc to oprogramowanie może już pogłębiać nierówności w miejscu pracy , w domu oraz w naszych systemach prawnych i sądowych.

Nadella kończy swój wybiegający w przyszłość post na temat sztucznej inteligencji, mówiąc: Najważniejszy kolejny krok w naszej pogoni za sztuczną inteligencją. jest uzgodnienie etycznych i empatycznych ram dla jego projektowania. Czy jest lepszy sposób na przygotowanie się na przyszłość zdominowaną przez sztuczną inteligencję niż rozpoczęcie pracy nad zastosowaniem etycznych i empatycznych ram do głupiego oprogramowania, które już nas otacza?

(Czytaj więcej: Łupek , Wice , Ars Technica , New York Times )

ukryć