Tech Titans łączą siły, aby powstrzymać sztuczną inteligencję przed złym zachowaniem

Jeśli chodzi o nadzorowanie sztucznej inteligencji, liderzy technologii uważają, że w liczbach jest bezpieczeństwo.

Nowa organizacja o nazwie Partnerstwo na rzecz sztucznej inteligencji na rzecz ludzi i społeczeństwa będzie dążyć do wspierania dialogu publicznego i tworzenia wytycznych dotyczących rozwoju sztucznej inteligencji, aby systemy nie działały niewłaściwie. Zaangażowane firmy to Google i jego spółka zależna DeepMind, Facebook, Amazon, Microsoft i IBM. Partnerstwo opiera się na ośmiu założeniach lub zasadach, w tym idei, że sztuczna inteligencja powinna przynosić korzyści jak największej liczbie osób; że społeczeństwo powinno być zaangażowane w jego rozwój; że badania powinny być prowadzone w sposób otwarty; oraz że systemy SI powinny być w stanie wyjaśnić swoje rozumowanie.

Fakt, że tak zaciekli rywale spotkaliby się w ten sposób, pokazuje, jak ważne jest dla firm, by zażegnać obawy opinii publicznej i spekulacje na temat potencjalnego wpływu sztucznej inteligencji. Wszystkie te firmy czerpią ogromne korzyści z postępów w sztucznej inteligencji i nie chcą, aby ich branża podlegała ścisłym regulacjom rządowym, które mogłyby spowolnić lub zmienić postęp technologii w krytycznym momencie jej ewolucji. Ale jednocześnie szybki postęp, jaki ostatnio nastąpił, wzbudził obawy co do możliwości dyskryminowania, krzywdzenia i przemieszczania ludzi przez systemy sztucznej inteligencji.

Wszyscy mamy obowiązek rozwijać się w tej dziedzinie w sposób przemyślany, pozytywny i, co ważne, etyczny – mówi Mustafa Suleyman, współzałożyciel Google DeepMind i tymczasowy współprzewodniczący organizacji. Pozytywny wpływ sztucznej inteligencji będzie zależeć nie tylko od jakości naszych algorytmów, ale także od poziomu zaangażowania publicznego, przejrzystości i etycznej dyskusji, która toczy się wokół niej.

Sztuczna inteligencja rozwija się w tak zawrotnym tempie, że istnieją uzasadnione obawy, że zostanie wdrożona w sposób, który ma niezamierzone lub niepożądane skutki. Na przykład system uczenia maszynowego zaprojektowany do identyfikowania chorób, które są karmione stronniczymi danymi, może dyskryminować niektóre osoby. Firmy zaangażowane w partnerstwo zdają sobie sprawę, że w odpowiedzi na takie efekty może pojawić się reakcja.

AI to niezwykle ważna technologia dla Amazona, mówi Rolf Herbrich, dyrektor ds. uczenia maszynowego w gigantze e-commerce. [I] największym atutem w obsłudze klienta jest zaufanie klienta.

Nie jest jasne, w jaki sposób organizacja będzie współpracować ze społeczeństwem lub z osobami rozwijającymi sztuczną inteligencję. Zdaniem Suleymana, nie będzie dążyć do egzekwowania swoich wytycznych, ale do prowadzenia otwartej dyskusji.

Istnieją również uzasadnione obawy, że sztuczna inteligencja i powiązane technologie, takie jak robotyka, mogą wypierać ludzi i zwiększać nierówności (zob. Jak technologia niszczy miejsca pracy ). Jednak niedawny postęp doprowadził do bardziej dziwacznych i futurystycznych ostrzeżeń o możliwości, że sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości (patrz Nasz strach przed sztuczną inteligencją). Jedną z obaw wśród technologów jest to, że te ostrzeżenia mogą wywołać nieuzasadnione publiczne oburzenie i zainspirować niepotrzebne regulacje rządowe.

Biorąc pod uwagę całą hiperbolę dotyczącą sztucznej inteligencji w ciągu ostatnich dwóch do czterech lat, pojawiła się obawa, że ​​w tej sali niepokoju sam rząd zostanie źle poinformowany, mówi Eric Horvitz, dyrektor zarządzający Microsoft Research i drugi współprzewodniczący organizacji.

Rząd zasygnalizował zainteresowanie zapewnieniem, aby sztuczna inteligencja nie miała niepożądanych konsekwencji, koordynując cykl warsztatów w tym roku miał na celu zbadanie jego potencjalnych efektów.

Niektóre zagadki etyczne związane ze sztuczną inteligencją będą trudniejsze do rozwiązania niż inne. Na przykład wyzwaniem może okazać się opracowanie systemów uwzględniających różne perspektywy etyczne. Kwestia ta została podniesiona, w dużej mierze teoretycznie, w związku z zachowanie samojezdnych samochodów . Jak sprawić, by systemy AI były bardziej przejrzyste i odpowiedzialne, jest również kwestią otwartą, która sama w sobie może wymagać postępu w technologii (patrz Problem językowy AI).

Pomysł na partnerstwo pojawił się podczas wydarzenia koordynowanego w Nowym Jorku w styczniu tego roku przez Facebooka, aby omówić kwestie etyczne związane ze sztuczną inteligencją. Inne firmy i organizacje zaangażowane w rozwój sztucznej inteligencji, takie jak Apple i Allen Institute for Artificial Intelligence, dyskutowały o zaangażowaniu się w te działania w pewnym stopniu, twierdzą członkowie założyciele.

Oren Etzioni, dyrektor generalny Allen Institute for Artificial Intelligence, mówi, że ważne będzie, aby organizacja poruszyła kwestię tego, w jaki sposób sztuczna inteligencja może pozbawiać miejsc pracy. I dodaje, że największym wyzwaniem może być znalezienie sposobu na skuteczną współpracę konkurencji. ​To jedne z wiodących firm high-tech na świecie​, mówi. Tutaj będą potrzebować współpracy.

ukryć