Naukowcy zajmujący się sztuczną inteligencją chcą badać sztuczną inteligencję w taki sam sposób, w jaki socjolodzy badają ludzi

Konceptualna ilustracja naukowca badającego sztuczną inteligencję Tsjisse Talsma

Wiele atramentu zostało wylanych na czarnoskrzynkową naturę systemów sztucznej inteligencji — i na to, jak sprawia, że ​​czujemy się niekomfortowo, ponieważ często nie możemy zrozumieć, dlaczego podejmują decyzje, które podejmują. Ponieważ algorytmy zaczęły pośredniczyć we wszystkim, od naszych społecznych i kulturowych interakcji po ekonomiczne i polityczne, informatycy próbowali odpowiedzieć na rosnące zapotrzebowanie na ich wyjaśnialność, opracowując techniczne metody zrozumienia ich zachowań.

Jednak grupa naukowców ze środowisk akademickich i przemysłowych argumentuje teraz, że nie musimy penetrować tych czarnych skrzynek, aby zrozumieć, a tym samym kontrolować ich wpływ na nasze życie. W końcu nie są to pierwsze nieodgadnione czarne skrzynki, na jakie natknęliśmy się.

Od setek lat opracowujemy naukowe metody badania czarnych skrzynek, ale do tej pory metody te były stosowane przede wszystkim do [istot żywych], mówi Nick Obradovich, badacz z MIT Media Lab i współautor nowy papier opublikowany w zeszłym tygodniu w Natura . Możemy wykorzystać wiele z tych samych narzędzi do badania nowych systemów sztucznej inteligencji z czarnymi skrzynkami.

Autorzy artykułu, zróżnicowana grupa badaczy z przemysłu i środowisk akademickich, proponują stworzenie nowej dyscypliny akademickiej zwanej zachowaniem maszyn. Podchodzi do badania systemów AI w taki sam sposób, w jaki zawsze badaliśmy zwierzęta i ludzi: poprzez empiryczne obserwacje i eksperymenty.

W ten sposób behawiorysta maszynowy jest dla informatyka tym, czym socjolog dla neurologa. Ten pierwszy stara się zrozumieć, jak agent — sztuczny lub biologiczny — zachowuje się w swoim środowisku, współistniejąc w grupach i wchodząc w interakcje z innymi inteligentnymi agentami. Ten ostatni ma na celu przeanalizowanie mechanizmów podejmowania decyzji stojących za tymi zachowaniami.

Widzimy wzrost liczby maszyn z agencją, maszyn, które są aktorami podejmującymi decyzje i działaniami autonomicznie, Iyad Rahwan, inny badacz Media Lab i główny autor artykułu, powiedział w swoim artykule. post na blogu towarzyszący publikacji. Dlatego muszą być badani jako nowa klasa aktorów z własnymi wzorcami behawioralnymi i ekologią.

Nie oznacza to, że systemy sztucznej inteligencji wypracowały jakiś rodzaj wolnej woli. (Z pewnością nie; to tylko gloryfikowane modele matematyczne.) Ale ma to na celu odejście od postrzegania systemów AI jako pasywnych narzędzi, które można oceniać wyłącznie na podstawie ich architektury technicznej, wydajności i możliwości. Zamiast tego należy ich traktować jako aktywnych aktorów, którzy zmieniają i wpływają na swoje środowisko oraz ludzi i maszyny wokół nich.

Więc jak by to w ogóle wyglądało? Behawiorysta maszynowy może na przykład badać wpływ asystentów głosowych na rozwój osobowości dziecka. Mogą też zbadać, jak algorytmy randek internetowych zmieniły sposób, w jaki ludzie się spotykają i zakochują. Ostatecznie mieli zbadać nowe właściwości, które powstają w wyniku współistnienia i współpracy wielu ludzi i maszyn.

Wszyscy jesteśmy jednym gigantycznym systemem człowiek-maszyna, mówi Obradovich. Musimy to przyznać i zacząć to studiować w ten sposób.

Należy zauważyć, że większość z tych pomysłów nie jest nowa. Na przykład robotycy od dawna badają interakcje człowiek-komputer. A dziedzina nauki, technologii i społeczeństwa ma tak zwaną teorię aktora-sieci, ramy opisujące wszystko w świecie społecznym i naturalnym – zarówno ludzi, jak i algorytmy – jako aktorów, którzy w jakiś sposób są ze sobą powiązani. Ale w większości każdy z tych wysiłków został wyciszony w osobnych dyscyplinach. Połączenie ich pod jednym parasolem pomaga dostosować ich cele, sformalizować wspólny język i wspierać interdyscyplinarną współpracę. Pomoże nam się odnaleźć, mówi Obradovich.

Pomimo tego, że zajmują się inną dyscypliną niż badacze sztucznej inteligencji, behawioryści maszyn powinni nadal ściśle z nimi współpracować. Ponieważ ci ostatni odkrywają nowe sposoby zachowania się systemów sztucznej inteligencji i wpływają na ludzi, ci pierwsi mogą wnieść te wnioski do projektu systemu. Im bardziej każda dyscyplina może skorzystać z wiedzy drugiej, tym bardziej będą w stanie zapewnić, że sztuczne środki przynoszą korzyści ludziom, a nie im szkodzą.

Potrzebujemy specjalistycznej wiedzy naukowców ze wszystkich dyscyplin behawioralnych i obliczeniowych, mówi Obradovich. Ustalenie, jak żyć z maszynami, jest problemem zbyt rozległym, aby jakakolwiek dyscyplina mogła go rozwiązać samodzielnie.

ukryć