211service.com
Google staje się praktyczny w kwestii zagrożeń związanych ze sztuczną inteligencją
Czy maszyny mogą stać się tak inteligentne i potężne, że stanowią zagrożenie dla ludzkiego życia, a nawet całej ludzkości?
To pytanie, które w ostatnich latach stało się modne w niektórych częściach Doliny Krzemowej, mimo że jest mniej lub bardziej nie do pogodzenia z prostymi robotami i błędnymi wirtualnymi asystentami dzisiejszych czasów (patrz AI Doomsayer mówi, że jego pomysły są nadrabiane ). Niektórzy eksperci w dziedzinie sztucznej inteligencji uważają, że spekulacje na temat niebezpieczeństw związanych z przyszłym superinteligentnym oprogramowaniem szkodzą tej dziedzinie.
Teraz Google, firma mocno zainwestowana w sztuczną inteligencję, próbuje wytyczyć pośrednią drogę. A nowy papier opublikowany dzisiaj opisuje pięć problemów, które naukowcy powinni zbadać, aby uczynić przyszłe inteligentne oprogramowanie bezpieczniejszym. W post na blogu na papierze badacz Google Chris Olah mówi, że pokazują, jak debata na temat bezpieczeństwa AI może być bardziej konkretna i produktywna.
Większość dotychczasowych dyskusji była bardzo hipotetyczna i spekulacyjna, pisze. Uważamy, że zasadnicze znaczenie ma ugruntowanie obaw w prawdziwych badaniach nad uczeniem maszynowym oraz rozpoczęcie opracowywania praktycznych podejść do inżynierii systemów sztucznej inteligencji, które działają bezpiecznie i niezawodnie.
Olah używa robota sprzątającego, aby zilustrować niektóre ze swoich pięciu punktów. Jednym z obszarów zainteresowania jest zapobieganie osiąganiu celów przez systemy poprzez oszustwa. Na przykład robot sprzątający może odkryć, że może zaspokoić swoje zaprogramowanie do usuwania plam, ukrywając je, zamiast faktycznie je usuwać.
Innym z pojawiających się problemów jest umożliwienie robotom bezpiecznego eksplorowania nowych środowisk. Na przykład robot sprzątający powinien być w stanie eksperymentować z nowymi sposobami używania narzędzi do sprzątania, ale nie powinien próbować używać mokrego mopa na gniazdku elektrycznym.
Olah opisuje pięć problemów w nowym artykule, którego współautorem jest Dario Amodei z Google, z wkładem innych osób z Google, Uniwersytetu Stanforda, Uniwersytetu Kalifornijskiego w Berkeley oraz OpenAI, instytutu badawczego współzałożonego i częściowo finansowanego przez dyrektora generalnego Tesli i seryjnego przedsiębiorcę Elona Piżmo.
Musk, który kiedyś porównywał pracę nad sztuczną inteligencją do przyzywania demona, uczynił stworzenie bezpiecznej sztucznej inteligencji jednym z podstawowych celów OpenAI (zobacz Co trzeba zrobić, aby zbudować cnotliwą sztuczną inteligencję? ).
Google wspomniał również o zobowiązaniu do zapewnienia, że oprogramowanie sztucznej inteligencji nie będzie miało niezamierzonych konsekwencji. Firmowy pierwszy artykuł naukowy na ten temat został opublikowany w tym miesiącu przez jego grupę DeepMind w Londynie. Lider DeepMind, Demis Hassabis, również zwołał radę etyczną, aby rozważyć możliwe wady sztucznej inteligencji, chociaż jej członkowie nie zostali ujawnieni (patrz How Google Plans to Solve Artificial Intelligence ).
Oren Etzioni, dyrektor generalny Instytut Allena ds. AI , z zadowoleniem przyjmuje podejście przedstawione w nowym dokumencie Google. Wcześniej krytykował dyskusje na temat zagrożeń związanych ze sztuczną inteligencją jako zbyt niejasne, aby naukowcy lub inżynierowie mogli produktywnie zaangażować się. Ale scenariusze opracowane przez Google są wystarczająco konkretne, aby umożliwić prawdziwe badania, nawet jeśli nadal nie jest jasne, czy takie eksperymenty będą praktycznie przydatne, mówi.
To właściwi ludzie zadają właściwe pytania, mówi Etzioni. Jeśli chodzi o właściwe odpowiedzi – czas pokaże.