Pięć sposobów, aby sztuczna inteligencja stała się większą siłą na dobre w 2021 r.

Balon jest przywiązany do metalowego ciężarka. Nożyczki przecinają sznurek, który mocuje go w miejscu. Getty

Rok temu nikt nie mądrzejszy o tym, co przyniesie rok 2020, ja odzwierciedlenie w kluczowym momencie, w którym znajdowała się społeczność AI. W poprzednim roku 2018 doszło do serii głośnych automatycznych awarii, takich jak awarie samojezdne oraz dyskryminacyjne narzędzia rekrutacyjne . W 2019 roku branża odpowiedziała większą ilością rozmów na temat etyki AI niż kiedykolwiek wcześniej. Ale mówienie, jak powiedziałem, nie wystarczy. Musieliśmy podjąć konkretne działania. Dwa miesiące później koronawirus zamknął świat.

W naszej nowej, społecznie zdystansowanej, odległej rzeczywistości, te rozmowy o krzywdzeniu algorytmicznym nagle pojawiły się w głowie. Systemy, które były na marginesie, takie jak Algorytmy skanowania twarzy HireVue oraz narzędzia do nadzoru w miejscu pracy , wchodziły do ​​głównego nurtu. Inne, takie jak narzędzia do monitorować i oceniać uczniów , rozkręcały się w czasie rzeczywistym. W sierpniu po spektakularna porażka rządu Wielkiej Brytanii, by zastąpić egzaminy osobiste algorytmem przyjęć na uniwersytet, setki studentów zebrały się w Londynie, by śpiewać „Pieprzyć algorytm”. To staje się okrzykiem bojowym 2020 roku, tweetował Badaczka odpowiedzialności za sztuczną inteligencję Deb Raji, kiedy protestujący ze Stanford ponownie krzyknął w odpowiedzi na: inna porażka kilka miesięcy później.

W tym samym czasie było rzeczywiście więcej akcji. W jednym wielkim zwycięstwie Amazon, Microsoft i IBM zakazały lub zawiesiły sprzedaż rozpoznawania twarzy organom ścigania po tym, jak zabicie George'a Floyda wywołało globalne protesty przeciwko brutalności policji. To była kulminacja dwa lata walki przez badaczy i działaczy na rzecz praw obywatelskich, aby zademonstrować nieefektywne i dyskryminujące skutki technologii firm. Kolejna zmiana była niewielka, ale godna uwagi: po raz pierwszy w historii NeurIPS, jedna z najważniejszych konferencji naukowych dotyczących sztucznej inteligencji, wymagała od badaczy złożyć oświadczenie o etyce ze swoimi papierami.

A zatem jesteśmy na początku 2021 r., z większą niż kiedykolwiek wcześniej uwagą publiczną i regulacyjną na wpływ sztucznej inteligencji. Moje postanowienie noworoczne: Niech to się liczy. Oto pięć nadziei, jakie pokładam w AI w nadchodzącym roku.

Zmniejszenie wpływu korporacji na badania

Giganci technologiczni mają nieproporcjonalną kontrolę nad kierunkiem badań nad sztuczną inteligencją. To zmieniło kierunek tej dziedziny jako całości w kierunku coraz bardziej dużych zbiorów danych i dużych modeli, z kilkoma konsekwencjami. Wysadza wpływ postępów sztucznej inteligencji na klimat, blokuje laboratoria o ograniczonych zasobach przed uczestnictwem w terenie i prowadzi do bardziej leniwych badań naukowych, ignorując szereg innych możliwych podejść. Jak Google ujawnienie usunięcia Timnita Gebru , giganci technologiczni z łatwością ograniczą również możliwość badania innych konsekwencji.

Jednak większość wpływu korporacji sprowadza się do pieniędzy i braku alternatywnych źródeł finansowania. Jak pisałem w zeszłym roku w mój profil OpenAI , laboratorium początkowo starało się polegać wyłącznie na niezależnych, bogatych darczyńcach. Zakład okazał się nie do utrzymania, a cztery lata później OpenAI podpisał umowę inwestycyjną z Microsoftem. Mam nadzieję, że zobaczymy, jak więcej rządów wkroczy w tę pustkę, aby zapewnić naukowcom opcje finansowania niezwiązane z obronnością. Nie będzie to idealne rozwiązanie, ale na początek. Rządy są zobligowane do opinii publicznej, a nie do dolnej linii.

Skoncentruj się na zdroworozsądkowym zrozumieniu

Przytłaczająca uwaga poświęcana większym i gorszym modelom przyćmiła jeden z głównych celów badań nad sztuczną inteligencją: tworzyć inteligentne maszyny które nie tylko dopasowują się do wzorca, ale faktycznie rozumieją znaczenie. Chociaż wpływ korporacji jest głównym czynnikiem przyczyniającym się do tego trendu, są też inni winowajcy. Konferencje badawcze i publikacje recenzowane kładą duży nacisk na osiąganie najnowszych wyników. Ale stan techniki jest często słabo zmierzone testami które można pokonać większą ilością danych i większymi modelami.

Powiązana historia

Czytamy gazetę, która zmusiła Timnita Gebru do wycofania się z Google. Oto, co mówi.

Znany z firmy badacz etyki zwrócił uwagę na ryzyko związane z dużymi modelami językowymi, które są kluczowe dla działalności Google.

Nie chodzi o to, że modele wielkoskalowe nigdy nie byłyby w stanie zrozumieć zdrowego rozsądku. To wciąż otwarte pytanie. Istnieją jednak inne kierunki badań, które zasługują na większe inwestycje. Niektórzy eksperci postawili na neurosymboliczne AI , który łączy głębokie uczenie się z systemami wiedzy symbolicznej. Inni eksperymentują z więcej technik probabilistycznych które wykorzystują znacznie mniej danych, inspirowane zdolnością ludzkiego dziecka do uczenia się na bardzo niewielu przykładach.

Mam nadzieję, że w 2021 r. dziedzina dostosuje swoje bodźce, aby nadać priorytet zrozumieniu nad przewidywaniem. Mogłoby to nie tylko prowadzić do bardziej wytrzymałych technicznie systemów, ale udoskonalenia miałyby również poważne konsekwencje społeczne. Na przykład podatność obecnych systemów głębokiego uczenia się na oszukiwanie, podważa bezpieczeństwo samochody autonomiczne i stwarza niebezpieczne możliwości dla broń autonomiczna . Niezdolność systemów do rozróżnienia między korelacją a przyczynowością leży również u podstaw dyskryminacja algorytmiczna .

Wzmocnij zmarginalizowanych badaczy

Jeśli algorytmy kodyfikują wartości i perspektywy swoich twórców, to przy ich opracowywaniu przy stole powinien pojawić się szeroki przekrój ludzkości. Nie widziałem na to lepszych dowodów niż w grudniu 2019 roku, kiedy uczestniczyłem w NeurIPS. W tamtym roku, przy rekordowej liczbie kobiet i mówców z mniejszości oraz uczestników, mogłem odczuć ton postępowania namacalnie przesunąć . Odbyło się więcej rozmów niż kiedykolwiek na temat wpływu AI na społeczeństwo.

W tym czasie chwaliłem społeczność za jej postęp. Ale Traktowanie przez Google Gebru , jedna z nielicznych wybitnych czarnoskórych kobiet w przemyśle, pokazała, jak daleko jest jeszcze do zrobienia. Różnorodność liczb jest bez znaczenia, jeśli osoby te nie są w stanie wprowadzić swojego doświadczenia do swojej pracy. Jestem jednak optymistą, że fala się zmienia. Punkt zapalny naznaczony ostrzałem Gebru przekształcił się w krytyczny moment refleksji dla branży. Mam nadzieję, że ten rozmach doprowadzi do trwałej, systemowej zmiany.

Wyśrodkuj perspektywy dotkniętych społeczności

Do stołu jest jeszcze jedna grupa. Jednym z najbardziej ekscytujących trendów ubiegłego roku było pojawienie się partycypacyjne uczenie maszynowe . To prowokacja do ponownego wymyślenia procesu rozwoju sztucznej inteligencji, aby objąć tych, którzy ostatecznie stają się podmiotami algorytmów.

W lipcu pierwsze warsztaty konferencyjne poświęcony temu podejściu zebrał szeroki wachlarz pomysłów na to, jak może wyglądać. Sugestie obejmowały nowe procedury zarządzania w celu uzyskania informacji zwrotnej od społeczności; nowe metody audytu modeli w celu informowania i angażowania opinii publicznej; oraz proponowane przeprojektowanie systemów sztucznej inteligencji, aby zapewnić użytkownikom większą kontrolę nad ich ustawieniami.

Mam nadzieję, że w 2021 r. więcej tych pomysłów zostanie zbadanych i przyjętych na poważnie. Facebook już zaczyna: jeśli pozwoli swojej zewnętrznej radzie nadzorczej na wprowadzenie wiążących zmian w polityce moderowania treści platformy, struktura zarządzania może stać się mechanizmem sprzężenia zwrotnego godnym naśladowania.

Skodyfikuj barierki ochronne w przepisach

Jak dotąd oddolne wysiłki doprowadziły ruch do złagodzenia szkód algorytmicznych i pociągnięcia do odpowiedzialności gigantów technologicznych. Ale to od krajowych i międzynarodowych organów regulacyjnych będzie zależeć ustanowienie trwalszych barier ochronnych. Dobrą wiadomością jest to, że prawodawcy na całym świecie przyglądają się temu i są w trakcie opracowywania przepisów. W USA członkowie Kongresu już wprowadzony rachunki dotyczące rozpoznawania twarzy, stronniczości AI i deepfake. Kilka z nich też wysłałem list do Google w grudniu, wyrażając zamiar dalszego przestrzegania tego przepisu.

Więc moją ostatnią nadzieją na 2021 r. jest to, że niektóre z tych rachunków przejdą. Czas skodyfikować to, czego nauczyliśmy się w ciągu ostatnich kilku lat i odejść od fikcji samoregulacji.

ukryć