Jeśli sztuczna inteligencja ma nam pomóc w kryzysie, potrzebujemy nowego rodzaju etyki

Pani Tech | Pixabay

Jess Whittlestone z Leverhulme Center for the Future of Intelligence na Uniwersytecie w Cambridge i jej współpracownicy opublikowali kawałek komentarza w Nature Machine Intelligence w tym tygodniu argumentując, że jeśli sztuczna inteligencja ma zamiar pomoc w kryzysie , potrzebujemy nowego, szybszego sposobu wykonywania etyki AI , którą nazywają etyką w trybie pilnym.

JESS WHITTLESTONE

Dla firmy Whittlestone oznacza to przewidywanie problemów, zanim się pojawią, znalezienie lepszych sposobów na wbudowanie bezpieczeństwa i niezawodności w systemy sztucznej inteligencji oraz położenie nacisku na wiedzę techniczną na wszystkich poziomach rozwoju i użytkowania technologii. U podstaw tych zaleceń leży idea, że ​​etyka musi stać się po prostu częścią sposobu tworzenia i wykorzystywania sztucznej inteligencji, a nie dodatkiem lub refleksją.

Ostatecznie sztuczna inteligencja będzie szybciej wdrażana w razie potrzeby, jeśli zostanie wykonana z wbudowaną etyką, argumentuje. Poprosiłem ją, żeby opowiedziała mi, co to oznacza.

Ten wywiad został zredagowany pod kątem długości i przejrzystości.

Dlaczego potrzebujemy nowego rodzaju etyki dla AI?

Wraz z tą pandemią nagle znaleźliśmy się w sytuacji, w której ludzie naprawdę rozmawiają o tym, czy sztuczna inteligencja może być użyteczna, czy może uratować życie. Ale kryzys jasno pokazał, że nie mamy wystarczająco solidnych procedur etycznych, aby sztuczna inteligencja mogła być bezpiecznie wdrażana, a już na pewno nie takich, które można szybko wdrożyć.

Co jest nie tak z naszą etyką?

Ostatnie kilka lat spędziłem na przeglądaniu inicjatyw etycznych związanych ze sztuczną inteligencją, przyglądaniu się ich ograniczeniom i pytaniu, czego jeszcze potrzebujemy. W porównaniu z czymś takim jak etyka biomedyczna, etyka, którą mamy dla AI, nie jest zbyt praktyczna. Koncentruje się zbytnio na zasadach wysokiego poziomu. Wszyscy możemy się zgodzić, że sztuczną inteligencję należy wykorzystywać na dobre. Ale co to tak naprawdę oznacza? A co się dzieje, gdy zasady wysokiego poziomu wchodzą w konflikt?

Na przykład sztuczna inteligencja może uratować życie, ale może to nastąpić kosztem wolności obywatelskich, takich jak prywatność. W jaki sposób podchodzimy do tych kompromisów w sposób, który jest akceptowany przez wiele różnych osób? Nie wymyśliliśmy, jak radzić sobie z nieuniknionymi nieporozumieniami.

Etyka AI ma również tendencję do reagowania na istniejące problemy, a nie do przewidywania nowych. Większość kwestii, które ludzie dyskutują dzisiaj na temat stronniczości algorytmicznej, pojawiła się dopiero wtedy, gdy głośne sprawy potoczyły się nie tak, jak na przykład decyzje policji i zwolnienia warunkowego.

Ale etyka musi być proaktywna i przygotowywać się na to, co może pójść źle, a nie na to, co już poszło źle. Oczywiście nie możemy przewidzieć przyszłości. Jednak w miarę jak systemy te stają się potężniejsze i wykorzystywane w domenach o wysokich stawkach, ryzyko będzie wzrastać.

Jakie szanse przegapiliśmy, nie mając tych procedur?

Łatwo jest przereklamować to, co jest możliwe, a sztuczna inteligencja prawdopodobnie nigdy nie odegrała ogromnej roli w tym kryzysie. Systemy uczenia maszynowego nie są wystarczająco dojrzałe.

Istnieje jednak kilka przypadków, w których sztuczna inteligencja jest testowana pod kątem diagnozy medycznej lub alokacji zasobów w szpitalach. Moglibyśmy być w stanie szerzej wykorzystywać tego rodzaju systemy, zmniejszając część obciążenia opieki zdrowotnej, gdyby zostały one zaprojektowane od początku z myślą o etyce.

W szczególności przy alokacji zasobów decydujesz, którzy pacjenci mają najwyższy priorytet. Potrzebujesz wbudowanych ram etycznych, zanim użyjesz sztucznej inteligencji, aby pomóc w podejmowaniu tego rodzaju decyzji.

Czy zatem etyka nagląca jest po prostu wezwaniem do ulepszenia istniejącej etyki AI?

To część tego. Fakt, że nie mamy solidnych, praktycznych procesów dotyczących etyki sztucznej inteligencji, utrudnia sytuację w scenariuszu kryzysowym. Ale w takich czasach jak ta potrzeba również większej przejrzystości. Dużo mówi się o braku przejrzystości z systemami uczenia maszynowego jako czarnymi skrzynkami. Ale istnieje inny rodzaj przejrzystości, dotyczący sposobu korzystania z systemów.

Jest to szczególnie ważne w czasie kryzysu, kiedy rządy i organizacje podejmują pilne decyzje wymagające kompromisów. Czyje zdrowie stawiasz na pierwszym miejscu? Jak ratować życie bez niszczenia gospodarki? Jeśli sztuczna inteligencja jest wykorzystywana w procesie podejmowania decyzji publicznych, przejrzystość jest ważniejsza niż kiedykolwiek.

Co musi się zmienić?

Musimy inaczej myśleć o etyce. Nie powinno to być coś, co dzieje się z boku lub później – coś, co Cię spowalnia. Powinno to być po prostu częścią tego, w jaki sposób budujemy te systemy: etyka w fazie projektowania.

Czasami czuję, że etyka to niewłaściwe słowo. Mówimy, że badacze i inżynierowie zajmujący się uczeniem maszynowym muszą zostać przeszkoleni, aby przemyśleć implikacje tego, co tworzą, niezależnie od tego, czy prowadzą badania podstawowe, takie jak projektowanie nowego algorytmu uczenia się przez wzmacnianie, czy coś bardziej praktycznego, jak opracowywanie aplikacja do opieki zdrowotnej. Jeśli ich praca trafi do rzeczywistych produktów i usług, jak to może wyglądać? Jakie problemy może to wywołać?

Część z tego już się zaczęła. Współpracujemy z kilkoma początkującymi badaczami AI, rozmawiając z nimi o tym, jak wprowadzić ten sposób myślenia do ich pracy. To trochę eksperyment, aby zobaczyć, co się stanie. Ale nawet NeurIPS [wiodąca konferencja AI] prosi teraz naukowców o dołączenie oświadczenia na końcu swoich artykułów, opisującego potencjalne skutki społeczne ich pracy.

Powiedziałeś, że potrzebujemy ludzi z wiedzą techniczną na wszystkich poziomach projektowania i użytkowania sztucznej inteligencji. Dlaczego?

Nie mówię, że wiedza techniczna jest podstawą i końcem wszystkiego, co etyka, ale jest to perspektywa, którą należy przedstawić. I nie chcę brzmieć, jakbym mówił, że cała odpowiedzialność spoczywa na naukowcach, ponieważ wiele ważnych decyzji dotyczących tego, w jaki sposób wykorzystuje się sztuczną inteligencję, jest podejmowanych na dalszych etapach łańcucha, przez przemysł lub rządy.

Ale martwię się, że ludzie, którzy podejmują te decyzje, nie zawsze w pełni rozumieją, w jaki sposób może się to nie udać. Musisz więc zaangażować ludzi z wiedzą techniczną. Nasze intuicje dotyczące tego, co może, a czego nie może zrobić sztuczna inteligencja, nie są zbyt wiarygodne.

To, czego potrzebujesz na wszystkich poziomach rozwoju sztucznej inteligencji, to ludzie, którzy naprawdę rozumieją szczegóły uczenia maszynowego, aby pracować z ludźmi, którzy naprawdę rozumieją etykę. Współpraca interdyscyplinarna jest jednak trudna. Osoby z różnymi obszarami wiedzy często mówią o różnych rzeczach na różne sposoby. To, co badacz uczenia maszynowego rozumie przez prywatność, może się bardzo różnić od tego, co prawnik rozumie przez prywatność, i możesz skończyć z ludźmi rozmawiającymi ze sobą. Dlatego ważne jest, aby te różne grupy przyzwyczaiły się do wspólnej pracy.

Naciskasz na dość dużą rewizję instytucjonalną i kulturową. Co sprawia, że ​​myślisz, że ludzie będą chcieli to zrobić, zamiast zakładać rady ds. etyki lub komisje nadzorcze – co zawsze sprawia, że ​​trochę wzdycham, ponieważ zwykle są bezzębni?

Tak, ja też wzdycham. Ale myślę, że ten kryzys zmusza ludzi do dostrzegania znaczenia praktycznych rozwiązań. Może zamiast mówić: Och, miejmy tę radę nadzorczą i tę radę nadzorczą, ludzie będą mówić: „Musimy to zrobić i musimy to zrobić właściwie”.

ukryć