Skandal IBM ze złomowaniem zdjęć pokazuje, w jakiej dziwnej bańce żyją naukowcy zajmujący się sztuczną inteligencją

Kategoria: Sztuczna inteligencja Opublikowany 15 marca

We wtorek NBC opublikowało artykuł z wciągającym nagłówkiem: „Mały brudny sekret” rozpoznawania twarzy: Miliony zdjęć online zeskrobanych bez zgody. i połączony do tego w naszym ostatnim numerze Algorithm, ale warto go dziś ponownie odwiedzić.

W artykule podkreślono niedawno udostępniony przez IBM zestaw danych zawierający 1 milion zdjęć twarzy, który ma pomóc w opracowaniu bardziej sprawiedliwych algorytmów rozpoznawania twarzy. (Wtedy też pisałem o wiadomościach). Okazuje się, że NBC odkryło, że te twarze zostały zeskrobane bezpośrednio ze strony internetowej Flickr, oferującej hosting zdjęć, bez zgody badanych lub fotografów.

Dla niektórych z was ta praktyka od razu będzie przerażająca i dziwna. Innym wyda się to zupełnie normalne. Ta historia ujawniła nie tyle brudną małą tajemnicę, co raczej kulturową przepaść między opinią publiczną a społecznością AI.

Naprawdę, dla znawców branży IBM nie zrobił nic niezwykłego. Badacze sztucznej inteligencji cały czas zbierają dane z różnych zakątków Internetu, aby nakarmić wiecznie głodne algorytmy uczenia maszynowego, które wymagają ogromnych ilości danych do trenowania. Na przykład zdjęcia na Instagramie są powszechnym źródłem danych graficznych; hashtagi często dogodnie odpowiadają treści zdjęć, co ułatwia generowanie oznaczonych danych. Artykuły z New York Times i Wall Street Journal są również powszechnym źródłem danych dla dobrze napisanych zdań zredagowanych na podstawie kopii. Jeszcze lepiej, że są podzielone na kategorie tematyczne: technologia, biznes, sport.

W rzeczywistości pobieranie danych z publicznie dostępnych źródeł jest tak dużym standardem branżowym, że jest nauczane jako podstawowa umiejętność (bez etyki) w większości szkoleń z zakresu nauki o danych i uczenia maszynowego. Tymczasem większość platform technologicznych jest zaprojektowana tak, aby zachęcać do takiego skrobania, oferując interfejsy API z bezpośrednim dostępem do ich danych. Do niedawna robiono to bez namysłu. (Cześć, Facebooku.)

Wszystko to nie oznacza, że ​​skrobanie danych jest dobre lub złe. Istnieje kilka całkowicie łagodnych lub uzasadnionych sposobów wykorzystania tej praktyki (patrz Przeanalizowaliśmy 16 625 artykułów, aby dowiedzieć się, dokąd zmierza sztuczna inteligencja); to naprawdę zależy od kontekstu. Ta historia podkreśla raczej potrzebę dostosowania przez branżę technologiczną swoich norm kulturowych i standardowych praktyk, aby nadążyć za szybką ewolucją samej technologii, a także świadomości opinii publicznej, w jaki sposób wykorzystywane są ich dane.

Istnieją sposoby wykorzystania naszych danych, o których nie wiedzieliśmy pięć, 10 lat temu, mówi Rumman Chowdhury, globalny lider odpowiedzialnej sztucznej inteligencji w Accenture Applied Intelligence. Jak moglibyśmy [społeczeństwo] ewentualnie zgodzić się na zdolność, która nie istniała?

Innymi słowy, kiedyś mogło być opłacalną praktyką beztroskie skrobanie danych ludzi, a kiedyś mogła wystarczyć zgoda na wykorzystanie tych danych, o ile były one publicznie dostępne, ale pojawienie się sztucznej inteligencji i bezprecedensowa skala Monopolizacja danych i monetyzacja Doliny Krzemowej zmieniły to równanie. Technolodzy ponoszą odpowiedzialność za zmiany wraz z nim i upewnienie się, że istnieje szeroki, świadomy konsensus społeczny dotyczący ich praktyk.

Porada Chowdhury'ego dla tych, którzy zmagają się z poruszaniem się po szarych obszarach prywatności danych? Zastanów się, czy sposób, w jaki wykorzystujesz dane, jest zgodny z duchem, w jakim zostały one pierwotnie wygenerowane i udostępnione. Jeśli używasz go w sposób całkowicie styczny, czas się zatrzymać i ponownie rozważyć.

Ta historia pojawiła się pierwotnie w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.