Usuwanie nieetycznych zbiorów danych nie wystarczy

Pani Tech | Pixabay

W 2016 roku, mając nadzieję na przyspieszenie postępów w rozpoznawaniu twarzy, Microsoft wydał największą bazę danych twarzy na świecie. Nazwany MS-Celeb-1M, zawierał 10 milionów zdjęć 100 000 twarzy celebrytów. Celebryta była jednak luźno zdefiniowana.

Trzy lata później badacze Adam Harvey i Jules LaPlace przeszukałem zbiór danych i znaleźli wiele zwykłych osób, takich jak dziennikarze, artyści, aktywiści i naukowcy, którzy utrzymują obecność w Internecie przez całe życie zawodowe. Nikt nie wyraził zgody na włączenie, a jednak ich twarze trafiły do ​​bazy danych i poza nią; badania z wykorzystaniem kolekcji twarzy przeprowadziły takie firmy, jak Facebook, IBM, Baidu i SenseTime, jeden z największych chińskich gigantów rozpoznawania twarzy, który sprzedaje swoją technologię chińskiej policji.

Krótko po śledztwie Harveya i LaPlace i po otrzymaniu krytyka dziennikarzy Microsoft usunął zestaw danych, stwierdzając po prostu: Wyzwanie badawcze dobiegło końca. Ale prywatność, którą stworzył, utrzymuje się w Internecie na zawsze. A ten przypadek nie jest jedynym.

Przeszukiwanie sieci w poszukiwaniu obrazów i tekstu było kiedyś uważane za pomysłową strategię gromadzenia danych ze świata rzeczywistego. Obecnie przepisy, takie jak RODO (europejskie rozporządzenie o ochronie danych) i rosnące zaniepokojenie opinii publicznej o prywatność danych i nadzór, sprawiły, że praktyka ta jest prawnie ryzykowna i nieodpowiednia. W rezultacie naukowcy zajmujący się sztuczną inteligencją coraz częściej wycofywali zestawy danych, które stworzyli w ten sposób.

Ale nowe badanie pokazuje, że w niewielkim stopniu przyczyniło się to do powstrzymania rozpowszechniania i wykorzystywania problematycznych danych. Autorzy wybrali trzy najczęściej cytowane zestawy danych zawierające twarze lub osoby, z których dwa zostały wycofane; prześledzili sposoby, w jakie każdy z nich został skopiowany, wykorzystany i ponownie wykorzystany w blisko 1000 dokumentach.

W przypadku MS-Celeb-1M kopie nadal istnieją w witrynach stron trzecich oraz w zestawach danych pochodnych zbudowanych na oryginale. Modele open source wstępnie wytrenowane na danych również pozostają łatwo dostępne. Zbiór danych i jego pochodne były również cytowane w setkach artykułów opublikowanych między 6 a 18 miesiącem po wycofaniu.

DukeMTMC, zbiór danych zawierający obrazy ludzi spacerujących po kampusie Uniwersytetu Duke'a i wycofanych w tym samym miesiącu, co MS-Celeb-1M, podobnie utrzymuje się w zestawach danych pochodnych i setkach cytatów papierowych.

Lista miejsc, w których zalegają dane, jest bardziej obszerna, niż początkowo sądziliśmy, mówi Kenny Peng, student drugiego roku w Princeton i współautor badania. A nawet to, jak mówi, jest prawdopodobnie niedoszacowane, ponieważ cytaty w artykułach naukowych nie zawsze wyjaśniają, w jaki sposób dane mogą być wykorzystywane komercyjnie.

Zaszaleć

Część problemu, według artykułu z Princeton, polega na tym, że ci, którzy zestawiają zestawy danych, szybko tracą kontrolę nad swoimi dziełami.

Zestawy danych wydane w jednym celu można szybko dokooptować do innych, które nigdy nie były zamierzone ani wymyślone przez pierwotnych twórców. Na przykład MS-Celeb-1M miał poprawić rozpoznawanie twarzy celebrytów, ale od tego czasu został wykorzystany do bardziej ogólnego rozpoznawania twarzy i analizy rysów twarzy, jak stwierdzili autorzy. Został również przemianowany lub przetworzony w pochodnych zestawach danych, takich jak Racial Faces in the Wild, które grupują jego obrazy według rasy, otwierając drzwi do kontrowersyjnych zastosowań.

Powiązana historia

W ten sposób straciliśmy kontrolę nad naszymi twarzami

Największe w historii badanie danych dotyczących rozpoznawania twarzy pokazuje, jak bardzo rozwój głębokiego uczenia się spowodował utratę prywatności.

Analiza naukowców sugeruje również, że Labeled Faces in the Wild (LFW), zestaw danych wprowadzony w 2007 roku i pierwszy w użyciu obrazy twarzy zeskrobane z internetu , przekształcił się wielokrotnie w ciągu prawie 15 lat użytkowania. Chociaż początkowo był zasobem do oceny modeli rozpoznawania twarzy przeznaczonych wyłącznie do badań, obecnie jest używany prawie wyłącznie do oceny systemów przeznaczonych do użytku w prawdziwym świecie. Dzieje się tak pomimo etykiety ostrzegawczej na stronie internetowej zestawu danych, która ostrzega przed takim użyciem.

Niedawno zestaw danych został ponownie wykorzystany w pochodnej o nazwie SMFRD, która dodaje maski na twarz do każdego z obrazów, aby przyspieszyć rozpoznawanie twarzy podczas pandemii. Autorzy zauważają, że może to rodzić nowe wyzwania etyczne. Obrońcy prywatności skrytykowali takie aplikacje, na przykład w celu podsycenia inwigilacji, a zwłaszcza za umożliwienie rządowej identyfikacji zamaskowanych protestujących.

To naprawdę ważny artykuł, ponieważ oczy ludzi nie były generalnie otwarte na złożoność oraz potencjalne szkody i zagrożenia związane ze zbiorami danych, mówi Margaret Mitchell, badaczka etyki AI i lider w zakresie odpowiedzialnych praktyk przetwarzania danych, która nie była zaangażowana w badania.

Dodaje, że przez długi czas kultura społeczności AI zakładała, że ​​istnieją dane, które można wykorzystać. Ten artykuł pokazuje, jak może to prowadzić do dalszych problemów. Mówi, że bardzo ważne jest przemyślenie różnych wartości, które koduje zestaw danych, a także wartości, które koduje dostępny zestaw danych.

Naprawa

Autorzy badania przedstawiają kilka zaleceń dla społeczności AI, która posuwa się naprzód. Po pierwsze, twórcy powinni wyraźniej informować o zamierzonym wykorzystaniu ich zbiorów danych, zarówno za pomocą licencji, jak i szczegółowej dokumentacji. Powinni również nałożyć ostrzejsze ograniczenia na dostęp do swoich danych, na przykład wymagając od badaczy podpisania warunków umowy lub wypełnienia wniosku, zwłaszcza jeśli zamierzają stworzyć zestaw danych pochodnych.

Po drugie, konferencje naukowe powinny ustalać normy dotyczące gromadzenia, oznaczania i wykorzystywania danych oraz tworzyć zachęty do odpowiedzialnego tworzenia zbiorów danych. NeurIPS, największa konferencja badawcza AI, zawiera już listę kontrolną najlepszych praktyk i wytycznych etycznych.

Mitchell sugeruje, by pójść jeszcze dalej. Jako część projekt BigScience , współpraca między badaczami sztucznej inteligencji w celu opracowania modelu sztucznej inteligencji, który może analizować i generować język naturalny zgodnie z rygorystycznymi standardami etyki, eksperymentowała z pomysłem stworzenia organizacji zajmujących się zarządzaniem zbiorami danych — zespołów ludzi, które nie tylko zajmują się przechowywaniem, konserwacją, i wykorzystywania danych, ale także współpracować z prawnikami, aktywistami i opinią publiczną, aby upewnić się, że są one zgodne z normami prawnymi, są gromadzone tylko za zgodą i mogą zostać usunięte, jeśli ktoś zdecyduje się wycofać dane osobowe. Takie organizacje zarządzające nie byłyby konieczne w przypadku wszystkich zbiorów danych — ale z pewnością w przypadku danych, które mogłyby zawierać dane biometryczne lub informacje umożliwiające identyfikację osoby lub własność intelektualną.

Zbieranie i monitorowanie zbiorów danych nie jest zadaniem jednorazowym dla jednej czy dwóch osób, mówi. Jeśli robisz to odpowiedzialnie, dzieli się to na mnóstwo różnych zadań, które wymagają głębokiego myślenia, głębokiej wiedzy i wielu różnych ludzi.

W ostatnich latach dziedzina coraz bardziej przesunęła się w kierunku przekonania, że: staranniej wyselekcjonowane zbiory danych będzie kluczem do pokonania wielu technicznych i etycznych wyzwań branży. Teraz jest jasne, że tworzenie bardziej odpowiedzialnych zbiorów danych nie wystarczy. Osoby pracujące w AI muszą również podjąć długoterminowe zobowiązanie do ich utrzymania i etycznego korzystania z nich.

ukryć