Ci przerażający fałszywi ludzie zwiastują nową erę w sztucznej inteligencji

Dzięki uprzejmości Datagen

Widać słaby zarost na górnej wardze, zmarszczki na czole, przebarwienia na skórze. Nie jest prawdziwą osobą, ale ma ją naśladować – podobnie jak setki tysięcy innych stworzonych przez Datagen, firmę sprzedającą fałszywych, symulowanych ludzi.

Ci ludzie nie są awatarami do gier ani animowanymi postaciami do filmów. Są to dane syntetyczne zaprojektowane w celu zaspokojenia rosnącego apetytu algorytmów uczenia głębokiego. Firmy takie jak Datagen oferują atrakcyjną alternatywę dla drogiego i czasochłonnego procesu gromadzenia danych ze świata rzeczywistego. Zrobią to za Ciebie: jak chcesz, kiedy chcesz – i stosunkowo tanio.

Aby wygenerować swoich syntetycznych ludzi, Gen danych najpierw skanuje rzeczywistych ludzi. Współpracuje z dostawcami, którzy płacą ludziom za wejście do gigantycznych skanerów całego ciała, które rejestrują każdy szczegół, od tęczówek, przez teksturę skóry, po krzywiznę palców. Następnie startup pobiera surowe dane i pompuje je przez szereg algorytmów, które opracowują trójwymiarowe reprezentacje ciała, twarzy, oczu i dłoni danej osoby.

Firma z siedzibą w Izraelu twierdzi, że współpracuje już z czterema głównymi amerykańskimi gigantami technologicznymi, chociaż nie ujawni, które z nich znajdują się na liście. Najbliższy konkurent, Synteza AI , oferuje również cyfrowe osoby na żądanie. Inne firmy generują dane do wykorzystania w finanse , ubezpieczenie , oraz opieka zdrowotna . Jest ich mniej więcej firmy zajmujące się danymi syntetycznymi ponieważ istnieją rodzaje danych.

Dane syntetyczne, niegdyś postrzegane jako mniej pożądane niż dane rzeczywiste, są obecnie postrzegane przez niektórych jako panaceum. Prawdziwe dane są nieuporządkowane i pełne błędów. Nowe przepisy dotyczące prywatności danych utrudniają ich zbieranie. Natomiast dane syntetyczne są nieskazitelne i mogą być wykorzystywane do tworzenia bardziej zróżnicowanych zbiorów danych. Możesz stworzyć perfekcyjnie oznakowane twarze, powiedzmy, w różnym wieku, o różnym kształcie i pochodzeniu etnicznym, aby zbudować system wykrywania twarzy, który działa w różnych populacjach.

Ale dane syntetyczne mają swoje ograniczenia. Jeśli nie będzie odzwierciedlać rzeczywistości, może w efekcie wyprodukować jeszcze gorszą sztuczną inteligencję niż niechlujne, stronnicze dane z rzeczywistego świata — lub może po prostu odziedziczyć te same problemy. To, czego nie chcę, to dać kciuki do tego paradygmatu i powiedzieć: „Och, to rozwiąże tak wiele problemów”, mówi Cathy O’Neil, badaczka danych i założycielka firmy audytorskiej ORCAA zajmującej się algorytmicznymi audytami. Ponieważ zignoruje również wiele rzeczy.

Realistyczne, nie prawdziwe

Głębokie uczenie zawsze dotyczyło danych. Ale w ciągu ostatnich kilku lat społeczność AI nauczyła się tego dobry dane są ważniejsze niż duża dane . Nawet niewielkie ilości właściwych, czysto oznaczonych danych mogą zrobić więcej w celu poprawy wydajności systemu AI niż dziesięciokrotność ilości nieutwardzonych danych lub nawet bardziej zaawansowany algorytm.

To zmienia sposób, w jaki firmy powinny podchodzić do opracowywania swoich modeli AI, mówi dyrektor generalny i współzałożyciel Datagen, Ofir Chakon. Dzisiaj zaczynają od zebrania jak największej ilości danych, a następnie dostosowują i dostrajają swoje algorytmy w celu uzyskania lepszej wydajności. Zamiast tego powinni postępować odwrotnie: używać tego samego algorytmu, poprawiając jednocześnie kompozycję swoich danych.

Datagen generuje również fałszywe meble i środowiska wewnętrzne, aby umieścić swoich fałszywych ludzi w kontekście.

GENERATOR DANYCH

Jednak zbieranie rzeczywistych danych w celu przeprowadzenia tego rodzaju iteracyjnych eksperymentów jest zbyt kosztowne i czasochłonne. Tutaj wkracza Datagen. Dzięki generatorowi danych syntetycznych zespoły mogą tworzyć i testować dziesiątki nowych zestawów danych dziennie, aby określić, który z nich maksymalizuje wydajność modelu.

Aby zapewnić realizm swoich danych, Datagen daje swoim dostawcom szczegółowe instrukcje dotyczące liczby osób do przeskanowania w każdym przedziale wiekowym, przedziale BMI i pochodzeniu etnicznym, a także ustaloną listę czynności do wykonania, takich jak chodzenie po pokoju lub picie sody. Dostawcy przesyłają zarówno statyczne obrazy o wysokiej wierności, jak i dane z przechwytywania ruchu dotyczące tych działań. Algorytmy Datagen następnie rozszerzają te dane na setki tysięcy kombinacji. Zsyntetyzowane dane są czasami ponownie sprawdzane. Fałszywe twarze są wykreślane z prawdziwymi twarzami, na przykład w celu sprawdzenia, czy wydają się realistyczne.

Datagen generuje teraz mimikę twarzy, aby monitorować czujność kierowcy w inteligentnych samochodach, ruchy ciała w celu śledzenia klientów w sklepach bezkasowych oraz ruchy tęczówki i dłoni w celu poprawy możliwości śledzenia oczu i dłoni w zestawach VR. Firma twierdzi, że jej dane zostały już wykorzystane do opracowania komputerowych systemów wizyjnych obsługujących dziesiątki milionów użytkowników.

Nie tylko syntetyczni ludzie są masowo produkowane. Kliknięcia to startup, który wykorzystuje syntetyczną sztuczną inteligencję do przeprowadzania automatycznych kontroli pojazdów. Korzystając z oprogramowania do projektowania, odtwarza wszystkie marki i modele samochodów, które jego sztuczna inteligencja musi rozpoznać, a następnie renderuje je z różnymi kolorami, uszkodzeniami i deformacjami w różnych warunkach oświetleniowych, na różnym tle. Pozwala to firmie aktualizować swoją sztuczną inteligencję, gdy producenci samochodów wypuszczają nowe modele, i pomaga uniknąć naruszeń prywatności danych w krajach, w których tablice rejestracyjne są uważane za informacje prywatne, a zatem nie mogą być obecne na zdjęciach wykorzystywanych do szkolenia sztucznej inteligencji.

Click-Ins renderuje samochody różnych marek i modeli na różnym tle.

KLIKNIJ

Głównie.ai współpracuje z firmami finansowymi, telekomunikacyjnymi i ubezpieczeniowymi w celu dostarczania arkuszy kalkulacyjnych z fałszywymi danymi klientów, które umożliwiają firmom udostępnianie bazy danych klientów zewnętrznym dostawcom w sposób zgodny z prawem. Anonimizacja może zmniejszyć bogactwo zestawu danych, ale nadal nie zapewnia odpowiedniej ochrony prywatności ludzi. Ale dane syntetyczne można wykorzystać do generowania szczegółowych zestawów fałszywych danych, które mają te same właściwości statystyczne, co rzeczywiste dane firmy. Można go również wykorzystać do symulacji danych, których firma jeszcze nie posiada, w tym bardziej zróżnicowanej populacji klientów lub scenariuszy, takich jak nieuczciwa działalność.

Zwolennicy danych syntetycznych twierdzą, że mogą one również pomóc w ocenie sztucznej inteligencji. w ostatni artykuł opublikowana na konferencji AI, Suchi Saria, profesor nadzwyczajny uczenia maszynowego i opieki zdrowotnej na Uniwersytecie Johnsa Hopkinsa, a jej współautorzy wykazali, w jaki sposób techniki generowania danych można wykorzystać do ekstrapolacji różnych populacji pacjentów z jednego zestawu danych. Może to być przydatne, jeśli na przykład firma miałaby dane tylko z młodszej populacji Nowego Jorku, ale chciałaby zrozumieć, jak jej sztuczna inteligencja działa na starzejącej się populacji z wyższą częstością występowania cukrzycy. Obecnie zakłada własną firmę Bayesian Health, która będzie wykorzystywać tę technikę do testowania medycznych systemów sztucznej inteligencji.

Granice fałszowania

Ale czy dane syntetyczne są przesadzone?

Jeśli chodzi o prywatność, tylko dlatego, że dane są „syntetyczne” i nie odpowiadają bezpośrednio rzeczywistym danym użytkownika, nie oznacza, że ​​nie kodują one poufnych informacji o prawdziwych ludziach, mówi Aaron Roth, profesor informatyki na Uniwersytecie Uniwersytet Pensylwanii. Wykazano, że niektóre techniki generowania danych ściśle odtwarzają obrazy lub tekst znalezione w danych treningowych, podczas gdy inne są podatne na ataki, które powodują, że w pełni zwracają te dane.

Może to być dobre dla firmy takiej jak Datagen, której syntetyczne dane nie mają na celu ukrywania tożsamości osób, które zgodziły się na skanowanie. Byłaby to jednak zła wiadomość dla firm, które oferują swoje rozwiązanie jako sposób na ochronę poufnych informacji finansowych lub informacji o pacjentach.

Powiązana historia

W tym roku deepfake weszły do ​​głównego nurtu W 2020 roku media syntetyczne ze sztuczną inteligencją zaczęły odchodzić od ciemniejszych zakamarków Internetu.

Badania sugerują, że w szczególności połączenie dwóch technik przetwarzania danych syntetycznych — prywatności różnicowej i generatywne sieci adwersarzy — może zapewnić najsilniejszą ochronę prywatności, mówi Bernease Herman, badacz danych z Instytutu eScience na Uniwersytecie Waszyngtońskim. Ale sceptycy obawiają się, że ten niuans może zostać zagubiony w żargonie marketingowym sprzedawców danych syntetycznych, którzy nie zawsze będą mówić o tym, jakich technik używają.

Tymczasem niewiele dowodów sugeruje, że dane syntetyczne mogą skutecznie łagodzić stronniczość systemów sztucznej inteligencji. Po pierwsze, ekstrapolacja nowych danych z istniejącego zestawu danych, który jest przekrzywiony, niekoniecznie daje dane, które są bardziej reprezentatywne. Na przykład surowe dane Datagen zawierają proporcjonalnie mniej mniejszości etnicznych, co oznacza, że ​​wykorzystuje mniej prawdziwych punktów danych do generowania fałszywych ludzi z tych grup. Chociaż proces generowania nie jest całkowicie zgadywaniem, ci fałszywi ludzie mogą nadal częściej odbiegać od rzeczywistości. Jeśli twoje twarze o ciemniejszej karnacji nie są szczególnie dobrymi przybliżeniami twarzy, to tak naprawdę nie rozwiązujesz problemu, mówi O’Neil.

Po drugie, doskonale zrównoważone zestawy danych nie przekładają się automatycznie na idealnie sprawiedliwe systemy sztucznej inteligencji, mówi Christo Wilson, profesor informatyki na Northeastern University. Gdyby pożyczkodawca kart kredytowych próbował opracować algorytm sztucznej inteligencji do oceniania potencjalnych kredytobiorców, nie wyeliminowałby on wszelkiej możliwej dyskryminacji, po prostu reprezentując w swoich danych zarówno białych, jak i czarnych. Dyskryminacja może nadal wkradać się poprzez różnice między białymi i czarnymi kandydatami.

Aby jeszcze bardziej skomplikować sprawy, wczesne badania pokazują, że w niektórych przypadkach może nie być nawet możliwe osiągnięcie obu prywatnych oraz uczciwa sztuczna inteligencja z danymi syntetycznymi. w ostatni artykuł opublikowane na konferencji AI, naukowcy z University of Toronto i Vector Institute próbowali to zrobić za pomocą zdjęć rentgenowskich klatki piersiowej. Odkryli, że nie byli w stanie stworzyć dokładnego medycznego systemu sztucznej inteligencji, gdy próbowali stworzyć zróżnicowany zestaw danych syntetycznych poprzez połączenie prywatności różnicowej i generatywnych sieci przeciwników.

Nic z tego nie oznacza, że ​​nie należy używać danych syntetycznych. W rzeczywistości może stać się koniecznością. Ponieważ organy regulacyjne stają przed koniecznością testowania systemów sztucznej inteligencji pod kątem zgodności z prawem, może to być jedyne podejście, które zapewni im elastyczność niezbędną do generowania na żądanie ukierunkowanych danych testowych, mówi O’Neil. Ale to sprawia, że ​​pytania o jego ograniczenia są jeszcze ważniejsze, aby je teraz przestudiować i odpowiedzieć.

Twierdzi, że dane syntetyczne prawdopodobnie z czasem się poprawią, ale nie przez przypadek.

ukryć