Podcast: Historia sztucznej inteligencji opowiedziana przez ludzi, którzy ją wymyślili

Witamy w Byłem tam, kiedy , nowy projekt historii mówionej z W maszynach, którym ufamy podcast. Zawiera historie o przełomach w sztucznej inteligencji i informatyce, opowiadane przez ludzi, którzy byli ich świadkami. W tym pierwszym odcinku poznajemy Josepha Aticka — który pomógł stworzyć pierwszy komercyjnie opłacalny system rozpoznawania twarzy.

Kredyty:

Ten odcinek został wyprodukowany przez Jennifer Strong, Anthony'ego Greena i Emmę Cillekens z pomocą Lindsay Muscato. Jest edytowany przez Michaela Reilly i Mata Honana. Jest zmiksowany przez Garreta Langa, z sound designem i muzyką Jacoba Gorskiego.

Pełny zapis:

[ID TR]

Jennifer: Jestem Jennifer Strong, prowadząca W maszynach, którym ufamy .

Chcę opowiedzieć o czymś, nad czym pracowaliśmy przez chwilę za kulisami tutaj.

To jest nazwane Byłem tam, kiedy .

To projekt historii mówionej przedstawiający historie przełomów w sztucznej inteligencji i informatyce… opowiadane przez ludzi, którzy byli ich świadkami.

Joseph Atick: I kiedy wszedłem do pokoju, zauważył moją twarz, wydobył ją z tła i powiedział: Widzę Josepha i to był moment, w którym włosy na plecach… Poczułem, że coś się stało. Byliśmy świadkami.

Jennifer: Zaczynamy od człowieka, który pomógł stworzyć pierwszy system rozpoznawania twarzy, który był komercyjnie opłacalny… w latach 90.…

[ID IMWT]

Jestem Joseph Atick. Dziś jestem prezesem wykonawczym ID for Africa, organizacji humanitarnej, która koncentruje się na zapewnianiu ludziom w Afryce tożsamości cyfrowej, aby mogli uzyskać dostęp do usług i korzystać ze swoich praw. Ale nie zawsze zajmowałem się działalnością humanitarną. Po uzyskaniu doktoratu z matematyki wraz ze współpracownikami dokonaliśmy kilku fundamentalnych odkryć, które doprowadziły do ​​pierwszego komercyjnie opłacalnego rozpoznawania twarzy. Dlatego ludzie nazywają mnie ojcem założycielem rozpoznawania twarzy i przemysłu biometrycznego. Algorytm rozpoznawania znajomych twarzy przez ludzki mózg stał się jasny, gdy prowadziliśmy badania, badania matematyczne, gdy byłem w Instytucie Badań Zaawansowanych w Princeton. Ale to było dalekie od pomysłu, w jaki sposób można to zaimplementować.

To był długi okres miesięcy programowania i porażki i programowania i porażki. I pewnej nocy, tak naprawdę wczesnym rankiem, właśnie sfinalizowaliśmy wersję algorytmu. Przesłaliśmy kod źródłowy do kompilacji w celu uzyskania kodu uruchomieniowego. I wyszliśmy, ja wyszedłem do łazienki. A potem, kiedy wróciłem do pokoju i kod źródłowy został skompilowany przez maszynę i wrócił. I zwykle po skompilowaniu uruchamia go automatycznie, a kiedy wszedłem do pokoju, zauważył człowieka wchodzącego do pokoju i zauważył moją twarz, wydobył go z tła i wymówił: Widzę Józefa. i to był moment, w którym włosy na plecach – czułem się, jakby coś się stało. Byliśmy świadkami. I zacząłem dzwonić do innych osób, które wciąż były w laboratorium i każdy z nich wchodził do pokoju.

I powiedziałoby, że widzę Normana. Zobaczyłbym Pawła, zobaczyłbym Józefa. I trochę na zmianę biegaliśmy po pokoju, żeby zobaczyć, ile może go dostrzec w pokoju. To był, to był moment prawdy, w którym powiedziałbym, że kilka lat pracy w końcu doprowadziło do przełomu, choć teoretycznie żaden dodatkowy przełom nie był wymagany. Sam fakt, że wymyśliliśmy, jak to wdrożyć i wreszcie zobaczyliśmy, że zdolność w działaniu była bardzo, bardzo satysfakcjonująca i satysfakcjonująca. Stworzyliśmy zespół, który jest bardziej zespołem programistów, a nie zespołem badawczym, który był skoncentrowany na wprowadzeniu wszystkich tych możliwości w platformę PC. I to były narodziny, naprawdę narodziny komercyjnego rozpoznawania twarzy, powiedziałbym, w 1994 roku.

Moja troska zaczęła się bardzo szybko. Widziałem przyszłość, w której nie było miejsca do ukrycia, w związku z rozprzestrzenianiem się kamer na całym świecie i komercjalizacją komputerów i coraz lepszymi możliwościami przetwarzania przez komputery. I tak w 1998 roku lobbowałem w branży i powiedziałem, że musimy ustalić zasady odpowiedzialnego użytkowania. I przez chwilę czułem się dobrze, ponieważ czułem, że dobrze to zrobiliśmy. Czułem, że wprowadziliśmy odpowiedzialny kod użytkowania, który ma być przestrzegany przez to, co jest implementacją. Jednak ten kod nie przetrwał próby czasu. A powodem jest to, że nie przewidzieliśmy pojawienia się mediów społecznościowych. Zasadniczo, gdy tworzyliśmy kod w 1998 roku, powiedzieliśmy, że najważniejszym elementem systemu rozpoznawania twarzy jest otagowana baza danych znanych osób. Powiedzieliśmy, że jeśli nie ma mnie w bazie, system będzie ślepy.

I trudno było zbudować bazę danych. Co najwyżej mogliśmy zbudować tysiąc 10 000, 15 000, 20 000, ponieważ każdy obraz trzeba było zeskanować i wprowadzić ręcznie – świat, w którym żyjemy dzisiaj, jesteśmy teraz w reżimie, w którym pozwoliliśmy bestii z worka karmiąc go miliardami twarzy i pomagając mu tagując siebie. Um, jesteśmy teraz w świecie, w którym każda nadzieja na kontrolowanie i wymaganie od wszystkich odpowiedzialności za korzystanie z rozpoznawania twarzy jest trudna. A jednocześnie w Internecie nie brakuje znanych twarzy, ponieważ można po prostu zeskrobać, jak to ostatnio zdarzało się niektórym firmom. I tak zacząłem panikować w 2011 roku i napisałem artykuł, w którym napisałem, że nadszedł czas, aby nacisnąć przycisk paniki, ponieważ świat zmierza w kierunku, w którym rozpoznawanie twarzy będzie wszechobecne, a twarze będą wszędzie dostępne w bazach danych.

I wtedy ludzie mówili, że jestem panikarzem, ale dzisiaj zdają sobie sprawę, że dokładnie to się dzieje dzisiaj. A więc dokąd stąd pójdziemy? Lobbowałem za ustawodawstwem. Lobbowałem za ramami prawnymi, które sprawiają, że używanie czyjejś twarzy jest dla ciebie obowiązkiem bez jego zgody. A więc nie jest to już kwestia technologiczna. Nie możemy powstrzymać tej potężnej technologii środkami technologicznymi. Muszą istnieć jakieś ramy prawne. Nie możemy pozwolić, by technologia wyprzedziła nas za bardzo. Wyprzedzając nasze wartości, wyprzedzając to, co uważamy za akceptowalne.

Kwestia zgody nadal jest jedną z najtrudniejszych i najtrudniejszych kwestii, gdy dotyczy technologii, samo powiadomienie kogoś nie oznacza, że ​​to wystarczy. Dla mnie zgoda musi być świadoma. Muszą zrozumieć konsekwencje tego, co to oznacza. I nie tylko po to, żeby powiedzieć, no cóż, zapisaliśmy się i to wystarczyło. Mówiliśmy ludziom, a jeśli nie chcieli, mogli pojechać wszędzie.

Uważam też, że tak łatwo jest dać się uwieść krzykliwym funkcjom technologicznym, które mogą dać nam krótkoterminową przewagę w naszym życiu. A potem zdajemy sobie sprawę, że zrezygnowaliśmy z czegoś, co było zbyt cenne. I do tego czasu znieczuliliśmy populację i dochodzimy do punktu, w którym nie możemy się wycofać. Właśnie o to się martwię. Martwi mnie fakt, że rozpoznawanie twarzy dzięki pracy Facebooka i Apple'a i innych. Nie mówię, że to wszystko jest nielegalne. Wiele z nich jest legalnych.

Doszliśmy do punktu, w którym opinia publiczna mogła stać się zblazowana i znieczulona, ​​ponieważ widzą to wszędzie. A może za 20 lat wyjdziesz z domu. Nie będziesz już oczekiwać, że nie będziesz. Nie zostanie rozpoznany przez dziesiątki osób, które napotkasz po drodze. Myślę, że w tym momencie opinia publiczna będzie bardzo zaniepokojona, ponieważ media zaczną donosić o przypadkach prześladowania ludzi. Ludzie byli atakowani, ludzie byli nawet wybierani na podstawie ich wartości netto na ulicy i porywani. Myślę, że to duża odpowiedzialność na naszych rękach.

Dlatego myślę, że kwestia zgody będzie nadal nawiedzać branżę. I dopóki to pytanie nie będzie rezultatem, może nie zostanie rozwiązane. Myślę, że musimy ustalić ograniczenia tego, co można zrobić za pomocą tej technologii.

Moja kariera nauczyła mnie również, że zbytnie wyprzedzanie nie jest dobrą rzeczą, ponieważ rozpoznawanie twarzy, jakie znamy dzisiaj, zostało wynalezione w 1994 roku. Ale większość ludzi myśli, że zostało wynalezione przez Facebooka i algorytmy uczenia maszynowego, które są obecnie rozprzestrzenia się na całym świecie. Zasadniczo w pewnym momencie musiałem ustąpić z funkcji publicznego dyrektora generalnego, ponieważ ograniczyłem korzystanie z technologii, którą moja firma miała promować, ze strachu przed negatywnymi konsekwencjami dla ludzkości. Dlatego uważam, że naukowcy muszą mieć odwagę, by projektować w przyszłość i widzieć konsekwencje swojej pracy. Nie mówię, że powinni przestać dokonywać przełomów. Nie, należy iść z pełną mocą, dokonywać kolejnych przełomów, ale powinniśmy też być szczerzy wobec siebie i zasadniczo ostrzegać świat i decydentów, że ten przełom ma plusy i minusy. Dlatego korzystając z tej technologii, potrzebujemy pewnych wskazówek i ram, aby upewnić się, że jest ona skierowana do pozytywnego zastosowania, a nie negatywnego.

Jennifer: Byłem tam, gdy... to projekt historii mówionej przedstawiający historie osób, które były świadkami lub dokonały przełomu w sztucznej inteligencji i informatyce.

Masz historię do opowiedzenia? Znasz kogoś, kto to robi? Napisz do nas na adres [email protected].

[MIDROLKA]

[KREDYTY]

Jennifer: Ten odcinek został nagrany w Nowym Jorku w grudniu 2020 roku i wyprodukowany przeze mnie z pomocą Anthony'ego Greena i Emmy Cillekens. Redagują nas Michael Reilly i Mat Honan. Naszym inżynierem miksu jest Garret Lang… z sound designem i muzyką Jacoba Gorskiego.

Dzięki za wysłuchanie, jestem Jennifer Strong.

[ID TR]

ukryć