211service.com
Inteligentne oprogramowanie można oszukać, aby zobaczyć, czego nie ma
Technika zwana głębokim uczeniem umożliwiła Google i innym firmom dokonanie przełomu w zrozumieniu treści zdjęć przez komputery. Teraz naukowcy z Cornell University i University of Wyoming pokazali, jak tworzyć obrazy, które oszukują takie oprogramowanie widząc rzeczy, których nie ma .
Obrazy takie jak te zostały stworzone, aby oszukać algorytmy uczenia maszynowego. Oprogramowanie widzi każdy wzór jako jedną z cyfr od 1 do 5.
Naukowcy mogą tworzyć obrazy, które wydają się człowiekowi jako pomieszane bzdury lub proste wzory geometryczne, ale są identyfikowane przez oprogramowanie jako przedmiot codziennego użytku, taki jak autobus szkolny. Podstępne obrazy dają nowy wgląd w różnice między tym, jak prawdziwy mózg i proste symulowane neurony wykorzystywane są w obrazach procesu głębokiego uczenia się.
Badacze zazwyczaj szkolą oprogramowanie do głębokiego uczenia się, aby rozpoznać coś, co jest interesujące — na przykład gitarę — pokazując mu miliony zdjęć gitar, za każdym razem mówiąc komputerowi „To jest gitara”. Po pewnym czasie oprogramowanie może zidentyfikować gitary na obrazach, których nigdy wcześniej nie widział, przypisując swojej odpowiedzi ocenę pewności. Może to dać gitarze wyświetlanej samodzielnie na białym tle wysoki poziom zaufania, a gitarze widzianej na tle ziarnistego, zagraconego obrazu niższy poziom zaufania (patrz 10 Breakthrough Technologies 2013: Deep Learning ).
Takie podejście ma cenne zastosowania, takie jak rozpoznawanie twarzy lub używanie oprogramowania do przetwarzania nagrań z kamer bezpieczeństwa lub ruchu drogowego, na przykład do mierzenia natężenia ruchu lub wykrywania podejrzanej aktywności.
Ale chociaż funkcje matematyczne używane do tworzenia sztucznej sieci neuronowej są rozumiane indywidualnie, sposób ich współdziałania w rozszyfrowywaniu obrazów jest nieznany. Rozumiemy, że działają, ale nie tak, jak działają, mówi Jeff Clune , adiunkt informatyki na Uniwersytecie Wyoming. Mogą nauczyć się robić rzeczy, których my sami nie możemy nauczyć się robić.
Te obrazy wydają się ludziom abstrakcyjne, ale są postrzegane przez algorytm rozpoznawania obrazów, który został zaprojektowany, aby oszukać, jako obiekty opisane na etykietach.
Aby rzucić nowe światło na sposób działania tych sieci, grupa Clune wykorzystała sieć neuronową o nazwie AlexNet, która osiągnęła imponujące wyniki w rozpoznawaniu obrazów. Obsługiwali go w odwrotnej kolejności, prosząc o wersję oprogramowania bez znajomości gitar Stwórz obraz jednego, generując losowe piksele na obrazie.
Naukowcy poprosili drugą wersję sieci, która została przeszkolona do wykrywania gitar, aby oceniła obrazy wykonane przez pierwszą sieć. Ta ocena zaufania została wykorzystana przez pierwszą sieć do udoskonalenia kolejnej próby stworzenia wizerunku gitary. Po tysiącach rund pomiędzy tymi dwoma programami, pierwsza sieć mogła stworzyć obraz, który druga sieć rozpoznała jako gitarę z 99-procentową pewnością.
Jednak dla człowieka te obrazy gitary wyglądały jak kolorowy telewizor, statyczne lub proste wzory. Clune twierdzi, że pokazuje to, że oprogramowanie nie jest zainteresowane łączeniem szczegółów strukturalnych, takich jak struny czy podstrunnica, tak jak może to być człowiek próbujący coś zidentyfikować. Zamiast tego oprogramowanie wydaje się patrzeć na określoną odległość lub relacje kolorów między pikselami lub ogólny kolor i teksturę.
To daje nowy wgląd w to, jak naprawdę działają sztuczne sieci neuronowe, mówi Clune, chociaż potrzebne są dalsze badania.
Ryan Adams , asystent profesora informatyki na Harvardzie, mówi, że wyniki nie są całkowicie zaskakujące. Fakt, że duże obszary sztucznych obrazów wyglądają jak morza statycznych obrazów, prawdopodobnie wynika ze sposobu, w jaki sieci są zasilane obrazami szkoleniowymi. Przedmiotem zainteresowania jest zwykle tylko niewielka część zdjęcia, a reszta jest nieistotna.
Adams wskazuje również, że badania Clune pokazują, że ludzie i sztuczne sieci neuronowe mają pewne cechy wspólne. Od tysiącleci ludzie sądzą, że widzą przedmioty codziennego użytku w przypadkowych wzorach — na przykład gwiazdy.
Clune twierdzi, że można by wykorzystać jego technikę do oszukania algorytmów rozpoznawania obrazu, gdy są one wykorzystywane w usługach internetowych i innych produktach. Jednak bardzo trudno byłoby to zrobić. Na przykład Google ma algorytmy, które odfiltrowują pornografię z wyników swojej usługi wyszukiwania obrazów. Ale aby stworzyć obrazy, które mogłyby go oszukać, dowcipniś musiałby znać istotne szczegóły dotyczące tego, jak zaprojektowano oprogramowanie Google.