Za pomocą tych dziwnie zmodyfikowanych zdjęć można zhakować ludzkie mózgi i sztuczną inteligencję

Kategoria: Sztuczna inteligencja Opublikowany mar 01

Algorytmy komputerowego widzenia nie są jedynymi formami inteligencji, które można oszukać za pomocą zmanipulowanych zdjęć.

O o: Naukowcy wykorzystali sztuczną inteligencję do zaprojektowania pierwszych zdjęć, które oszukują zarówno ludzi, jak i algorytmy widzenia komputerowego, takie jak powyżej: niezmieniony obraz kota po lewej stronie, obok wersji, która została podrasowana, aby wyglądała dziwnie jak pies.

Dla nauki! Znalezienie w ten sposób ludzkich słabości może ulepszyć nasze systemy sztucznej inteligencji. Na papierze który opisuje te zmanipulowane zdjęcia — współautorem Iana Goodfellowa, twórcy generatywnych sieci adwersarzy (GAN) — naukowcy zwracają uwagę, że jeśli znajdziemy pewną klasę zmienionych obrazów, które nie mogą oszukać ludzkiego umysłu, sugeruje to podobny mechanizm może istnieć w uczeniu maszynowym. W końcu większość systemów sztucznej inteligencji jest luźno oparta na ludzkim mózgu.

Dlaczego jest to ważne: Teraz, gdy są naklejki, które można nakleić obiekty fizyczne w celu zmylenia komputerowych systemów wizyjnych, tak zwane przykłady kontradyktoryjności, są problemem w świecie rzeczywistym. A jeśli pojazdy autonomiczne nie mają sposobu, aby upewnić się, że ich systemy widzą każdy znak stopu, w najbliższym czasie nie będą gotowe do drogi.