Rewolucyjna technika, która po cichu zmieniła wizję maszynową na zawsze

W eksploracji kosmosu jest nagroda Google Lunar X za umieszczenie łazika na powierzchni Księżyca. W medycynie przyznawana jest nagroda Qualcomm Tricorder X za opracowanie urządzenia do diagnozowania chorób w stylu Star Trek. Jest nawet początkowa Nagroda X Sztucznej Inteligencji za opracowanie systemu AI zdolnego do wygłoszenia urzekającego wykładu TED.

W świecie wizji maszynowej równorzędnym celem jest wygranie konkursu ImageNet Large-Scale Visual Recognition Challenge. To konkurs, który odbywa się corocznie od 2010 roku i ma na celu ocenę algorytmów rozpoznawania obrazu. (Zaprojektowano go jako kontynuację podobnego projektu o nazwie PASCAL VOC, który był realizowany od 2005 do 2012 roku).

Zawodnicy w tej konkurencji mają do wykonania dwa proste zadania. Przedstawiony z jakimś obrazem, pierwszym zadaniem jest podjęcie decyzji, czy zawiera on określony typ obiektu, czy nie. Na przykład zawodnik może zdecydować, że na tym obrazku są samochody, ale nie ma tygrysów. Drugim zadaniem jest odnalezienie konkretnego obiektu i narysowanie wokół niego ramki. Na przykład zawodnik może zdecydować, że w określonej pozycji znajduje się śrubokręt o szerokości 50 pikseli i wysokości 30 pikseli.

Aha, i jeszcze jedna rzecz: istnieje 1000 różnych kategorii obiektów, od liczydła po cukinię, a zawodnicy muszą przeszukać bazę danych zawierającą ponad milion zdjęć, aby znaleźć każde wystąpienie każdego obiektu. Zdradliwy!

Komputery zawsze miały problemy z identyfikacją obiektów na rzeczywistych obrazach, więc nietrudno uwierzyć, że zwycięzcy tych konkursów zawsze wypadali słabo w porównaniu z ludźmi.

Ale wszystko zmieniło się w 2012 roku, kiedy zespół z Uniwersytetu w Toronto w Kanadzie wprowadził algorytm o nazwie SuperVision, który zmiótł parkiet z opozycją.

Dziś Olga Russakovsky z Uniwersytetu Stanforda w Kalifornii i kilku kumpli przegląda historię tego konkursu i mówi, że z perspektywy czasu wszechstronne zwycięstwo SuperVision było punktem zwrotnym dla widzenia maszynowego. Od tego czasu, jak mówią, widzenie maszynowe poprawiło się w tak szybkim tempie, że dziś po raz pierwszy rywalizuje z ludzką dokładnością.

Co więc wydarzyło się w 2012 roku, co zmieniło świat widzenia maszynowego? Odpowiedzią jest technika zwana głębokimi konwolucyjnymi sieciami neuronowymi, której algorytm Super Vision użył do sklasyfikowania 1,2 miliona obrazów o wysokiej rozdzielczości w zbiorze danych na 1000 różnych klas.

To był pierwszy raz, kiedy głęboka konwolucyjna sieć neuronowa wygrała konkurs i było to wyraźne zwycięstwo. W 2010 roku zwycięski wpis miał wskaźnik błędu 28,2 procent, w 2011 wskaźnik błędu spadł do 25,8 procent. Ale SuperVision wygrał ze wskaźnikiem błędów wynoszącym tylko 16,4 procent w 2012 roku (drugi najlepszy wpis miał wskaźnik błędu 26,2 procent). To wyraźne zwycięstwo sprawiło, że od tego czasu to podejście było szeroko kopiowane.

Konwolucyjne sieci neuronowe składają się z kilku warstw małych kolekcji neuronów, z których każda patrzy na małe fragmenty obrazu. Wyniki ze wszystkich kolekcji w warstwie nakładają się na siebie, tworząc reprezentację całego obrazu. Warstwa poniżej powtarza ten proces na nowej reprezentacji obrazu, umożliwiając systemowi poznanie składu obrazu.

Głębokie konwolucyjne sieci neuronowe zostały wynalezione na początku lat osiemdziesiątych. Ale dopiero w ciągu ostatnich kilku lat komputery zaczęły dysponować mocą niezbędną do rozpoznawania obrazów wysokiej jakości.

Na przykład SuperVision składa się z około 650 000 neuronów ułożonych w pięć splotowych warstw. Posiada około 60 milionów parametrów, które należy dopracować w procesie uczenia, aby rozpoznawać obiekty w poszczególnych kategoriach. To właśnie ta ogromna przestrzeń parametrów pozwala na rozpoznanie tak wielu różnych typów obiektów.

Od 2012 roku kilka grup znacznie poprawiło wynik SuperVision. W tym roku algorytm o nazwie GoogLeNet, stworzony przez zespół inżynierów Google, osiągnął wskaźnik błędów wynoszący zaledwie 6,7 proc.

Jednym z największych wyzwań w prowadzeniu tego rodzaju zawodów jest przede wszystkim stworzenie wysokiej jakości zestawu danych, mówią Russakovsky i spółka. Każdy obraz w bazie danych musi być opatrzony adnotacjami według złotego standardu, który muszą spełniać algorytmy. Istnieje również szkoleniowa baza danych zawierająca około 150 000 zdjęć, które również muszą być opatrzone adnotacjami.

Nie jest to łatwe przy tak dużej liczbie zdjęć. Russakovsky i spółka zrobili to, korzystając z crowdsourcingu w obiektach takich jak Amazon Mechanical Turk, gdzie proszą użytkowników o kategoryzację obrazów. Wymaga to znacznej ilości planowania, sprawdzania krzyżowego i ponownego uruchamiania, gdy to nie działa. Ale rezultatem jest wysokiej jakości baza danych obrazów opatrzonych adnotacjami z wysokim stopniem dokładności, mówią.

Ciekawym pytaniem jest porównanie najlepszych algorytmów z ludźmi, jeśli chodzi o rozpoznawanie obiektów. Russakovsky i spółka porównali ludzi z maszynami, a ich konkluzja wydaje się nieunikniona. Nasze wyniki wskazują, że wyszkolony annotator jest w stanie przewyższyć najlepszy model (GoogLeNet) o około 1,7%.

Innymi słowy, nie minie dużo czasu, zanim maszyny znacznie przewyższą ludzi w zadaniach rozpoznawania obrazu.

Najlepsze algorytmy widzenia maszynowego wciąż zmagają się z przedmiotami, które są małe lub cienkie, takimi jak mała mrówka na łodydze kwiatu lub osoba trzymająca pióro w dłoni. Mają też problemy z obrazami, które zostały zniekształcone za pomocą filtrów, co jest coraz bardziej powszechnym zjawiskiem w nowoczesnych aparatach cyfrowych.

W przeciwieństwie do tego, tego rodzaju obrazy rzadko niepokoją ludzi, którzy mają problemy z innymi problemami. Na przykład nie są dobrzy w klasyfikowaniu obiektów do drobnoziarnistych kategorii, takich jak konkretny gatunek psa lub ptaka, podczas gdy algorytmy widzenia maszynowego radzą sobie z tym z łatwością.

Ale trend jest wyraźny. Oczywiste jest, że ludzie wkrótce prześcigną najnowocześniejsze modele klasyfikacji obrazów tylko przy użyciu znacznego wysiłku, wiedzy i czasu, twierdzą Russakovsky i spółka.

Innymi słowy, to tylko kwestia czasu, zanim Twój smartfon lepiej rozpozna treść Twoich zdjęć niż Ty.

Nr ref.: http://arxiv.org/abs/1409.0575 : Wyzwanie ImageNet w zakresie rozpoznawania wizualnego na dużą skalę

ukryć