Algorytm AI inspirowany sposobem uczenia się dzieci jest trudniejszy do pomylenia

Kategoria: Sztuczna inteligencja Opublikowany maj 06

Informacje wąż strażacki: Standardową praktyką uczenia algorytmu uczenia maszynowego jest podawanie wszystkich szczegółów naraz. Załóżmy, że budujesz system klasyfikacji obrazów, aby rozpoznawać różne gatunki zwierząt. Pokazujesz mu przykłady każdego gatunku i odpowiednio je oznaczysz: na przykład owczarek niemiecki i pudel dla psów.

Ale kiedy rodzic uczy dziecko, podejście jest zupełnie inne. Zaczynają od znacznie szerszych etykiet: każdy gatunek psa to na początku po prostu pies. Dopiero gdy dziecko nauczy się rozróżniać te prostsze kategorie, rodzic rozkłada każdą z nich na bardziej szczegółowe.

Rozproszone zamieszanie: Czerpiąc inspirację z tego podejścia, naukowcy z Carnegie Mellon University stworzyli nowa technika który uczy sieć neuronową, jak klasyfikować rzeczy etapami. Na każdym etapie sieć widzi te same dane treningowe. Ale etykiety zaczynają się proste i szerokie, a z czasem stają się bardziej szczegółowe.

Aby określić ten postęp trudności, naukowcy najpierw pokazali sieci neuronowej dane treningowe z końcowymi szczegółowymi etykietami. Następnie obliczyli tak zwaną macierz pomyłek, która pokazuje kategorie, które model miał najwięcej trudności z rozróżnieniem. Naukowcy wykorzystali to do określenia etapów treningu, grupując najmniej rozróżnialne kategorie pod jedną etykietą na wczesnych etapach i dzieląc je z powrotem na dokładniejsze etykiety z każdą iteracją.

Lepsza dokładność: W testach z kilkoma popularnymi zestawami danych klasyfikacji obrazów podejście prawie zawsze prowadziło do końcowego modelu uczenia maszynowego, który przewyższał model wytrenowany metodą konwencjonalną. W najlepszym przypadku zwiększył dokładność klasyfikacji do 7%.

Nauka programowa: Chociaż podejście jest nowe, idea, która za nim stoi, nie jest. Praktyka uczenia sieci neuronowej na coraz trudniejszych etapach jest znana jako uczenie się w ramach programu nauczania i istnieje od lat 90. XX wieku. Jednak poprzednie wysiłki w zakresie uczenia się w ramach programu nauczania koncentrowały się na pokazywaniu sieci neuronowej innego podzbioru danych na każdym etapie, a nie tych samych danych z różnymi etykietami. Najnowsze podejście było przedstawione autorstwa współautorki artykułu, Otilii Stretcu, na Międzynarodowej Konferencji Reprezentacji Uczenia się w zeszłym tygodniu.

Dlaczego jest to ważne: Ogromna większość dzisiejszych badań głębokiego uczenia się kładzie nacisk na rozmiar modeli: jeśli system klasyfikacji obrazów ma trudności z rozróżnianiem różnych obiektów, oznacza to, że nie został wyszkolony na wystarczającej liczbie przykładów. Jednak zapożyczając wgląd ze sposobu, w jaki ludzie się uczą, naukowcy odkryli nową metodę, która pozwoliła im uzyskać lepsze wyniki przy dokładnie tych samych danych treningowych. Sugeruje sposób tworzenia bardziej wydajnych algorytmów uczenia się.