Sztuczna inteligencja ma kulturowo stronniczy pogląd na świat, który Google ma plan zmienić

Kategoria: Sztuczna inteligencja Opublikowany gru 02

Google uruchomił Inkluzywny konkurs obrazów , próba rozszerzenia kulturowej płynności oprogramowania do rozpoznawania obrazów. Zadanie dla uczestników: zredukować stronniczość w komputerowym systemie wizyjnym wyszkolonym na zbiorze danych obrazowych z kulturowym odchyleniem.

Kontekst: Maszyny muszą być przeszkolone w zakresie ogromnych ilości danych obrazowych, aby rozpoznawać obiekty. Ostatnie skoki w rozpoznawaniu obrazów zbiegły się w czasie z opublikowaniem dużych, publicznie dostępnych zbiorów danych, w tym: ImageNet oraz Otwórz obrazy .

Problem: Jednak najpopularniejsze zbiory danych są zorientowane na Stany Zjednoczone i Zachód – po prostu dlatego, że te zachodnie obrazy zdominowały Internet podczas kompilacji zestawów danych. W konsekwencji wyszkolone na nich systemy często nie potrafią precyzyjnie opisać scen z innych kultur i miejsc. Weźmy jako przykład zdjęcia ślubne. Standardowy system rozpoznawania obrazu, wyszkolony na zbiorach danych z otwartego źródła, potrafi rozpoznać pannę młodą w białej sukni, odzwierciedlającej klasyczną tradycję zachodnią. Ale nie rozpozna panny młodej w sari z indyjskiej ceremonii.

Wyzwanie: Jednym ze sposobów na złagodzenie tego problemu jest zbudowanie bardziej zróżnicowanych i reprezentatywnych zestawów danych obrazu. Chociaż Google stosuje to podejście, firma wierzy również w inny sposób: ulepszanie samych algorytmów uczenia maszynowego, aby były bardziej inkluzywne podczas uczenia się na podstawie niedoskonałych danych.

Wyniki: Do konkursu, zorganizowanego we współpracy z konferencją Neural Information Processing Systems (NeurIPS), jednym z największych corocznych spotkań poświęconych badaniom nad sztuczną inteligencją, zgłosiło się ponad 100 uczestników. Badacz Google Brain Pallavi Baljekar zauważył podczas konferencji w niedzielę, 2 grudnia, że ​​pierwszy rok zwycięzcy konkursu byli w stanie poczynić małe kroki w kierunku bardziej inkluzywnych systemów. Ale tylko jedno z pięciu najlepszych podejść z powodzeniem rozpoznało indyjską pannę młodą. Oczywiste jest, że trzeba wykonać więcej pracy.