Dlaczego dzieci potrzebują specjalnej ochrony przed wpływem sztucznej inteligencji

Ludovic Toinel / Unsplash

Algorytmy mogą zmienić bieg życia dzieci. Dzieci wchodzą w interakcję z Alexami, które mogą nagrywać ich dane głosowe i wpływać na ich mowę i rozwój społeczny. Bingują filmy na TikTok i YouTube, które są im przekazywane przez systemy rekomendacji, które ostatecznie kształtują ich światopogląd.

Algorytmy są również coraz częściej wykorzystywane do określania, jak wygląda ich edukacja, czy otrzymają opiekę zdrowotną, a nawet czy ich rodzice są uznawani za zdolnych do opieki nad nimi . Czasami może to mieć druzgocące skutki: na przykład zeszłego lata tysiące studentów stracili przyjęcia na studia po algorytmy — używane zamiast standaryzowanych testów odwołanych przez pandemię — niedokładnie przewidywały ich wyniki w nauce.

Innymi słowy, dzieci często stoją na czele, jeśli chodzi o używanie i wykorzystywanie przez sztuczną inteligencję, co może sprawić, że zostaną zranione. Ponieważ rozwijają się intelektualnie, emocjonalnie i fizycznie, są bardzo podatne na kształtowanie, mówi Steve Vosloo, specjalista ds. polityki łączności cyfrowej w UNICEF, Funduszu Narodów Zjednoczonych na rzecz Dzieci.

Vosloo kierował opracowaniem nowy zestaw wytycznych od UNICEF, który ma pomóc rządom i firmom w opracowywaniu polityk AI uwzględniających potrzeby dzieci. Opublikowane 16 września dziewięć nowych wytycznych jest zwieńczeniem kilku konsultacji przeprowadzonych z decydentami, badaczami rozwoju dzieci, praktykami sztucznej inteligencji i dziećmi na całym świecie. Uwzględniają również Konwencję ONZ o prawach dziecka, traktat praw człowieka ratyfikowany w 1989 roku.

Wytyczne nie mają być kolejnym zestawem zasad AI, z których wiele mówi już to samo. W styczniu br. recenzja Harvard Berkman Klein Center z 36 najważniejszych dokumentów dotyczących krajowych i firmowych strategii sztucznej inteligencji znalazło się osiem wspólnych tematów — wśród nich prywatność, bezpieczeństwo, uczciwość i możliwość wyjaśnienia.

Wytyczne UNICEF mają raczej uzupełniać te istniejące tematy i dostosowywać je do dzieci. Na przykład systemy sztucznej inteligencji powinny być nie tylko możliwe do wytłumaczenia — powinny być możliwe do wytłumaczenia dzieciom. Powinni również wziąć pod uwagę wyjątkowe potrzeby rozwojowe dzieci. Dzieci mają dodatkowe prawa niż dorośli, mówi Vosloo. Szacuje się również, że stanowią one co najmniej jedną trzecią użytkowników online. Nie mówimy tutaj o grupie mniejszościowej – zaznacza.

Oprócz łagodzenia szkód związanych ze sztuczną inteligencją, celem zasad jest zachęcanie do rozwoju systemów sztucznej inteligencji, które mogłyby poprawić rozwój i dobrostan dzieci. Jeśli na przykład są dobrze zaprojektowane, wykazano, że narzędzia do nauki oparte na sztucznej inteligencji: poprawić umiejętności krytycznego myślenia i rozwiązywania problemów u dzieci i mogą być przydatne dla dzieci z trudnościami w nauce. Asystenci emocjonalnej sztucznej inteligencji, choć stosunkowo nowi, mogą zapewnić wsparcie w zakresie zdrowia psychicznego i wykazano, że poprawiają umiejętności społeczne dzieci z autyzmem. Rozpoznawanie twarzy, używane ze ostrożnymi ograniczeniami, może pomóc w identyfikacji dzieci, które zostały porwane lub sprzedane.

Należy także edukować dzieci na temat sztucznej inteligencji i zachęcać do udziału w jej rozwoju. Nie chodzi tylko o ich ochronę, mówi Vosloo. Chodzi o wzmocnienie ich pozycji i danie im agencji kształtowania ich przyszłości.

Mówiąc o grupach defaworyzowanych, oczywiście dzieci są najbardziej pokrzywdzone.

Yi Zeng

UNICEF nie jest jedynym, który myśli o tym problemie. Dzień przed opublikowaniem projektu wytycznych Pekińska Akademia Sztucznej Inteligencji (BAAI), organizacja wspierana przez chińskie Ministerstwo Nauki i Technologii oraz rząd miasta Pekinu, wydała zestaw zasad AI również dla dzieci.

Ogłoszenie następuje rok po wydaniu BAAI zasady pekińskiej sztucznej inteligencji rozumiane jako wartości przewodnie dla rozwoju sztucznej inteligencji w Chinach. Nowe zasady nakreślone specjalnie dla dzieci mają być konkretną implementacją tych bardziej ogólnych, mówi Yi Zeng, dyrektor Centrum Badań nad Etyką AI i Zrównoważonym Rozwójem w BAAI, który kierował ich opracowaniem. Są one ściśle zgodne z wytycznymi Unicef, dotykając również prywatności, uczciwości, wyjaśnialności i dobrostanu dzieci, chociaż niektóre szczegóły są bardziej specyficzne dla obaw Chin. Wytyczne dotyczące poprawy zdrowia fizycznego dzieci obejmują na przykład wykorzystanie sztucznej inteligencji do pomocy w walce z zanieczyszczeniem środowiska.

Chociaż te dwa wysiłki nie są formalnie powiązane, czas również nie jest przypadkowy. Po powodzi zasad AI w ciągu ostatnich kilku lat, obaj główni projektanci twierdzą, że stworzenie bardziej dostosowanych wytycznych dla dzieci było logicznym kolejnym krokiem. Mówiąc o grupach znajdujących się w niekorzystnej sytuacji, oczywiście dzieci są najbardziej pokrzywdzone, mówi Zeng. Właśnie dlatego naprawdę potrzebujemy szczególnej troski o tę grupę ludzi. Zespoły naradzały się ze sobą, przygotowując swoje dokumenty. Kiedy UNICEF prowadził warsztaty konsultacyjne w Azji Wschodniej, Zeng uczestniczył w nich jako mówca.

UNICEF planuje teraz przeprowadzić serię programów pilotażowych z różnymi krajami partnerskimi, aby obserwować, jak praktyczne i skuteczne są ich wytyczne w różnych kontekstach. BAAI utworzył grupę roboczą z przedstawicielami niektórych z największych firm kierujących krajową strategią sztucznej inteligencji, w tym firmy zajmującej się technologią edukacyjną TAL, firmy elektroniki użytkowej Xiaomi, firmy komputerowej Megvii i giganta internetowego Baidu. Mamy nadzieję, że zaczną przestrzegać zasad stosowanych w swoich produktach i wpłyną na to samo inne firmy i organizacje.

Zarówno Vosloo, jak i Zeng mają nadzieję, że poprzez wyartykułowanie wyjątkowych obaw, jakie sztuczna inteligencja stwarza dzieciom, wytyczne zwiększą świadomość tych problemów. Wchodzimy w to z szeroko otwartymi oczami, mówi Vosloo. Rozumiemy, że jest to nowy obszar dla wielu rządów i firm. Więc jeśli z biegiem czasu zobaczymy więcej przykładów dzieci objętych sztuczną inteligencją lub cyklem opracowywania polityki, większa troska o to, jak ich dane są gromadzone i analizowane – jeśli zobaczymy, że sztuczna inteligencja stała się bardziej zrozumiała dla dzieci lub ich opiekunów – byłoby to korzystne dla nas.

ukryć