Pięć pytań, których możesz użyć, aby przebić się przez szum wokół AI

Abstrakcyjna ilustracja przedstawiająca cyfry 1-5 i znaki zapytania Pani Tech

Dwa tygodnie temu Zjednoczone Emiraty Arabskie gościły Ai Everything, swoją pierwszą dużą konferencję AI i jedną z największych konferencji poświęconych aplikacjom AI na świecie. Wydarzenie było imponującym świadectwem różnorodności branż, w których firmy wykorzystują obecnie uczenie maszynowe. Służyło również jako ważne przypomnienie o tym, jak świat biznesu może zaciemniać i przeceniać możliwości technologii.

W odpowiedzi chciałbym krótko przedstawić pięć pytań, których zazwyczaj używam do oceny jakości i ważności technologii firmy:

1. Jaki problem próbuje rozwiązać?

Zawsze zaczynam od opisu problemu. Co firma twierdzi, że próbuje zrobić i czy jest godna uczenia maszynowego? Być może mówimy o Affectiva , która buduje technologię rozpoznawania emocji, aby dokładnie śledzić i analizować nastroje ludzi. Koncepcyjnie jest to problem z rozpoznawaniem wzorców, a zatem mógłby rozwiązać problem uczenia maszynowego (patrz: Co to jest uczenie maszynowe? ). Bardzo trudne byłoby również podejście za pomocą innych środków, ponieważ jest to zbyt skomplikowane, aby zaprogramować zestaw reguł.

2. Jak firma podchodzi do tego problemu z uczeniem maszynowym?

Teraz, gdy mamy już koncepcyjne zrozumienie problemu, chcemy wiedzieć, jak firma sobie z nim poradzi. Firma rozpoznająca emocje może przyjąć wiele podejść do budowy swojego produktu. Może wytrenować komputerowy system wizyjny dopasowywania wzorców do wyrazów twarzy ludzi lub wytrenować system audio do dopasowywania wzorców do ludzkiego głosu. W tym miejscu chcemy dowiedzieć się, w jaki sposób firma przekształciła swój opis problemu w problem uczenia maszynowego i określić, jakie dane musiałaby wprowadzić do swoich algorytmów.

Powiązana historia

Powiązana historia

Definicja sztucznej inteligencji nieustannie ewoluuje, a termin często ulega zniekształceniu, dlatego jesteśmy tutaj, aby pomóc.

3. W jaki sposób firma pozyskuje dane szkoleniowe?

Kiedy już znamy rodzaj danych, jakich potrzebuje firma, chcemy wiedzieć, w jaki sposób firma je pozyskuje. Większość aplikacji AI korzysta z nadzorowanego uczenia maszynowego, które wymaga czystych danych o wysokiej jakości oznaczonych etykietami. Kto oznacza dane? A jeśli etykiety oddają coś subiektywnego, na przykład emocje, czy są zgodne z naukowym standardem? W przypadku Affectiva dowiedziałbyś się, że firma dobrowolnie zbiera dane audio i wideo od użytkowników i zatrudnia przeszkolonych specjalistów, aby oznaczyć dane w sposób rygorystycznie spójny. Znajomość szczegółów tej części potoku pomaga również zidentyfikować potencjalne źródła gromadzenia danych lub stronniczości etykietowania (patrz: Tak naprawdę dzieje się stronniczość AI ).

4. Czy firma posiada procesy audytowania swoich produktów?

Teraz powinniśmy zbadać, czy firma testuje swoje produkty. Jak dokładne są jego algorytmy? Czy są kontrolowane pod kątem stronniczości? Jak często dokonuje ponownej oceny swoich algorytmów, aby upewnić się, że nadal działają na równi? Jeśli firma nie ma jeszcze algorytmów, które osiągną pożądaną dokładność lub uczciwość, jakie ma plany, aby upewnić się, że to zrobią przed wdrożeniem?

5. Czy firma powinna wykorzystać uczenie maszynowe do rozwiązania tego problemu?

To raczej wezwanie do osądu. Nawet jeśli problem Móc rozwiązać za pomocą uczenia maszynowego, ważne jest, aby zadać pytanie, czy to powinnam być. Tylko dlatego, że możesz stworzyć platformę rozpoznawania emocji, która osiąga co najmniej 80% dokładności wśród różnych ras i płci, nie oznacza to, że nie będzie nadużywana. Czy korzyści z dostępności tej technologii przewyższają potencjalne naruszenia praw człowieka związane z nadzorem emocjonalnym? Czy firma dysponuje mechanizmami łagodzącymi ewentualne negatywne skutki?

Moim zdaniem firma z wysokiej jakości produktem do uczenia maszynowego powinna odhaczyć wszystkie pola: powinna rozwiązywać problem pasujący do uczenia maszynowego, mieć solidne procesy pozyskiwania danych i audytu, mieć bardzo dokładne algorytmy lub plan ich poprawy, i zmagać się z pytaniami etycznymi. Często firmy przechodzą pierwsze cztery testy, ale nie ostatnie. Dla mnie to główna czerwona flaga. Pokazuje, że firma nie myśli holistycznie o tym, jak jej technologia może wpłynąć na życie ludzi i ma duże szanse na pociągnięcie Facebooka w późniejszym terminie. Jeśli jesteś dyrektorem zarządzającym poszukującym rozwiązań do uczenia maszynowego dla swojej firmy, powinno to ostrzegać przed współpracą z konkretnym dostawcą.

Ta historia pierwotnie pojawiła się w naszym nominowanym przez Webby biuletynie AI The Algorithm. Aby więcej takich artykułów trafiało bezpośrednio do Twojej skrzynki odbiorczej, zarejestruj się tutaj. Jest wolne.

ukryć