Przetwarzanie na urządzeniu i sztuczna inteligencja idą w parze

We współpracy z Qualcomm

Niezależnie od tego, czy prowadzisz pojazd autonomiczny, korzystasz z rozpoznawania twarzy w celu uzyskania dostępu do konta bankowego, czy chronisz swoje urządzenie przed szybko zmieniającymi się zagrożeniami bezpieczeństwa, sztuczna inteligencja (AI) odgrywa większą rolę w naszym życiu. W przeszłości do tego przetwarzania potrzebna była moc chmury, ale urządzenia brzegowe, takie jak smartfony i drony, są teraz przystosowane do wykonywania operacji sztucznej inteligencji wymagających dużej mocy obliczeniowej. W rzeczywistości w wielu przypadkach urządzenie brzegowe jest preferowaną platformą do uruchamiania aplikacji opartych na sztucznej inteligencji.

W rzeczywistości pojawia się dziś więcej zastosowań AI, niż większość z nas zdaje sobie sprawę. Gdy urządzenie jest wyposażone w sztuczną inteligencję, może znacznie rozszerzyć i poprawić nasze życie, czy to poprzez robienie ostrzejszych obrazów i filmów, bardziej naturalną komunikację z nami, czy postrzeganie otoczenia i autonomiczną nawigację do miejsca docelowego.

AI to ogólny termin, który obejmuje wszystko, co pomaga urządzeniu w replikacji ludzkiego mózgu, mówi Gary Brotman, dyrektor ds. zarządzania produktami w Qualcomm. Uczenie maszynowe (ML) to szeroka klasa technik i algorytmów do rozwiązywania problemów, które umożliwiają sztuczną inteligencję. Klasa, na której się skupiamy, to głębokie uczenie (DL) i rekurencyjne sieci neuronowe (RNN), działające na rzeczywistym urządzeniu.

Znaczące ulepszenie algorytmów sztucznej inteligencji i przetwarzania na urządzeniu, dwóch kluczowych składników wszechobecności sztucznej inteligencji, prowadzi do bardziej płynnych i atrakcyjnych doświadczeń użytkowników. Jest to szczególnie widoczne, gdy funkcjonalność oparta na sztucznej inteligencji przenosi się do pojazdów, urządzeń gospodarstwa domowego i czujników Internetu rzeczy (IoT). Ulepszone możliwości percepcyjne i poznawcze dzięki wielu technologiom w ramach AI, takim jak ML, DL i RNN, mogą teraz działać na nowoczesnych urządzeniach brzegowych.

Na przykład sztuczna inteligencja na urządzeniu może poprawić rozpoznawanie obrazu i zaawansowane przetwarzanie obrazu, takie jak tworzenie efektów bokeh (miękkie nieostre tło) i przenoszenie stylu. Urządzenia wyposażone w sztuczną inteligencję mogą również nauczyć się rozpoznawać słowa kluczowe i głosy, poprawiając ich reakcję na konsumenta i pomagając w tłumaczeniu na język obcy.

Ponadto sztuczna inteligencja może pomóc urządzeniom i aplikacjom stać się bardziej świadomymi preferencji użytkownika i otoczenia, zrozumieć intencje i reagować w kontekstowo odpowiedni sposób. Sztuczna inteligencja na Twoim urządzeniu zapewnia bardziej bogate kontekstowo wrażenia, mówi Brotman. Z czasem Twoje urządzenie będzie w stanie przewidywać i lepiej rozumieć, co zamierzasz robić dalej.

Sztuczna inteligencja w twojej dłoni

Sztuczna inteligencja na urządzeniu ma kilka istotnych zalet. Pierwsza to wydajność. Przetwarzanie na urządzeniu jest po prostu szybsze — nie ma podróży w obie strony do chmury, mówi Brotman. Prywatność jest następna. Ludzie mogą swobodnie udostępniać niektóre dane osobowe, ale nie wszystkie. A trzeci to niezawodność. Sieci komórkowe są wszechobecne, ale nie ma gwarancji, że zawsze będziesz mieć połączenie.

Wydajność: Uruchamianie algorytmów sztucznej inteligencji na urządzeniu — niezależnie od chmury — może znacznie poprawić czas odpowiedzi i wydajność, ponieważ dane nie muszą być przesyłane między chmurą a urządzeniem. Jest to ważne, ponieważ możliwości mobilnej sztucznej inteligencji są zwykle zależne od czasu, jeśli chodzi o wrażenia użytkownika i podejmowanie decyzji.

Aplikacje AI mają zwykle kluczowe znaczenie w czasie rzeczywistym i mają kluczowe znaczenie, mówi Jeff Gehlhaar, wiceprezes ds. technologii w Qualcomm. Wiele przypadków użycia sztucznej inteligencji, które poprawiają wrażenia, nie może sobie pozwolić na opóźnienia.

Na przykład pojazd autonomiczny, który musi użyć hamulców, nie może sobie pozwolić na nawet milisekundę opóźnienia, które może wynikać z przetwarzania w chmurze. Decyzje muszą być podejmowane w ułamku sekundy, aby pojazd działał bezpiecznie.

Jeśli chodzi o wrażenia użytkownika, interfejs użytkownika z naturalnym głosem może tolerować tylko tak duże opóźnienia. Użytkownicy są przyzwyczajeni do natychmiastowych odpowiedzi podczas korzystania z interfejsu przetwarzania mowy w języku naturalnym, a konsekwencje opóźnień w sieci doprowadzą do złych doświadczeń.

Prywatność i ochrona: Przechowywanie danych na urządzeniu zapewnia prywatność, a sztuczna inteligencja jest również wykorzystywana do uwierzytelniania biometrycznego za pomocą głosu, odcisku palca, tęczówki i rozpoznawania twarzy. Używanie twarzy do odblokowywania urządzenia staje się powszechne, mówi Brotman. Pojawia się też rozpoznawanie twarzy 3D, które zapewnia wyższy stopień autentyczności umożliwiający dokonywanie płatności mobilnych.

Przetwarzanie aplikacji AI na urządzeniu może również zwiększyć bezpieczeństwo zarówno urządzenia, jak i danych, utrzymując czujne oko pod kątem nietypowych zachowań. Sztuczna inteligencja może pomóc w wykrywaniu złośliwego oprogramowania i nietypowych zachowań, mówi Gehlhaar. Możemy wytrenować sieć neuronową, aby zobaczyć, jak zachowują się źli aktorzy. I może wykryć te złe zachowania, takie jak pytanie: „Dlaczego moja aplikacja aparatu otwiera moją bazę danych kontaktów?”

Niezawodność: Nawet w najbardziej zaawansowanych obszarach świata zasięg sieci komórkowej nie jest wszechobecny. Jednak w przypadku niektórych funkcji opartych na sztucznej inteligencji nie ma miejsca na błędy. Pojazdy autonomiczne po prostu nie mogą sobie pozwolić na utratę sygnału bezprzewodowego, co może mieć miejsce po wjeździe do tunelu lub garażu. Przetwarzanie na urządzeniu, oprócz innych funkcji nadmiarowości, zawsze będzie wymagane w zastosowaniach o znaczeniu krytycznym, takich jak jazda autonomiczna.

Wprowadzanie sztucznej inteligencji do urządzeń brzegowych

Chociaż te funkcje sztucznej inteligencji mogą teraz działać na urządzeniu, chmura nadal odgrywa pewną rolę, szczególnie jako uzupełnienie przetwarzania na urządzeniu. Aplikacje AI nadal polegają na platformach chmurowych do zarządzania dużymi danymi i trenowania modeli sieci neuronowych, które napędzają wnioskowanie AI.

Same urządzenia brzegowe również muszą być wyposażone, aby skutecznie obsługiwać obciążenia sztucznej inteligencji. Na przykład przetwarzanie musi odbywać się w ramach ograniczeń platformy, w tym zużycia energii i ograniczeń termicznych. Procesory aplikacji z różnymi silnikami przetwarzania są szczególnie dobrze przystosowane do wydajnego wykonywania zadań AI. Na przykład platforma mobilna Qualcomm Snapdragon jest wyposażona w trzy oddzielne silniki przetwarzania — jednostkę centralną (CPU), procesor graficzny (GPU) i procesor sygnału cyfrowego (DSP) z możliwością przetwarzania wektorów — z których wszystkie odgrywają kluczową rolę w sztucznej inteligencji na urządzeniu.

W przypadku przetwarzania heterogenicznego w chipie znajduje się wiele różnych silników, które najskuteczniej przetwarzają dane zadanie, mówi Pat Lawlor, kierownik działu marketingu technicznego w Qualcomm. Procesor, GPU i DSP mają różne mocne i słabe strony i mogą działać razem lub osobno, w zależności od zadania AI. Uzupełniają się nawzajem, a zadania AI działają na odpowiednich silnikach, aby uzyskać wysoką wydajność przy niskiej mocy.

Zwiększona moc przetwarzania wbudowana w chipsety nowoczesnych urządzeń brzegowych pomaga im radzić sobie z intensywnym przetwarzaniem. Na przykład procesor Qualcomm Hexagon 685 DSP, procesor graficzny Adreno 630 i procesor Kryo 385 w Snapdragon 845 mogą zapewnić od dwóch do trzech razy szybsze przetwarzanie AI w porównaniu z poprzednią generacją. Na przykład Hexagon DSP został pierwotnie zaprojektowany do obciążeń wymagających intensywnej matematyki wektorowej, takich jak przetwarzanie dźwięku, i nadal jest ulepszany w celu obsługi obciążeń AI, takich jak przyspieszanie sieci neuronowych podczas wnioskowania AI.

Co dalej z mobilną sztuczną inteligencją?

Mobilna sztuczna inteligencja to szybko rozwijający się rynek. Dzięki ciągłym postępom w sieciach neuronowych, algorytmach DL i projektowaniu sprzętu zobaczymy ogromną poprawę dokładności i szybkości, a także nowe, wciągające wrażenia użytkowników.

W szerszym wszechświecie mobilności na horyzoncie pojawiają się także sieci bezprzewodowe 5G. Sztuczna inteligencja poprawi i rozszerzy 5G i na odwrót, mówi Brotman. 5G umożliwi urządzeniom swobodniejszą komunikację między sobą w celu udostępniania danych i udostępniania kontekstu. Dzięki temu rozwojowi będziemy doświadczać w pełni połączonego wszechświata inteligentnych urządzeń brzegowych, ułatwiających bardziej spersonalizowane doświadczenia użytkowników w czasie rzeczywistym.

Nasze dzisiejsze życie staje się bogatsze dzięki możliwościom naszych urządzeń, a nasza przyszłość będzie coraz lepsza dzięki postępom w sztucznej inteligencji. Zbieżność tych dwóch potężnych trendów już kształtuje doświadczenia w naszym życiu osobistym i biznesowym.

Aby dowiedzieć się więcej o sztucznej inteligencji na urządzeniu, odwiedź qualcomm.com/artificial-intelligence .

ukryć