Uczenie maszynowe w chmurze pomaga firmom wprowadzać innowacje

W związku z AWS

W ciągu ostatniej dekady uczenie maszynowe stało się znaną technologią poprawiającą wydajność i dokładność procesów, takich jak rekomendacje, prognozowanie łańcucha dostaw, opracowywanie chatbotów, wyszukiwanie obrazów i tekstów oraz zautomatyzowane funkcje obsługi klienta, by wymienić tylko kilka. Uczenie maszynowe staje się dziś jeszcze bardziej wszechobecne, wpływając na każdy segment rynku i branżę, w tym produkcję, platformy SaaS, opiekę zdrowotną, rezerwacje i routing obsługi klienta, zadania przetwarzania języka naturalnego (NLP), takie jak inteligentne przetwarzanie dokumentów, a nawet usługi żywieniowe.

Weźmy na przykład Domino's Pizza, który wykorzystuje narzędzia do uczenia maszynowego stworzone w celu poprawy wydajności produkcji pizzy. Domino's miał projekt o nazwie Project 3/10, którego celem było przygotowanie pizzy do odbioru w ciągu trzech minut od zamówienia lub dostarczenie jej w ciągu 10 minut od zamówienia, mówi dr Bratin Saha, wiceprezes i dyrektor generalny maszyny usługi szkoleniowe dla Amazon AI. Jeśli chcesz osiągnąć te cele, musisz być w stanie przewidzieć, kiedy nadejdzie zamówienie na pizzę. Aby to osiągnąć, używają predykcyjnych modeli uczenia maszynowego.

Niedawny wzrost uczenia maszynowego w różnych branżach był napędzany przez ulepszenia w innych obszarach technologicznych, mówi Saha — z których nie najmniej ważnym jest rosnąca moc obliczeniowa w centrach danych w chmurze.

W ciągu ostatnich kilku lat, wyjaśnia Saha, ilość całkowitej mocy obliczeniowej, jaką można wykorzystać w przypadku problemów z uczeniem maszynowym, podwajała się prawie co cztery miesiące. To od 5 do 6 razy więcej niż prawo Moore'a. W rezultacie wiele funkcji, które kiedyś mogli wykonywać tylko ludzie — na przykład wykrywanie obiektu lub rozumienie mowy — jest wykonywanych przez komputery i modele uczenia maszynowego.

W AWS wszystko, co robimy, działa od klienta i zastanawiamy się, w jaki sposób zmniejszamy jego problemy i jak ułatwiamy im uczenie maszynowe. Na samym dole stosu usług uczenia maszynowego wprowadzamy innowacje w infrastrukturze uczenia maszynowego, aby umożliwić klientom tańsze uczenie maszynowe, a klientom szybsze uczenie maszynowe. Mamy tam dwie innowacje AWS. Jedna to Inferentia, a druga to Trainium.

Obecne przypadki użycia uczenia maszynowego, które pomagają firmom optymalizować wartość ich danych w celu wykonywania zadań i ulepszania produktów, to dopiero początek, mówi Saha.

Uczenie maszynowe stanie się bardziej wszechobecne. Firmy przekonają się, że są w stanie fundamentalnie zmienić sposób prowadzenia działalności. Zobaczą, że fundamentalnie zmieniają wrażenia klientów i będą korzystać z uczenia maszynowego.

Pokaż notatki i referencje

Infrastruktura uczenia maszynowego AWS

Pełny zapis

Laur Ruma : Z Przeglądu Technologii MIT jestem Laurel Ruma. To jest Business Lab, program, który pomaga liderom biznesowym zrozumieć nowe technologie wychodzące z laboratorium i wprowadzane na rynek.

Naszym dzisiejszym tematem jest uczenie maszynowe w chmurze. We wszystkich branżach wykładniczy wzrost gromadzenia danych wymaga szybszych i nowatorskich sposobów analizowania danych, ale także uczenia się na ich podstawie, aby podejmować lepsze decyzje biznesowe. W ten sposób uczenie maszynowe w chmurze pomaga napędzać innowacje w przedsiębiorstwach, od start-upów po starszych graczy.

Dwa słowa dla Ciebie: innowacja danych. Moim gościem jest dr Bratin Saha, wiceprezes i dyrektor generalny usług uczenia maszynowego dla Amazon AI. Pełnił funkcje kierownicze w firmach NVIDIA i Intel. Ten odcinek Business Lab jest produkowany we współpracy z AWS. Witaj, Bratynie.

Bratin Saha : Dziękuję, że mnie masz, Laurel. Świetnie jest tu być.

Laur: Na górze, czy możesz podać kilka przykładów tego, jak klienci AWS wykorzystują uczenie maszynowe do rozwiązywania problemów biznesowych?

Bratin : Zacznijmy od definicji tego, co rozumiemy przez uczenie maszynowe. Uczenie maszynowe to proces, w którym komputer i algorytm mogą wykorzystywać dane, zwykle dane historyczne, do zrozumienia wzorców, a następnie wykorzystywać te informacje do przewidywania przyszłości. Firmy wykorzystują uczenie maszynowe do różnych rzeczy, takich jak personalizowanie rekomendacji, ulepszanie prognozowania łańcucha dostaw, tworzenie chatbotów, wykorzystywanie ich w opiece zdrowotnej i tak dalej.

Na przykład Autodesk był w stanie wykorzystać infrastrukturę uczenia maszynowego, którą mamy dla swoich chatbotów, aby prawie pięciokrotnie poprawić ich zdolność do obsługi żądań. Udało im się wykorzystać ulepszone chatboty do odpowiedzi na ponad 100 000 pytań klientów miesięcznie.

Następnie jest portfel Nerd. Nerd Wallet to startup zajmujący się finansami osobistymi, który nie spersonalizował rekomendacji, które przekazywał klientom w oparciu o preferencje klienta. Używają teraz usług uczenia maszynowego AWS, aby dostosować rekomendacje do tego, co dana osoba rzeczywiście chce zobaczyć, co znacznie poprawiło ich działalność.

Następnie mamy klientów takich jak Thomson Reuters. Thomson Reuters jest jednym z najbardziej zaufanych dostawców odpowiedzi na świecie, z zespołami ekspertów. Wykorzystują uczenie maszynowe do wydobywania danych, aby łączyć się i organizować informacje, aby ułatwić im udzielanie odpowiedzi na pytania.

W sektorze finansowym obserwujemy duże zainteresowanie aplikacjami do uczenia maszynowego. Na przykład jedna firma, będąca dostawcą usług płatniczych, była w stanie zbudować model wykrywania oszustw w zaledwie 30 minut.

Powodem, dla którego podaję tak wiele przykładów, jest pokazanie, w jaki sposób uczenie maszynowe staje się wszechobecne. Przechodzi przez obszary geograficzne, segmenty rynku i jest używany przez wszelkiego rodzaju firmy. Mam kilka innych przykładów, którymi chcę się podzielić, aby pokazać, jak uczenie maszynowe dotyka również branż takich jak produkcja, dostawa żywności i tak dalej.

Na przykład Domino's Pizza miał projekt o nazwie Project 3/10, w którym chcieli mieć pizzę gotową do odbioru w ciągu trzech minut od zamówienia lub dostarczyć ją w ciągu 10 minut od zamówienia. Jeśli chcesz osiągnąć te cele, musisz być w stanie przewidzieć, kiedy nadejdzie zamówienie na pizzę. Wykorzystują modele uczenia maszynowego do przeglądania historii zamówień. Następnie korzystają z modelu uczenia maszynowego, który został przeszkolony na tej historii zamówień. Następnie byli w stanie wykorzystać to do przewidzenia, kiedy nadejdzie zamówienie, i byli w stanie wdrożyć to w wielu sklepach, i byli w stanie trafić w cele.

Uczenie maszynowe stało się wszechobecne w sposobie prowadzenia działalności przez naszych klientów. Zaczyna być stosowana praktycznie w każdej branży. Mamy ponad kilkaset tysięcy klientów korzystających z naszych usług uczenia maszynowego. Jedna z naszych usług uczenia maszynowego, Amazon SageMaker, jest jedną z najszybciej rozwijających się usług w historii AWS.

Laur : Podsumowując, klienci mogą korzystać z usług uczenia maszynowego, aby rozwiązać szereg problemów. Niektóre z problemów wysokiego poziomu to silnik rekomendacji, wyszukiwanie obrazów, wyszukiwanie tekstowe i obsługa klienta, ale także poprawa jakości samego produktu.

Podoba mi się przykład Domino's Pizza. Każdy rozumie, jak może działać pizzeria. Ale jeśli celem jest jak najszybsza wymiana pizzy, aby zwiększyć satysfakcję klientów, Domino's musiało być w miejscu do zbierania danych, być w stanie analizować te historyczne dane, kiedy przychodziły zamówienia, jak szybko je odwracały. zamówienia, jak często ludzie zamawiali to, co zamówili, i tak dalej. Na tym właśnie opierał się model predykcyjny, prawda?

Bratin : Tak. Zadałeś pytanie o to, jak myślimy o usługach uczenia maszynowego. Jeśli spojrzysz na stos uczenia maszynowego AWS, myślimy o nim jako o usłudze trójwarstwowej. Dolna warstwa to infrastruktura uczenia maszynowego.

Mam na myśli to, że kiedy masz model, uczysz go, aby coś przewidzieć. Wtedy przewidywania są tam, gdzie robisz to, co nazywa się wnioskowaniem. W dolnej warstwie zapewniamy najbardziej zoptymalizowaną infrastrukturę, dzięki czemu klienci mogą budować własne systemy uczenia maszynowego.

Jest jeszcze warstwa na wierzchu, w której klienci przychodzą i mówią nam: „Wiesz co? Chcę tylko skupić się na uczeniu maszynowym. Nie chcę budować infrastruktury uczenia maszynowego”. Tutaj wkracza Amazon SageMaker.

Do tego dochodzi warstwa, którą nazywamy usługami AI, w której mamy wstępnie wytrenowane modele, które można wykorzystać w wielu przypadkach użycia.

Patrzymy więc na uczenie maszynowe jako trzy warstwy. Różni klienci korzystają z usług na różnych warstwach, w zależności od tego, czego chcą, w oparciu o rodzaj posiadanej wiedzy w zakresie analizy danych oraz w oparciu o rodzaj inwestycji, które chcą poczynić.

Druga część naszego poglądu nawiązuje do tego, o czym wspomniałeś na początku, czyli danych i innowacji. Uczenie maszynowe polega zasadniczo na uzyskiwaniu wglądu w dane i wykorzystywaniu tych spostrzeżeń do przewidywania przyszłości. Następnie wykorzystujesz te przewidywania, aby uzyskać wartość biznesową.

W przypadku Domino's Pizza istnieją dane dotyczące historycznych wzorców zamówień, które można wykorzystać do przewidywania przyszłych wzorców zamówień. Wartością biznesową jest poprawa obsługi klienta poprzez terminowe przygotowywanie zamówień. Innym przykładem jest Freddy's Frozen Custard, który wykorzystywał uczenie maszynowe do dostosowywania menu. Dzięki temu udało im się uzyskać dwucyfrowy wzrost sprzedaży. Tak więc tak naprawdę chodzi o posiadanie danych, a następnie wykorzystanie uczenia maszynowego, aby uzyskać wgląd w te dane. Gdy uzyskasz wgląd w te dane, wykorzystasz je, aby uzyskać lepsze wyniki biznesowe. Jest to powrót do tego, o czym wspomniałeś na początku: zaczynasz od danych, a następnie wykorzystujesz uczenie maszynowe do wprowadzania innowacji.

Laur : Jakie wyzwania stoją przed organizacjami, gdy rozpoczynają swoją przygodę z uczeniem maszynowym?

Bratin : Pierwszą rzeczą jest zebranie danych i upewnienie się, że mają dobrą strukturę — ​​czyste dane — które nie mają wielu anomalii. Następnie, ponieważ modele uczenia maszynowego zazwyczaj stają się lepsze, jeśli można je wytrenować przy użyciu coraz większej ilości danych, musisz nadal zbierać ogromne ilości danych. Często widzimy, jak klienci tworzą jeziora danych w chmurze, na przykład w Amazon S3. Tak więc pierwszym krokiem jest uporządkowanie danych, a następnie potencjalne utworzenie jezior danych w chmurze, które można wykorzystać do zasilania innowacji opartych na danych.

Następnym krokiem jest stworzenie odpowiedniej infrastruktury. W tym miejscu niektórzy klienci mówią: „Słuchaj, chcę po prostu samodzielnie zbudować całą infrastrukturę”, ale zdecydowana większość klientów mówi: „Słuchaj, chcę tylko móc korzystać z usługi zarządzanej, ponieważ nie chcę muszą zainwestować w budowę infrastruktury i utrzymanie infrastruktury i tak dalej.

Następnym krokiem jest wybór uzasadnienia biznesowego. Jeśli wcześniej nie korzystałeś z uczenia maszynowego, chcesz zacząć od uzasadnienia biznesowego, które prowadzi do dobrych wyników biznesowych. Często to, co może się zdarzyć z uczeniem maszynowym, to zobaczenie, że jest fajne, zrobienie naprawdę fajnych demonstracji, ale te nie przekładają się na wyniki biznesowe, więc zaczynasz eksperymentować i tak naprawdę nie otrzymujesz wsparcia, którego potrzebujesz.

Wreszcie potrzebujesz zaangażowania, ponieważ uczenie maszynowe to bardzo powtarzalny proces. Trenujesz model. Pierwszy trenowany model może nie przynieść pożądanych rezultatów. Jest proces eksperymentowania i iteracji, przez który musisz przejść, a uzyskanie wyników może zająć kilka miesięcy. Tak więc skompletowanie zespołu i udzielenie im potrzebnego wsparcia to ostatnia część.

Gdybym miał to ująć w postaci sekwencji kroków, ważne jest, aby mieć dane i kulturę danych. W większości przypadków ważne jest, aby klienci zdecydowali się korzystać z usługi zarządzanej do tworzenia i trenowania swoich modeli w chmurze, po prostu dlatego, że znacznie łatwiej jest uzyskać miejsce do magazynowania i znacznie łatwiej korzystać z obliczeń. Trzecim jest wybranie przypadku użycia, który będzie miał wartość biznesową, aby Twoja firma wiedziała, że ​​jest to coś, co chcesz wdrożyć na dużą skalę. I wreszcie, bądź cierpliwy i gotowy do eksperymentowania i iteracji, ponieważ często potrzeba trochę czasu, aby uzyskać dane, których potrzebujesz, aby dobrze wytrenować modele i faktycznie uzyskać wartość biznesową.

Laur : Racja, bo to nie jest coś, co dzieje się z dnia na dzień.

Bratin : To nie dzieje się z dnia na dzień.

Laur : Jak firmy przygotowują się do wykorzystania danych? Ponieważ, jak powiedziałeś, jest to czteroetapowy proces, ale na koniec musisz mieć cierpliwość, aby być iteracyjnym i eksperymentalnym. Na przykład, czy masz pomysły na to, w jaki sposób firmy mogą myśleć o swoich danych w sposób, który sprawi, że będą lepiej przygotowane na sukces, na przykład podczas pierwszego eksperymentu, a następnie, być może, będą nieco bardziej odważni, próbując innych zestawów danych lub innych sposobów? zbliżania się do danych?

Bratin : Tak. Firmy zwykle zaczynają od przypadku użycia, w którym mają historię posiadania dobrych danych. Przez historię posiadania dobrych danych mam na myśli to, że mają zapis dokonanych transakcji, a większość zapisów jest dokładna. Na przykład nie masz wielu pustych transakcji rekordów.

Zazwyczaj widzieliśmy, że poziom dojrzałości danych jest różny w różnych częściach firmy. Zaczynasz od części firmy, w której kultura danych jest znacznie bardziej rozpowszechniona. Zaczynasz od tego, aby mieć zapis historycznych transakcji, które przechowywałeś. Naprawdę chcesz mieć dość gęste dane do wykorzystania do trenowania modeli.

Laur : Dlaczego teraz jest odpowiedni czas, aby firmy zaczęły myśleć o wdrożeniu uczenia maszynowego w chmurze?

Bratin : Myślę, że teraz dzieje się zbieżność czynników. Po pierwsze, uczenie maszynowe w ciągu ostatnich pięciu lat naprawdę się rozwinęło. Dzieje się tak, ponieważ ilość dostępnych obliczeń rośnie w bardzo szybkim tempie. Jeśli wrócisz do rewolucji IT, rewolucja IT była napędzana przez prawo Moore'a. Zgodnie z prawem Moore'a obliczenia podwajały się co 18 miesięcy.

W ciągu ostatnich kilku lat całkowita ilość obliczeń podwajała się prawie co cztery miesiące. To pięć razy więcej niż prawo Moore'a. Stopień postępu, jaki zaobserwowaliśmy w ciągu ostatnich czterech do pięciu lat, był naprawdę niesamowity. W rezultacie wiele funkcji, które kiedyś mogli wykonywać tylko ludzie — jak wykrywanie obiektu lub rozumienie mowy — jest wykonywanych przez komputery i modele uczenia maszynowego. W wyniku tego zostaje uwolnionych wiele możliwości. To właśnie doprowadziło do tego ogromnego wzrostu stosowalności uczenia maszynowego — można go używać do personalizacji, w służbie zdrowia i finansach, można go używać do takich zadań, jak przewidywanie rezygnacji, wykrywanie oszustw i tak dalej.

Jednym z powodów, dla których teraz jest dobry czas na rozpoczęcie pracy z uczeniem maszynowym w chmurze, jest ogromny postęp w ciągu ostatnich kilku lat, który pozwolił uwolnić te nowe możliwości, które wcześniej nie były możliwe.

Drugim powodem jest to, że wiele usług uczenia maszynowego budowanych w chmurze sprawia, że ​​uczenie maszynowe jest dostępne dla znacznie większej liczby osób. Nawet jeśli spojrzeć na to cztery do pięciu lat temu, uczenie maszynowe było czymś, co mogli zrobić tylko bardzo doświadczeni praktycy i tylko kilka firm było w stanie to zrobić, ponieważ mieli ekspertów-praktyków. Dziś mamy ponad sto tysięcy klientów korzystających z naszych usług uczenia maszynowego. Oznacza to, że uczenie maszynowe zostało w dużym stopniu zdemokratyzowane, dzięki czemu znacznie więcej firm może zacząć korzystać z uczenia maszynowego i przekształcać swój biznes.

Następnie pojawia się trzeci powód: masz niesamowite możliwości, które są teraz możliwe, oraz narzędzia oparte na chmurze, które demokratyzują te możliwości. Najłatwiejszym sposobem uzyskania dostępu do tych narzędzi i tych funkcji jest chmura, ponieważ po pierwsze zapewnia ona podstawę obliczeń i danych. Uczenie maszynowe w swej istocie polega na przerzucaniu dużej ilości mocy obliczeniowej na dane. W chmurze masz dostęp do najnowszych obliczeń. Płacisz na bieżąco i nie musisz dokonywać ogromnych inwestycji z góry, aby założyć farmy obliczeniowe. Dostajesz również całą pamięć masową, zabezpieczenia, prywatność i szyfrowanie itd. — całą podstawową infrastrukturę potrzebną do uruchomienia uczenia maszynowego.

Laur : Bratin, w jaki sposób AWS wprowadza innowacje, aby pomóc organizacjom w uczeniu maszynowym, szkoleniu modeli i wnioskowaniu?

Bratin : W AWS wszystko, co robimy, działa od klienta i zastanawiamy się, w jaki sposób zmniejszamy jego problemy i jak ułatwiamy im uczenie maszynowe. Na samym dole stosu usług uczenia maszynowego wprowadzamy innowacje w infrastrukturze uczenia maszynowego, aby umożliwić klientom tańsze uczenie maszynowe, a klientom szybsze uczenie maszynowe. Mamy tam dwie innowacje AWS. Jedna to Inferentia, a druga to Trainium. Są to niestandardowe chipy, które zaprojektowaliśmy w AWS, które są specjalnie zbudowane do wnioskowania, czyli procesu tworzenia prognoz uczenia maszynowego, oraz do szkolenia. Inferentia zapewnia obecnie instancje wnioskowania o najniższych kosztach w chmurze. A gdy Trainium stanie się dostępny jeszcze w tym roku, będzie dostarczać najpotężniejsze i najbardziej opłacalne instancje szkoleniowe w chmurze.

Mamy dziś wielu klientów korzystających z Inferentii. Autodesk wykorzystuje Inferentia do hostowania swoich modeli chatbotów i prawie pięciokrotnie udało im się zmniejszyć koszty i opóźnienia. Airbnb ma ponad cztery miliony gospodarzy, którzy w niemal każdym kraju przyjmują ponad 900 milionów gości. Airbnb odnotowało dwukrotną poprawę przepustowości dzięki wykorzystaniu instancji Inferentia, co oznacza, że ​​byli w stanie obsłużyć prawie dwa razy więcej próśb o wsparcie klienta, niż byliby w stanie zrobić w innym przypadku. Inna firma o nazwie Sprinklr opracowuje platformę obsługi klienta SaaS i ma ujednoliconą platformę zarządzania doświadczeniem klienta opartą na sztucznej inteligencji. Udało im się wdrożyć modele przetwarzania języka naturalnego w Inferentii, a także zauważyli znaczną poprawę wydajności.

Nawet wewnętrznie nasz zespół Alexa był w stanie przenieść swoje wnioski z procesorów graficznych na systemy oparte na Inferentia i zauważył ponad 50% poprawę kosztów dzięki tym systemom opartym na Inferentia. Tak więc mamy to w najniższej warstwie infrastruktury. Ponadto mamy usługi zarządzane, w których wprowadzamy innowacje, aby klienci stali się znacznie bardziej produktywni. Właśnie tam mamy SageMaker Studio, które jest pierwszym na świecie środowiskiem IDE, które oferuje narzędzia, takie jak debuggery i profilery oraz możliwość wyjaśniania, a także wiele innych narzędzi — takich jak narzędzie do wizualnego przygotowywania danych — które znacznie zwiększają produktywność klientów. Co więcej, mamy usługi sztucznej inteligencji, w ramach których zapewniamy wstępnie wytrenowane modele do zastosowań, takich jak wyszukiwanie i przetwarzanie dokumentów — Kendra do wyszukiwania, Text do przetwarzania dokumentów, rozpoznawanie obrazów i wideo — gdzie wprowadzamy innowacje, aby ułatwić klientom aby rozwiązać te przypadki użycia zaraz po wyjęciu z pudełka.

Laur : Tak więc z pewnością istnieją pewne korzyści dla usług uczenia maszynowego w chmurze, takie jak lepsza obsługa klienta, lepsza jakość i, miejmy nadzieję, zwiększony zysk, ale jakie kluczowe wskaźniki wydajności są ważne dla powodzenia projektów uczenia maszynowego, i dlaczego te konkretne wskaźniki są tak ważne?

Bratin : Pracujemy z powrotem od klienta, odwracając się od problemów w oparciu o to, co mówią nam klienci, i wymyślając w imieniu klientów, aby zobaczyć, jak możemy wprowadzać innowacje, aby ułatwić im uczenie maszynowe. Jedną z części uczenia maszynowego, jak wspomniałem, są przewidywania. Często we wnioskowaniu tkwi duży koszt uczenia maszynowego w zakresie infrastruktury. Dlatego wyszliśmy z Inferentią, które są dziś najbardziej opłacalnymi instancjami uczenia maszynowego w chmurze. Dlatego wprowadzamy innowacje na poziomie sprzętu.

Zapowiedzieliśmy również Tranium. Będą to najpotężniejsze i najbardziej opłacalne instancje szkoleniowe w chmurze. Dlatego najpierw wprowadzamy innowacje w warstwie infrastruktury, aby zapewnić klientom najbardziej opłacalne obliczenia.

Następnie przyjrzymy się problemom związanym z tworzeniem usługi ML. Potrzebujesz usług gromadzenia danych, potrzebujesz sposobu na skonfigurowanie rozproszonej infrastruktury, potrzebujesz sposobu na skonfigurowanie systemu wnioskowania i możliwości jego automatycznego skalowania i tak dalej. Dużo myśleliśmy o tym, jak zbudować tę infrastrukturę i innowacyjność wokół klientów.

Następnie przyjrzeliśmy się niektórym przypadkom użycia. Tak więc w wielu przypadkach użycia, niezależnie od tego, czy chodzi o wyszukiwanie, rozpoznawanie i wykrywanie obiektów, czy też inteligentne przetwarzanie dokumentów, oferujemy usługi, z których klienci mogą bezpośrednio korzystać. I nadal wprowadzamy innowacje w ich imieniu. Jestem pewien, że w tym roku opublikujemy o wiele więcej funkcji, a następnie zobaczymy, jak możemy ułatwić naszym klientom korzystanie z uczenia maszynowego.

Laur : Jakie kluczowe wskaźniki wydajności są ważne dla sukcesu projektów uczenia maszynowego? Rozmawialiśmy trochę o tym, jak chcesz poprawić jakość obsługi klienta i oczywiście zwiększyć zysk, ale przypisanie KPI do modelu uczenia maszynowego to coś innego. I dlaczego są tak ważne?

Bratin : Aby przypisać KPI, musisz wrócić do swojego przypadku użycia. Załóżmy więc, że chcesz wykorzystać uczenie maszynowe do ograniczenia oszustw. Twój ogólny KPI to, jaka była redukcja wykrywania oszustw? Lub powiedzmy, że chcesz go użyć do zmniejszenia rezygnacji. Prowadzisz firmę, Twoi klienci przychodzą, ale pewna ich liczba odchodzi. Chcesz zacząć od tego, jak mogę zmniejszyć odpływ klientów o jakiś procent? Tak więc zaczynasz od kluczowego wskaźnika efektywności, który jest wynikiem biznesowym, który chcesz osiągnąć i jak uzyskać poprawę tego wyniku biznesowego.

Weźmy przykład przewidywania rezygnacji. W ostatecznym rozrachunku masz model uczenia maszynowego, który wykorzystuje dane i ilość szkoleń, które musiały wykonać, aby określić pewne przewidywania, wokół których klient będzie się odchodził. Sprowadza się to zatem do dokładności modelu. Jeśli model mówi, że 100 osób odejdzie, to ile z nich faktycznie odejdzie? To staje się kwestią dokładności. A potem chcesz również sprawdzić, jak dobrze model uczenia maszynowego wykrył wszystkie przypadki.

Tak więc są dwa aspekty jakości, których szukasz. Po pierwsze, z rzeczy, które przewidział model, ile z nich faktycznie się wydarzyło? Załóżmy, że ten model przewidywał, że tych 100 klientów odejdzie. Ile z nich faktycznie odchodzi? I powiedzmy, że 95 z nich faktycznie odchodzi. Więc masz tam 95% precyzję. Innym aspektem jest założenie, że prowadzisz ten biznes i masz 1000 klientów. Powiedzmy, że w danym roku odeszło ich 200. Ile z tych 200, zgodnie z przewidywaniami modelu, faktycznie odejdzie? Nazywa się to przypominaniem, czyli, biorąc pod uwagę łączny zestaw, ile jest w stanie przewidzieć model uczenia maszynowego? Zasadniczo zaczynasz od tej metryki biznesowej, co jest wynikiem, który chcę uzyskać, a następnie możesz przekonwertować to na metryki dokładności modelu pod względem precyzji, czyli jak dokładny był model w przewidywaniu pewnych rzeczy, a następnie przypomnij sobie, jak wyczerpujący lub kompleksowy był model w wykrywaniu wszystkich sytuacji.

Tak więc na wysokim poziomie są to rzeczy, których szukasz. A potem przejdziesz do metryk niższego poziomu. Modele działają w określonych instancjach na określonych elementach obliczeniowych: jaki był koszt infrastruktury i jak mogę te koszty zmniejszyć? Usługi te są na przykład wykorzystywane do obsługi przepięć podczas Prime Day lub Black Friday i tak dalej. Następnie przechodzisz do tych wskaźników niższego poziomu, czyli czy jestem w stanie poradzić sobie ze skokami ruchu? To naprawdę hierarchiczny zestaw wskaźników KPI. Zacznij od metryki biznesowej, przejdź do metryk modelu, a następnie przejdź do metryk infrastruktury.

Laur : Kiedy myślisz o uczeniu maszynowym w chmurze w ciągu najbliższych trzech do pięciu lat, co widzisz? O czym myślisz? Co firmy mogą teraz zrobić, aby przygotować się na to, co nadejdzie?

Bratin : Myślę, że uczenie maszynowe stanie się bardziej wszechobecne. Ponieważ klienci zobaczą, że są w stanie fundamentalnie zmienić sposób prowadzenia działalności. Firmy zobaczą, że zasadniczo zmieniają doświadczenia klientów i będą korzystać z uczenia maszynowego. Widzieliśmy to również w Amazon — mamy długą historię inwestowania w uczenie maszynowe. Robimy to od ponad 20 lat i zmieniliśmy sposób, w jaki obsługujemy klientów za pomocą amazon.com, Alexa lub Amazon Go, Prime. A teraz z AWS, gdzie wykorzystaliśmy tę wiedzę, którą zdobyliśmy przez ostatnie dwie dekady wdrażania uczenia maszynowego na dużą skalę, i udostępniamy ją teraz naszym klientom. Myślę więc, że będziemy świadkami znacznie szybszego wykorzystywania uczenia maszynowego.

Wtedy zobaczymy, że wiele przypadków użycia o szerokim znaczeniu, takich jak inteligentne przetwarzanie dokumentów, wiele procesów papierowych, zostanie zautomatyzowanych, ponieważ model uczenia maszynowego jest teraz w stanie skanować te dokumenty i wyciągać z nich informacje — wywnioskować informacje semantyczne, a nie tylko składnia. Jeśli pomyślisz o procesach opartych na dokumentach papierowych, niezależnie od tego, czy chodzi o przetwarzanie pożyczek, czy kredytów hipotecznych, wiele z nich zostanie zautomatyzowanych. Widzimy również, że firmy stają się znacznie bardziej wydajne pod względem personalizacji, takiej jak prognozowanie, prognozowanie łańcucha dostaw, prognozowanie popytu i tak dalej.

Obserwujemy duże zainteresowanie uczeniem maszynowym w zdrowiu. Mamy klientów, na przykład GE korzysta z usługi uczenia maszynowego w radiologii. Wykorzystują uczenie maszynowe do skanowania obrazów radiologicznych, aby określić, które z nich są poważniejsze, dlatego też chcesz wcześnie załatwić pacjentów. Widzimy również potencjał i możliwość wykorzystania uczenia maszynowego w genomice w medycynie precyzyjnej. Tak więc myślę, że wiele innowacji pojawi się w uczeniu maszynowym w opiece zdrowotnej.

W produkcji zobaczymy dużo uczenia maszynowego. Wiele procesów produkcyjnych stanie się bardziej wydajnych, zautomatyzowanych i bezpieczniejszych dzięki uczeniu maszynowemu.

Widzę więc, że w ciągu najbliższych 5–10 lat wybierze dowolną domenę — na przykład sport, NFL, NASCAR, Bundesliga — wszystkie one będą korzystać z naszych usług uczenia maszynowego. NFL wykorzystuje Amazon SageMaker, aby zapewnić swoim fanom bardziej wciągające wrażenia dzięki statystykom nowej generacji. Bundesliga korzysta z naszych usług uczenia maszynowego, aby tworzyć różnorodne prognozy i zapewniać znacznie bardziej wciągające wrażenia. To samo z NASCAR. NASCAR ma dużo danych z ich wyścigów i używa ich do trenowania modeli, aby zapewnić znacznie bardziej wciągające wrażenia swoim widzom, ponieważ mogą znacznie łatwiej przewidzieć, co się wydarzy. Tak więc sport, rozrywka, usługi finansowe, opieka zdrowotna, produkcja — myślę, że będziemy świadkami o wiele większego wykorzystania uczenia maszynowego i uczynienia świata mądrzejszym, zdrowszym i bezpieczniejszym miejscem.

Laur : Co za wspaniała rozmowa. Bardzo dziękujemy Bratin za dołączenie do nas na Business Lab.

Bratin : Dziękuję Ci. Dziękuje za gościnę. Naprawdę miło było z tobą rozmawiać.

Laur : To był dr Bratin Saha, wiceprezes i dyrektor generalny usług uczenia maszynowego dla Amazon AI, z którym rozmawiałem z Cambridge w stanie Massachusetts, siedziby MIT i MIT Technology Review z widokiem na rzekę Charles. To tyle w tym odcinku Prawa gospodarczego. Jestem twoim gospodarzem, Laurel Ruma. Jestem dyrektorem Insights, działu custom publishing w MIT Technology Review. Powstaliśmy w 1899 roku w Massachusetts Institute of Technology. Możesz nas również znaleźć w drukach w Internecie i na wydarzeniach każdego roku na całym świecie. Więcej informacji o nas i programie znajdziesz na naszej stronie internetowej technologyreview.com. Ten program jest dostępny wszędzie tam, gdzie otrzymujesz podcasty. Jeśli spodobał Ci się ten odcinek, mamy nadzieję, że poświęcisz chwilę, aby nas ocenić i zrecenzować. Business Lab to produkcja MIT Technology Review. Ten odcinek został wyprodukowany przez Collective Next. Dziękuję za słuchanie.

ukryć