211service.com
Sztuczna inteligencja jest teraz prawdziwa: rozmowa z Sophie Vandebroek
Dlaczego nigdy nie będzie kolejnej zimy AI i co robią wspólnie IBM i MIT, aby to zapewnić.
28 lutego 2019
Sponsorowane przez Ciemny ślad
Więcej razy niż prawie jakakolwiek inna dziedzina innowacji sztuczna inteligencja przetrwała powtarzające się cykle rozdętej nadziei, a następnie rozczarowanie, pesymizm i cięcia finansowe. Ale Sophie Vandebroek, wiceprezes IBM ds. wschodzących partnerstw technologicznych, uważa, że zimy AI to już przeszłość, dzięki ogromnym ilościom mocy obliczeniowej i danych, które są teraz dostępne do trenowania sieci neuronowych.
W tym odcinku Vandebroek dzieli się przykładami rzeczywistych aplikacji, które umożliwiła ta zmiana, od rozpoznawania obrazów po chatboty. Opisuje też misję nowego laboratorium MIT-IBM Watson AI Lab, wartego 240 milionów dolarów, 10-letniej współpracy między badaczami IBM, wykładowcami MIT i studentami, aby skoncentrować się na kluczowych postępach, które sprawią, że sztuczna inteligencja będzie bardziej użyteczna i niezawodna w różnych branżach, od opieki zdrowotnej po od finansów do bezpieczeństwa.
Ten odcinek został dostarczony przez Darktrace, światowego lidera technologii sztucznej inteligencji do cyberobrony. Darktrace ma siedzibę w San Francisco i Cambridge w Wielkiej Brytanii i ma prawie 2500 klientów na całym świecie, którzy używają jej oprogramowania do wykrywania i reagowania na zagrożenia cybernetyczne dla swoich firm, użytkowników i urządzeń. Darktrace zbudowało innowacyjną technologię uczenia maszynowego, która może wykryć niezwykłą aktywność przy użyciu podejścia wzorowanego na ludzkim układzie odpornościowym. W drugiej połowie pokazu, dyrektor generalny Darktrace, Nicole Eagan, wyjaśnia, jak działa technologia Darktrace i dlaczego firmy muszą wprowadzać nowe mechanizmy obronne w dzisiejszym wyścigu zbrojeń cybernetycznych.
POKAŻ UWAGI I LINKI
PEŁNY TRANSKRYPCJA
Elizabeth Bramson-Boudreau: Z MIT Technology Review, nazywam się Elizabeth Bramson-Boudreau, a to jest Business Lab, program, który pomaga liderom biznesowym zrozumieć nowe technologie wychodzące z laboratorium i wprowadzane na rynek. Ten odcinek został dostarczony przez Darktrace, światowego lidera technologii sztucznej inteligencji do cyberobrony. W dalszej części programu porozmawiam z CEO Darktrace, Nicole Eagan. Pokaże nam, jak postępy w sztucznej inteligencji i uczeniu maszynowym dają nam nowy zestaw sposobów obrony przed hakerami i cyberprzestępcami.
Elżbieta: Ale nasz pierwszy gość pochodzi z jednego z najnowszych ośrodków badań nad sztuczną inteligencją, MIT-IBM Watson AI .Lab, zaledwie kilka przecznic od naszych biur w Cambridge w stanie Massachusetts. Jest to miejsce ponad 50 nowych projektów, w których biorą udział badacze IBM i wykładowcy MIT, a wszystkie mają na celu rozwój podstawowych technologii stojących za sztuczną inteligencją. A tutaj, aby z nami porozmawiać, jest jedna z architektek tego wysiłku, dr Sophie Vandebroek.
Elżbieta: Sophie jest obecnie wiceprezesem IBM ds. wschodzących partnerstw technologicznych i jest znana w branży komputerowej ze swojej wybitnej historii, która promuje innowacje — nie tylko w IBM, ale także w firmie Xerox, gdzie spędziła ponad dekadę jako dyrektor ds. technologii w firmie Xerox. Była dyrektorem PARC Inc., słynnego laboratorium znanego wcześniej jako Xerox PARC. W 2011 roku została wpisana do Galerii Sław Kobiet w Technologii. Zgodnie z tematami laboratorium MIT IBM Watson AI zaczęliśmy rozmawiać o tym, jak sztuczna inteligencja ewoluuje i dlaczego zmienia firmy w sposób, który większość kierowników dopiero zaczyna rozumieć.
Elżbieta: Sophie, dziękuję za przybycie tutaj, aby z nami porozmawiać i powitać.
Sophie Vandebroek: Och, cieszę się, że tu jestem. Byłem zapalonym czytelnikiem Twojego dziennika, więc bardzo się cieszę, że mogę wziąć udział w podkaście.
Elżbieta : Mam nadzieję, że możesz porozmawiać nie tylko ze mną, ale także z ludźmi, którzy słuchają tego podcastu o tym, dokąd zmierza sztuczna inteligencja i na jakim etapie jesteśmy w rozwoju AI. Wiem, że wiele osób mówi o tym, jak sztuczna inteligencja była na skraju przeobrażenia pracy, tylko po to, by te nadzieje zgasły. Czy możemy znaleźć się w innej z tych sytuacji, w których to zanika, czy też teraz jest to inne?
Zofia: Teraz jest zupełnie inaczej, sztuczna inteligencja jest prawdziwa. I tak, słowo „sztuczna inteligencja” zostało ukute prawie 70 lat temu. To tyle dziesięcioleci później. Więc co się stało? Dlaczego nie było to wtedy rzeczywiste i dlaczego jest to rzeczywiste teraz? Istnieją dwa główne powody, dla których jest to teraz prawdziwe. I to z powodu praw wykładniczych. Pierwszą z nich jest Prawo Moore'a, które wszyscy bardzo dobrze znamy i kochamy. Tranzystor, podstawowy tranzystor został wynaleziony w latach 50-tych. Do 1975 roku na centymetrowym chipie znajdowało się 1000 tranzystorów. Dzisiaj na centymetrowym chipie, który IBM rozwija dzisiaj, znajduje się 10 miliardów tranzystorów, a ta moc obliczeniowa zaowocowała urządzeniami mobilnymi, które mamy w kieszeni, najnowszym komputerem o wysokiej wydajności, Summit, wiesz, komputerem IBM firmy Oak Niedawno zakupiono Ridge National Lab. Wykonuje 200 petaflopsów, czyli 200 tysięcy bilionów obliczeń na sekundę. Superszybko.
Zofia: Mamy więc wolumen, mam na myśli ogromną moc obliczeniową, która ma kluczowe znaczenie dla rzeczywistej sztucznej inteligencji. Dodatkowo drugie prawo, czyli Prawo Metcalfe’a. Bob Metcalfe, który również był członkiem społeczności Bostonu przez długi czas, był w Xerox PARC i jak wiecie, zanim dołączyłem do IBM, przez kilkadziesiąt lat pracowałem w Xeroxie blisko współpracując z zespołem PARC, kiedy wynalazł Ethernet. A Ethernet podłączony... wartość Ethernet, wartość sieci jest proporcjonalna do 2 do n-tego z n, liczbą urządzeń w sieci. I tak nazywa się to Prawo Metcalfe'a i odnosi się nie tylko do Ethernetu, ale oczywiście do sieci WWW, sieci społecznościowych i stworzyło wiele bardzo wartościowych firm, które wszyscy znamy dzisiaj.
Zofia: Ale w dodatku stworzył tak ogromną ilość danych, prawda? I tak dane w sieci wraz z ustrukturyzowanymi danymi cyfrowymi, które obecnie posiada wiele przedsiębiorstw, wiele przedsiębiorstw zaczęło cyfryzować wszystkie swoje procesy pracy wraz ze wszystkimi danymi pochodzącymi z czujników z Internetem Rzeczy i czujników oraz produkcji i kamer, wszechobecnych aparatów fotograficznych itp. Istnieje ogromna ilość danych, która w rzeczywistości wzrosła wykładniczo w ciągu ostatniej dekady lub obecnie. I tak nastąpiły „zimy AI”, ponieważ rzeczywiście nie było mocy obliczeniowej i nie było danych do trenowania tych sieci neuronowych. A dzisiaj mamy moc obliczeniową. Mamy dane. W ciągu ostatnich pięciu lat poczyniono ogromne postępy w sieciach neuronowych, ponieważ po raz pierwszy w 2012 roku była to sieć neuronowa głębokiego uczenia, która działała na procesorze graficznym, GPU, który dla po raz pierwszy wygrał konkurs na rozpoznawanie obrazu. I w rzeczywistości to w tych wąskich obszarach sztuczna inteligencja ma nadludzką jakość i super szybkość. I z tych powodów, tych dwóch wykładniczych, sztuczna inteligencja jest prawdziwa. W rzeczywistości powiedziałbym, że sama sztuczna inteligencja jest teraz na początku krzywej wykładniczej, że tworzymy wykładniczo szybkie nowe spostrzeżenia, które osoby, bez względu na branżę, w której się znajdują, mogą wykorzystać do podejmowania szybkich decyzji w czasie rzeczywistym. Może również przyspieszyć cały proces odkrywania w badaniach i rozwoju nauk przyrodniczych. Więc jest używany. I ma naprawdę możliwość wpływania na wiele dziedzin.
Elżbieta: To świetne wyjaśnienie, co tak naprawdę umożliwiło tę zmianę i dlaczego sztuczna inteligencja jest dziś tak wszechobecnym tematem dla liderów biznesu. Na co pozwala, na co pozwala sztuczna inteligencja firmom, co dziesięć lat temu mogło być trudne lub nawet niemożliwe?
Zofia: Tak, tak się stało, pozwala firmom zarówno zwiększyć swoją efektywność, jak i wydajność z punktu widzenia zysków, z punktu widzenia rentowności. Ale także pozwala im tworzyć zupełnie nowe modele biznesowe i nowe możliwości generowania przychodów. Podam przykład pierwszego. Na przykład wirtualni agenci, którzy mieszczą się w tej kategorii wąskiej sztucznej inteligencji, którą właśnie przeszliśmy w tej fazie, jesteśmy dziś w fazie szerokiej sztucznej inteligencji i możemy o tym porozmawiać, zanim przejdziemy do ogólnej sztucznej inteligencji. Ale wirtualni agenci lub chatboty, które wielu z nas zna i z którymi współpracuje obecnie jako część serwerów klientów, po prostu nie istniały dziesięć lat temu. Wszystko zostało zrobione przez agentów call center, którzy musieli wykorzystywać duże bazy danych, aby uzyskać odpowiedzi na Twoje pytania, i tak dalej. Cóż, dzisiaj większość z tego wirtualni agenci mogą robić bardzo skuteczny i wydajny sposób. W rzeczywistości niektórzy z tych wirtualnych agentów bardzo szybko ocenią, czy jesteś ekstrawertykiem czy introwertykiem, i dostosują swój język do Twojego stylu.
Zofia: Również automatyzacja. na przykład, jeśli dzisiaj przejeżdżasz samochodem przez punkt poboru opłat, jest to całkowicie automatyczne rozpoznawanie i odczytywanie tablic rejestracyjnych, tak że w ramach procesów zaplecza faktycznie zostaniesz obciążony opłatą za przejazd przez punkty poboru opłat. Znowu większość tych procesów była w przeszłości wykonywana ręcznie. Zrobione zostaną zdjęcia tablic rejestracyjnych, które zostaną wysłane do Indii w celu przetworzenia, a następnie cztery na pięć osób, jeśli tablica rejestracyjna zostanie wprowadzona do systemu, zostanie naliczona opłata. To są wszystkie te transakcyjne, rutynowe, bardzo wąskie, bardzo specyficzne procesy, które są dziś zautomatyzowane.
Elżbieta: To wszystko brzmi fantastycznie. A jako lider biznesu myślę, że wiesz, dlaczego nie miałbym chcieć widzieć większej wydajności. Ale czy są rzeczy, o których być może muszę pomyśleć w kontekście zagrożeń związanych z narzędziami opartymi na uczeniu maszynowym?
Zofia: Tak, zdecydowanie istnieje ryzyko. I wiele przedsiębiorstw — w IBM to najważniejsze. Tworzymy narzędzia i możliwości w ramach IBM OpenScale lub mamy inne zestawy narzędzi, które przedstawię. Jednym z nich jest pomoc przedsiębiorstwom w radzeniu sobie z ryzykiem. Zaczyna też być na pierwszym planie zarządów i dyrektorów firm, aby upewnić się, że te zagrożenia związane z wdrażaniem i przyjęciem sztucznej inteligencji w ramach organizacji są rozwiązywane. Pozwólcie, że podkreślę tylko kilka. Numer jeden to upewnienie się, że algorytmy, algorytmy AI są sprawiedliwe – że wynik algorytmu AI, jako AI pomaga ludziom w podejmowaniu decyzji, że decyzje są uczciwe i etyczne i nie są stronnicze. Właśnie uruchomiliśmy oprogramowanie open source, każdy może nam pomóc w jego ulepszeniu, więc IBM stworzyło zestaw narzędzi AI Fairness 360 Toolkit typu open source, w którym można pobrać swój algorytm, a następnie sprawdzić go pod kątem wszelkiego rodzaju błędów. Dzisiaj sprawdzamy uprzedzenia związane z płcią, wiekiem, rasą i takimi rzeczami jak kod pocztowy. Niektóre z powodów tego błędu polegają na tym, że zestaw danych, za pomocą którego szkolona jest argumentacja, a zwłaszcza w przedsiębiorstwach — przedsiębiorstwa nie mają ogromnych ilości danych, jak w świecie konsumentów, tak, gdzie może być ogromna liczba zdjęć kotów wytrenować algorytm obrazu do rozpoznawania kota. Przedsiębiorstwa, w których firma, powiedzmy szpital, szkoła lub przedsiębiorstwo, ma ograniczoną ilość danych do trenowania algorytmów, więc dane mogą nie mieć wystarczającej różnorodności i włączenia w zbiorze danych, tak że w rzeczywistości algorytmy stają się stronniczy.
Zofia: Jednym z przykładów jest to, że działy zasobów ludzkich zaczynają wykorzystywać sztuczną inteligencję, aby pomóc w pozyskiwaniu nowych pracowników. A więc jeśli Twoje źródło dla programistów wykorzystujące algorytm AI, który może być wytrenowany na Twoich danych, algorytm dowie się, że większość programistów to mężczyźni, ponieważ to właśnie zatrudniałeś w przeszłości. Tak więc istnieje ryzyko, że algorytmy mogą następnie zalecić następnemu zatrudnieniu, patrząc na wszystkie CV, mogą proporcjonalnie polecić więcej mężczyzn niż kobiet do pracy w inżynierii oprogramowania. Wszyscy wiemy, że płeć nie ma znaczenia dla inżyniera oprogramowania. Tak się składa, że dane historyczne były w nich stronnicze. Tak więc narzędzia zalecą wówczas posiadanie bardziej zróżnicowanego zestawu danych.
Elżbieta: Ok, więc jakie są inne zagrożenia?
Zofia: Dobra. Inne zagrożenia są takie, że bardziej mam na myśli dzisiejsze algorytmy, zwłaszcza głębokie uczenie i sieci neuronowe, są jak czarne skrzynki. Tak więc ryzyko polega na tym, że algorytm da ci odpowiedź. Tak, dostajesz pożyczkę lub nie, nie dostajesz pożyczki, lub tak, masz raka skóry, ponieważ zawęża sztuczną inteligencję lepiej niż ludzie, aby zidentyfikować raka skóry. Ale to nie może wyjaśnić. Nie wyjaśnia, dlaczego ani jak doszło do tej odpowiedzi. Dlatego bardzo ważna jest możliwość wyjaśnienia. Jest to więc ryzyko, że w swoim biznesie nie będziesz w stanie wyjaśnić, w jaki sposób uzyskano określone odpowiedzi. I faktycznie w Unii Europejskiej, z RODO, ogólnymi przepisami o ochronie danych, jest to wymóg. Firmy nie mogą nawet używać sztucznej inteligencji, jeśli nie potrafi ona sama się wytłumaczyć. Wszystko musi być wytłumaczone.
Elżbieta: Opowiedz nam więc trochę o MIT-IBM Watson Lab i jego misji.
Zofia: Tak. Dziękuję za pytanie. To bardzo ekscytujące partnerstwo między badaniami IBM i MIT, które nawiązaliśmy nieco ponad rok temu. I tak jest to zobowiązanie IBM w wysokości 240 milionów dolarów w ciągu 10 lat i jest to wyjątkowe laboratorium, laboratorium współpracy uniwersyteckiej i przemysłowej na świecie. Żaden inny tego rodzaju nie istnieje. W rzeczywistości ja i dziekan ds. inżynierii na MIT, Anantha [Chandrakasan], rozpoczęliśmy burzę mózgów latem 2017 r. Myślę, że to było…
Zofia: Powiedziałeś mi, że to wszystko wydarzyło się dość szybko.
Elżbieta: Stało się to za trzy tygodnie. Może cztery tygodnie, jeśli uwzględnię lunch, który zjedliśmy z Anantą, zanim nasz starszy wiceprezes rozmawiał z prezesem MIT w poniedziałek rano, a trzy tygodnie później w piątek, umowa została podpisana. I tak rzeczywiście jest, wizja polegała na stworzeniu tego wspólnego laboratorium z około 100 badaczami, a wśród nich byli badacze IBM, profesorowie MIT i studenci, a pierwszą rocznicę świętowaliśmy we wrześniu. We wrześniu 2018 r. I rzeczywiście mamy 49 wspólnych projektów, które są aktywne dzisiaj, z około 100 osobami lub ekwiwalentem 100 osób w tych projektach. I tak naprawdę są, są to projekty badawcze, a nie stosowana technologia. Naprawdę chcieliśmy mieć pewność, że te 50 projektów dotyczy najtrudniejszych problemów AI. I właśnie to robią.
Zofia: Więc są cztery filary. Zdefiniowaliśmy cztery filary. Jeden dotyczy podstawowych algorytmów sztucznej inteligencji i dokładnie tam zajmujemy się tymi trudnymi problemami, takimi jak sztuczna inteligencja, która może się wyjaśnić. Lub uczenie się na podstawie małych danych, różne metodologie uczenia się na podstawie małych danych, na przykład szpitale mają mały zestaw pacjentów, ale mały zestaw danych.
Elżbieta: Aby rozwiązać problem, o którym wspomniałeś wcześniej, o tym, że po stronie przedsiębiorstwa nie ma, często nie ma wystarczającej ilości danych, aby naprawdę wytrenować algorytmy.
Zofia: Nie tak, jak miało to miejsce w przeszłości we właściwej fazie w wąskiej fazie AI. Teraz jesteśmy w tej fazie szeroko zakrojonej sztucznej inteligencji, w której systemy będą musiały uczyć się na małych danych. Tak więc kilka projektów w laboratorium MIT-IBM Watson AI jest również z tym powiązanych.
Zofia: Drugim filarem jest zastosowanie sztucznej inteligencji w przemyśle. A dzisiaj przyglądamy się trzem branżom: opiece zdrowotnej i naukom przyrodniczym, ponieważ jednostka biznesowa IBM Watson Health ma siedzibę właśnie tutaj, w Cambridge w stanie Massachusetts. Sztuczna inteligencja stosowana w przemyśle to także bezpieczeństwo stosowane w firmach zajmujących się bezpieczeństwem. I oczywiście bezpieczeństwo jest istotne dla wszystkich branż. A trzecią branżą, na której się skupiamy, są usługi finansowe, a więc finanse i ekonomia. Więc to jest drugi filar. W MIT-IBM Watson AI Lab istnieją cztery filary.
Zofia: Trzecim jest, nazywamy to fizyką AI. Jakie są wyzwania sprzętowe, aby przeprowadzić wydajne i efektywne szkolenie w chmurze, a także na krawędzi. A potem czwarta kategoria, którą jestem bardzo podekscytowany, to kategoria, którą nazywamy dobrobytem zapewnianym przez sztuczną inteligencję lub wspólnym dobrobytem zapewnianym przez sztuczną inteligencję. Ponownie przygląda się tym wyzwaniom, jak tworzyć systemy AI i które mają prawdziwie moralne wartości, które mogą podejmować etyczne decyzje. Na przykład, jaka jest przyszłość miejsc pracy, to projekt, który mamy w tej kategorii. I tak, oto cztery filary: podstawowe algorytmy sztucznej inteligencji, fizyka sztucznej inteligencji, sztuczna inteligencja dla przemysłu i dobrobyt zapewniony przez sztuczną inteligencję. A teraz, gdy świętowaliśmy naszą pierwszą rocznicę, właśnie uzgodniliśmy między MIT i IBM, że otworzymy nasze drzwi dla innych dużych przedsiębiorstw, które są naprawdę zainteresowane, aby być w czołówce badań nad sztuczną inteligencją, aby dołączyć do naszego laboratorium. A więc nad tym pracujemy w następnej kolejności.
Elżbieta: Dwa obszary, na których w MIT Technology Review poświęcamy dużo czasu na raportowanie, to kryptowaluty lub blockchain oraz obliczenia kwantowe. Naprawdę chciałbym usłyszeć, co wszyscy robicie w tych dziedzinach. A może zaczniemy od kryptowaluty. I myślę, że zadałbym sobie pytanie, jak myślimy o blockchain jako o czymś więcej niż ciekawostką, a właściwie czymś, co jest godne zaufania i stabilne i może w pewien sposób poprawić kontekst biznesowy, w którym jest używany?
Zofia: Tak, powiedziałeś właściwe słowo. Więc wszystko sprowadza się do zaufania. Kiedy w IBM mówimy o blockchainie, w rzeczywistości o blockchainie, przez kilka lat w laboratoriach badawczych przeprowadzano wiele badań nad blockchainem, a IBM stworzył biznes teraz około dwa i pół roku temu, jednostkę biznesową blockchain. Widzę trzy rodzaje obszarów, w których obecnie używany jest blockchain lub w których eksperymentuje się z wieloma prototypami. Jeden jest rzeczywiście w kryptowalutach, takich jak Bitcoin. I tak większość ludzi zna blockchain, myśli o Bitcoinie. I to jest cały obszar kryptowalut. W IBM nie interesują nas kryptowaluty, ponieważ nasi klienci nie są zainteresowani kryptowalutami. Interesuje nas podstawowa platforma blockchain. I faktycznie, znaczna część podstawowej platformy została udostępniona na platformie Hyperledger, prowadzonej przez Linux Foundation, a IBM znacząco przyczynił się do powstania kodu i nadal będziemy to robić. Kolejnym jest blockchain, ta podstawowa platforma, wykorzystywana w łańcuchach wartości do śledzenia cennych towarów lub cennych towarów cyfrowych w miarę ich przemieszczania się od miejsca pochodzenia do miejsca, w którym są używane. I mogę podać kilka przykładów. Trzecim obszarem, w którym jest to cenne, szczególnie w branży usług finansowych, jest tożsamość cyfrowa. I mogę tam podać kilka przykładów. Ale to, co interesuje przedsiębiorstwa, to możliwość tworzenia zaufanych transakcji między partnerami, którzy z natury mogą się nie znać, jak małe firmy lub większe firmy, dystrybutorzy lub rolnicy.
Zofia: A więc tworzenie zaufania w sposób rozproszony. Tak więc sieci blockchain, które stworzyliśmy z naszymi klientami, są sieciami prywatnymi. Nie są dostępne dla wszystkich. Są prywatne. Jest to sieć tylko z uprawnieniami. Jednym z pierwszych przykładów, które zrobiliśmy, zaczynającym się wiele, wiele lat temu, a teraz działającym, jest sieć blockchain dla bezpieczeństwa żywności, którą stworzyliśmy z Walmartem. Walmart był członkiem filarowym tej sieci blockchain i wielu dostawców Walmart jest w sieci. I tam śledzi jedzenie z farmy na stół. A szczególnie chodzi o to, aby w przypadku wybuchu epidemii E. coli lub innego problemu związanego z bezpieczeństwem żywności...
Elżbieta: Sałata rzymska.
Zofia: Tak, sałata rzymska. To znaczy, to się dzieje cały czas. Wiedzieliśmy, że epidemia miała miejsce gdzieś w Kalifornii, ale wszystko, łącznie z sałatą, uprawianą tutaj w Massachusetts, zostało zdjęte z półki. Tak dzieje się dzisiaj. Śledzenie miejsca wybuchu epidemii zajmuje dużo czasu. Ale jeśli prześledzisz wszystkie swoje towary w łańcuchu bloków w ciągu dwóch minut lub szybciej, możesz szybko sprawdzić, skąd pochodzi ta konkretna sałata. Następnie nadal musisz wejść i zobaczyć, w którym punkcie łańcucha od gospodarstwa do sklepu do stołu bakterie E. coli faktycznie zanieczyściły żywność. Ale jest to łatwiejsze niż ustalenie, skąd się to wzięło. Prawidłowy.
Elżbieta: Świetny. Cóż, absolutnie cudownie słyszeć od ciebie i mieć szansę znów z tobą porozmawiać. I wspaniale jest mieć laboratorium tuż za rogiem. To wspaniały obiekt i dobrze, że jesteś w pobliżu. Więc dziękuję.
Zofia: Dziękuję bardzo. To była moja wielka przyjemność.
Elżbieta: Ten odcinek jest dostarczany przez Darktrace, światowego lidera w technologii cyber AI. Siedziba główna Darktrace znajduje się w San Francisco w Cambridge w Anglii. Ma około 2500 klientów na całym świecie, którzy używają jej oprogramowania do wykrywania i reagowania na zagrożenia cybernetyczne dla swoich firm, użytkowników i urządzeń. Darktrace stworzył innowacyjną technologię uczenia maszynowego, która potrafi wykryć nietypową aktywność. Aby dowiedzieć się więcej o tym, jak to działa, rozmawiałem z CEO firmy, Nicole Eagan.
Elżbieta: Miło móc porozmawiać.
Nicole Eagan: Nie ma problemu.
Elżbieta: Doceniam, że to robisz. W Darktrace porównujesz swoją markę bezpieczeństwa cybernetycznego z ludzkim układem odpornościowym. I mam nadzieję, że możesz nam wyjaśnić, co przez to rozumiesz.
Nicole: Więc to, co naprawdę się działo, to myślę, że branża bezpieczeństwa miała obsesję na punkcie prób powstrzymania złych ludzi. I zdaliśmy sobie sprawę, że wiele razy bardzo wyrafinowani napastnicy, tacy jak państwa narodowe, dostaną się do dowolnej sieci, do której chcą. Postanowiliśmy więc odwrócić problem i założyć, że źli ludzie są w środku lub będą mogli dostać się do środka. To doprowadziło nas do pomysłu oparcia naszej sztucznej inteligencji na zasadach ludzkiego układu odpornościowego. Więc jeśli myślisz o układzie odpornościowym ludzkiego ciała, ma on wrodzone poczucie „ja”, które pozwala mu wiedzieć, co nie jest „ja”, i ma bardzo precyzyjną i szybką reakcję. Dokładnie tak działa nasza sztuczna inteligencja. Jest osadzony w każdej firmie naszych klientów i po prostu uczy się poczucia siebie, co jest normalne. To, co nazywamy „wzorem życia” każdego użytkownika i urządzenia podłączonego do tej sieci. A to pozwala nam znaleźć rzeczy niezwykłe i dosłownie powstrzymać ataki lub je zneutralizować.
Elżbieta: A jak widzisz ogólnie, bardziej ogólnie, cyberataki zmieniające się w dzisiejszych czasach, niezależnie od tego, czy pochodzą one z państw narodowych, czy też od pojedynczych złoczyńców, cyberprzestępców?
Nicole: Spotkałem się ostatnio z szefem ochrony jednego z naszych klientów i myślę, że świetnie to opisał. Powiedział Po prostu pomyśl, gdzieś na świecie jest zespół, a praca tego zespołu na pełny etat polega na zastanawianiu się, jak ukraść Twoją własność intelektualną lub w jakiś sposób uzyskać od Ciebie informacje. I właśnie z tym stoją firmy, a powodem tego jest rodzaj cyberwyścigu zbrojeń, w którym jesteśmy przyzwyczajeni do rządów walczących z rządami – chociaż wciąż to ma miejsce, mamy teraz zupełnie nowy wymiar, w którym państwa narodowe są w rzeczywistości prawdopodobnie atakowanie firm. A to oznacza, że to cyfrowe pole bitwy naprawdę się zmieniło i jest to coś, przed czym większość korporacji naprawdę nie musiała się bronić w przeszłości. Teraz komplikujesz to i łączysz z faktem, że te państwa narodowe w wielu przypadkach mogą być również zorganizowane z bardzo silnym globalnym kręgiem cyberprzestępczym. I taka współpraca między tymi podmiotami to też jakby nowy wymiar. Więc to jest rodzaj tego, z czym mierzą się firmy, które jest całkiem nowe i całkiem nowatorskie w porównaniu z atakami może pięć lub dziesięć lat temu.
Elżbieta: Dobra. Więc jeśli chodzi o to, co robi Darktrace, czy używasz sztucznej inteligencji do wykrywania ataku, obrony przed atakiem, czy też obu?
Nicole: To doskonałe pytanie. Wiesz, myślę, że w niektórych przypadkach firmy wykorzystują sztuczną inteligencję po prostu do automatyzacji procesów ludzkich. Na przykład każda firma ma zwykle centrum operacji bezpieczeństwa. Będzie tam wielu analityków zagrożeń i osób reagujących na incydenty. I jest jedno podejście, które dobrze mówi, dlaczego po prostu nie wyeliminować sztucznej inteligencji i uczyć się z kroków, które podejmują w tak zwanym poradniku, aby reagować na naruszenia i je zautomatyzować. A to może dać ci niewielki wzrost wydajności. Ale jednocześnie nie zmieni gry. Inną rzeczą, do której używałem sztucznej inteligencji, jest zasadniczo analiza wszystkich historycznych ataków, które miały miejsce na innych ludziach i innych firmach, i próbuję wykorzystać to jako wskaźnik przyszłych zagrożeń. Teraz, choć brzmi to bardzo interesująco i praktycznie, w rzeczywistości wydaje się być zasadniczo wadliwe, a to dlatego, że ataki zmieniają się tak szybko. W rzeczywistości w wielu przypadkach pojawiają się po prostu nowe odmiany ataków, w których zmieniany jest jeden wiersz kodu, a teraz tak zwane sygnatury nie pasują już do siebie. Tak więc w naszym przypadku korzystamy z wielu rodzajów nienadzorowanego, nadzorowanego i głębokiego uczenia się, aby móc nie tylko znaleźć ataki, ale także aby sztuczna inteligencja wiedziała, jak zbadać atak. A co najważniejsze, jak właściwie podjąć działania. A to bardzo rzadkie. W rzeczywistości nie ma innej firmy wykorzystującej sztuczną inteligencję do podjęcia działań.
Elżbieta: Prawidłowy. Więc robisz obie rzeczy. Wykrywacie i podejmujecie działania.
Nicole: Naprawdę używamy sztucznej inteligencji do wykrywania, badania i podejmowania działań. I ta ostatnia część, podjęcie akcji, jest naprawdę trudna i naprawdę interesująca. Jest świetny, ponieważ może bardzo szybko reagować na ataki, w rzeczywistości może odpowiedzieć na atak w mniej niż dwie sekundy. A kiedy te ataki poruszają się z prędkością maszyny, jest to absolutnie krytyczne. Ale inną rzeczą, którą odkryliśmy, z praktycznego punktu widzenia, jest to, że ludzie z organizacji bezpieczeństwa potrzebują czasu — może po raz pierwszy w ogóle pracują ze sztuczną inteligencją i są wspomagani — im to zajmuje trochę czasu aby rzeczywiście zbudować to zaufanie. Dlatego stworzyliśmy zupełnie nową możliwość tworzenia rekomendacji. Co się stanie, jeśli sztuczna inteligencja zarekomenduje, jakie działania podjęłaby, a człowiek to potwierdził? A kiedy ludzie zaczną widzieć, wow, za każdym razem wydaje właściwą rekomendację, budują zaufanie i wprowadzają je w to, co nazywamy trybem aktywnym. Myślę więc, że robiąc to teraz w ciągu ostatnich pięciu lat w prawie 2500 firmach, naprawdę dobrze rozumiemy, czego potrzeba, aby zbudować tę relację zaufania, ale także nasze algorytmy stały się naprawdę silne i naprawdę inteligentne w reagowaniu na te ataki w czas rzeczywisty.
Elżbieta: Więc gdy obrona staje się lepsza, czy nie jest uczciwe stwierdzenie, że ataki również będą lepsze, być może wykorzystując sztuczną inteligencję do walki z cyberobroną zorientowaną na sztuczną inteligencję lub zorganizowaną przez sztuczną inteligencję?
Nicole: Masz absolutną rację, chociaż to dopiero początek i widzieliśmy tylko oznaki, że może iść w tym kierunku, i widzieliśmy takie rzeczy, jak ataki behawioralne, w których sztuczna inteligencja może nauczyć się twojego stylu i sposobu komunikacji którego używasz, powiedzmy e-mail. Na tym etapie było to trochę podstawowe uczenie maszynowe. Ale w pełni oczekujemy, że pojawi się zupełnie nowa kategoria ataków zwana ofensywną sztuczną inteligencją. A to oznacza, że atakujący zaczną wykorzystywać w ramach ataków różne formy uczenia maszynowego, sztucznej inteligencji i ostatecznie głębokiego uczenia się. To zmieni całą branżę z dnia na dzień. I myślę, że w zasadzie jest to coś, czego wielu menedżerów prawdopodobnie jeszcze nie rozważało.
Elżbieta: Prawidłowy. Jest to więc bardzo interesujące, ponieważ kiedy mówiłeś o sposobie, w jaki Darktrace podsumowuje, czym jest „normalna aktywność” w sieci, przyszło mi do głowy, że mogą istnieć inne przypadki użycia tych informacji lub tego wglądu. I zastanawiam się, czy wykraczając poza rodzaj cyberbezpieczeństwa, pomyślałeś o spojrzeniu na normalną aktywność, aby pomóc w innych rodzajach rzeczy, takich jak zgodność z przepisami lub zarządzanie ryzykiem, takie rzeczy.
Nicole: Absolutnie. Myślę, że interesujące jest to, że stworzyliśmy naprawdę unikalny zbiór danych w imieniu naszych klientów. Tak więc każdy z nich, który używa obecnie Darktrace do celów bezpieczeństwa, ma wbudowaną sztuczną inteligencję, która uczy się poczucia siebie i stale się uczy i aktualizuje. I to jest zbiór danych, który można wykorzystać do innych rzeczy. Może być używany do zapewnienia zgodności z przepisami. W rzeczywistości niektórzy klienci Darktrace używają nas dzisiaj w celu zapewnienia zgodności z HIPAA i HITRUST w opiece zdrowotnej lub z takimi rzeczami, jak DFS, czyli przepisy stanu Nowy Jork dotyczące usług finansowych. Widzimy więc już wczesne wskaźniki tego, w jaki sposób można wykorzystać te modele sztucznej inteligencji i ten unikalny zestaw danych. Myślę, że jednym z naprawdę interesujących przypadków użycia są fuzje i przejęcia. Niektóre firmy wykorzystują nas w fazach due diligence, aby uzyskać większą widoczność w środowisku aktywów docelowych. A dzisiaj używają go, aby sprawdzić, czy w tej sieci może być konkurent lub państwo narodowe, które może na przykład próbować ukraść własność intelektualną. Istnieją jednak znacznie szersze rodzaje należytej staranności w zakresie fuzji i przejęć, do których można go wykorzystać. I wreszcie, niektórzy klienci korzystają z nas również w celu zapewnienia zgodności z prywatnością danych, taką jak RODO, obserwując, jaki ruch może odbywać się w Europie i poza nią. Więc absolutnie, myślę, że chociaż dzisiaj w pewnym sensie odblokowujemy tylko moc tego zbioru danych i naszych modeli sztucznej inteligencji dla bezpieczeństwa cybernetycznego, możemy w przyszłości podjąć decyzję, aby pomóc klientom w korzystaniu z innych kluczy, aby je odblokować, aby zapewnić dodatkową wartość.
Elżbieta: I rób różne rzeczy z tymi informacjami. Tak, to fascynujące. Nicole, bardzo ci dziękuję za rozmowę o tym.
Nicole: Dziękuję bardzo, Elżbieto.
Elżbieta: To tyle w tym odcinku Business Lab. Jestem twoim gospodarzem Elizabeth Bramson-Boudreau. Jestem CEO i wydawcą MIT Technology Review. Powstaliśmy w 1899 roku w Massachusetts Institute of Technology. Możesz nas znaleźć w formie drukowanej, w Internecie, na dziesiątkach wydarzeń na żywo każdego roku, a teraz w formie audio. Więcej informacji na temat magazynu i programu można znaleźć na naszej stronie internetowej TechnologyReview.com. Nasz program jest dostępny wszędzie tam, gdzie otrzymasz swoje podcasty. Jeśli podobał Ci się ten odcinek, mamy nadzieję, że poświęcisz chwilę, aby ocenić i zrecenzować nas w Apple Podcasts. Business Lab to produkcja MIT Technology Review. Producentem jest Wade Roush z pomocą redakcyjną Mindy Blodgett. Specjalne podziękowania dla naszych gości Sophie Vandebroek i Nicole Eagan. I dziękuję naszemu sponsorowi Darktrace, światowemu liderowi technologii sztucznej inteligencji w cyberobronie. Dziękuję za wysłuchanie. Wrócimy wkrótce z nowym odcinkiem.