211service.com
Scenariusze Czarnego Lustra, które skłaniają niektórych ekspertów do apelu o większą tajność sztucznej inteligencji
Santiago Zavala
Sztuczna inteligencja może zrestartować branże i zwiększyć wydajność gospodarki; to już zaszczepia wiele produktów, których używamy na co dzień. Ale nowy raport ponad 20 badaczy z uniwersytetów w Oksfordzie i Cambridge, Otwórz AI , a Fundacja Electronic Frontier ostrzega, że ta sama technologia stwarza nowe możliwości dla przestępców, agentów politycznych i opresyjnych rządów – do tego stopnia, że niektóre badania nad sztuczną inteligencją mogą wymagać utrzymania w tajemnicy.
Zawarte w raporcie, Złośliwe wykorzystanie sztucznej inteligencji: prognozowanie, zapobieganie i łagodzenie , to cztery dystopijne winiety dotyczące sztucznej inteligencji, które wydają się wyjęte prosto z serialu science fiction Netflixa Czarne lustro .
Scenariusz 1: Sprytniejsze oszustwo phishingowe
Administratorka systemu bezpieczeństwa robota w budynku spędza część swojego czasu na Facebooku w ciągu dnia pracy. Tam widzi reklamę zestawu modeli pociągów i pobiera broszurę. Bez jej wiedzy broszura jest zainfekowana złośliwym oprogramowaniem; Oszuści wykorzystali sztuczną inteligencję, aby dowiedzieć się ze szczegółów, które opublikowała publicznie, że jest entuzjastką modeli pociągów i zaprojektowali broszurę specjalnie dla niej. Kiedy ją otwiera, hakerzy mogą szpiegować jej komputer i uzyskać nazwę użytkownika oraz hasło do systemu bezpieczeństwa budynku, co pozwala im przejąć nad nim kontrolę.
Scenariusz 2: Epidemia złośliwego oprogramowania
Grupa hakerska z Europy Wschodniej wykorzystuje technikę uczenia maszynowego zwykle stosowaną do ochrony systemów komputerowych i dostosowuje ją do tworzenia bardziej wytrwałego i szkodliwego oprogramowania. Program wykorzystuje techniki podobne do tych, które można znaleźć w Go-playing AI AlphaGo, aby stale generować nowe exploity. Dobrze utrzymane komputery pozostają odporne, ale starsze systemy i urządzenia inteligentne są zainfekowane. Miliony ludzi są zmuszone zapłacić okup w wysokości 300 euro (oczywiście w Bitcoin), aby odzyskać swoje maszyny. Co gorsza, próby przeciwdziałania szkodliwemu oprogramowaniu przy użyciu innego exploita kończą się zablokowaniem wielu inteligentnych systemów, które miały uratować.
Scenariusz 3: Robot zabójca
Robot sprzątający infiltruje niemieckie Ministerstwo Finansów, łącząc się z legalnymi maszynami powracającymi do budynku po zmianie na zewnątrz. Następnego dnia robot wykonuje rutynowe czynności porządkowe, identyfikuje minister finansów za pomocą rozpoznawania twarzy, podchodzi do niej i detonuje śmiertelnie ukrytą bombę. Śledczy śledzą robota-zabójcę w sklepie z artykułami biurowymi w Poczdamie, gdzie został nabyty za gotówkę, a trop się gubi.
Scenariusz 4: Większy Wielki Brat
Mężczyzna jest wściekły z powodu szalejących cyberataków i widocznej niezdolności rządu do działania. Zainspirowany wiadomościami, staje się coraz bardziej zdeterminowany, aby coś zrobić – pisać w Internecie posty o zagrożeniach, zamawiać materiały do robienia znaków protestacyjnych, a nawet kupować kilka bomb dymnych, których planuje użyć po przemówieniu w lokalnym parku. Następnego dnia gliniarze zjawiają się w jego biurze i informują go, że ich przewidywalny system zakłócania porządku cywilnego zidentyfikował go jako potencjalne zagrożenie. Wychodzi w kajdankach.
Te pięć scenariuszy ilustruje tylko garść zagrożeń, które przewidują autorzy badania. Oto kilka innych:
- botnety wykorzystujące sztuczną inteligencję do symulowania zachowania ogromnej grupy ludzkich użytkowników Internetu, przeprowadzające ataki DDoS na strony internetowe, jednocześnie oszukując oprogramowanie zaprojektowane do wykrywania i blokowania takich ataków
- operacje oszustwa na dużą skalę, które identyfikują potencjalne ofiary online przez ciężarówkę, wykorzystując sztuczną inteligencję do wykrywania osób zamożnych
- przekonujące doniesienia prasowe składające się z autentycznie wyglądających, ale całkowicie fałszywych filmów i zdjęć generowanych przez sztuczną inteligencję
- ataki przez roje dronów, które kontroluje jedna osoba, wykorzystując sztuczną inteligencję do zarządzania dużą liczbą półautonomicznych maszyn
- systemy, które automatyzują pracę przestępczą — na przykład negocjowanie płatności okupu z ludźmi po zainfekowaniu ich komputerów złośliwym oprogramowaniem — w celu umożliwienia oszustw na dużą skalę
Badanie jest mniej pewne, jak przeciwdziałać takim zagrożeniom. Zaleca więcej badań i debaty na temat zagrożeń związanych ze sztuczną inteligencją i sugeruje, że badacze AI potrzebują silnego kodeksu etycznego. Ale mówi również, że powinni zbadać sposoby ograniczania potencjalnie niebezpiecznych informacji w sposób, w jaki czasami kontrolowane są badania nad innymi technologiami podwójnego zastosowania z potencjałem broni.
Sztuczna inteligencja stanowi szczególnie drażliwy problem, ponieważ jej techniki i narzędzia są już szeroko rozpowszechnione, łatwe do rozpowszechniania i coraz łatwiejsze w użyciu — w przeciwieństwie do, powiedzmy, materiałów rozszczepialnych lub śmiertelnych patogenów, które są stosunkowo trudne do wyprodukowania, a zatem łatwe do kontrolowania. Mimo to istnieją precedensy ograniczania tego rodzaju wiedzy. Na przykład po nieudanej próbie narzucenia przez rząd USA tajemnicy na badania nad kryptografią w latach 80., wielu badaczy przyjął system dobrowolny składania dokumentów do weryfikacji Agencji Bezpieczeństwa Narodowego.
Jack Clark, dyrektor ds. polityki w OpenAI i jeden z autorów raportu, przyznaje, że przyjęcie tajemnicy może być trudne. Zawsze jest niesamowicie cienka linia do przejścia, mówi.
Niektórzy badacze sztucznej inteligencji najwyraźniej przyjęliby bardziej ostrożne podejście. Thomas Dietterich , profesor z Oregon State University, który ostrzegał już przed przestępczym potencjałem sztucznej inteligencji, zauważa, że autorami raportu nie są eksperci ds. bezpieczeństwa komputerowego ani nikt z firm takich jak Google, Microsoft czy Apple. Wydaje się, że raport został napisany przez osoby z zewnątrz, takie jak ja, mające dobre intencje, a nie osoby zaangażowane na co dzień w walkę z cyberprzestępczością, mówi.