211service.com
AI zużywa dużo energii. Hakerzy mogą sprawić, że będzie zużywać więcej.
Taylor Vick/Unsplash
Wiadomości: Nowy rodzaj ataku może zwiększyć zużycie energii przez systemy SI. W ten sam sposób, w jaki atak typu „odmowa usługi” w Internecie ma na celu zablokowanie sieci i uczynienie jej bezużyteczną, nowy atak zmusza głęboką sieć neuronową do zablokowania większej ilości zasobów obliczeniowych niż jest to konieczne i spowolnienia procesu myślenia.
Cel: W ostatnich latach rosnące zaniepokojenie kosztownym zużyciem energii przez duże modele sztucznej inteligencji skłoniło naukowców do zaprojektowania wydajniejszych sieci neuronowych. Jedna kategoria, znana jako architektury wielowyjściowo-adaptacyjne, polega na dzieleniu zadań według stopnia trudności ich rozwiązania. Następnie wydaje minimalną ilość zasobów obliczeniowych potrzebnych do rozwiązania każdego z nich.
Załóżmy, że masz zdjęcie lwa patrzącego prosto w kamerę z doskonałym oświetleniem i zdjęcie lwa przyczajonego w złożonym krajobrazie, częściowo niewidocznym. Tradycyjna sieć neuronowa przepuszczałaby oba zdjęcia przez wszystkie swoje warstwy i poświęcałaby taką samą ilość obliczeń na oznaczenie każdego z nich. Ale wielowyjściowa sieć neuronowa adaptująca wejście może przepuścić pierwsze zdjęcie przez tylko jedną warstwę, zanim osiągnie niezbędny próg pewności, aby nazwać je tym, czym jest. Zmniejsza to ślad węglowy modelu, ale poprawia również jego szybkość i pozwala na wdrożenie go na małych urządzeniach, takich jak smartfony i inteligentne głośniki.
Atak: Ale ten rodzaj sieci neuronowej oznacza, że jeśli zmienisz dane wejściowe, takie jak przesyłany obraz, możesz zmienić ilość obliczeń potrzebnych do rozwiązania tego problemu. Otwiera to lukę, którą hakerzy mogą wykorzystać, jak opisali badacze z Maryland Cybersecurity Center w nowym artykule prezentowanym na Międzynarodowa Konferencja na temat reprezentacji uczenia się w tym tygodniu. Dodając niewielkie ilości szumu do wejść sieci, sprawili, że postrzegała wejścia jako trudniejsze i zwiększyła swoje obliczenia.
Kiedy założyli, że atakujący ma pełną informację o sieci neuronowej, byli w stanie maksymalnie wykorzystać jej pobór energii. Kiedy założyli, że atakujący nie ograniczył się do żadnych informacji, nadal byli w stanie spowolnić przetwarzanie w sieci i zwiększyć zużycie energii o 20% do 80%. Powodem, jak odkryli naukowcy, jest to, że ataki dobrze przenoszą się przez różne typy sieci neuronowych. Zaprojektowanie ataku na jeden system klasyfikacji obrazów wystarczy, aby zakłócić działanie wielu, mówi Yiğitcan Kaya, doktorant i współautor artykułu.
Zastrzeżenie: Ten rodzaj ataku jest wciąż nieco teoretyczny. Architektury dopasowujące się do danych wejściowych nie są jeszcze powszechnie używane w rzeczywistych aplikacjach. Jednak naukowcy są przekonani, że szybko zmieni się to w wyniku nacisków w branży na wdrażanie lżejszych sieci neuronowych, takich jak inteligentny dom i inne urządzenia IoT. Profesor Tudor Dumitraş, który doradzał w badaniach, mówi, że potrzeba więcej pracy, aby zrozumieć, w jakim stopniu tego rodzaju zagrożenie może spowodować szkody. Dodaje jednak, że ten artykuł jest pierwszym krokiem do podniesienia świadomości: dla mnie ważne jest zwrócenie uwagi ludzi na fakt, że jest to nowy model zagrożeń i tego rodzaju ataki można przeprowadzić.