Nowa sztuczka może sfałszować rozpoznawanie mowy AI za każdym razem

Kategoria: Sztuczna inteligencja Opublikowany 10 stycznia

Biorąc pod uwagę kształt fali dźwiękowej, naukowcy mogą teraz stworzyć praktycznie identyczną wersję, która sprawi, że oprogramowanie do rozpoznawania mowy będzie transkrybować coś zupełnie innego.

Historia: Wrogie przykłady oszukały wiele algorytmów komputerowej wizji. Chociaż wszystkie sieci neuronowe są podatne na takie ataki, naukowcy odnieśli mniejsze sukcesy z dźwiękiem. Poprzednie ataki były w stanie wprowadzić jedynie subtelne poprawki do tego, co słyszy oprogramowanie.

Co nowego: Badacze z Berkeley pokazał że mogą przyjąć kształt fali i dodać warstwę szumu, która za każdym razem oszukuje DeepSpeech, najnowocześniejszą sztuczną inteligencję przekształcającą mowę na tekst. Technika ta może sprawić, że muzyka będzie brzmiała jak arbitralna mowa dla sztucznej inteligencji lub niewyraźne głosy, aby nie były transkrybowane.

Przygotuj się na irytację: Wyobraź sobie, że odtwarzasz teledysk z YouTube na swoich głośnikach, a Alexa słyszy zamówienie na dwie tony kukurydzy w śmietanie . Witamy w piekle ataku AI.