211service.com
Ten program AI może cię pokonać w kłótni — ale nie wie, co mówi
Badania IBM
Podczas dzisiejszej debaty na żywo w San Francisco program AI przedstawił zaskakująco przekonujący argument, że eksploracja kosmosu powinna być dotowana. Kiedy człowiek się nie zgadzał, program oferował obalenie.
Debata między programem komputerowym IBM o nazwie Project Debater a kilkoma ludzkimi uczestnikami jest najnowszym dowodem na to, że sztucznie inteligentne maszyny robią postępy w umiejętnościach, które wcześniej były zarezerwowane dla ludzi — w tym przypadku kłótni.
Podczas wydarzenia program i człowiek na zmianę kłócili się na określony temat, sprzeciwiali się i dodawali argumentację zamykającą. W drugiej debacie program opowiadał się za zwiększonym wykorzystaniem telemedycyny, podczas gdy uczestnik – człowiek – sprzeciwiał się temu.
Powiązana historia
Powiązana historia Eksperci sugerują, że systemy sztucznej inteligencji, które próbują się przechytrzyć, może pomóc osobie ocenić jej intencje.IBM od kilku lat pracuje nad oprogramowaniem AI, które przekopuje się przez ryzy tekstu przed skonstruowaniem argumentu na konkretny temat. Firma zorganizowała dziś wieczorem debatę promującą technologię.
Debata Projektu nie próbuje budować argumentu opartego na zrozumieniu danego tematu. Zamiast tego po prostu buduje jedną, łącząc elementy poprzednich argumentów z odpowiednimi punktami informacji z Wikipedii.
Noam Słonim i Ranit Aharonov, badacze IBM stojący za Debata Projektu. Badania IBM
Ranit Aharonov , badacz projektu, który ma siedzibę w Izraelu, przyznaje, że jest on ograniczony. Mówi, że jeszcze długa droga do opanowania języka. Jednak Aharonov uważa, że technologia może mieć szereg praktycznych zastosowań. Może pomóc komuś w podjęciu krytycznej decyzji, na przykład poprzez przedstawienie szeregu argumentów za i przeciw.
Kłótliwy system sztucznej inteligencji może oczywiście mieć również nikczemne zastosowania, w tym zasilać bardziej szkodliwe boty w mediach społecznościowych i nie tylko. współpracownik Aharonowa Noam Słonim odrzuca niebezpieczeństwo. Zawsze istnieje ryzyko i myślę, że jest ono bardziej ograniczone niż w przypadku innych technologii – mówi.
Oren Etzioni, dyrektor generalny Instytut Allena ds. Sztucznej Inteligencji w Seattle mówi, że trudno jest ocenić możliwości systemu IBM wyłącznie na podstawie tego konkursu. Łatwiej jest stworzyć demo w puszkach niż otwarte, w którym można w naturalny sposób wejść z nim w interakcję, mówi.
Kristian Hammond , profesor na Northwestern University i założyciel Narrative Sciences, firmy, która automatycznie generuje raporty informacyjne i inne treści, twierdzi, że technologia może okazać się przydatna. Ale Hammond podkreśla, że oprogramowanie IBM po prostu powtarza to, co zostało wykopane. Mówi, że nigdy nie ma etapu, na którym system wie, o czym mówi. U ludzi uważamy to za gówniane rozumowanie.
Hammond twierdzi również, że konkurs w San Francisco nie pokazuje użyteczności systemu. To trochę odwraca uwagę, mówi.