Poker to najnowsza gra, która pasuje przeciwko sztucznej inteligencji

Będąc przełomowym osiągnięciem sztucznej inteligencji, bot pokerowy opracowany przez naukowców z Kanady i Czech pokonał kilku profesjonalnych graczy w grach jeden na jednego w pokera Texas hold’em bez limitu.





Co być może najbardziej interesujące, naukowcy stojący za pracą twierdzą, że ich program pokonał ludzkich przeciwników, stosując podejście przybliżone, które porównują do intuicji.

Jeśli to prawda, jest to rzeczywiście znaczący postęp w sztucznej inteligencji w grach, mówi Michael Wellman , profesor na Uniwersytecie Michigan, który specjalizuje się w teorii gier i sztucznej inteligencji. Po pierwsze, osiąga kamień milowy (pokonując pokerzystów) w grze o dużym znaczeniu. Po drugie, łączy kilka nowatorskich pomysłów, które razem wspierają ekscytujące podejście do gier z niedoskonałymi informacjami.

Jeszcze w tym tygodniu odbędzie się turniej w kasynie Pittsburgh, w którym kilku światowej klasy pokerzystów zagra w tę samą wersję pokera przeciwko programowi opracowanemu przez CMU. Tuomas Sandholm , profesor informatyki na CMU, który przewodzi tym wysiłkom, mówi, że zaangażowani w to ludzie są znacznie silniejsi niż ci testowani przez naukowców z Alberty, a 120 000 rozdań zostanie rozegranych w ciągu 20 dni, co zapewnia większą istotność statystyczną wyników. Turniej może potwierdzić, że sztuczna inteligencja rzeczywiście opanowała grę, która przez długi czas wydawała się zbyt skomplikowana i subtelna dla komputerów.

DeepStack, oprogramowanie do gry w pokera, które pokonało już niektórych profesjonalnych graczy, zostało opracowane przez zespół kierowany przez Michał Kręgle , profesor informatyki na Uniwersytecie Alberty, w skład której weszli naukowcy z Uniwersytetu Karola i Czeskiego Uniwersytetu Technicznego w Czechach. W badaniach papier opublikowany online ale jeszcze nie recenzowani, naukowcy twierdzą, że DeepStack rozegrał prawie 45 000 rozdań pokerowych przeciwko kilku graczom, pokonując ich z łatwością.

Poker jest bardziej złożony niż wiele innych gier, w których ludzie przeciwstawiają się sztucznej inteligencji. I co wymowne, zawiera poziomy niepewności, na przykład kiedy przeciwnik może blefować, które można znaleźć w wielu rzeczywistych sytuacjach, których sztuczna inteligencja jeszcze nie opanowała. Pokerzyści nie widzą rąk swoich przeciwników, co oznacza, że ​​w przeciwieństwie do warcabów, szachów czy go, nie wszystkie informacje zawarte w grze są dla nich dostępne. Badacze z DeepMind, brytyjskiej spółki zależnej Alphabet, trafili na pierwsze strony gazet w zeszłym roku po stworzeniu programu zdolnego pokonać jednego z najlepszych graczy Go na świecie (zobacz Google AI Masters the Game of Go dekadę wcześniej niż oczekiwano).

Heads-up no-limit Texas hold'em to wersja gry rozgrywana między dwiema osobami, które mogą postawić tyle żetonów, ile posiadają. Ten wariant przez długi czas okazał się zbyt trudny dla maszyn do fachowej gry. Istnieje 10160 (10, po których następuje 160 zer) możliwych ścieżek gry dla każdego rozdania w heads-up no-limit Texas hold’em.

DeepStack nauczył się grać w pokera, rozgrywając ręce przeciwko sobie. Po każdej grze ponownie analizuje i udoskonala swoją strategię, co skutkuje bardziej zoptymalizowanym podejściem. Ze względu na złożoność pokera bez limitu, podejście to zwykle obejmuje ćwiczenie z bardziej ograniczoną wersją gry. Zespół DeepStack poradził sobie z tą złożonością, stosując technikę szybkiego przybliżania, którą udoskonalili, wprowadzając poprzednie sytuacje w pokera do algorytmu głębokiego uczenia.

To, co naprawdę nowego w tak złożonej grze, to możliwość skutecznego obliczania działań, które należy podjąć w każdej napotkanej sytuacji, zamiast konieczności przepracowywania uproszczonej formy całego drzewa możliwości gry w trybie offline, mówi Wellman z University of Michigan.

Naukowcy porównują technikę aproksymacji DeepStack do instynktu ludzkiego gracza, gdy przeciwnik blefuje lub trzyma zwycięską rękę, chociaż maszyna musi opierać swoją ocenę na wzorcach obstawiania przeciwnika, a nie na jego mowie ciała. To oszacowanie można uznać za intuicję DeepStack, piszą. Przeczucie wartości posiadania wszelkich możliwych prywatnych kart w każdej możliwej sytuacji pokerowej.

Możliwe jest zmierzenie wydajności pokerzysty, patrząc na wygraną kwotę w stosunku do kwoty postawionej na jego stole w wielu grach. DeepStack miał wskaźnik wygranych około dziewięć razy lepszy niż ten, który można by uznać za dobry dla profesjonalnego gracza.

W 2015 roku Bowling i współpracownicy z University of Alberta rozwiązali bardziej ograniczoną wersję heats up hold’em, rozwijanie bota pokerowego zdolny do perfekcyjnego grania w tę grę.

Bot pokerowy biorący udział w turnieju Pittsburgh, zwany Libratus, został stworzony przez Sandholma i jednego z jego absolwentów, Noam Brown . Para nie ujawniła jeszcze szczegółów, w jaki sposób ich program podchodzi do gry, ale Brown twierdzi, że zasadniczo próbuje „rozwiązać” grę – lub wymyślić każdy możliwy scenariusz – wcześniej podczas gry, niż było to wcześniej możliwe. Libratus działa na niezwykle wydajnym sprzęcie w Centrum Superkomputerowe Pittsburgh , obiekt prowadzony wspólnie przez CMU i University of Pittsburgh.

ukryć