Pojawiające się pułapki Nowcastingu z Big Data

Na początku tego roku Europejski Bank Centralny zorganizował dwudniowe warsztaty na temat big data i tego, jak można je wykorzystać do prognozowania. Głównym mówcą był Hal Varian, główny ekonomista w Google i znawca liczb o statusie gwiazdy rocka.

Firma Varian przedstawiła moc Google Trends i Google Correlate, firmowych narzędzi big data. W Trendach Google wpisujesz zapytanie i otrzymujesz serię danych o aktywności. Dzięki Google Correlate wprowadzasz serię danych i otrzymujesz listę zapytań, których serie danych są zgodne z podobnym wzorcem, mówi Google na swojej stronie Correlate. Innymi słowy, Google Correlate jest jak Google Trends w odwrotnej kolejności.

Varian pokazał wszelkiego rodzaju ciekawe trendy i korelacje. Na przykład liczba wyszukiwań słowa kac znacznie wzrasta w sobotę, osiąga szczyt w niedzielę i wyraźnie spada w poniedziałek. A wzorzec jest podobny do wzorca wyszukiwania słowa wódka, choć opóźniony o dzień (lub, co bardziej prawdopodobne, noc i poranek później).

W innym przykładzie pokazał, jak wprowadzenie danych dotyczących wstępnych wniosków o zasiłek dla bezrobotnych w USA zwróciło listę 100 zapytań, które przebiegały według podobnego wzorca, w tym fraza zarejestruj się na bezrobocie.

Oczywiście są granice. Wykazał on fałszywą korelację między sprzedażą samochodów w USA a zapytaniem o indyjskie restauracje w latach 2004-2012. Nie jest jasne, dlaczego te dwa zbiory danych podążają za podobnymi trendami, ale jak powie każdy statystyk, korelacja nie oznacza związku przyczynowego.

Przesłanie było jasne. Dane dotyczące wyszukiwanych haseł są niezwykle przydatne, ale należy je traktować z pewną ostrożnością i ostrożnością.

Dzisiaj Paul Ormerod z University College London i kilku kumpli twierdzą, że istnieją inne powody, by zachować ostrożność. Ci faceci przestudiowali dane Google Flu Trends, w których Google wykorzystuje liczbę wyszukiwań związanych z grypą, aby oszacować częstotliwość występowania grypy w różnych częściach świata w określonym czasie.

Ormerod i spółka twierdzą, że istnieje kilka imponujących przykładów, w których Google dokładnie oszacował liczbę przypadków grypy, na przykład w Stanach Zjednoczonych w latach 2011/12, Szwajcarii 2007/8, Niemczech 2005/6 i Belgii 2007/8. Ta umiejętność monitorowania grypy cieszy się szerokim zainteresowaniem mediów.

Mniej znane są przypadki, w których Trendy Google znacznie przeszacowały faktyczną liczbę przypadków grypy. Miało to miejsce w USA zimą 2012/13, w Szwajcarii w 2008/9, Niemczech w 2008/9 i Belgii w 2008/9.

Dlaczego różnica? Ormerod i spółka stawiają hipotezę, że osoby przeprowadzające wyszukiwania związane z grypą można podzielić na dwie kategorie. Pierwsza z nich to osoby cierpiące na objawy grypy, a druga grupa prowadzi poszukiwania tylko dlatego, że inni też szukają, być może z powodu silnego zainteresowania mediów na przykład grypą.

Oczywiście przydatne dane pochodzą od pierwszej grupy osób cierpiących na grypę. Ich powód poszukiwań jest generowany wewnętrznie i niezależny od świata zewnętrznego – czują się chorzy. Dlatego ich wzorzec wyszukiwania powinien różnić się od sposobu wyszukiwania osób, które szukają z powodu zewnętrznych wpływów, takich jak doniesienia prasowe. Ten proces poszukiwania społecznego służy po prostu zawyżaniu liczb.

Jak więc odróżnić te dwie grupy? Ormerod i wsp. stawiają hipotezę, że wzorzec niezależnych wyszukiwań w czasie będzie się znacznie różnić od wyszukiwań społecznościowych. W szczególności mówią, że niezależne wyszukiwania powinny szybko rosnąć, gdy grypa rozprzestrzenia się w populacji i powoli spadać, gdy choroba wygasa. Z kolei wyszukiwania społecznościowe są bardziej symetryczne.

Tak więc symetria danych jest miarą poziomu poszukiwań społecznościowych. Rzeczywiście, pokazują, że ta symetria jest wyraźnie bardziej widoczna w latach, w których Google Flu Trends znacznie przeszacowywał przypadki, w porównaniu z latami, w których była bardziej dokładna.

To interesujący przykład rodzajów pułapek, które statystycy muszą negocjować podczas analizowania dużych zbiorów danych. Trendy Google to tylko przykład — świat jest coraz bardziej zalany dużymi zbiorami danych i statystykami oblizującymi usta.

Nie ma wątpliwości, że ważne informacje dotyczące ekonomii, zdrowia i innych rzeczy można wydobyć z dużych zbiorów danych dzięki odpowiednim narzędziom. Ale dokładnie, jak należy to zrobić dokładnie i rzetelnie, nadal jest przedmiotem poważnej debaty.

Nie różni się to całkowicie od sytuacji, która ma miejsce w przypadku aktualnych danych gospodarczych, które generalnie pozostają w tyle za realną gospodarką o co najmniej miesiąc i często są później korygowane, gdy dane są jaśniejsze. Niewiarygodność tych danych jako źródło poważnych obaw dla decydentów.

Wydaje się jasne, że agencje rządowe, firmy i prawie każdy, kto chce bawić się liczbami, będzie w stanie w przyszłości wydobyć znaczną wartość z danych wyszukiwanych haseł.

Ale ostrzegam, potrzebna jest znaczna ostrożność. Nie tylko wódka pozostawia nieprzyjemny posmak w ustach następnego ranka. Wiele ekonomicznego kaca jest spowodowane nadmiernym pobłażaniem w niewiarygodne dane.

Nr ref.: arxiv.org/abs/1408.0699 : Nowcasting danych ekonomicznych i społecznych: kiedy i dlaczego dane w wyszukiwarkach zawodzą, ilustracja wykorzystująca Google Flu Trends

ukryć