211service.com
Dyktatura danych
Big data ma szansę zmienić społeczeństwo, od diagnozowania chorób po edukację dzieci, a nawet umożliwienie samodzielnego prowadzenia samochodu. Informacje pojawiają się jako nowy wkład ekonomiczny, istotny zasób. Firmy, rządy, a nawet osoby prywatne będą mierzyć i optymalizować wszystko, co możliwe.
Liczba ofiar: Sekretarz obrony USA Robert McNamara informujący prasę o Wietnamie w Pentagonie w 1965 roku.
Ale jest ciemna strona. Duże zbiory danych podważają prywatność. A kiedy jest używany do przewidywania tego, co prawdopodobnie zrobimy, ale jeszcze tego nie zrobiliśmy, zagraża również wolności. Jednak big data zaostrza również bardzo stary problem: poleganie na liczbach, gdy są one znacznie bardziej omylne niż nam się wydaje. Nic bardziej nie podkreśla konsekwencji nieudanej analizy danych niż historia Roberta McNamary.
McNamara był facetem od liczb. Mianowany sekretarzem obrony USA, gdy na początku lat 60. wzrosło napięcie w Wietnamie, nalegał, by zebrać dane na temat wszystkiego, co mógł. Uważał, że tylko stosując rygor statystyczny, decydenci mogą zrozumieć złożoną sytuację i dokonać właściwych wyborów. Jego zdaniem świat był masą niesfornych informacji, które — jeśli zostały nakreślone, oznaczone, wytyczone i określone ilościowo — mogłyby zostać okiełznane ludzką ręką i podlegać ludzkiej woli. McNamara szukał Prawdy i tę Prawdę można było znaleźć w danych. Wśród liczb, które do niego wróciły, była liczba ciał.
McNamara rozwinął swoje zamiłowanie do liczb jako student w Harvard Business School, a następnie jako najmłodszy adiunkt w wieku 24 lat. Zastosowano ten rygor podczas II wojny światowej jako członek elitarnego zespołu Pentagonu o nazwie Statistical Control, który podejmował decyzje oparte na danych do jednej z największych na świecie biurokracji. Wcześniej wojsko było niewidome. Nie znał na przykład typu, ilości czy lokalizacji części zamiennych do samolotu. Na ratunek przyszły dane. Samo usprawnienie zakupów uzbrojenia zaoszczędziło w 1943 roku 3,6 miliarda dolarów. Współczesna wojna wymagała efektywnej alokacji zasobów; praca zespołu okazała się oszałamiającym sukcesem.
Pod koniec wojny członkowie tej grupy zaoferowali swoje umiejętności korporacyjnej Ameryce. Ford Motor Company upadał, a zdesperowany Henry Ford II przekazał im lejce. Tak jak nie wiedzieli nic o wojsku, kiedy pomagali wygrać wojnę, tak samo nie mieli pojęcia o robieniu samochodów. Mimo to tak zwane Whiz Kids odwróciły firmę.
McNamara szybko wspinał się po szczeblach kariery, wyszukując punkt danych dla każdej sytuacji. Zmęczeni kierownicy fabryk przedstawili żądane przez niego liczby — bez względu na to, czy były poprawne, czy nie. Kiedy wydano edykt, że wszystkie zapasy jednego modelu samochodu muszą zostać zużyte, zanim nowy model będzie mógł rozpocząć produkcję, zirytowani kierownicy linii po prostu wrzucili nadmiar części do pobliskiej rzeki. Żart w fabryce polegał na tym, że facet mógł chodzić po wodzie – po zardzewiałych kawałkach samochodów z lat 1950 i 1951.
McNamara uosabiał hiperracjonalnego kierownika, który polegał raczej na liczbach niż na sentymentach i który potrafił zastosować swoje umiejętności ilościowe w każdej branży, do której ich zwrócił. W 1960 r. został mianowany prezesem Forda, które to stanowisko piastował zaledwie przez kilka tygodni, zanim został powołany do gabinetu prezydenta Kennedy'ego jako sekretarz obrony.
W miarę eskalacji konfliktu w Wietnamie i wysłania przez Stany Zjednoczone większej liczby żołnierzy stało się jasne, że była to wojna woli, a nie terytorium. Strategia Ameryki polegała na wepchnięciu Viet Congu do stołu negocjacyjnego. Dlatego sposobem mierzenia postępu była liczba zabitych wrogów. Liczba zgonów była codziennie publikowana w gazetach. Dla zwolenników wojny był to dowód postępu; krytykom dowód jego niemoralności. Liczba ciał była punktem danych, który zdefiniował epokę.
McNamara polegał na liczbach, fetyszyzował je. Ze swoimi perfekcyjnie zaczesanymi włosami i perfekcyjnie zawiązanym krawatem, McNamara czuł, że może zrozumieć, co dzieje się na ziemi, tylko patrząc na arkusz kalkulacyjny – na te wszystkie uporządkowane rzędy i kolumny, obliczenia i wykresy, których mistrzostwo wydawało mu się odchylenie standardowe bliżej Boga.
W 1977 roku, dwa lata po tym, jak ostatni helikopter wzniósł się z dachu ambasady USA w Sajgonie, emerytowany generał armii Douglas Kinnard opublikował przełomową ankietę zatytułowaną Zarządcy wojenni które ujawniło bagno kwantyfikacji. Zaledwie 2% amerykańskich generałów uważało liczenie ciał za prawidłowy sposób mierzenia postępów. Fałszywa — całkowicie bezwartościowa — napisał jeden z generałów w swoich komentarzach. Często rażące kłamstwa, napisał inny. Były one mocno przesadzone przez wiele jednostek, głównie ze względu na niewiarygodne zainteresowanie okazywane przez ludzi takich jak McNamara, powiedział trzeci.
Wykorzystywanie, nadużywanie i niewłaściwe wykorzystywanie danych przez armię amerykańską podczas wojny w Wietnamie to niepokojąca lekcja na temat ograniczeń informacji, gdy świat zmierza w kierunku ery dużych zbiorów danych. Podstawowe dane mogą być niskiej jakości. Może być stronniczy. Może zostać źle zanalizowany lub użyty w sposób wprowadzający w błąd. Co więcej, dane mogą nie uchwycić tego, co rzekomo określają ilościowo.
Jesteśmy bardziej podatni, niż nam się wydaje, na dyktaturę danych — to znaczy na pozwolenie, by dane rządziły nami w sposób, który może wyrządzić tyle samo szkody, co pożytku. Groźba polega na tym, że pozwolimy się bezmyślnie związać wynikiem naszych analiz, nawet jeśli mamy uzasadnione podstawy, by podejrzewać, że coś jest nie tak. Edukacja wydaje się ślizgać? Przeprowadzaj standaryzowane testy, aby mierzyć wyniki i karać nauczycieli lub szkoły. Chcesz zapobiegać terroryzmowi? Twórz warstwy list obserwacyjnych i list zakazu lotów, aby pilnować nieba. Chcesz schudnąć? Kup aplikację, aby liczyć każdą kalorię, ale unikaj rzeczywistych ćwiczeń.
Dyktatura danych usidla nawet najlepszych z nich. Google prowadzi wszystko zgodnie z danymi. Ta strategia przyczyniła się w dużej mierze do jej sukcesu. Ale od czasu do czasu powoduje to również wypadki firmy. Jej współzałożyciele, Larry Page i Sergey Brin, od dawna nalegali, aby znać wyniki SAT wszystkich kandydatów do pracy i ich średnie oceny po ukończeniu college'u. W ich myśleniu pierwsza liczba mierzyła potencjał, a druga mierzyła osiągnięcie. Znakomici menedżerowie po czterdziestce byli ścigani za wyniki, ku ich całkowitemu zaskoczeniu. Firma nadal domagała się tych danych długo po tym, jak jej wewnętrzne badania nie wykazały korelacji między wynikami a wydajnością pracy.
Google powinien wiedzieć lepiej, aby nie dać się uwieść fałszywym urokom danych. Środek pozostawia niewiele miejsca na zmiany w życiu człowieka. Liczy inteligencję książkową kosztem wiedzy. I może nie odzwierciedlać kwalifikacji ludzi z nauk humanistycznych, gdzie know-how może być mniej wymierne niż w naukach ścisłych i inżynierii. Obsesja Google na punkcie takich danych do celów HR jest szczególnie dziwna, biorąc pod uwagę, że założycielami firmy są produkty szkół Montessori, które kładą nacisk na naukę, a nie na oceny. Według standardów Google ani Bill Gates, ani Mark Zuckerberg, ani Steve Jobs nie zostaliby zatrudnieni, ponieważ nie mają stopni naukowych.
Szacunek Google do danych został doprowadzony do skrajności. Aby określić najlepszy kolor paska narzędzi na stronie internetowej, Marissa Mayer, będąc jednym z czołowych menedżerów Google przed przejściem do Yahoo, zleciła personelowi przetestowanie 41 gradacji niebieskiego, aby zobaczyć, które z nich są używane częściej. W 2009 roku czołowy projektant Google, Douglas Bowman, zrezygnował, ponieważ nie mógł znieść ciągłej kwantyfikacji wszystkiego. Niedawno odbyłem debatę na temat tego, czy obramowanie powinno mieć szerokość 3, 4 czy 5 pikseli i zostałem poproszony o udowodnienie mojej racji. Nie umiem działać w takim środowisku – napisał na blogu, ogłaszając rezygnację. Kiedy firma jest wypełniona inżynierami, w celu rozwiązania problemów zwraca się do inżynierii. Skróć każdą decyzję do prostego problemu logicznego. Te dane w końcu stają się podporą dla każdej decyzji, paraliżując firmę.
To jest dyktatura danych. I przypomina myślenie, które doprowadziło Stany Zjednoczone do eskalacji wojny wietnamskiej częściowo na podstawie liczby ofiar, zamiast opierać decyzje na bardziej znaczących wskaźnikach. To prawda, że nie każdą wyobrażalną złożoną sytuację ludzką można w pełni sprowadzić do linii na wykresie, do punktów procentowych na wykresie lub do liczb w bilansie, powiedział McNamara w przemówieniu w 1967 r., ponieważ protesty krajowe były rozwój. Ale całą rzeczywistość można uzasadnić. A nie ilościowe określanie tego, co można określić ilościowo, oznacza jedynie zadowolenie się z czegoś mniej niż pełny zakres rozumu. Gdyby tylko właściwe dane zostały użyte we właściwy sposób, a nie były przestrzegane ze względu na dane.
Robert Strange McNamara kierował Bankiem Światowym przez całe lata siedemdziesiąte, a następnie malował się jako gołąb w latach osiemdziesiątych. Stał się szczerym krytykiem broni jądrowej i orędownikiem ochrony środowiska. W późniejszym życiu stworzył pamiętnik, Z perspektywy czasu , który krytykował myślenie stojące za wojną i jego własne decyzje jako sekretarz obrony. Myliliśmy się, strasznie się myliliśmy, napisał słynne. Ale McNamara, który zmarł w 2009 roku w wieku 93 lat, odnosił się do szerokiej strategii wojennej. W kwestii danych, a zwłaszcza liczenia ciał, nie okazał skruchy. Przyznał, że wiele statystyk było mylących lub błędnych. Ale rzeczy, które możesz liczyć, powinieneś liczyć. Jednym z nich jest utrata życia.
Big data będzie podstawą do ulepszania przyjmowanych przez nas leków, sposobu, w jaki się uczymy i działań jednostek. Istnieje jednak ryzyko, że jego niezwykła moc może skłonić nas do popełnienia grzechu McNamary: do takiego skupienia się na danych i obsesji na punkcie mocy i obietnic, które oferuje, że nie docenimy jego wrodzonej zdolności do wprowadzania w błąd.
Kenneth Cukier jest redaktorem danych Ekonomista . Viktor Mayer-Schönberger jest profesorem zarządzania Internetem i regulacji w Oxford Internet Institute w Wielkiej Brytanii. Są autorami Big Data: rewolucja, która zmieni sposób, w jaki żyjemy, pracujemy i myślimy (Houghton Mifflin Harcourt, 2013), z której zaadaptowano ten artykuł.