Google i Akamai: kult tajemnicy kontra królestwo otwartości

Nigdy nie powinieneś ufać tej liczbie, powiedział Martin Farach-Colton, profesor informatyki na Rutgers University, przemawiając nieco ponad rok temu. Ludzie robią z tego wielkie rzeczy, a to nieprawda.

Farach-Colton wygłaszał publiczny wykład na temat swojej dwuletniej pracy naukowej w Google. Numer, który lekceważył, znajdował się w środku slajdu PowerPointa:

• 150 milionów zapytań/dzień

Kolejny slajd miał jeszcze kilka numerów:

• 1000 zapytań/s (szczyt)
• Ponad 10 000 serwerów
• Ponad 4 teraoperacje/s w dziennym szczycie
• Indeks: 3 miliardy stron internetowych
• 4 miliardy wszystkich dokumentów
• Ponad 4 petabajty miejsca na dysku

Kilka osób na widowni zaczęło chichotać: dane Google nie zgadzały się.

Sam zacząłem liczyć. Zobaczmy: 4 teraoperacje/s oznaczają 4000 miliardów operacji na sekundę; serwer najwyższej klasy może wykonać około dwóch miliardów operacji na sekundę, co przekłada się na około 2000 serwerów, a nie 10 000. Cztery petabajty to 4x1015 bajtów pamięci; rozłóż to na 10 000 serwerów, a będziesz mieć 400 gigabajtów na serwer, co znowu wydaje się błędne, ponieważ Farach-Colton wcześniej powiedział, że Google umieszcza dwa 80-gigabajtowe dyski twarde na każdym serwerze.

A do tego dochodzi kwestia 150 milionów zapytań dziennie. Jeśli system obsługuje szczytowe obciążenie 1000 zapytań na sekundę, przekłada się to na szczytową stawkę 86,4 miliona zapytań dziennie – lub być może 40 milionów zapytań dziennie, jeśli założysz, że system spędza tylko połowę swojego czasu w szczytowej wydajności. Bez względu na to, jak pokierujesz matematyką, statystyki Google nie są spójne.

Te liczby są szalenie niskie, kontynuował Farach-Colton. Google zawsze podaje dużo, dużo niższe liczby niż są w rzeczywistości.

Wyjaśnił, że za każdym razem, gdy ktoś z Google przygotowuje nową prezentację, dział PR sprawdza dyskusję i łamie liczby. Pierwotnie, powiedział, slajd z liczbami mówił, że 1000 zapytań na sekundę to minimalna stawka, a nie szczyt. Mamy ponad 10 000 serwerów. To dużo plus.

Tak jak wyszukiwarka Google wraca natychmiast i pozornie bez wysiłku z odpowiedzią na każde zapytanie, które ją rzucisz, ukrywając przed użytkownikami prawdziwą trudność zadania, firma chce również, aby jej konkurenci nie mieli pojęcia o trudności problemu. W końcu, gdyby Google ogłosiło, ile stron zindeksował i ile komputerów ma w swoich centrach danych na całym świecie, konkurenci wyszukiwania, tacy jak Yahoo!, Teoma i Mooter, wiedzieliby, ile kapitału musieli zebrać, aby mieć nadzieja na przemieszczenie króla na szczycie wzgórza.

Google czasami miał trudności z utrzymaniem jasnej historii. Kiedy wiceprezes ds. inżynierii Urs Hoelzle wygłosił przemówienie na temat klastrów linuksowych firmy Google na Uniwersytecie Waszyngtońskim w listopadzie 2002 r., powtórzył liczbę 1000 zapytań na sekundę, ale powiedział, że pomiar został wykonany 25 grudnia o godzinie 2:00 w nocy. , 2001. Jego punkt widzenia, oczywisty dla wszystkich obecnych na sali, jest taki, że nawet do listopada 2002 r. Google wykonywał znacznie więcej niż 1000 zapytań na sekundę – ale ile więcej, nikt nie mógł się domyślić.

Fakty mogą się wydostać. W ostatnie Święto Dziękczynienia New York Times poinformował, że Google przekroczył granicę 100 000 serwerów. Jeśli to prawda, oznacza to, że Google obsługuje prawdopodobnie największą sieć komputerów na świecie. Sam fakt, że mogą budować i obsługiwać centra danych tej wielkości, jest zdumiewający, mówi Peter Christy, współzałożyciel NetsEdge Research Group, firmy zajmującej się badaniem rynku i strategią w Dolinie Krzemowej. Christy, który pracuje w branży od ponad 30 lat, jest zdumiony skalą systemów Google i kompetencjami firmy w ich obsłudze. Nie sądzę, żeby ktoś był blisko.

To właśnie ta umiejętność budowania i obsługi niezwykle gęstych klastrów jest jak wszystko inne tajemnicą sukcesu Google. A powód, wyjaśnia Marissa Mayer, dyrektor ds. konsumenckich produktów internetowych, ma związek ze sposobem, w jaki Google rozpoczął działalność w Stanford.

Zamiast zdobyć kilka szybkich komputerów i uruchomić je na maksa, Mayer wyjaśnił podczas wydarzenia rekrutacyjnego w MIT, założyciele Sergey Brin i Larry Page musieli zadowolić się przekazami z wydziału informatyki Stanforda. Pójdą do rampy załadunkowej, aby zobaczyć, kto kupuje nowe komputery, a następnie zapytają, czy mogą mieć stare, przestarzałe maszyny, które zastępują nowe. Dlatego od samego początku Brin i Page byli zmuszeni do opracowania rozproszonych algorytmów, które działały w sieci niezbyt niezawodnych maszyn.

Dziś ta filozofia jest wpisana w DNA firmy. Google kupuje najtańsze komputery, jakie może znaleźć, i umieszcza je w stojakach i stojakach w swoich sześciu (lub więcej) centrach danych. Komputery są dość niezawodne, ale jeśli masz ich tysiąc, jeden z nich będzie zawodził każdego dnia, powiedział Hoelzle. Więc jeśli możesz po prostu kupić 10 procent więcej, nadal jest to tańsze niż kupowanie bardziej niezawodnej maszyny.

Jeden z inżynierów powiedział mi niedawno, że praca w Google jest najlepszym sposobem, by mieć do dyspozycji nieograniczoną ilość mocy obliczeniowej.

Królestwo Otwartości

Istnieje inna firma, która do perfekcji opanowała sztukę obsługi ogromnej liczby komputerów przy stosunkowo niewielkiej liczbie pracowników. Tą firmą jest Akamai.

Akamai nie jest teraz popularnym słowem, ale trafił na pierwsze strony, kiedy firma weszła na giełdę w listopadzie 1999 r., co było wówczas czwartą najbardziej udaną pierwszą ofertą publiczną w historii. Akcje Akamai poszybowały w górę i uczyniły z założycieli miliarderów. Jednak w następnych latach Akamai przeżywał ciężkie czasy. Nie tylko awaria dot-comów spowodowała znaczne zwolnienia i porzucenie kalifornijskich biur firmy: współzałożyciel i dyrektor techniczny Akamai, Danny Lewin, był na pokładzie samolotu American Airlines Flight 11 11 września i zginął, gdy samolot wleciał na lotnisko. Światowe Centrum Handlu. Morale firmy zostało zrujnowane.

Sieć Akamai działa w tej samej skali złożoności, co sieć Google. Chociaż Akamai ma tylko 14 000 maszyn, serwery te znajdują się w 2500 różnych lokalizacjach rozsianych po całym świecie. Serwery są używane przez firmy takie jak CNN i Microsoft do dostarczania stron internetowych. Tak jak serwery Google są obecnie używane praktycznie przez wszystkich w Internecie, tak samo są z serwerami Akamai.

Ze względu na swoją skalę zarówno Akamai, jak i Google musiały opracować narzędzia i techniki zarządzania tymi maszynami, debugowania problemów z wydajnością i obsługi błędów. To nie jest oprogramowanie, które firma może kupić z półki – wymaga pracochłonnego wewnętrznego rozwoju. W rzeczywistości jest to oprogramowanie, które jest jedną z kluczowych przewag konkurencyjnych Akamai.

Tak, kilka innych organizacji również prowadzi duże klastry komputerów. Zarówno Ames Research Center NASA, jak i Virginia Tech mają duże klastry poświęcone informatyce naukowej. Istnieją jednak kluczowe różnice między tymi systemami a klastrami utworzonymi zarówno przez Google, jak i Akamai. Systemy naukowe znajdują się w jednym miejscu, a nie na całym świecie. Na ogół nie mają bezpośredniego kontaktu z Internetem. A co być może najważniejsze, systemy naukowe nie dostarczają codziennie usług towarowych setkom milionów internautów: Google i Akamai muszą zapewnić 100-procentowy czas pracy bez przestojów. Łatwo jest wyjść i kupić 10 000 komputerów — wszystko, czego potrzebujesz, to gotówka. Znacznie trudniej jest sprawić, by wszystkie te komputery działały razem jako jedna usługa, która obsługuje miliony jednoczesnych użytkowników.

Aby być uczciwym, istnieją istotne różnice między Google a Akamai – różnice zapewniają, że Google nie włamie się do firmy Akamai w najbliższym czasie, ani Akamai nie przejdzie do firmy Google. Obie firmy opracowały infrastrukturę do uruchamiania masowo równoległych systemów, ale aplikacje, które uruchamiają na tych systemach, są inne. Podstawową aplikacją Google jest wyszukiwarka. Z kolei Akamai opracował system dostarczania stron internetowych, mediów strumieniowych i wielu innych standardowych protokołów internetowych.

Inną ważną różnicą, mówi Christy, jest to, że Akamai miał bardzo trudności ze stworzeniem przejrzystego modelu biznesowego, który działa, podczas gdy Google odniósł niewiarygodny sukces. W ten sposób Akamai zaczął szukać nowych sposobów sprzedawania usług, które może dostarczyć tylko ogromna sieć rozproszona. Walcząc o rentowność, firma intensywnie poszukuje nowych możliwości dla swojej technologii. To może być powód, dla którego Akamai, w przeciwieństwie do Google, chciał udzielić wywiadu do tego artykułu.

Zaczęliśmy od podstawowych obiektów dostarczających bity, zdjęć, banerów, reklam, mówi Tom Leighton, główny naukowiec Akamai. Robimy to lokalnie. Zrób to szybko. Spraw, aby był niezawodny. Spraw, aby strony były lepsze.

Obecnie Akamai opracowuje techniki umożliwiające klientom uruchamianie aplikacji bezpośrednio na rozproszonych serwerach firmy. Leighton twierdzi, że zrobiło to 25 największych klientów Akamai. System radzi sobie z nagłymi przepięciami, dzięki czemu idealnie nadaje się do przypadków, w których nie można przewidzieć zapotrzebowania.

Na przykład, mówi Leighton, sieć Akamai była wykorzystywana do obsługi konkursu na klawiaturę sponsorowanego przez Logitech. Myśląc, że konkurs może być popularny, Logitech stworzył rozbudowaną serię zasad, zapewniając, że tylko tyle klawiatur zostanie rozdanych każdemu stanowi i w określonym przedziale czasu. Ale Logitech rażąco nie docenił liczby osób, które zgłosiłyby się do konkursu. W przeszłości takie niedoszacowania powodowały awarię szeroko nagłośnionych wydarzeń internetowych, takich jak webcast Victoria’s Secret, co frustrowało miliony internautów i wprawiało w zakłopotanie firmę. Ale nie tym razem: konkurs Logitecha przebiegał w sieci Akamai bez żadnych problemów.

Oczywiście Logitech mógł spróbować sam zbudować system. Mógł zaprojektować i przetestować serwer zdolny do obsługi 100 jednoczesnych użytkowników. Ten serwer może kosztować 5000 USD. Wtedy Logitech mógłby kupić 20 takich serwerów za 100 000 dolarów i umieścić je w centrum danych. Ale jedno centrum danych może być przeciążone, więc bardziej sensowne może być umieszczenie 10 z nich w jednym centrum danych na wschodnim wybrzeżu, a 10 w innym centrum danych na zachodnim wybrzeżu. Mimo to system ten mógł obsłużyć tylko 2000 jednoczesnych użytkowników: może lepiej kupić 100 serwerów za łączny koszt 500 000 USD i umieścić je w 10 różnych centrach danych. Ale nawet gdyby to zrobili, inżynierowie firmy Logitech nie mieliby możliwości dowiedzenia się, czy system rzeczywiście zadziałałby, gdy został poddany testom — i zainwestowaliby ogromną ilość pieniędzy w inżynierię, która by nie były potrzebne po wydarzeniu.

A konkursy to nie jedyna rzecz, którą można uruchomić w sieci Akamai. Praktycznie każdy program napisany w języku programowania Java może działać na infrastrukturze firmy. System obsługuje wnioski o kredyt hipoteczny, katalogi oraz elektroniczne wózki sklepowe. Akamai prowadzi nawet zaplecze dla 99-centowej usługi muzycznej iTunes firmy Apple.

Być może dlatego, że Akamai jest tak dumny z systemu, który zbudował, firma jest bardzo otwarta na szczegóły techniczne sieci. Jej centrum operacji sieciowych w Cambridge w stanie Massachusetts ma szklaną ścianę, dzięki której odwiedzający mogą zobaczyć duży ekran ze statystykami. Kiedy odwiedziłem firmę w styczniu, na ekranie pojawił się komunikat, że Akamai obsługuje 591 763 wejść na sekundę, z 14 372 procesorami online, 14 563 gigahercami całkowitej mocy obliczeniowej i 650 terabajtami całkowitej pamięci masowej. 14 kwietnia liczba ta wzrosła do szczytowego wskaźnika 900 000 trafień na sekundę i 43,71 miliarda żądań dostarczonych w ciągu 24 godzin. (Akamai nie ujawniłby liczby procesorów online, ponieważ ta liczba jest częścią jej kwartalnego raportu o zarobkach, który ma zostać opublikowany 28 kwietnia. Ale nie zmienił się zbytnio, powiedział mi rzecznik firmy).

Poczta i skalowanie

Patrząc w przyszłość, kilka możliwości biznesowych w oczywisty sposób przemawia do Google i Akamai. Na przykład obie firmy mogą wykorzystać swoje doświadczenie w budowaniu rozproszonych klastrów na dużą skalę, aby stworzyć ogromny system tworzenia kopii zapasowych dla małych firm i użytkowników komputerów domowych. Mogą też przejąć zarządzanie domowymi komputerami PC, zamieniając je w inteligentne terminale z aplikacjami na zdalnych serwerach. Pozwoliłoby to użytkownikom komputerów PC uciec od znoju administrowania własnymi maszynami, instalowania nowych aplikacji i aktualizowania programów antywirusowych.

A potem jest e-mail. Już 1 kwietnia firma Google ogłosiła, że ​​zamierza wejść na rynek konsumenckiej poczty e-mail z niekonwencjonalnym komunikatem prasowym: Wyszukiwarka to numer dwa w aktywności online, a adres e-mail to numer jeden: „Cholera, tak”, mówią założyciele Google.

Od tego czasu firma Google otrzymała spory rozgłos za ogłoszony projekt swojej oferty Gmail (Google Mail). Bezpłatna usługa obiecuje konsumentom jeden gigabajt miejsca na pocztę (ponad sto razy większą niż w przypadku innych dostawców poczty internetowej), zdumiewające przeszukiwanie archiwów poczty oraz obietnicę, że konsumenci nigdy więcej nie będą musieli usuwać wiadomości e-mail. Na początku wiele osób myślało, że ogłoszenie było żartem primaaprilisowym – gigabajt na użytkownika wydawał się po prostu zbyt dużą ilością pamięci. Ale ponieważ zdecydowana większość użytkowników nie będzie korzystać z tak dużej ilości miejsca, tak naprawdę obietnica Google mówi, że Google może kupować nowe dyski twarde szybciej, niż użytkownicy Internetu mogą je zapełnić. [ Od redakcji: Propozycja Google, aby finansować Gmaila poprzez wyświetlanie reklam opartych na treści wiadomości e-mail użytkowników, spotkała się z poważną krytyką ze strony różnych aktywistów zajmujących się ochroną prywatności. Na początku tego miesiąca wielu aktywistów zajmujących się ochroną prywatności rozesłało list z prośbą do Google o nieuruchamianie Gmaila do czasu rozwiązania tych problemów. Simson Garfinkel podpisał ten list jako zwolennik po napisaniu tego artykułu, ale przed jego publikacją.]

Infrastruktura Google wydaje się dobrze dopasowana do wdrożenia usługi takiej jak Gmail. Zeszłego lata Google opublikował dokument techniczny o nazwie The Google File System (GFS), który najwyraźniej jest podstawową technologią opracowaną przez Google w celu umożliwienia szybkiej replikacji i dostępu do danych w swoich klastrach. Dzięki GFS poczta e-mail każdego użytkownika może być replikowana między kilkoma różnymi klastrami Google; kiedy użytkownicy logują się do Gmaila, ich przeglądarka internetowa może być automatycznie przekierowywana do najbliższego klastra, który ma kopię ich wiadomości.

Jest to trudna do wykonania technologia — i to dokładnie taki system, jaki Akamai rozwijał przez ostatnie sześć lat. W zasadzie nie ma powodu, dla którego Akamai nie mógłby dość łatwo wdrożyć podobnego wielkoskalowego systemu poczty e-mail na własnych serwerach. Bez powodu, poza filozofią firmy.

Leighton nie sądzi, by Akamai przeniósł się do jakiejkolwiek działalności, która wymagałaby od firmy bezpośredniego zajmowania się użytkownikami końcowymi. Mówi, że bardziej prawdopodobne jest, że Akamai dostarczy infrastrukturę jakiejś innej firmie, która byłaby w stanie zajmować się rozliczeniami, obsługą klienta i marketingiem dla użytkowników końcowych. Skupiamy się na sprzedaży do przedsiębiorstwa, mówi.

Zgadza się z tym George Hamilton, analityk z Yankee Group, który zajmuje się komputerami korporacyjnymi i sieciami. Hamilton nazywa pomysł rywalizacji Google z Akamai naciąganym. Ale Google może zatrudnić Akamai do uzupełnienia potrzeb technologicznych Google, mówi.

Jednak takie partnerstwo wydaje się mało prawdopodobne – przynajmniej na pierwszy rzut oka. Google może kupić Akamai, w taki sam sposób, w jaki firma kupiła Pyra Labs w lutym 2003 r., aby nabyć osobisty system publikowania Pyra Blogger w Internecie. Ale Akamai, ze swoją kulturą otwartości, nie wydaje się pasować do tajnych Google. Do tego dochodzi fakt, że 20 procent przychodów Akamai pochodzi bezpośrednio od Microsoftu, jak wynika z raportu kwartalnego Akamai z listopada 2003 roku. Rywalizacja Google z Microsoftem w wyszukiwarce internetowej (a teraz także w e-mailach) była szeroko komentowana w prasie; jest mało prawdopodobne, aby firma chciała tak blisko współpracować z tak bliskim partnerem Microsoft.

Ted Schadler, wiceprezes firmy zajmującej się badaniami rynku Forrester, mówi, że można sobie wyobrazić konkurujące ze sobą dwie firmy, ponieważ obie dążą do tej samej szansy w ogromnym, rozproszonym przetwarzaniu. W tym sensie mają tę samą wizję. Muszą zbudować wiele tej samej technologii, ponieważ ona nie istnieje. Muszą uczyć się wielu takich samych lekcji i rozwijać wiele takich samych technologii i modeli biznesowych.

Schadler mówi, że Akamai i Google są przykładami tego, co nazywa programowalnymi internetowymi kanałami biznesowymi. Kanały te to firmy oferujące dużą infrastrukturę, która może zaoferować wysokiej jakości usługi w Internecie setkom milionów użytkowników za jednym naciśnięciem przełącznika. Takimi firmami są Google i Akamai, podobnie jak Amazon.com, eBay, a nawet Yahoo!. Są to wszystkie usługi, które umożliwiają korzystanie z usług podstaw działalności gospodarczej, które [można] bezpiecznie skalować, mówi Schadler.

Gdybym był graczem, dodaje Schadler, powiedziałbym, że Google jest o wiele bardziej zainteresowany obsługą klienta, a Akamai jest bardziej zainteresowany zapewnieniem infrastruktury – to sprzedaż detaliczna niż hurtowa. Tych usług zorientowanych na handel detaliczny będzie bardzo dużo.

Jeśli to prawda, Google może nagle znaleźć się w konkurencji z firmą, która, podobnie jak samo Google, wydaje się pojawiać znikąd. Tyle że tym razem ta firma nie musiałaby wymyślać żadnych sztuczek związanych z prowadzeniem samej ogromnej infrastruktury.

I to wyjaśnia, dlaczego Google jest tak tajemniczy.

ukryć