Co je to superpočítač a jak funguje?

Procházet se mezi řadami skříní superpočítačů v Argonne National Laboratory’s Leadership Computing Facility, která se nachází asi 25 mil od Chicaga, je něco jako procházet high-tech verzí bludiště Overlook z filmu Osvícení – bez šílence se sekerou.

Dva hlavní superpočítače v tomto ocelovém labyrintu, pojmenované Mira a Theta, se skládají ze 101 skříní velikosti standardních ledniček, které obsahují hromady stojanů a každý váží mezi 3 450 a 4 390 kg. Jejich celková hmotnost je 160 tun – velkou část této hmotnosti tvoří systémy vodního chlazení, které zabraňují přehřátí. Spolu s několika dalšími menšími systémy jsou stroje umístěny v datovém centru o rozloze 25 000 čtverečních stop s nízkými stropy a bílou dlažbou. Vzhledem k tomu, že všechno toto zařízení bzučí, není to zrovna tiché místo. V blízkosti počítačů musí návštěvníci mluvit-křičet, aby je bylo slyšet nad neustálým hlasitým hučením.

Šest miliardkrát rychlejší:

Přestože je zařízení rozlehlé, nestačí na to, aby se do něj vešlo monstrum, které tam brzy přistane. Někdy v roce 2021, pokud vše půjde podle plánu, se zde usídlí nový fantasticky výkonný superpočítač s názvem Aurora. A tak v rámci příprav na jeho příchod probíhá rozsáhlé rozšíření. Aurora v ceně 500 milionů dolarů bude prvním ze tří takzvaných „exascale“ superpočítačů schopných provádět miliardu miliard (neboli kvintilionů) výpočtů za sekundu, do nichž americké ministerstvo energetiky (DOE), které Argonne a dalších 17 národních laboratoří provozuje, investuje 1,8 miliardy dolarů. (Další, nazvaný Frontier, bude brzy instalován v Národní laboratoři Oak Ridge v Tennessee).

Není divu, že za takové peníze bude Aurora schopna provádět menší výpočetní zázraky. Měřeno jako 1018 FLOPS (což je zkratka pro operace s plovoucí desetinnou čárkou za sekundu) bude systém šest miliardkrát rychlejší než jeho dávný předchůdce, průlomový Cray-1 z roku 1964. Řečeno hmatatelněji, s laskavým svolením Design News: „Člověk, který by jednou za sekundu sčítal 1+1+1 do ruční kalkulačky bez volna na jídlo nebo spánek, by potřeboval 31,7 bilionu let, aby udělal to, co Aurora zvládne za jednu sekundu.“

To je pětkrát až desetkrát rychleji než současný úřadující šampion mezi superpočítači, megastroj IBM-Nvidia s názvem Summit, který sídlí v Oak Ridge.

Koho Aurora sesadí z trůnu? Zde je přehled 10 nejrychlejších superpočítačů na světě podle mozkového trustu TOP500.

„Existují omezení toho, co dnes můžeme na superpočítači dělat,“ řekl nedávno Mike Papka, ředitel Leadership Computing Facility, po prohlídce prostor. „S Aurorou je můžeme posunout na další úroveň. Právě teď můžeme provádět simulace vývoje vesmíru. Ale s Aurorou to budeme moci dělat realističtěji, přidáme k nim více fyziky a chemie. Začínáme dělat takové věci, jako je snaha pochopit, jak na sebe vzájemně působí různé léky a například nějaká forma rakoviny. To už můžeme dělat v malém měřítku. S Aurorou to budeme moci dělat v ještě větším měřítku.“

Jako jeden z 52 superpočítačů ministerstva energetiky bude Aurora po svém debutu pravděpodobně jediným existujícím systémem exascale. (Tedy pokud ho Čína nepostaví jako první – což je podle některých zasvěcených dost nepravděpodobné, přestože se objevily zprávy, že tato země usilovně pracuje na jeho výrobě do roku 2020). Na tiskové konferenci v březnu 2019, kde byla instalace systému Aurora oznámena, vysvětlil zástupce ředitele laboratoře Argonne Rick Stevens, že systém bude zpracovávat vysoce výkonné výpočetní aplikace a také analýzu datových toků, které generují urychlovače, detektory, teleskopy a další výzkumná zařízení.

V tuto chvíli však Aurora zůstává nedokončenou prací, zatímco Summit získává slávu. Summit, který měl být původně uveden do provozu před několika lety v mnohem méně výkonné inkarnaci a spuštěn v polovině roku 2018, stál 200 milionů dolarů, dokáže provádět složité matematické výpočty rychlostí 200 kvadrilionů (neboli 200 bilionů) za sekundu a je zodpovědný za to, že Americe vyfoukl zpět první místo na seznamu TOP500 od Číny. Fyzicky impozantní počítač se skládá z více než 300 jednotek – podobně velkých jako Mira a Theta -, které váží celkem 340 tun, zabírají 9 250 čtverečních stop a pohání je 9 216 centrálních výpočetních čipů. Uvnitř jsou kilometry optických kabelů a chlazení tohoto monstra vyžaduje 4 000 galonů vody za minutu. Také spotřebovává obrovské množství energie – tolik, že by stačilo na napájení tisíců domácností.

Když „otec superpočítačů“ Seymour Cray začal v 60. letech 20. století stavět své revoluční stroje, byla taková vlnící se přehlídka výpočetních sil nepochopitelná. O více než půl století později se pomalu stává normou – a jednou bude vypadat stejně kuriózně jako dnes Atari 2600.

Co je to superpočítač? (nápověda: klíčem je paralelní výpočet)

Superpočítače už léta používají techniku zvanou „masivně paralelní zpracování“, při níž jsou problémy rozděleny na části a pracují na nich současně tisíce procesorů, na rozdíl od „sériové“ metody, kdy se zpracovávají po jednom, například u vašeho starého MacBooku Air. Zde je další dobrá analogie, tato z webu Explainthatstuff.com:

Je to jako přijít k pokladně s košíkem plným zboží, ale pak si zboží rozdělit mezi několik různých přátel. Každý přítel může projít samostatnou pokladnou s několika položkami a zaplatit zvlášť. Jakmile všichni zaplatíte, můžete se opět sejít, naložit košík a odejít. Čím více je položek a čím více máte přátel, tím rychleji lze vše provést paralelním zpracováním – alespoň teoreticky.

„Abyste skutečně využili výkon superpočítače, musíte používat paralelní výpočty,“ říká doktorandka Rensselaer Polytechnic Institute Caitlin Joann Rossová, která nedávno absolvovala půlroční stáž v Argonne. „Musíte pochopit, jak je třeba vyměňovat data mezi procesy, aby to bylo efektivní, takže je tu spousta různých drobných výzev, díky kterým je práce s nimi velmi zábavná. I když jsou dny, kdy to určitě může být frustrující.“

„Problémy s laděním“ jsou podle ní hlavní příčinou této frustrace. Například výpočty, které mohou hladce probíhat při použití čtyř procesorů, se mohou porouchat, pokud se přidá pátý.

„Pokud vše běží perfektně,“ říká Ross, „pak cokoli, co právě spouštíte, běží mnohem rychleji než na počítači s menším počtem procesorů nebo s jedním procesorem. Existují určité výpočty, které na vašem notebooku mohou trvat týdny nebo měsíce, ale pokud je dokážete efektivně paralelizovat tak, aby běžely na superpočítači, může to trvat jeden den.“

Další oblastí Rossovy práce je simulace samotných superpočítačů – konkrétně sítí používaných na superpočítačích. Data z aplikací, které běží na skutečných superpočítačích, se vkládají do simulátoru, který umožňuje testovat různé funkce, aniž by bylo nutné celý systém vyřadit z provozu. Jednou z těchto funkcí je něco, čemu se říká „rušení komunikace“.

„Ve skutečném životě budou různí uživatelé zadávat úlohy superpočítači, který bude provádět určitý typ plánování, aby určil, kdy se tyto úlohy spustí,“ říká Ross. „Na superpočítači bude obvykle běžet více různých úloh ve stejnou dobu. Využívají různé výpočetní uzly, ale sdílejí síťové prostředky. Takže komunikace z cizí úlohy může zpomalit vaši úlohu, a to na základě způsobu, jakým jsou data směrována přes síť. Pomocí simulací můžeme zkoumat tyto typy situací a testovat věci, jako jsou jiné směrovací protokoly, které by mohly pomoci zlepšit výkon sítě.

K čemu se používají superpočítače?Jen k simulaci reality, nic víc

V posledních několika desetiletích a v současnosti je hlavním přínosem superpočítačů pro vědu jejich stále se zlepšující schopnost simulovat realitu s cílem pomoci lidem lépe předpovídat výkon a navrhovat lepší výrobky v oborech od výroby a těžby ropy až po farmacii a vojenství. Jack Dongarra, jeden z předních světových odborníků na superpočítače, přirovnává tuto schopnost ke křišťálové kouli.

„Řekněme, že chci pochopit, co se stane, když se srazí dvě galaxie,“ říká Dongarra. „Takový experiment opravdu nemohu provést. Nemohu vzít dvě galaxie a srazit je. Takže musím vytvořit model a spustit ho na počítači. Nebo za starých časů, když navrhovali auto, vzali ho a narazili s ním do zdi, aby zjistili, jak dobře vydrží náraz. To je dost drahé a časově náročné. Dnes to neděláme tak často; sestavíme počítačový model se všemi fyzikálními parametry a nabouráme s ním do simulované zdi, abychom pochopili, kde jsou slabá místa.“

Zejména společnosti vidí v superpočítačových simulacích peněžní hodnotu (ROI, jak říkají korporátní typy), ať už jde o výrobu automobilů, těžbu ropy nebo objevování nových léků. V roce 2018 přispěly firemní a vládní nákupy ke stále silnějšímu trhu s vysoce výkonnými počítači.

„Z pěti set nejlepších počítačů je více než polovina v průmyslu,“ říká Dongarra, který strávil počáteční část své kariéry v Argonne. „Průmysl to chápe. Investují do výkonných počítačů, aby byli konkurenceschopnější a získali náskok před konkurencí. A mají pocit, že tyto peníze jsou dobře vynaložené. Investují do těchto věcí, aby podpořili své produkty a inovace, své hospodářské výsledky, produktivitu a ziskovost.“

Jde však o víc než jen o návratnost investic.

„Tradiční komerční podnik může vidět výpočty návratnosti investic typu: ‚Ušetřilo nám to tuto částku nákladů na fyzické testování‘ nebo ‚Byli jsme schopni rychleji se dostat na trh, a proto jsme získali další příjmy,'“ říká Andrew Jones, britský konzultant v oblasti vysoce výkonných počítačů. „Ale základní výpočet návratnosti investic do HPC nemusí být nutně tím, z čeho pramení hodnota. Když se zeptáte ropné společnosti, nevychází to z toho, že by byla schopna najít ropu o 30 procent levněji. Jde o to, zda jsme schopni ropu najít, nebo ne.“

Společnosti, které využívají superpočítače k velkým zlepšením a zvýšení efektivity, mají před svými konkurenty náskok.

„A totéž platí pro mnoho vědeckých oborů,“ dodává Jones. „Nehledáte nutně návratnost investic v konkrétním smyslu, hledáte obecné schopnosti – zda jsou naši výzkumníci schopni dělat vědu, která je mezinárodně konkurenceschopná, nebo ne.“

Potřeba rychlosti

“ „Neexistují dva větší pachatelé „podívejte se, jak je můj systém velký“ než U. S. Rowlingová.USA a Čína.“

Protože rychlejší počítače umožňují výzkumníkům rychleji získat větší přehled o tom, na čem pracují, existuje stále větší potřeba – nebo alespoň silná touha – po rychlosti. Dongarra to nazývá „nikdy nekončícím hledáním“ a (zatím neprokázané) trvalé exascale schopnosti Aurory by byly zatím vrcholem tohoto hledání. Přesto to bude jeden z mnoha. Desítky dalších superpočítačů s někdy až epicky znějícími jmény (Titan, Excalibur) fungují v dalších 26 zemích světa. Vyrábí je 36 různých dodavatelů, pohání je 20 generací procesorů a slouží různým průmyslovým odvětvím i vládním funkcím od vědeckého výzkumu po národní obranu.

Tyto statistiky pocházejí z webu TOP500.org. Tu spoluzaložil Dongarra a od roku 1993 sleduje vše, co se týká superpočítačů, a k měření výkonnosti používá jeho benchmark LINPACK (který odhaduje, jak rychle počítač pravděpodobně spustí jeden nebo více programů). Podle jejího nejnovějšího přehledu největších a nejhorších superpočítačů na světě má Amerika pět (brzy jich bude šest) z deseti nejlepších – včetně nejrychlejšího superpočítače planety v Summitu v Oak Ridge a druhého nejrychlejšího, Sierry, v Národní laboratoři Lawrence Livermora v Kalifornii. Druhá Čína má pouze dva (ale brzy budou tři). Jistě, tato země obsadila 227 z 500 prvních míst a vyrobila 303 strojů z tohoto seznamu, ale USA se stále mohou ohánět svým obřím pěnovým prstem. Prozatím. Soutěž pokračuje a nejeví známky toho, že by měla ustat.

„Neexistují dva větší přestupníci hesla ‚podívejte se, jak velký mám systém‘ než USA a Čína,“ říká Nicole Hemsothová, spoluzakladatelka a spoluvydavatelka časopisu The Next Platform.

Ačkoli se Čína historicky méně zajímala o žebříček Top 500, vysvětluje, v posledních několika letech učinila z vysoce výkonné výpočetní techniky „bod národní hrdosti“, klade větší důraz na „výkonnostní žebříčky“ a vynakládá miliardy na jejich dosažení. Mezi další konkurenty v oblasti exascale patří Francie a Japonsko. Podle jedné studie půjde 10 miliard dolarů z předpokládaných 130 miliard dolarů vynaložených na superpočítače v letech 2018 až 2021 na systémy exascale, jako je ten, který je určen pro Argonne.

„Závod mezi zeměmi je částečně skutečný a částečně umělý,“ říká Jones. „Takže pokud jste například ředitelem americké národní laboratoře a snažíte se získat finanční prostředky na další HPC stroj, je velmi dobrým argumentem říci: ‚Čína má desetkrát větší, takže ji musíme dohnat. Evropská unie a Čína hrají stejnou hru proti USA, takže je tu trochu vytvořené napětí, které nemusí být nutně skutečné, ale pomáhá řídit .“

Významnou roli hrají také média. Novináři rádi předkládají ohromující superpočítačové statistiky a sugestivně je vysvětlují. Příklad je na začátku tohoto článku. Tady je další, z New York Times: „Kdyby byl stadion postavený pro 100 000 lidí plný a každý na něm měl moderní notebook, bylo by potřeba 20 stadionů, aby se vyrovnaly výpočetní síle Summitu.“

Vládní představitelé si také užívají trochu superpočítačové nabubřelosti a mluví o svém gargantuovském výpočetním výkonu jako o klíči ke zlepšení společnosti – a samozřejmě jako o důkazu naprosté úžasnosti své země. John F. Kennedy, který v roce 1961 odstartoval vesmírné závody, by z toho měl radost.

„Je to základní ekonomická konkurenceschopnost,“ říká Jones. „Pokud klesnete natolik, že váš národ přestane být ekonomicky konkurenceschopný vůči jiným srovnatelně velkým zemím, pak to vede k celé řadě dalších politických a bezpečnostních problémů, které je třeba řešit.“

Výpočetní výkon + síla = vojenská moc

Podotýká, že kromě bezpečnostních a ekonomických aspektů vidí ti, kteří jasně chápou důsledky vysoce výkonné výpočetní techniky, její obrovský přínos pro vědu, podnikání a další odvětví. „Takže to, že tyto věci děláme, není žádný problém.“ (Jistě, podle některých zpráv jsou tyto přínosy přehnané.) Například v oblasti jaderného zbrojení se superpočítače ukázaly jako obrovský přínos pro věci, které vybuchují. Důmyslné simulace odstranily potřebu testování v reálném světě.

„Nevyvíjejí něco, nevyjedou do pouště, nevyvrtají díru a nezjistí, jestli to funguje,“ říká Dongarra o praxi, která přestala před desetiletími. „Simulují tento návrh na superpočítači. Simulují také, co se s nimi stane, když budou tolik a tolik let na poličce, protože musí ověřit, že zásoby budou fungovat.“

V rámci nedávné významné modernizace nainstalovala Výzkumná laboratoř vzdušných sil – jedno z pěti superpočítačových center amerického ministerstva obrany – čtyři sdílená superpočítače, na kterých může celá americká armáda provádět utajovaný výzkum. Projekt byl propagován jako způsob, jak pomoci výzkumníkům letectva, armády a námořnictva „rychle reagovat na nejnaléhavější a nejsložitější výzvy naší země, což také urychluje nové schopnosti pro bojovníky při nižších nákladech pro daňové poplatníky.“

Vysvětlete si to, jak chcete.

Superpočítače a umělá inteligence

Umělá inteligence je stále poměrně primitivní, ale superpočítače to mění tím, že turboaktivují procesy strojového učení, aby z většího množství dat získávaly rychlejší výsledky – jako v tomto klimatologickém výzkumu.

„Zabývat se superpočítači znamená věřit v sílu algoritmu, který dokáže vydestilovat cenné, smysluplné informace z opakované implementace procedurální logiky,“ píše Scott Fulton III v zasvěceném článku na ZDNet. „Základem superpočítačů jsou dva ideály: jeden, který vyznává, že dnešní stroj nakonec dospěje k novému a mimořádně hodnotnému řešení, následovaný druhým a jemnějším pojetím, že dnešní stroj je prototypem stroje zítřejšího.“

Jak uvedl ředitel Argonne Paul Kearns pro HPCWire, Aurora je určena pro umělou inteligenci „nové generace“, která urychlí vědecké objevy a umožní zlepšení v takových oblastech, jako je předpověď extrémního počasí, léčba, mapování mozku, vývoj nových materiálů. Dokonce nám pomůže hlouběji porozumět vesmíru, dodal, „a to je teprve začátek.“

Přestože si Dongarra myslí, že superpočítače budou utvářet budoucnost umělé inteligence, není zcela předvídatelné, jak přesně se tak stane.

„Do určité míry budou počítače, které se dnes vyvíjejí, využívány pro aplikace, které potřebují umělou inteligenci, hluboké učení a výpočty v neurosíti,“ říká Dongarra. „Bude to nástroj, který pomůže vědcům pochopit a vyřešit některé z nejnáročnějších problémů, které máme.“

„Going to be“ – budoucí čas. Práce s umělou inteligencí stále tvoří jen malé procento toho, co superpočítače dělají. Z větší části, říká Jones, jsou to „stroje času“, které „přenášejí další vědu z pěti let dopředu do dneška.“

„Devadesát procent tradičních HPC instalací stále dělá tradiční HPC zátěž – inženýrské simulace, dynamiku tekutin, modelování počasí a klimatu,“ vysvětluje. „A AI je tam na úrovni pěti nebo deseti procent, která je rozšiřuje a pomáhá jim lépe pracovat, ale zatím nedominuje v požadavcích na nákup HPC platforem nebo dokonce na vedení programů financování HPC.“

Hemsoth si myslí, že bude pravděpodobně trvat dalších pět let, než stávající HPC pracovní postupy zahrnou hodně AI a hlubokého učení, které budou mít jiné požadavky na výpočetní výkon než v současnosti.

„Všichni trochu předbíhají, pokud jde o AI,“ říká. „Kupují systémy, které jsou vhodné pro AI v její současné podobě. AI bude praktickou součástí pracovních zátěží, ale bude se měnit. A změní se i skutečný software a aplikace, na kterých musí věci běžet, což změní i to, jaký hardware budete potřebovat. Tyto věci se rychle vyvíjejí, ale s opravdu dlouhými výrobními cykly hardwaru – zejména pokud jste národní laboratoř a musíte tyto věci pořizovat tři až pět let, než vůbec dostanete stroj.“

Budoucnost superpočítačů

„Zlepšení lidstva je ušlechtilý cíl.“

Další mozkový blaster: Váš současný chytrý telefon je stejně rychlý jako superpočítač v roce 1994 – ten, který měl 1000 procesorů a prováděl jaderné simulace. (Existuje na to nějaká aplikace?) Je tedy logické, že smartphone (nebo jak se bude jmenovat), který budete mít za čtvrt století, by teoreticky mohl být na úrovni Aurory. Jde o to, že tyhle věci jsou rychlé – a budou stále rychlejší. Dongarra to shrnuje takto:

„V roce 1997 jsme dosáhli teraflopsů na stroji v Sandia National Laboratories. To bylo 1012 teraflopů. V roce 2008 jsme pak dosáhli petaflopsů – 1015 – v Los Alamos. Nyní jsme na pokraji dosažení exascale, tedy 1018 operací, přibližně na začátku roku 2020 nebo 2021. Pravděpodobně za 10 nebo 11 let se dostaneme na zettascale – 1021 operací za sekundu. Když jsem ve výpočetní technice začínal, dělali jsme megaflops – 106 operací. Takže věci se mění. Dochází ke změnám v architektuře, změnám v softwaru a aplikacích, které s tím musí jít ruku v ruce. Přechod na další úroveň je přirozený vývoj.“

Nedávný článek na serveru TOP500.com s názvem „Superpočítače směřují k existenční krizi“ vykresluje obraz věcí příštích, v nichž simulace ustoupí do pozadí.

„Zejména strojové učení by mohlo v příštím desetiletí a půl ovládnout většinu výpočetních domén včetně HPC (a dokonce i analýzy dat),“ píše autor Michael Feldman. „Zatímco dnes se většinou používá jako pomocný krok v tradičních vědeckých výpočtech – pro předzpracování i následné zpracování simulací, v některých případech, jako je objevování léků, by pravděpodobně mohlo simulace zcela nahradit.“

Ať už superpočítače naberou jakoukoli podobu, podle Papky z Argonne budou stále výkonnější a transformační a budou mít vliv na všechno, od chodců až po hluboké věci – od návrhu účinnějších baterií pro elektromobily až třeba po vymýcení dlouho bojovaných nemocí, jako je rakovina. Nebo v to alespoň doufá.

„Zlepšení lidstva,“ říká Papka, „je ušlechtilý cíl.“

Přečtěte si další příběhy o hardwarových společnostech