Ce este un supercalculator și cum funcționează?

Mergând printre rândurile de dulapuri de supercalculatoare din Argonne National Laboratory’s Leadership Computing Facility, situat la aproximativ 25 de mile de Chicago, este ca și cum te-ai plimba printr-o versiune high-tech a labirintului Overlook din „The Shining” – fără nebunul cu toporul în mână.

Cele două supercalculatoare principale din acel labirint de oțel, numite Mira și Theta, cuprind 101 dulapuri de mărimea unor frigidere standard care conțin stive de rafturi și cântăresc între 3.450 și 4.390 de lire sterline fiecare. Totalul lor combinat: 160 de tone – o mare parte din această greutate se datorează sistemelor de răcire cu apă care previn supraîncălzirea. Împreună cu alte câteva sisteme mai mici, mașinile sunt adăpostite într-un centru de date de 25.000 de metri pătrați cu tavane joase și o podea de gresie albă. Cu toate aceste echipamente care se învârt, nu este un loc liniștit. În apropierea computerelor, vizitatorii trebuie să vorbească-strigă pentru a se face auziți deasupra unui zumzet puternic și constant.

Six miliarde de ori mai rapid: Aurora Supercomputer’s SuperComputer’s New Home

Pe cât de întinsă este instalația, pe atât de insuficientă pentru a găzdui bestia care va ateriza în curând acolo. Până cândva în 2021, dacă totul decurge conform planului, un nou supercomputer fantastic de puternic, supranumit Aurora, își va lua reședința. Astfel, pentru a se pregăti pentru sosirea sa, este în curs o extindere majoră. Cu un preț de 500 de milioane de dolari, Aurora va fi primul dintre cele trei așa-numite supercomputere „exascale”, capabile să efectueze un miliard de miliarde de miliarde (aka quintilioane) de calcule pe secundă, în care Departamentul pentru Energie al SUA (DOE), care administrează Argonne și alte 17 laboratoare naționale, investește 1,8 miliarde de dolari. (Un altul, supranumit Frontier, va fi instalat în curând la Oak Ridge National Laboratory din Tennessee).

Nu este surprinzător pentru o asemenea sumă de bani, Aurora va fi capabil să realizeze mici miracole computaționale. Măsurat ca 1018 FLOPS (care înseamnă operații în virgulă mobilă pe secundă), sistemul va fi de șase miliarde de ori mai rapid decât predecesorul său de demult, revoluționarul Cray-1 din 1964. În termeni mai tangibili, prin amabilitatea celor de la Design News, „o persoană care adaugă 1+1+1 într-un calculator de mână o dată pe secundă, fără timp liber pentru a mânca sau a dormi, ar avea nevoie de 31,7 trilioane de ani pentru a face ceea ce Aurora va face într-o secundă.”

Acest lucru este între cinci și zece ori mai rapid decât actualul campion în exercițiu al supercalculatoarelor, o mega-mașină IBM-Nvidia numită Summit care locuiește la Oak Ridge. Minte, suflată.

Cine va detrona Aurora? Iată o trecere în revistă a celor mai rapide 10 supercomputere din lume, conform celor de la TOP500.

„Există limitări cu privire la ceea ce putem face astăzi pe un supercomputer”, a declarat recent Mike Papka, directorul Leadership Computing Facility, după ce a făcut un tur al spațiului. „Cu Aurora, putem duce aceste lucruri la nivelul următor. În acest moment, putem face simulări ale evoluției universului. Dar cu Aurora, vom putea face acest lucru într-o manieră mai realistă, adăugându-le mai multă fizică și mai multă chimie. Începem să facem lucruri precum încercarea de a înțelege modul în care diferite medicamente interacționează între ele și, să zicem, cu o formă de cancer. Acum putem face acest lucru la scară mică. Vom putea face acest lucru la o scară și mai mare cu Aurora.”

Ca unul dintre cele 52 de supercomputere ale Departamentului pentru Energie, Aurora va fi probabil singurul sistem exascale existent atunci când va debuta. (Asta dacă nu cumva China construiește primul unul – ceea ce, potrivit unor persoane din interior, este destul de puțin probabil, în ciuda rapoartelor conform cărora țara se străduiește să facă unul până în 2020). La o conferință de presă din martie 2019 în care a fost anunțată instalarea Aurora, directorul asociat al laboratorului Argonne, Rick Stevens, a explicat că sistemul va gestiona aplicații de calcul de înaltă performanță, precum și analiza datelor în flux continuu generate de acceleratoare, detectoare, telescoape și alte echipamente de cercetare.

În acest moment, însă, Aurora rămâne o lucrare în desfășurare, în timp ce Summit-ul primește gloria. Programat inițial să intre în funcțiune în urmă cu câțiva ani într-o încarnare mult mai puțin puternică și lansat la jumătatea anului 2018, Summit a costat 200 de milioane de dolari, poate efectua calcule matematice complexe cu o rată de 200 de cvadrilioane (sau 200 de trilioane) pe secundă și este responsabil pentru faptul că a smuls din nou Americii locul întâi în topul TOP500 de la China. Impunător din punct de vedere fizic, este alcătuit din peste 300 de unități – de dimensiuni similare cu cele ale Mira și Theta – care cântăresc în total 340 de tone, ocupă 9.250 de metri pătrați și sunt alimentate de 9.216 cipuri de procesare centrală. În interior se află kilometri de cablu de fibră optică, iar răcirea acestui mastodont necesită 4.000 de galoane de apă pe minut. De asemenea, consumă energie în mod vorace – suficient pentru a alimenta mii de case.

Când „părintele supercalculatoarelor”, Seymour Cray, a început să construiască mașinile sale revoluționare în anii 1960, o asemenea desfășurare de mușchi de calcul era de neînțeles. Mai mult de o jumătate de secol mai târziu, ea devine încet-încet norma – și într-o zi va părea la fel de ciudată precum o face acum un Atari 2600.

Ce este un supercalculator? (Indiciu: Calculul paralel este cheia)

Supercalculatoarele folosesc de ani de zile o tehnică numită „procesare paralelă masivă”, prin care problemele sunt împărțite în părți și lucrate simultan de mii de procesoare, spre deosebire de metoda „serială”, de exemplu, a unui singur procesor pe rând, cum ar fi, de exemplu, vechiul tău MacBook Air. Iată o altă analogie bună, aceasta de pe Explainthatstuff.com:

Este ca și cum ai ajunge la o casă de marcat cu un coș plin de articole, dar apoi îți împarți articolele între mai mulți prieteni diferiți. Fiecare prieten poate trece printr-o casierie separată cu câteva dintre articole și poate plăti separat. După ce ați plătit cu toții, vă puteți aduna din nou, încărcați coșul și plecați. Cu cât sunt mai multe articole și cu cât aveți mai mulți prieteni, cu atât este mai rapid să faceți lucrurile prin procesare paralelă – cel puțin, în teorie.

„Trebuie să folosiți calculul paralel pentru a profita cu adevărat de puterea supercomputerelor”, spune Caitlin Joann Ross, doctorandă la Rensselaer Polytechnic Institute, care a făcut recent un stagiu de șase luni la Argonne. „Trebuie să înțelegeți modul în care datele trebuie să fie schimbate între procese pentru a face acest lucru într-un mod eficient, așa că există o mulțime de mici provocări diferite care fac ca lucrul să fie foarte distractiv. Deși sunt zile în care cu siguranță poate fi frustrant.”

Problemele de „depanare”, spune ea, sunt principala cauză a acestei frustrări. Calculele care ar putea funcționa fără probleme folosind patru procesoare, de exemplu, ar putea ceda dacă se adaugă un al cincilea.

„Dacă totul funcționează perfect”, spune Ross, „atunci tot ceea ce se execută rulează rulează mult mai repede decât ar putea funcționa pe un calculator cu mai puține procesoare sau cu un singur procesor. Există anumite calcule care ar putea dura săptămâni sau luni pentru a fi rulate pe laptopul dumneavoastră, dar dacă le puteți paraleliza eficient pentru a fi rulate pe un supercomputer, ar putea dura o zi.”

O altă zonă de lucru a lui Ross implică simularea supercomputerelor în sine – mai exact, a rețelelor utilizate pe supercomputere. Datele de la aplicațiile care rulează pe supercomputere reale sunt introduse într-un simulator, care permite testarea diferitelor funcții fără a scoate întregul sistem din funcțiune. Ceva numit „interferența comunicațiilor” este una dintre aceste funcții.

„În viața reală, diferiți utilizatori vor trimite sarcini către supercalculator, care va face un anumit tip de programare pentru a determina când se execută aceste sarcini”, spune Ross. „De obicei, vor exista mai multe lucrări diferite care vor rula pe supercomputer în același timp. Acestea folosesc noduri de calcul diferite, dar împart resursele de rețea. Așadar, comunicarea de la jobul altcuiva poate încetini jobul dumneavoastră, în funcție de modul în care datele sunt direcționate prin rețea. Cu ajutorul simulărilor noastre, putem explora aceste tipuri de situații și testa lucruri cum ar fi alte protocoale de rutare care ar putea ajuta la îmbunătățirea performanței rețelei.

La ce sunt folosite supercomputerele?Doar pentru a simula realitatea, atâta tot

În ultimele câteva decenii și până în prezent, principala contribuție a supercalculatoarelor la știință a fost capacitatea sa din ce în ce mai bună de a simula realitatea pentru a-i ajuta pe oameni să facă previziuni de performanță mai bune și să proiecteze produse mai bune în domenii de la producție și petrol, până la cel farmaceutic și militar. Jack Dongarra, unul dintre cei mai importanți experți în supercalculatoare din lume, compară această capacitate cu a avea un glob de cristal.

„Să zicem că vreau să înțeleg ce se întâmplă atunci când două galaxii se ciocnesc”, spune Dongarra. „Nu prea pot face acest experiment. Nu pot să iau două galaxii și să le ciocnesc. Așa că trebuie să construiesc un model și să îl execut pe un computer. Sau, pe vremuri, când proiectau o mașină, luau acea mașină și o izbeau de un zid pentru a vedea cât de bine rezistă la impact. Ei bine, acest lucru este destul de costisitor și consumator de timp. Astăzi, nu facem asta foarte des; construim un model pe calculator cu toată fizica și îl izbim de un zid simulat pentru a înțelege unde sunt punctele slabe.”

Companiile, în special, văd valoarea monetară (ROI, cum spun corporatiștii) în simulările supercalculatoarelor, fie că este vorba despre fabricarea de mașini, forarea pentru petrol sau descoperirea de noi medicamente. În 2018, achizițiile corporative și guvernamentale au contribuit la o piață din ce în ce mai robustă a calculatoarelor de înaltă performanță.

„Din primele cinci sute de calculatoare, mai mult de jumătate sunt în industrie”, spune Dongarra, care și-a petrecut o primă parte a carierei la Argonne. „Industria a înțeles. Ei investesc în calculatoare de înaltă performanță pentru a fi mai competitivi și pentru a obține un avantaj față de concurența lor. Și au sentimentul că banii sunt bine cheltuiți. Ei investesc în aceste lucruri pentru a contribui la dezvoltarea produselor și a inovației lor, la rezultatele lor, la productivitatea și profitabilitatea lor.”

Dar este vorba de ceva mai important decât ROI.

„Întreprinderile comerciale tradiționale pot vedea calcule de rentabilitate a investiției de genul: „Ne-a economisit această sumă de costuri de testare fizică” sau „Am reușit să ajungem mai repede pe piață și, prin urmare, să obținem venituri suplimentare”, spune Andrew Jones, un consultant în domeniul calculului de înaltă performanță cu sediul în Marea Britanie. „Dar un calcul de bază al ROI pentru HPC nu este neapărat locul de unde provine valoarea. Dacă întrebați o companie petrolieră, nu se reduce la posibilitatea de a găsi petrol cu 30% mai ieftin. Se reduce la posibilitatea de a găsi sau nu petrol.”

Companiile care folosesc supercalculatoarele pentru a face îmbunătățiri de anvergură și pentru a crește eficiența au un avantaj față de concurenții lor.

„Și același lucru este valabil pentru o mare parte din știință”, adaugă Jones. „Nu cauți neapărat un randament al investiției într-un sens specific, ci cauți capacitatea generală – dacă cercetătorii noștri sunt capabili să facă știință care este competitivă la nivel internațional sau nu.”

Nevoia de viteză

‘”Nu există doi infractori mai mari de „uite cât de mare este sistemul meu” decât U.S. U. A. și China.”‘

Pentru că calculatoarele mai rapide permit cercetătorilor să obțină mai rapid o mai bună înțelegere a ceea ce lucrează, există o nevoie tot mai mare – sau cel puțin o dorință puternică – de viteză. Dongarra o numește „o căutare nesfârșită”, iar capacitățile exascale susținute (încă nedovedite) ale Aurora ar fi apogeul acestei căutări de până acum. Cu toate acestea, va fi unul dintre multe altele. Zeci de alte supercomputere cu nume care uneori sună epic (Titan, Excalibur) funcționează în alte 26 de țări din întreaga lume. Fabricate de 36 de furnizori diferiți, acestea sunt acționate de 20 de generații de procesoare și deservesc o varietate de industrii, precum și funcții guvernamentale, de la cercetarea științifică la apărarea națională.

Aceste statistici provin de pe site-ul TOP500.org. Co-fondat de Dongarra, acesta a ținut evidența tuturor lucrurilor legate de supercalculatoare din 1993 și folosește LINPACK Benchmark-ul său (care estimează cât de repede este posibil ca un computer să ruleze un program sau mai multe) pentru a măsura performanțele. Conform celei mai recente liste a celor mai mari și mai rele calculatoare de pe glob, America deține cinci (în curând șase) dintre primele 10 – inclusiv cel mai rapid supercalculator de pe planetă în Oak Ridge’s Summit și al doilea cel mai rapid, Sierra, la Lawrence Livermore National Laboratory din California. A doua clasată, China, are doar două (dar în curând vor fi trei). Desigur, această țară ocupă 227 dintre primele 500 de locuri și a fabricat 303 dintre mașinile de pe această listă, dar SUA încă mai poate flutura uriașul său deget de spumă. Deocamdată. Competiția este în curs de desfășurare și nu dă semne de diminuare.

„Nu există doi infractori mai mari de „uite cât de mare este sistemul meu” decât SUA și China”, spune Nicole Hemsoth, co-fondator și co-editor al The Next Platform.

În timp ce China a fost din punct de vedere istoric mai puțin preocupată de Top 500, explică ea, în ultimii ani a făcut din calculul de înaltă performanță „un punct de mândrie națională”, punând mai mult accent pe „performanța de top” și cheltuind miliarde de dolari pentru a o obține. Printre alți concurenți exascale se numără Franța și Japonia. Potrivit unui studiu, 10 miliarde de dolari din cele 130 de miliarde de dolari preconizate a fi cheltuite pentru supercalculatoare între 2018 și 2021 vor merge către sisteme exascale precum cel prevăzut pentru Argonne.

„Cursa dintre țări este parțial reală și parțial artificială”, spune Jones. „Astfel, de exemplu, dacă sunteți directorul unui laborator național din SUA și încercați să obțineți finanțare pentru următoarea mașină HPC, este un argument foarte bun să spuneți că: „Ei bine, China are una care este de zece ori mai mare, așa că trebuie să recuperăm”. Uniunea Europeană și China joacă același joc împotriva Statelor Unite, așa că există o mică tensiune creată care nu este neapărat reală, dar care ajută la stimularea .”

Media joacă, de asemenea, un rol semnificativ. Jurnaliștii adoră să prezinte statisticile uluitoare ale supercomputerelor și să le explice în mod sugestiv. Există un exemplu în acest sens la începutul acestui articol. Iată un alt exemplu, din New York Times: „Dacă un stadion construit pentru 100.000 de persoane ar fi plin și fiecare persoană din el ar avea un laptop modern, ar fi nevoie de 20 de stadioane pentru a egala puterea de calcul a Summit-ului.” NU SUNTEȚI ÎNTÂLNIT?

Oficialii guvernamentali se bucură, de asemenea, de puțină fanfaronadă a supercalculatoarelor, vorbind despre puterea lor gargantuescă de procesare ca fiind cheia îmbunătățirii societății – și, bineînțeles, o dovadă a măreției totale a țării lor. John F. Kennedy, cel care a impulsionat cursa spațială în 1961, ar fi fost de acord cu acest lucru.

„Este vorba de competitivitatea economică de bază”, spune Jones. „Dacă te îndepărtezi atât de mult încât națiunea ta nu mai este competitivă din punct de vedere economic cu alte națiuni de dimensiuni comparabile, atunci asta duce la o mulțime de alte probleme politice și de securitate cu care trebuie să te confrunți.”

COmputing SPeed + Putere = Putere militară

Peste aspectele economice și de securitate, adaugă el, cei care înțeleg clar implicațiile calculului de înaltă performanță văd beneficiile sale uriașe pentru știință, afaceri și alte sectoare. „Așa că este de la sine înțeles că facem aceste lucruri”. (De acord, unele rapoarte spun că aceste beneficii sunt exagerate.) Pe frontul armamentului nuclear, de exemplu, supercalculatoarele s-au dovedit a fi un ajutor uriaș pentru lucrurile care explodează. Simulările sofisticate au eliminat nevoia de testare în lumea reală.

„Nu mai dezvoltă ceva, nu mai merg în deșert, nu mai fac o gaură și nu mai văd dacă funcționează”, spune Dongarra despre o practică care a încetat cu decenii în urmă. „Ei simulează acel proiect pe un supercomputer. Ei simulează, de asemenea, ce se întâmplă cu acestea dacă stau pe un raft atâția ani, pentru că trebuie să verifice dacă stocul va funcționa.”

Într-o actualizare majoră recentă, Laboratorul de Cercetare al Forțelor Aeriene – unul dintre cele cinci centre de supercalculatoare ale Departamentului de Apărare al SUA – a instalat patru supercalculatoare partajabile pe care întreaga armată americană poate efectua cercetări clasificate. Proiectul a fost promovat ca o modalitate de a ajuta cercetătorii Forțelor Aeriene, Armatei și Marinei „să răspundă rapid la cele mai presante și complexe provocări ale națiunii noastre, ceea ce accelerează, de asemenea, noi capabilități pentru luptători la costuri mai mici pentru contribuabil.”

Interpretați asta cum doriți.

Supercalculatoare și inteligență artificială

Inteligența artificială este încă destul de rudimentară, dar supercalculatoarele schimbă acest lucru prin turbo-încărcarea proceselor de învățare automată pentru a produce rezultate mai rapide din mai multe date – ca în această cercetare în domeniul științei climei.

„A fi angajat în supercalculatoare înseamnă să crezi în puterea algoritmului de a distila informații valoroase și semnificative din implementarea repetată a logicii procedurale”, scrie Scott Fulton III într-un articol perspicace pe ZDNet. „La baza supercalculatoarelor se află două idealuri: unul care profesează că mașina de astăzi va ajunge în cele din urmă la o soluție nouă și extraordinar de valoroasă, urmat de o a doua noțiune, mai subtilă, conform căreia mașina de astăzi este un prototip pentru cea de mâine.”

După cum a declarat directorul Argonne, Paul Kearns, pentru HPCWire, Aurora este destinat inteligenței artificiale de „generație următoare”, care va accelera descoperirile științifice și va face posibile îmbunătățiri în domenii precum previziunile meteo extreme, tratamentele medicale, cartografierea creierului, dezvoltarea de noi materiale. Ne va ajuta chiar să înțelegem mai bine universul, a adăugat el, „și acesta este doar începutul.”

În timp ce Dongarra crede că supercomputerele vor modela viitorul inteligenței artificiale, modul exact în care se va întâmpla acest lucru nu este în întregime previzibil.

„Într-o anumită măsură, computerele care sunt dezvoltate astăzi vor fi folosite pentru aplicații care au nevoie de inteligență artificială, învățare profundă și calcule de neuro-rețele”, spune Dongarra. „Va fi un instrument care îi va ajuta pe oamenii de știință să înțeleagă și să rezolve unele dintre cele mai dificile probleme pe care le avem.”

„Va fi” – timp viitor. Activitatea de inteligență artificială reprezintă încă doar un mic procent din ceea ce fac supercomputerele. În cea mai mare parte, spune Jones, acestea sunt „mașini ale timpului” care „aduc știința următoare cu cinci ani înainte în prezent.”

„Nouăzeci la sută din instalațiile HPC tradiționale fac încă sarcini de lucru HPC tradiționale – simulări inginerești, dinamica fluidelor, modelare meteorologică și climatică”, explică el. „Iar inteligența artificială este acolo, la nivelul a cinci sau zece procente, sporind aceste sarcini și ajutând la o funcționare mai bună, dar nu domină încă cerințele pentru cumpărarea de platforme HPC sau chiar pentru orientarea programelor de finanțare HPC.”

Hemsoth crede că vor mai trece probabil încă cinci ani până când fluxurile de lucru HPC existente vor include o mare parte din inteligența artificială și învățarea profundă, ambele având cerințe de calcul diferite față de cele actuale.

„Toată lumea se grăbește puțin când vine vorba de inteligența artificială”, spune ea. „Ei cumpără sisteme care sunt potrivite pentru AI așa cum este acum. AI va fi o parte practică a volumelor de lucru, dar se va schimba. Iar software-ul real și aplicația pe care trebuie să ruleze lucrurile se vor schimba, ceea ce va schimba ce hardware trebuie să aveți. Aceste lucruri evoluează rapid, dar cu cicluri de producție hardware foarte lungi – mai ales dacă sunteți un laborator național și trebuie să achiziționați aceste lucruri cu trei până la cinci ani înainte de a primi mașina.”

Viitorul supercalculatoarelor

„Îmbunătățirea omenirii este un scop nobil pe care trebuie să îl ai.”

O altă lovitură de creier: smartphone-ul tău actual este la fel de rapid ca un supercalculator din 1994 – unul care avea 1.000 de procesoare și făcea simulări nucleare. (Există o aplicație pentru asta?) Este logic, deci, că smartphone-ul (sau cum se va numi) pe care îl veți avea peste un sfert de secol ar putea fi, teoretic, la nivelul lui Aurora. Ideea este că acest lucru este rapid – și devine din ce în ce mai rapid. Iată cum o prezintă Dongarra:

„Am ajuns la teraflopi în 1997 pe o mașină de la Sandia National Laboratories. Acesta a fost de 1012 teraflops. Apoi, în 2008, am ajuns la petaflops – 1015 – la Los Alamos. Acum suntem pe punctul de a atinge exascale, cu 1018 operații, pe la începutul anului 2020 sau 2021. În probabil 10 sau 11 ani, vom ajunge la zettascale – 1021 operații pe secundă. Când am început să lucrez în domeniul informaticii, făceam megaflops – 106 operații. Așadar, lucrurile se schimbă. Există schimbări în arhitectură, schimbări în software și în aplicații care trebuie să evolueze odată cu acestea. Trecerea la nivelul următor este o progresie naturală.”

Un articol recent de pe TOP500.com intitulat „Supercomputing is heading towards an existential crisis” (Supercalculatoarele se îndreaptă spre o criză existențială), descrie o imagine a lucrurilor care vor urma, în care simulările trec în plan secundar.

„Învățarea automată, în special, ar putea ajunge să domine majoritatea domeniilor de calcul, inclusiv HPC (și chiar analiza datelor) în următorul deceniu și jumătate”, scrie autorul Michael Feldman. „În timp ce astăzi este folosită mai ales ca o etapă auxiliară în calculul științific tradițional – atât pentru simulările de preprocesare, cât și pentru cele de postprocesare, în unele cazuri, cum ar fi descoperirea de medicamente, ar putea, în mod conceptibil, să înlocuiască complet simulările.”

Cu orice formă ar lua supercalculatoarele, Papka de la Argonne spune că acestea vor deveni din ce în ce mai puternice și mai transformative, afectând totul, de la cele mai mărunte la cele mai profunde – de la proiectarea unor baterii mai eficiente pentru mașinile electrice până la, poate, eradicarea unor boli îndelung combătute, cum ar fi cancerul. Sau cel puțin așa speră el.

„Îmbunătățirea omenirii”, spune Papka, „este un scop nobil pe care trebuie să-l ai.”

Citește mai multe povești despre companiile de hardware