シカゴから約 25 マイルのところにあるアルゴンヌ国立研究所のリーダーシップ コンピューティング施設のスーパーコンピューター キャビネットの列を歩いていると、「シャイニング」の「見晴らしの迷宮」のハイテク版（斧を振り回す狂人を除いて）を散策しているような気分にさせられます。
その鉄の迷宮にある2つの主要なスーパーコンピュータは、Mira と Theta と名付けられ、標準的な冷蔵庫と同じサイズの101個のキャビネットから成り、ラックを積み重ね、それぞれ3,450～4,390ポンドの重さがあります。 その重量の多くは、過熱を防ぐための水冷システムによるものです。 このマシンは、他の小型システムとともに、低い天井と白いタイル張りの床を持つ25,000平方フィートのデータセンターに収容されています。 そのため、静かな環境ではありません。
Six Billion Times Faster: Aurora SuperComputer’s New Home
広大な施設ですが、まもなくそこに到着する獣を収容するには十分ではありません。 2021年には、「オーロラ」と呼ばれる超強力なスーパーコンピュータが誕生する予定です。 その到着に備えて、現在、大規模な拡張工事が行われている。 5億ドルという価格のオーロラは、アルゴンヌをはじめとする17の国立研究所を運営する米国エネルギー省（DOE）が18億ドルを投じている、1秒間に10億回（別名5兆回）計算できるいわゆる「エクサスケール」スーパーコンピュータ3種のうちの1つである。 (テネシー州のオークリッジ国立研究所にも、「フロンティア」と名づけられた別の装置がまもなく設置される予定)。
そのような大金では驚くことではありませんが、Auroraはちょっとした計算の奇跡を起こすことができます。 1018 FLOPS (1 秒あたりの浮動小数点演算の略) として測定されるこのシステムは、はるか昔の先代である 1964 年の画期的な Cray-1 に比べて 60 億倍高速になります。 Design Newsによれば、「人間が1+1+1を手計算で1秒間に1回、食事や睡眠の時間をとらずに計算すると、Auroraが1秒で行うことを31兆7千億年かけて行う必要がある」のだそうです。
これは、現在スーパーコンピュータの王者として君臨している、オークリッジにあるIBMとビディアのメガマシン「サミット」の5倍から10倍の速さだそうです。
Aurora は誰を追い落とすのでしょうか？ TOP500 の専門家による、世界で最も速いスーパーコンピューター 10 台を見てみましょう。
Leadership Computing Facility のディレクター Mike Papka 氏は、最近、このスペースを案内した後で、「今日スーパーコンピューターでできることには限界があります」と述べました。 「Aurora を使用することで、それらを次のレベルに引き上げることができます。 現在、私たちは宇宙の進化をシミュレーションすることができます。 しかし、オーロラでは、より現実的な方法で、より多くの物理学や化学を加えてシミュレーションを行うことができます。 例えば、さまざまな薬が互いにどのように作用し、どのような種類のがんが発生するのかを理解しようとするようなことも始めています。 今なら小規模でも可能です。 Auroraを使えば、さらに大きなスケールでそれができるようになるでしょう。”
エネルギー省の52台のスーパーコンピュータの1つとして、Auroraはおそらく、デビューしたときに現存する唯一のエクサスケールシステムになるでしょう。 (つまり、中国が先に構築しない限り、つまり、中国が2020年までに構築しようと奔走しているという報道にもかかわらず、その可能性はかなり低いと一部の関係者は述べています)。 2019年3月のAurora設置発表記者会見で、アルゴンヌ研究所副所長のRick Stevens氏は、このシステムが高性能コンピューティングアプリケーションと、加速器、検出器、望遠鏡、その他の研究装置から生成されるストリーミングデータの分析を扱うと説明した。
しかしながら、現時点では、Aurora はまだ進行中で、Summit が栄光を手にすることになります。 もともと数年前に、はるかに性能の劣る形で稼働する予定だったSummitは、2018年半ばに発売され、2億ドルをかけて、毎秒200兆（または200兆）の速度で複雑な数学計算を行うことができ、TOP500リストで中国からアメリカの1位の座を奪い返す役割を担っているのです。 ミラやシータと同じサイズの300以上のユニットで構成され、総重量340トン、面積9,250平方フィート、9,216個の中央処理チップを搭載しているため、物理的に非常に強力です。 内部には何マイルもの光ファイバーケーブルが敷設され、この巨大な装置を冷却するには1分間に4,000ガロンの水が必要です。 5432>
「スーパーコンピューティングの父」と呼ばれるシーモア・クレイが、1960 年代に初めて革新的なマシンを作り始めたとき、このような計算能力の波状ディスプレイは理解しがたいものでした。 5432>
それは、カートいっぱいの商品を持ってレジに到着し、商品を複数の異なる友人たちに分けるようなものです。 各友人は、アイテムのいくつかを持って別のチェックアウトを通過し、別々に支払いを済ませることができます。 全員が支払いを済ませたら、再び集まってカートに荷物を積み込み、出発することができます。 商品の数が多ければ多いほど、また友達が多ければ多いほど、並列処理で物事を行うのは速くなります – 少なくとも理論上は。
「スーパーコンピュータのパワーを本当に利用するには、並列コンピューティングを使用しなければなりません」と、レンセラー工科大学の博士候補であり、最近アルゴンヌで 6 か月の研修生をした Caitlin Joann Ross は言います。 「効率的に処理を行うためには、プロセス間でどのようにデータを交換する必要があるかを理解する必要があります。 5432>
「デバッグ」の問題は、フラストレーションの主な原因だと彼女は言います。 たとえば、4つのプロセッサを使用してスムーズに実行できる計算が、5つ目のプロセッサを追加すると、破綻する可能性があるのです。
「すべてが完璧に動作している場合、実行しているものは何でも、プロセッサの数が少ないコンピュータや単一のプロセッサで実行するよりもはるかに高速に実行されます」と Ross 氏は言います。 ラップトップで実行すると数週間または数か月かかる計算が、スーパーコンピューターで実行するために効率的に並列化すると、1日で終わることもあります」
Ross 氏の研究のもうひとつの分野は、スーパーコンピューター自体、より具体的にはスーパーコンピューターで使用されるネットワークのシミュレーションです。 実際のスーパーコンピュータ上で動くアプリケーションのデータをシミュレータに送り込み、システム全体をオフラインにすることなく、さまざまな機能をテストすることができるのです。
「現実には、さまざまなユーザーがスーパーコンピューターにジョブを送信し、スーパーコンピューターはそのジョブがいつ実行されるかを決定するために何らかのスケジューリングを行います」と Ross は言います。 「通常、スーパーコンピュータでは、複数の異なるジョブが同時に実行されます。 スーパーコンピュータ上では、通常、複数の異なるジョブが同時に実行されます。これらのジョブは異なるコンピュートノードを使用しますが、ネットワークリソースは共有されます。 そのため、他のジョブの通信によって、自分のジョブが遅くなる可能性があります。
「2 つの銀河が衝突したときに何が起こるかを理解したいとします。 「その実験は実際にはできません。 2つの銀河を持ち出して衝突させることはできないのです。 だから、モデルを作ってコンピュータで実行しなければならないのです。 昔は、車を設計するときに、その車を壁にぶつけて、その衝撃にどれだけ耐えられるかを確かめたものです。 しかし、これにはかなりの費用と時間がかかります。 今日、私たちはそのようなことはあまりしません。すべての物理学的特性を備えたコンピュータ・モデルを構築し、それをシミュレーションした壁に衝突させて、どこが弱点であるかを理解します」
スーパーコンピュータは何に使われるか
企業、特に企業は、自動車の製造、石油の掘削、新薬の発見など、スーパーコンピューターのシミュレーションに金銭価値 (ROI, 企業系はこう言う) を見出しています。 2018年、企業と政府の購入は、ますます堅牢なハイパフォーマンス・コンピューティング市場に貢献しました」
「上位500台のコンピュータのうち、半分以上は産業界です」と、アルゴンヌでキャリアの初期を過ごしたDongarraは言います。 「産業界はそれを理解しています。 産業界は、より競争力を高め、競合他社に差をつけるために、高性能コンピュータに投資しているのです。 そして、そのお金を有効に使っていると感じているのです。 彼らは、自社の製品やイノベーション、収益、生産性、収益性を促進するために、こうしたものに投資しているのです。
「従来の営利企業では、『物理テスト コストをこれだけ節約できた』とか、『より早く市場に参入できたので追加収入が得られた』といった投資収益率計算が可能です」と、英国に拠点を置くハイパフォーマンス コンピューティングのコンサルタント Andrew Jones 氏は述べています。 「しかし，HPC の基本的な ROI 計算は，必ずしもその価値がどこから来るかを示すものではあり ません． 石油会社に言わせれば、石油を30％安く見つけることができるようになったということではありません。 5432>
スーパーコンピューティングを使用して大局的な改善を行い、効率を向上させる企業は、競合他社に対して優位に立つことができます。
「同じことが多くの科学にも当てはまります」と、ジョーンズは付け加えます。 「研究者が国際的に競争力のある科学ができるかどうかということです。より高速なコンピューターにより、研究者は、彼らが取り組んでいるものについて、より迅速に、より大きな洞察を得ることができるため、スピードに対するニーズ、または少なくとも強い欲求は高まり続けています。 Dongarra氏はこれを「終わりのない探求」と呼び、Auroraの（まだ証明されていない）持続的なエクサスケール能力は、これまでのところその探求の頂点となるものでしょう。 とはいえ、数あるうちの1つに過ぎない。 世界26カ国には、「タイタン」「エクスカリバー」といった壮大な名前のスーパーコンピュータがある。 36の異なるベンダーによって製造され、20世代のプロセッサによって駆動され、さまざまな産業や、科学研究から国防に至るまで政府の機能に貢献しています。
これらの統計は、ウェブサイト TOP500.org によるものです。 Dongarra 氏が共同で設立したこのサイトは、1993 年以来、あらゆるスーパーコンピューティングを監視しており、性能を測定するために彼の LINPACK ベンチマーク (コンピュータが 1 つのプログラムまたは多数のプログラムを実行する速度を推定するもの) を使用しています。 オークリッジのサミットにある世界最速のスーパーコンピュータや、カリフォルニアのローレンス・リバモア国立研究所にある2番目に速いシエラなど、最新の世界最大・最強のランキングによると、アメリカにはトップ10のうち5つ（もうすぐ6つになる）があります。 次点の中国には2つしかない（ただし、まもなく3つになる）。 確かに、中国は上位500位のうち227位を占め、このリストにあるマシンのうち303台を製造しているが、米国はまだその巨大な泡の指を振り回すことができるのだ。 今のところ。 このコンテストは現在も続いており、衰える気配はない。
The Next Platform の共同設立者兼共同編集者の Nicole Hemsoth 氏は、「米国と中国ほど、『私のシステムの大きさを見てください』という犯罪者はいません」と述べています。 | Credit:
中国は歴史的にトップ 500 にはあまり関心がありませんでしたが、ここ数年、ハイパフォーマンス コンピューティングを「国家の誇り」とし、「チャートトップのパフォーマンス」に重点を置き、それを達成するために数十億ドルを費やしたと彼女は説明しています。 エクサスケールの競争相手には、他にフランスと日本がいます。 ある調査によると、2018年から2021年の間にスーパーコンピュータに費やされる1300億ドルのうち100億ドルは、アルゴンヌで予定されているようなエクサスケールシステムに充てられるといいます。
「国家間の競争は、現実的なものと人工的なものがあります」と、Jones氏は述べています。 たとえば、あなたが米国の国立研究所の所長で、次の HPC マシンのための資金を確保しようとしている場合、「中国には 10 倍の規模のものがあるので、追いつく必要がある」と言うのは非常に良い議論です。 欧州連合と中国は、米国に対して同じゲームをしているので、必ずしも現実的ではないものの、少し作られた緊張感があり、それが.NETの推進に役立っています。”
メディアも大きな役割を担っている。 ジャーナリストは、スーパーコンピュータの膨大な統計データを駆使して、説得力のある説明をするのが大好きだ。 この記事の冒頭にその例がある。 もう一つ、New York Timesの記事を紹介しよう。 “10万人収容のスタジアムが満員で、そこにいる全員が最新のラップトップを持っていたとしたら、サミットの計算能力に匹敵するスタジアムが20個必要になる”。 政府関係者もスーパーコンピューティングの威勢の良さを楽しんでおり、巨大な処理能力を社会改善の鍵として、そしてもちろん、自国が完全に素晴らしいという証拠としても話しています。 1961年に宇宙開発競争に拍車をかけたジョン・F・ケネディも、これには大喜びだったでしょう。
「これは基本的な経済競争力です」とジョーンズは言います。 「安全保障や経済的な側面を超えて、ハイパフォーマンス コンピューティングの意味を明確に理解している人は、科学、ビジネス、その他の部門に大きな利益をもたらすと考えていると、彼は付け加えます。 「だから、このようなことをするのは当然なのです。 (例えば、核兵器の分野では、スーパーコンピューターは、爆発するような事態に大きな恩恵をもたらすことが証明されています。 高度なシミュレーションにより、実戦的なテストが不要になったのです。
「何かを開発し、砂漠に出かけ、穴を開け、それがうまくいくかどうかを見るということはしない」と、Dongarra は数十年前に中止された慣習について述べています。 「彼らはスーパーコンピューターでその設計をシミュレートします。 5432>
最近の大きなアップグレードでは、米国防総省の 5 つのスーパーコンピューティング センターの 1 つである空軍研究所が、米軍全体が機密研究を行うことができる共有可能なスーパーコンピュータを 4 台設置しました。 このプロジェクトは、空軍、陸軍、海軍の研究者が「我が国の最も差し迫った複雑な課題に迅速に対応し、納税者へのコストを抑えながら、戦士への新しい能力を加速させる」ための方法として推進されています。
スーパーコンピューティングと人工知能
人工知能はまだかなり初歩的ですが、スーパーコンピューターは、この気候科学の研究のように、より多くのデータからより速い結果を生み出す機械学習プロセスを加速させることによって、それを変えようとしています。
「スーパーコンピューティングに携わるということは、手続き的なロジックを繰り返し実装することから、価値ある意味のある情報を抽出するアルゴリズムの力を信じることです」と、Scott Fulton III 氏は ZDNet の洞察に満ちた記事で書いています。 「1 つは、今日のマシンが最終的に新しい、非常に価値のあるソリューションに到達することを公言し、もう 1 つは、今日のマシンが明日のマシンのプロトタイプであるという、より繊細な概念です。 Dongarra 氏は、スーパーコンピュータが AIの未来を形成すると考えていますが、それがどのように起こるか正確には完全に予測できるわけではありません。 “それは、私たちが抱えている最も困難な問題のいくつかを理解し、解決するために科学者を支援するツールになるでしょう。”
“Going to be” – 未来形です。 スーパーコンピュータが行うことのうち、AIの仕事はまだほんの一部でしかありません。 ほとんどの場合、スーパーコンピュータは、「5 年先の次の科学を今日にもたらす」「タイムマシン」であると Jones 氏は言います。 「AI は、それらを補強し、よりよく機能させるために 5 ～ 10 パーセントのレベルで存在していますが、HPC プラットフォームの購入要件や、HPC 資金調達プログラムの指針を支配することはまだありません」
Hemsoth は、既存の HPC ワークフローに AI や深層学習が多く含まれ、どちらも現在とは異なる計算要件となるまで、おそらくさらに 5 年間はかかるだろうと考えています。 「彼らは、今の AI に適したシステムを購入しているのです。 AIはワークロードの実用的な一部となるでしょうが、それは変化していくでしょう。 そして、実際にものが動く必要のあるソフトウェアやアプリケーションは変化し、それによって必要なハードウェアも変化していくでしょう。 特に国立研究所では、マシンを手に入れるまでに 3 ～ 5 年もかかるのです。」
The Future of Supercomputing
「人類の向上は、持つべき尊い目標です」
もうひとつのブレインブースター：あなたの現在のスマートフォンは1994年のスーパーコンピューターと同じくらい速い–1000プロセッサで核シミュレーションをするものでした。 (そのためのアプリはありますか?) したがって、四半世紀後にあなたが持っているスマートフォン (または何と呼ばれているかわかりませんが) は、理論的には Aurora のレベルになる可能性があります。 つまり、この技術はスピードがあり、さらにスピードアップしているのです。 Dongarraは次のように説明しています。
「私たちは1997年にサンディア国立研究所のマシンでテラフロップスに到達しました。 これは1012テラフロップスでした。 その後、2008年にロスアラモス研究所でペタフロップス（1015回）に到達しました。 そして現在、2020年か2021年の初め頃に、1018演算のエクサスケールに到達する寸前まで来ています。 おそらく10年か11年後には、1秒間に1021回の演算を行うゼータスケールに到達することでしょう。 私がコンピューターの世界に入った頃は、メガフロップス（1秒間に106回の演算）でした。 つまり、物事は変化するのです。 アーキテクチャの変化、ソフトウェアの変化、それに伴うアプリケーションの変化があります。 5432>
TOP500.com の「Supercomputing is heading towards an existential crisis」と題された最近の記事では、シミュレーションが後回しになるような事態を描いています。
「特に機械学習が、今後 10 年から 30 年の間に HPC (とデータ分析) を含むほとんどのコンピュータ領域を支配するだろう」と、著者 Michael Feldman は書いています。 「今日、機械学習は、プリプロセッシングおよびポストプロセッシング シミュレーションなど、従来の科学的コンピューティングの補助ステップとして主に使用されていますが、創薬のように、シミュレーションに完全に取って代わることも考えられます」
スーパーコンピュータの形態がどのようなものであれ、アルゴンヌの Papka 氏は、よりパワフルで変化をもたらすものになり、日常から深いところまですべてに影響を与えるでしょうと、述べています。 彼はそう願っている。
「人類の向上は、持つべき崇高な目標です」と、Papka は述べています。