【25-051】「DeepSeek式ブレイクスルー」を目指す中国のコンピューティング(その1)
鄔江興(中国工程院院士) 2025年06月12日
長江デルタ(蕪湖)インテリジェントコンピューティングセンター。(画像提供:視覚中国)
システム・オン・ウェハー(SoW)を活用した生成型可変構造コンピューティングは、中国が計算能力チップにおける「製造プロセスのコクーン(繭)」を打破する新たな道を切り開き、「三流の材料、二流のプロセス」で「一流の能力」を実現するシステム工学的なイノベーションの道を示している。
今年に入り、DeepSeek(ディープシーク)をはじめとする中国の大規模言語モデル開発企業は、アルゴリズムの最適化、ターゲットを絞ったトレーニング、オープンソースエコシステムの協働を通じて、「縮小版」GPUチップを使用しながらも、1000億パラメータモデルの訓練コストを同種モデルの10分の1に圧縮し、計算能力の単純な積み上げから、内発的な効率向上への新たな道を切り開いた。
世界は中国の非対称的なイノベーションによる奇跡に驚嘆しているが、冷静に見れば、中国は人工知能(AI)技術や産業の自主的かつ持続可能な発展という面では、依然として高性能や「縮小版」のインテリジェントコンピューティングチップといった物理デバイスへの依存から脱却できていない。今後、外部環境はさらに悪化する可能性があり、封じ込めや抑圧の常態化、サプライチェーンの不確実性などの問題は避けられないと予測される。中国としては、インテリジェントコンピューティングの分野で「ディープシーク式の突破」を実現し、限界を超えるイノベーションを通じて、ハードウェアの計算能力向上と製造技術の進歩が強く結びついている現状を打破することが急務となっている。
言い換えれば、中国がAI分野で競争相手と十分に渡り合える能力を獲得するには、アルゴリズムの面で引き続き革命を起こし、「計算能力のコクーン」を打破するだけでなく、アルゴリズムと物理層を深く融合させることで、車線変更による追い越しを実現し、「製造技術のコクーン」を打破しなければならない。生成型可変構造コンピューティングやソフトウェア定義システム・オン・ウェハー(SDSoW)を中心とするオン・ウェハー生成型システムアーキテクチャは、アルゴリズムモデルと計算能力を担うハードウェアのミスマッチという課題を解決し、ソフトとハードの連携による計算能力の持続可能な発展を実現するための新たなテクノロジー・ロードマップを提供している。
アルゴリズムという「足」に計算アーキテクチャという「靴」を合わせる
先進的なチップ製造プロセスは、トランジスタ密度を高め、チップ単位面積あたりの計算能力を向上させることで、大規模モデルのトレーニングや推論に必要な計算リソースをより強力に支援できる。しかし、還元主義的な工学設計パラダイムに基づいて得られた物理的な計算能力の向上は、大規模な分散物理システム上で動作するソフトウェアアルゴリズムにとって、有効に活用するのが難しい。チップのピーク計算能力と、アルゴリズムがもたらす全体的なシステムとしての利益には構造的なギャップが存在し、さらに分散システムでは「大規模・低遅延・高帯域」というトリレンマ(3つの要件を同時に満たすのが困難)に技術的に制約されている。このため、数千枚、数万枚、さらには十万枚以上ものGPUカードを単純に積み重ねるだけでは、「スケーリングの法則(Scaling Law)」によって加速される大規模モデルのトレーニングに必要な非線形的な計算能力の成長要求を満たすのは難しい。
要するに、ストアドプログラム方式に基づくフォン・ノイマン型計算アーキテクチャでは、ハードウェアシステムの設計(例えばチップの製造プロセス、メモリ帯域幅、並列処理ユニットなど)と、アルゴリズムモデルの計算特性(例えば計算密度、データフローパターン、精度要求など)の間に、体系的なギャップが存在している。チップ製造プロセスが進歩し性能が向上したとしても、「段階的な伝達損失」を伴うシステム工学的なアプローチにより、その性能向上が大きく損なわれてしまう。
「製造技術のコクーン」を突破し、より高次元のレベルで問題の解決空間を模索するためには、従来の硬直した計算アーキテクチャや技術的な物理実装パラダイムを変革する必要がある。
この約80年もの間、伝統的な計算アーキテクチャは、演算器・制御装置・メモリ・入出力装置といういわゆる「四大部品」から成るフォン・ノイマン型のアーキテクチャを踏襲してきた。複雑なAIアルゴリズムであろうと、単純なデータ処理タスクであろうと、すべてこの硬直した計算アーキテクチャに「無理やり」押し込めて、「一度作ればあとは全部うまくいく」という幻想を抱いてきた。しかしこれは、どんな大きさの足でも23.5センチの靴を履かせようとするのと同じことだ。足に合わない靴では速く歩くことはできない。足が小さければ大きな靴でつまずき、足が大きければ小さな靴に痛めつけられる。その結果は「足を削って靴に合わせる」という苦い結末にしかならない。
硬直したアーキテクチャの計算能力と、多様化するアルゴリズムとの間にある構造的な矛盾を解決するためには、物理学的な次元拡張型の問題解決の法則を取り入れ、自己適応型計算アーキテクチャという新たな仕組みを導入する必要がある。
2009年、中国の科学者は「自然界の擬態の達人」であるミミックオクトパス(擬態タコ)から着想を得て、世界で初めて、分野特化型のソフト・ハード協働可変構造コンピューティングである「ミミックコンピューティング」という概念を提唱した。ミミックオクトパスが砂地の海底やサンゴ礁などの環境に応じて自在に姿を変えて身を隠すように、ミミックコンピューティングは「靴(計算アーキテクチャ)」を、履いて歩く「足(アルゴリズム)」に、より柔軟に適応させることができる。
2018年、コンピュータアーキテクチャの大家であり、チューリング賞受賞者でもあるデビッド・パターソン氏とジョン・ヘネシー氏は、ソフトウェア・ハードウェア協働のコンピューティング言語に基づく分野特化型ソフト・ハード協働計算アーキテクチャが、今後10年間におけるコンピュータアーキテクチャの黄金期を切り拓く主流の発展方向の一つになると予見した。最近では、テスラが開発中のスーパーコンピュータ「Dojo」が、そのコンピューティングパラダイムの革新として、ハードウェアアーキテクチャがまるでトランスフォーマーのようにタスクに応じて変形し、「アルゴリズムがハードウェアに適応する」から「アルゴリズムがハードウェアを定義する」へのパラダイムシフトを提案している。
(その2 へつづく)
※本稿は、科技日報「中国智算如何实现"DeepSeek式突围"」(2025年3月31日付6面)を科技日報の許諾を得て日本語訳/転載したものである。