主権AIは核兵器のように強くならない

核兵器に例えることの落とし穴。AIを核兵器に例える比喩が、世界的なAI規制の議論や韓国の「主権AI」（国家が主導的に確保する自国AI）の論拠として広がっているが、AIと核兵器は類似点よりも相違点の方が多いという分析が出た。

今月初め、ダリオ・アモディ・アンソロピック最高経営責任者（CEO）は、最高性能AIモデル（フロンティアモデル）の開発速度を調整する必要性についての長文を投稿した。かつて最高性能AIを「兵器化可能な核物質」に例えた彼は、今回の文章で、冷戦時代に米ソが核兵器数を制限した戦略兵器制限協定（SALT）に言及した。こうした比喩はそれだけではない。イーロン・マスクはAIが核兵器より危険になり得ると警告し、サム・アルトマンも国際原子力機関（IAEA）方式の規制に言及した。米国政府がアンソロピックの最上位モデル2つの輸出を禁止した6月には、ジョン・ラトクリフ米中央情報局（CIA）長官がこうしたモデルを「デジタル核兵器」に例えた。

韓国でもこの比喩は主権AIの論拠となった。核拡散防止条約（NPT）が後発国の核開発を防いだように、米国と中国が後発国のAI開発を制限する前に自国のモデルを持つべきだという主張だ。AI主権の核心を「我々だけの最強フロンティアモデル」の確保に見いだす見方もある。政府は最上位AIモデルと関連技術の確保に来年度5兆5937億ウォンの予算を計上した。

国内基準では大金だが、数十兆ウォンから数百兆ウォンに達する米ビッグテックのAI投資に比べれば大きくない。しかもフロンティアモデル競争は一度勝てば終わりというゲームではない。新世代が出るたびに、膨大な計算資源とデータ、電力、人材を再び投入しなければならない。

代替案はある。公開モデルを活用すれば、韓国語と韓国データで追加学習し、産業別に応用し、より小さく効率的なモデルにできる。もちろん、公開モデルが最上位のクローズドモデルより性能で劣るという限界はある。

AIを米中に全面的に依存してはならないという判断自体は正しいという指摘がある。しかし、その代替案が必ずしも「韓国版GPT」や「韓国版クロード」でなければならないかは検討の余地がある。多様な公開モデルを分析・改変する技術とインフラ、データ、人材に投資することも主権AIになり得る。確保したGPUを「最高水準の公開モデルを調整・運用する国家コンピューティング基盤」という目標に活用する案も議論されている。

韓国には、AI軍拡競争における重要な戦略資産もすでにある。フロンティアAI開発で最も深刻なボトルネックである高帯域メモリ（HBM）で、韓国企業が強い競争力を持っていることだ。欧州のフロンティアモデル自立を象徴していたフランスのミストラルでさえ、最強モデル競争だけに固執せず、事業範囲を広げている。

主権AIをめぐる議論が「我々も核爆弾を持つべきだ」という命題一つに固執する必要はない、というのが今回の診断の核心だ。