AIによる生物兵器リスクに業界トップ経営陣から警告相次ぐ

AIは生物兵器を作り出すことができる。この現実を前に、AI・バイオ（生命工学）業界の最高位経営陣がリスク警告に乗り出した。先週末、アンソロピックのダリオ・アモデイCEOは、AIが深刻なリスクを孕んでおり、開発速度を緩めるべきだと主張した。また、OpenAIのサム・アルトマンCEOもX（旧Twitter）で「ダリオと同様に、最先端（フロンティア）AIの速度調整が必要だという点に同意する」と述べた。

その数日前、AI研究者のジェイコブ・コクソンはアンソロピックの職を辞め、同社とOpenAIが責任ある行動を取っていないと主張し、それをXに投稿した。アンソロピックの従業員イーヴァン・ヒューブリンガーはXで「AIが人類の滅亡を招き得ると真剣に信じている。向こう10年以内の確率は10％を超えると個人的に考えている」と述べた。

彼らが恐れる終末シナリオの一つが、AIが生物兵器の設計に関与する場合だ。MITテクノロジーレビュー（ジェシカ・ハメルルー、2026年9月18日付）は、遺伝子に基づいて特定の人口を標的とする致命的なウイルスから、作物を枯らして食料危機を招くカビに至るまで、多様な生物兵器の設計がAIによってかつてなく容易になっていると報じた。

2022年、コラボレーションズ・ファーマシューティカルズの研究チームは、疾患治療候補物質の探索用に開発したAI分子生成モデルを逆にして実験した。モデルは6時間以内に化学兵器用毒ガスの候補となり得る分子4万個を生成し、一部は既知の神経作用剤より毒性が強くなるよう設計されていた。研究チームは当時「過剰な警戒論抜きにしても、これは新薬開発AIコミュニティの同僚たちにとって警鐘であるべきだ」と記した。

スタンフォード大学の医学・生命医学倫理教授デイヴィッド・マグナスはこの報告について「非常に恐ろしい」と語った。1990年代後半から医学やバイオテクノロジーの悪用リスクを評価してきた専門家である彼は「それは本当に恐ろしいことであり、それ以降の状況は手がつけられないほど拡大した」と述べた。