AIが人類滅亡や生物兵器の脅威にまで言及

MITテクノロジーレビューは9月18日付のニュースレター「The Download」で、AIによる絶滅のリスクと生物兵器（細菌・毒素などを武器として用いる兵器）の脅威の可能性を取り上げた。AIは人類を滅亡させることはできるのか。今回の号には、水曜日に開催されたライブ「Roundtables」イベント「AIは本当に私たちを殺すことができるのか」での質問と回答が収められている。「AIは危険なのか、それともテック企業の宣伝的な発想なのか」「AIを効果的に管理・監視・規制するにはどのような措置が必要か」などの質問に、AI上級編集者のウィル・ダグラス・ヘブン氏とAI記者のグレース・ホーキンス氏が答えた。

生物兵器の脅威の根拠としては、2022年の研究が紹介された。研究チームは新薬開発用AI「分子ジェネレーター」を利用し、6時間以内に化学兵器禁止条約の規制対象となり得る4万個の分子を生成した。ニュースレターは、現在AIツールが科学のほぼすべての分野の質問に答えられるようになり、遺伝子編集技術も進歩する中でリスクが高まっていると説明した。

今回の号には、マイクロソフトとOpenAIの職員が「AIがウェブを破壊している」と述べた内容も掲載されており、AIがもたらすさまざまなリスクに関する議論が続いている。