アンソロピック元研究員「AIを制御する方法が分からない」

「AIを制御する方法が分からない。」アンソロピック（米国のAI開発企業）の元研究員ジェイコブ・コクソン氏は5日（現地時間）、ニューヨーク市議会のAI公聴会で「現在の方式のままだと、人類がAIの制御権を失う可能性はそうでない可能性よりも大きく、最悪の場合、人類の絶滅につながり得る」と警告した。ニューヨーク市議会がAIの危険性を公式に取り上げた場となった。

コクソン氏はオープンAIとアンソロピックで3年間、事前学習研究を担当した。氏は先月8日、自身のX（旧Twitter）で退社を発表し、「どの企業も責任ある行動を取っていない」と批判していた。

公聴会はジュリー・メニン・ニューヨーク市議会議長の要請で開かれた。メニン議長は10件の条例で構成されるAI規制法案パッケージを推進中だ。核心は、緊急時にシステムの作動を即座に停止させる「キルスイッチ」の導入義務化だ。ニューヨーク市でAIシステムを販売・配布する前の第三者による安全検証の義務化、内部告発者報奨プログラムの導入、規定違反時の1件あたり最大2万5000ドル（約3400万円）の罰金の賦課なども盛り込まれた。

コクソン氏はキルスイッチについて「短期的には役立つかもしれないが、長期的な安全を保証するには十分ではない」と指摘した。

この日の公聴会には、オープンAI、アンソロピック、グーグルなどビッグテック企業の関係者もオンラインで出席し証言した。ニューヨーク市議会は、出席要請に応じなかったスペースXのAI部門について、裁判所に召喚状の執行を要請すると明らかにした。

ドナルド・トランプ米政権がAI規制に概ね不介入の姿勢を維持する中、ニューヨークなど州・地方自治体が独自の規制を推進しており、連邦と地方の間で規制の方向性の違いも拡大している。