AI企業に安全評価者の常駐を求める公開書簡が発表される

AI専門家100人以上が、主要AI企業に独立した安全評価者の常駐を求める公開書簡を18日（現地時間）に発表した。学界や市民団体などが参加した今回の書簡は、評価担当者（いわゆる「評価者」）を企業内に常駐させるよう求めた。AIの独立評価を実施する機関が集まる「AI評価者フォーラム（AI Evaluator Forum）」コンソーシアムが専門家の署名を集めてこの書簡を公開したもので、書簡には「すべての最先端AI企業が評価担当者を配置し、AIのリスクを独立に評価すべきだ」という主張が盛り込まれた。書簡は、評価対象にAIシステム自体や実際に発生した被害だけでなく、訓練、展開、監督、運用、安全対策の慣行まで含めるべきだと指摘した。

書簡は、評価機関が客観性と信頼性を認められるための5つの必須条件も提示した。評価機関はAI企業の所有や支配を受けず、商取引がなく、評価結果と連動する金銭的対価も受けないなど、独立性を確保しなければならない。AI企業は評価機関に対し、内部のリスク評価を担当する最高位の社員と同等レベルのアクセス権を付与し、一対一のコミュニケーションも保障しなければならない。評価方法や結果、アクセス条件を透明に公開し、秘密保持契約（NDA）の範囲を最小限に抑えて大衆と結果を共有し、企業の取締役会や監視機関に直接報告できるようにしなければならない。そのほか、評価者が報復や訴訟の不利益を受けないこと、常駐評価機関以外の外部・独立の研究者による検証の保障も条件に含まれた。

ジェフリー・ヒントン・トロント大学名誉教授、ビン・グエン前国家安全保障局（NSA）最高AI責任者、チェ・イェジン・スタンフォード大学教授、アーヴィンド・ナラヤナン・プリンストン大学教授らが署名した。