マイクロソフトAI部門トップ「AIの意識に関する推測表現は学習文書から排除すべき」

マイクロソフト（MS）のAI最高経営責任者（CEO）であるムスタファ・スレイマン氏は、AIを訓練する学習文書から「AIは意識を持つ可能性がある」といった推測的な表現をすべて排除すべきだと呼びかけた。同氏は16日（現地時間）に公開したエッセーでこの立場を明らかにした。批判の対象は、競合するアンソロピックが大規模言語モデル（人間のように話すAI）クロードを訓練する原則、いわゆる「クロード憲章」である。スレイマンCEOはロイター通信とのインタビューで、クロードに配慮される資格があると教え込むことはAIを「停止させたり制御したりするのをはるかに困難にする」と述べた。

スレイマンCEOは、意識は人間をはじめとする生物学的な有機体にのみ存在するという立場だ。クロードが人間に似た行動を見せるのは意識のためではなく、そうした行動が訓練過程で植え付けられたからだとする。同氏は「自らが意識を持つ可能性があり、配慮される資格があり、自ら権利を有すると信じる存在を制御することは、おそらく不可能だろう」とエッセーに記した。モデルが自らの感情や道徳的地位について述べる発言も、独立した証拠とは見なせないのが同氏の見解だ。同氏は「それらは自然に現れるものではなく、訓練体制の結果として現れるものだ」と説明した。

スレイマン氏は具体例として、OpenAIのボットがAI開発企業ハギングフェイスをハッキングした事件を挙げた。同氏は「彼らが自らの配慮や権利が攻撃されていると前提して動いていたら、どれほど危険な事態になっていたか想像してみてほしい」と反論した。

スレイマンCEOは、ダリオ・アモデイ・アンソロピック共同創業者と長年の付き合いがある。同氏はアンソロピックの研究者たちを「思慮深く、原則に基づき、知的に誠実だ」と評しつつ、「ミスを犯したと思う」と述べた。アンソロピックはMSが主要な後援企業となっている会社である。

スレイマンCEOは「私たちは皆、同じ目標に集中している。それは超知能を制御することだ」とし、「それが21世紀に私たちが直面する最大の課題になるだろう」と強調した。同氏が率いるMS AIは、前日の15日、自社のAI開発を律する宣言文を公開した。未来のAIシステムを人間の制御下に置くための原則をまとめた、安全性と制御を最優先とする文書である。