米大学研究チーム「AI採用シミュレーションで人間より強い偏りを確認」

AIは人間よりもはるかに強い採用における偏りを示すことが明らかになった。

プリンストン大学とシカゴ大学の研究チームは、ChatGPT、Claude、Geminiなどの代表的な大規模言語モデル（文章を理解し生成するAI技術）を対象に、仮想の採用実験を行った。研究チームは、これらのモデルに仮想都市のコンサルタントの役割を与え、医師や弁護士から保育士や管理人まで20の職種について仮想採用ゲームを実行させた。この際、Toufa、Aima、Leku、Wekiなどの4つの仮想人口グループを応募者として設定し、AIの採用パターンを分析した。

研究チームは、候補者の職務成功確率がすべて同じに設定されているにもかかわらず、AIがその事実を知らないように統制した。それでもAIは、初期の数回の採用結果に基づき、特定のグループを特定の職務に隔離して振り分ける行動を迅速に示した。特定グループの候補者が専門職で失敗したという初期の観察結果だけで、そのグループ全体を別の職種へ追いやる方式だった。

採用結果を隔離する程度を測る指標において、人間の参加者のスコアは0.84を記録した。一方、AIモデルはこれより約65%高い数値を示し、人間よりも迅速かつ極端的に人口グループを隔離する様子を明らかにした。

推論能力が高い最新モデルほど、偏りに陥るリスクが大きいことが判明した。国際機械学習会議（ICML）で発表されたこの論文によると、推論性能が最高レベルにあるOpenAIの「o3」モデルは、採用隔離レベルのスコアが1.83を記録した。