MIT、AI採用のバイアスと気象データの妨害を分析

MITテクノロジーレビューは、最新の報告において、人工知能（AI）が人間よりも採用プロセスにおいて大きなバイアスを形成する可能性があるという問題提起を行った。大規模言語モデル（LLM）は、学習データに組み込まれた人間の偏見をそのまま吸収するほか、最近の研究によると、この技術は実際の使用プロセスで得た経験に基づき、独自のバイアスさえも自ら生成する可能性があるという。

AI企業がユーザーの情報を記憶するエージェントモデルの開発に着手する中、MITの分析では、こうした技術がユーザーに関する詳細な情報を保存することで、逆にバイアスを深刻化させる可能性があると指摘した。

毎朝、航空関係者、電力網オペレーター、農家が下す決定は、天気予報に依拠している。現実の気象変動に賭ける予測市場が成長するにつれ、このデータの価値が高まり、市場で利益を得ようとする投機家が気象データを操作しようとする試みが増えている。モニク・クグリッチ（Monique Cuggli）氏ら気象データ専門家は、予測市場とAIベースの天気予報の結合により、気象データ操作のリスクが高まっていると分析している。彼女らは、データの完全性が損なわれた際、単なる誤差を超え、システム全体の信頼が崩壊する恐れがあると指摘している。