アンスロピック、クロードの推論過程を示す「隠れ空間」を発見

AI企業のアンスロピック（Anthropic）は、大規模言語モデル（LLM）である「クロード（Claude）」の内部に存在する「J空間（J-space）」と呼ばれる隠された領域を発見し、これを解釈する「ヤコビアン・レンズ（Jacobian lens）」技術を開発しました。

J空間には、モデルが回答を生成する直前に出力される可能性の高い単語に関連する内容が含まれており、この空間を覗くことで、実際に生成された結果とモデル内部の動作が異なる場合があるという事実を確認できます。

同社は今週、自社ウェブサイトに研究論文を掲載するとともに、オープンソースプラットフォーム「Neuronpedia」と協力し、誰でもモデル内部を直接探索できる実践的なデモを公開しました。