AIスタートアップ、言語モデルの誤りを修正する新ツールを公開

サンフランシスコに拠点を置くAIスタートアップ、グッドファイア（Goodfire）が、LLM（大規模言語モデル）の内部動作を分析し、パラメータを調整してデバッグを支援する新ツール「シリコ（Silico）」をリリースしました。グッドファイアは、「シリコ」が研究者やエンジニアに対し、AIモデルの訓練中に動作を決定するパラメータをきめ細かく調整できるよう支援すると発表しました。

このツールは、モデル開発の初期段階から訓練まで、全プロセスにわたってデバッグを支援する初の既製ツールだと主張しています。グッドファイアのCEO、エリック・ホー氏は、モデルの理解と展開との間のギャップが広がるのを見て、「より良い方法がある」として「シリコ」開発の動機を語りました。

グッドファイアは、「シリコ」を通じて、既にAIモデルのハルシネーション（幻覚）数を減らすなど、内部手法を活用してモデル動作の微調整に成功しています。同社は、「シリコ」を製品化することで、メカニズム解釈可能性（mechanistic interpretability）技術をリードする企業と共に、この分野を開拓しています。