OpenAIもAI文章にウォーターマークを導入へ

OpenAIがAIで生成した文章に識別痕跡（ウォーターマーク）を埋め込む。OpenAIは現地時間の5日、AI生成文章かどうかを識別する技術「TextGrain」を導入すると発表した。これは欧州連合（EU）のAI法における生成AIの透明性義務規定に対応した措置である。

TextGrainは、AIモデルが文章を生成する際に単語を選択する過程で微細な統計的シグナルを挿入する仕組みで動作する。OpenAIは、この技術が適用されてもAIの回答品質や性能、可読性に実質的な違いはないと説明した。

ただし技術的な限界もある。文章が短い場合や、数式のように単語選択の柔軟性が低いコンテンツでは識別率が低下する。生成された文章の一部の単語を類義語に置き換えるなど事後編集が行われると、識別率が大幅に低下するとOpenAIは説明した。同社によると、400トークン分の文章で10分の1の単語を類義語に置き換えると識別率は92％から66％に低下し、4分の1を置き換えると17％まで下がるという。

この技術は今後数週間以内に、EU地域内のChatGPTとCodexの出力に適用される。APIの出力にはデフォルトで無効化されており、各機関が自主的に有効化できる。ウォーターマーク検出ツールは、アクセス権の申請後に承認された研究者や専門機関に優先的に提供される。