グーグル、AI対話分類でエンベディングを外す
グーグルの研究チームは、従来方式の「エンベディング」（文章を数値ベクトルに変換し、似たもの同士をまとめる技術）を使わずに、生成人工知能（AI）対話のトピックを自動で分類する手法「CALLIOPE」を公開した。この手法は、膨大なAI利用記録をトピック別に整理するのに活用できる。エディス・コーエン（Edith Cohen）氏らグーグルリサーチ・グーグル・グーグルディープマインド所属の研究チームは21日（韓国時間）、CALLIOPEの論文をarXivに公開した。論文には、非構造化文書から上位・下位トピックの体系を構築する手順と評価結果が盛り込まれた。
従来方式は、文章を数値ベクトルに変換した後、意味が似ているデータ同士をまとめるエンベディングクラスタリングを核心とする。CALLIOPEはこの段階を丸ごと省いた。
CALLIOPEの差分プライバシーは、キーワード集計の段階に適用される。研究チームは、キーワードの出現頻度にノイズを加え、まれにしか現れない項目をふるい落とすことで、特定の文書が公開結果に与える影響を制限するよう設計した。論文は、プライバシー設定を強化すると分類が広く大まかになる可能性があるものの、品質が急激に低下する現象を、既存のエンベディングベース方式より抑えられると説明した。ただし、現在の保証単位は文書1件である。1人が複数回にわたって残した対話全体をひとまとめに保護する個人単位の差分プライバシーには、追加の研究が必要だと論文は明らかにした。
研究チームは、多言語発話データMASSIVE、銀行の顧客問い合わせデータBanking77、映画のレビューやニュース文書など6つのデータセットで、CALLIOPEをCLIO・URANIAと比較した。その結果、正解カテゴリーとの一致度を評価するNMI・ARI指標および一部のトピック評価でURANIAを上回る結果を出し、クラスタ内部構造を見る指標でも同等かそれ以上の成績を収めたと論文は報告した。
