脳波を読み取るAI、失敗を自ら修正…成功率90%

人が心の中で「これじゃない」と思った瞬間、人工知能（AI）が脳波を読み取り、自ら行動を正す。韓国科学技術院（KAIST）脳認知科学科のイ・サンワン教授の研究チームとマイクロソフト（MS）リサーチが5年間の共同研究の末に開発したこの技術は「神経価値整合（Neural Value Alignment・NVA）」と名付けられた。

この技術の基盤は、脳とコンピュータを直接つなぐブレイン・コンピュータ・インターフェース（BCI）だ。従来のBCI研究が、何を見て聞いているのか、どんな動作をしようとしているのかといった直接的な意図を解き明かすことに焦点を当てていたのに対し、NVAは一歩進んでいる。AIの行動が期待から外れたときに脳が無意識に発する誤り信号を機械が検知する方式だ。

鍵となるのは、異なる2種類の予測誤り信号を見分けることだ。火災現場に投入されたロボットが消火せよという命令を受けながら、とんでもなく人命救助に向かえば、目標そのものがズレたことを示す「報酬予測誤差（RPE）」信号が発生する。消火はするが消防ホースではなく小型消火器を持てば、目標は同じで方式だけが異なる場合に現れる「状態予測誤差（SPE）」信号が現れる。前者はやるべきこと自体を変える必要があり、後者は実行方式だけを変えればよいため、2つの信号を正確に区別しなければ、AIが何をどう修正すべきか判断できない。

イ・サンワン教授は「仮想ゲームと仮想キッチン環境で実験を行い、シミュレーションで2つの信号を区別して読み取る成功率が90%に達した」と説明した。実際の日常生活では成功率はこれより下がる可能性があるものの、誤分類の可能性は20%以下と推定される、と付け加えた。

研究チームは、NVA技術の活用先として、自動運転車が運転者の不快感を脳波で察知して走行方式を調整することや、物流現場の自動化ロボットが作業者の好みを把握して作業方式を改めることなど、人と機械が共に働く現場を挙げた。

実用化には、多様な環境での信号認識精度の検証と、ロボット・AIシステムとの連動技術の高度化が必要だというのが研究チームの説明だ。脳波測定装置も課題だ。以前は頭に数十個の電極を付けるキャップが一般的だったが、現在はヘッドバンドやイヤホン型に小型化しているとはいえ、誰もが日常で使えるほど普及するには依然として制約がある。

研究陣が描く最終目標は、個人の意図や価値判断を学び「もう一人の自分」のように動くAIだ。同教授は「AIが人が何を望み、どんなやり方で仕事をしたいのかを把握し、もう一人の自分のように動くようにすることだ」と述べ、「人間の価値判断をそのまま受け継いだAIを作るこの方式は、AIがAIを作り出す従来の蒸留方式に比べ、制御を外れるリスクが小さく、より安全だ」と語った。