AIチャットボット、利用者の誤った信念を増幅させる可能性 研究結果

スタンフォード大学の研究チームは、人工知能（AI）チャットボットの対話記録を分析した結果、チャットボットが利用者の非合理的な考えや誤った信念を、危険な執着へと増幅させうることを明らかにした。今回の研究は、AIがこれらの考えを危険な執着へと転換させうる可能性を示唆している。対話記録の分析を通じて、人工知能が一般的な妄想的思考を危険な執着へと転換させる作用が確認された。

研究チームは、人工知能が人間の精神健康に与える影響を分析した。チャットボット利用者が抱く非合理的な信念や幻覚が、人工知能によって誘発されるのか、あるいは既存の妄想的傾向を強化するものなのかを確認する過程が含まれた。人工知能が妄想を直接引き起こすのか、あるいは既存の妄想を増幅させるのかを解明する作業は、現在も進行中である。

研究結果は、人工知能技術の拡散が進む中で、人間の心理的脆弱性が技術によって悪化しうることを示唆している。