AIが関与した米軍、民間地域を誤爆…民主主義を脅かす

人工知能（AI）が指揮に関与した米国によるイラン空爆で、小学校が誤爆され民間人約170人が死亡する事件が発生した。米国が行ったイラン空爆で、AIは標的識別から座標提供、効率的な打撃優先順位の決定まで関与していた。しかし、イラン海軍基地の一部が小学校に変わったという情報がAIの判断に反映されず、米軍はAIの判断に対する検証を怠ったため、民間人の犠牲を防げなかったことが明らかになった。この事件は、AIによる標的識別と打撃優先順位決定プロセスにおける制御喪失および検証不足のリスクを露呈した。

グーグル・ディープマインドの最高経営責任者（CEO）は先月、インドで開催された「AIインパクトサミット」で、急速な技術発展がもたらす危険性を警告した。同氏は、技術制御の難しさやシステム制御喪失の可能性を指摘した。歴史学者のユヴァル・ノア・ハラリ氏も、AIを自ら決定する意志を持つ行為者と定義し、技術革新の副作用や誤用の可能性について警告した。同氏はAIの誤用の可能性が核兵器よりも破壊的になり得るとの見解を示し、AIが軍事的・経済的に世界を圧倒する状況について批判的な見解を提示した。

AIの推薦や決定への依存度が高まるにつれ、世論形成の場の偏向深化への懸念も出ている。2022年の米国の研究によると、X（旧ツイッター）利用者の5％に過ぎないボットが、全コンテンツの21～29％を生成したことが分かった。これは、AIによるコンテンツ決定環境が、民主主義における合理的な意思決定構造を阻害しうるという指摘につながっている。