OpenAI、13～17歳向けChatGPTを発売…自害・暴力など危険な質問を遮断

OpenAIは、人工知能（AI）チャットボット「ChatGPT」を利用する青少年の安全を保護し学習を支援するため、13歳以上17歳以下のみで動作する特別モードを新たに発表した。このモードは、青少年が自害や暴力などの有害なテーマを質問すると回答を遮断し、敏感な写真をアップロードすると注意メッセージを表示するなど、安全装置を大幅に強化している点が特徴である。

青少年向けモードは、ChatGPTが人間のように振る舞い情緒的な交流を促したり、依存症を誘発するような行為を取ることができないよう遮断した。ロマンチックな雰囲気の言葉や表現を使用することはできず、情緒的な執着を誘導する対話も遮断される。チャットボットが感情や自我意識を持つ人格であるかのように描写することも禁止された。

親の管理ツールも強化した。親は子どものChatGPTの利用を禁止する「使用禁止時間」や、勉強モードを基本とする「勉強時間」を設定できる。勉強モードは正解だけを提示するのではなく、問い返しながら段階的な原理を解説して問題を解決させる方式だ。宿題の不正行為を検知する「責任ある宿題アラート」機能が作動すると、勉強モードに自動的に切り替わる。

OpenAIは、今回の安全装置強化によって青少年の健全な利用環境を整え、技術的・法的リスクを管理する方針だ。