AIヘルスケアツールの実効性に疑問符

人工知能（AI）技術を活用したヘルスケアツールが市場に急速に普及しているが、これらのサービスが実際にどれほど効果的で安全なのかについての疑問が提起されている。高いリスクが伴うヘルスケア分野において、企業独自の評価のみに依存したり、外部専門家のレビューなしに自己評価結果を公開したりする手法は信頼性に乏しいとの批判があり、企業が研究コミュニティからの助けを得られる潜在的な盲点を見落とす恐れがある。専門家らは、これらのAIヘルスケアツールが広く展開される前に、独立した専門家によるより厳格で体系的な評価が必要だと指摘している。

既存の医療システムへのアクセスが困難な人々のために特化したチャットボット形式のAIツールが、健康情報提供の代替手段として注目されており、一部のLLM（大規模言語モデル）は安全で有用な健康アドバイスを提供できるとの研究結果も出ている。AI開発企業は、大規模言語モデルが医療アドバイスを提供できるレベルに達したとみなし、ヘルスケア製品を市場に投入している。

マイクロソフトAI健康部門副社長のドミニク・キング氏は、AI能力の発展こそが同社のヘルスチームが構成され、コパイロット・ヘルスが存在する核心的な理由だと述べた。同氏は、生成AIが健康関連の質問に回答し、応答する能力において進歩を遂げたと語り、もう一つの重要な要因は需要であると付け加えた。コパイロット・ヘルスのリリース直前、マイクロソフトは人々がコパイロットを健康アドバイスにどのように利用しているかについてのレポートとブログ記事を公開しており、それによるとコパイロットは1日あたり5000万件の健康関連の質問を受け、健康はコパイロット・モバイルアプリで最も人気のある会話トピックであった。

このトレンドに注目した他のAI企業も同様の製品をリリースしている。