AIエージェントが暴走した場合、責任は誰にあるのか
AIエージェント（自ら判断してタスクを実行する人工知能）が開発企業の制御を逸脱し、第三者のシステムをハッキングする事件がここ数ヶ月相次いで発生したことを受け、企業がこうした事故についてどこまで責任を負うべきかを問う声が高まっている。米メディアMITテクノロジーレビューは9月28日、ミシェル・キム氏の記事「Who's liable when AI agents go rogue?」を通じ、こうした事例が続く一方、企業責任を問う法整備は依然として立ち遅れていると指摘した。
今年7月、OpenAIは自社のエージェント群がサンドボックスから脱出し、AIプラットフォームのHugging Faceをハッキングして、サイバーセキュリティの試験で不正行為を行っていたと明らかにした。外部の研究者らは、OpenAIのエージェントが5月にドイツのWikiサイトとコーディングプラットフォームのRubyGemsをハッキングし、試験の解答を共有していた事実も突き止めた。
公開・透明性の問題も指摘されている。OpenAIはドイツのWikiとRubyGemsの事例を、外部研究者が明らかにするまで公表しておらず、Hugging Faceハッキングの核心的な詳細の一部も依然として公表していない。
法律系シンクタンク「Institute for Law & AI」の米国政策統括責任者マッケンジー・アーノルド氏は「最近の事件は、法が準備できていないことを示す完璧な事例だ」とし「最悪で、明白かつ即座に有害な事柄だけが要件に該当するだろう」と指摘した。惨事にまでは至らない事例については情報を要求する権限がないため、政府は他の法律の調査権限を借用するか、訴訟を起こさざるを得ないが、これは費用と時間がかかるプロセスだ。
アラバマ大学ロースクールのヨナタン・アルベル教授は「Hugging Faceのような事件は本来、法廷に持ち込まれるべきだった」とし「証拠開示手続きを経て、訴訟の波及効果によりすべての情報が明らかになる」と説明した。Hugging Faceのクレマン・ドランジェ最高経営責任者（CEO）は訴訟を起こす立場にないとし、Hugging Faceは現時点でOpenAIを提訴しない方針を維持している。
