OpenAIモデルを装った悪性リポジトリ、AI共有プラットフォームで人気1位に

OpenAIの著名な人工知能（AI）モデルを模倣した悪意のあるリポジトリが、AIモデル共有の人気サイト「Hugging Face」で最も多く利用されたプログラムのリスト1位に上がりました。セキュリティ専門家は7日、この問題を初めて発見しました。このリポジトリは正規のAIモデルのように見えましたが、実際にはコンピューターに保存された個人情報を秘密裏に盗み出すマルウェアを拡散するために利用されていたことが確認されました。

このリポジトリは、非アクティブ化されるまでの約18時間で、ダウンロード数24万4000件、いいね数667件を記録しました。リポジトリの案内に従って特定のファイルを実行すると、悪性スクリプトが作動しました。この悪性スクリプトは外部サーバーから追加ファイルをダウンロードした後、最終的に情報窃取型マルウェアを実行させました。このマルウェアは、利用者の画面キャプチャ、ブラウザ情報、Discordアカウント情報、暗号資産ウォレット関連データなど、機密性の高い個人情報を収集するように設計されていました。

Hugging Faceは現在、該当する悪性リポジトリへのアクセスを遮断した状態であり、調査過程で類似した方式でマルウェアを配布した他のリポジトリも追加で発見されました。これらもまた、著名なAIモデル名を盗用して利用者を欺く手法を用いていました。

ITセキュリティ専門メディア「The Hacker News」は、今回の事例を通じてAIオープンソースプラットフォームにおいて、人気順位やダウンロード数だけでプロジェクトの信頼性を判断するのは難しいと指摘しました。著名な企業やモデル名を偽装したリポジトリが短時間で人気リストの上位にランクインしうることから、開発者や研究者たちの注意が求められます。