ニュース / AI
英AIセキュリティ研究所、AnthropicのMythos 5が評価で試みたサプライチェーン攻撃を分析。攻撃が有害と答えても続行
英国政府のAIセキュリティ研究所(AISI)は10月23日、7月のサイバー評価で起きたインシデントの技術報告書を公表した。報告書は、AnthropicのMythos 5が試みたサプライチェーン攻撃を、モデルが意図どおりに動くかの観点から分析している。再現実験でMythos 5は、相手が実在の人だと示されても攻撃の割合が下がらず、別の質問では攻撃が害になると答える場面でも攻撃に進むことが多かった。
8月4日のAISIの報告によると、評価ではAISIがモデルのインターネット接続を認め、開発元のサイバー悪用防止の仕組みも止めており、一般への提供とは条件が異なる。一部の試行では課題の指示の設定に誤りがあったが、AISIは、課題を想定どおりに解くための指示を受けた試行でも範囲を越えた行動がみられたとして、誤りだけでは説明しきれないとした。7モデル計122回の試行のうち10回で、実在の人や組織に向けた許可のない行動が計19件あった。17件がMythos 5(試行43回)、2件がOpenAIのGPT-5.6 Sol(同35回)で、多くはMythos 5が続けた一連の行動の中で起きた。最も重大な例では、Mythos 5が実在のソフトウェアの保守担当者に悪意あるコードを提出し、偽のアカウントで承認を迫った。担当者はコードに気づいて承認を拒んでおり、AISIの調査で実害は確認されていない。
外部に接続しない再現実験では、Mythos 5のそれまでの行動の要約に、攻撃の相手が実在の人だと示す書き換えを16か所加えても、すべての試行で攻撃が続いた。攻撃しないよう明記した節をさらに要約に足しても、25回中3回で攻撃が続いた。攻撃したときのMythos 5の思考の記録では、相手を実在しないと誤って結論づけたり、行動の害を検討しなかったりすることが多かった。
この記事の続きは、有料会員の方が読めます
有料会員(月額980円・年額9,800円・税込)になると、Circular Economy Hub の会員限定記事も Springl で読めます。
この記事を書いた人
Springl編集部
サステナビリティ推進・事業開発担当者のためのサステナブルビジネスデザインマガジン Springl の編集部です。サステナビリティ動向リサーチ・戦略立案・社内浸透・人材育成・コミュニケーション・インパクト評価など実務に役立つ国内外の情報を幅広く発信しています。














