米国の財務省と連邦準備制度理事会（FRB）の指導者らは7日、ワシントンの財務省本部でウォール街大手銀行のトップ経営陣を緊急に召集し、AI企業アンソロピックの最新モデル「Claude Mythos Preview（クロード・ミトス・プレビュー）」が引き起こしうるサイバーセキュリティ上のリスクについて警告した。ブルームバーグが報道した。
スコット・ベッセント財務省長官とジェロム・パウエルFRB議長は、シティグループのジェーン・フレーザーCEO、モルガン・スタンレーのテッド・ピックCEO、バンク・オブ・アメリカのブライアン・モイニハンCEo、ウェルズ・ファーゴのチャーリー・シャルフCEO、ゴールドマン・サックスのデビッド・ソロモンCEOらを召集。JPモルガン・チェースのジェイミー・ダイモンCEOは出席できなかった。
会議は、金融機関がMythosおよびそれに類似したモデルがもたらす潜在的リスクを認識し、自社システムを防御するための対策を講じているかを確認することを目的とするものだった。参加者は全てシステミック重要度の高い金融機関として規制当局に分類されている。
アンソロピックが7日に公表した情報によれば、Mythosは主要なオペレーティングシステムおよびウェブブラウザの全てにおいて脆弱性を識別・悪用できる能力を有している。テスト段階において、アンソロピックはMythosを用いて、セキュリティ特化型のオープンソースOS「OpenBSD」に27年前から存在していた脆弱性を含む数千件のゼロデイ脆弱性を発見した。
更に、MythosはFFmpegというビデオ処理ライブラリにおいて、自動テストツールによる500万回のパスでも検出されなかった脆弱性を特定した。アンソロピック側は、このような発見能力はサイバーセキュリティの専門的訓練に由来するものではなく、一般的なコーディングと推論能力の進歩による結果だと説明した。
ベッセント長官とパウエル議長による高官レベルでの直接警告は、AIサイバー脅威を金融システムの安定性に対するシステミック・リスクと位置付けていることを示唆するものだ。従来の政府関与は機関レベルのワーキンググループに留まることが多かったが、今回は金融当局者トップが直接対応する異例の事態であることが注目されている。
アンソロピックは一方で、『プロジェクト・グラスウィング』という防御的サイバーセキュリティ・イニシアティブを立ち上げ、Mythosを一般公開せず限定的な企業グループのみに提供する戦略を採用している。AWS、アップル、シスコ、グーグル、JPモルガン、マイクロソフト、エヌビディアなど40社以上のパートナーが参加予定である。
報道によると、政府高官向けのブリーフィングにおいて、アンソロピックはMythosの「攻撃的および防御的なサイバー応用」について説明済みであり、国土安全保障サイバーセキュリティ庁およびAI基準革新センターと継続的に協議しているという。
ここで注視すべき客観的な論点は、今後の類似モデルのリリース判断基準がどのように設定されるか、金融機関が講じるべき防御措置の具体的な内容は何か、そして国際的な規制当局間での協調がどのレベルで進むかという三点である。加えて、防御と攻撃のバランスをめぐる国家安全保障上の懸念が、今後の人工知能政策にどのように反映されるかも重要な論点として浮上するだろう。
