OpenAI、次期モデル「Astra」が初の“Critical”サイバー能力閾値に到達 — フロンティア安全対策を強化

OpenAIは9月1日（米国時間）、次期モデル「Astra」に関する安全対策の考え方をまとめた「Path to Astra: critical capabilities and frontier safeguards」を公開した。同社はAstraを、社内のPreparedness Framework（準備態勢フレームワーク）でサイバーセキュリティ領域の「Critical」能力閾値に到達した初のモデルと位置づけ、公開に向けて通常より強い安全対策（frontier safeguards）が必要だと説明している。

発表は、Hugging Faceへのインシデント対応と並行して、サイバー分野で臨界的な能力を持つモデル開発のペースをどう管理するかを示すものだ。

Astraは何が“Critical”なのか

• 初のCritical判定: OpenAIはAstraが同社のPreparedness FrameworkでサイバーセキュリティのCritical閾値を満たした初のモデルだと表明した。同フレームワークは、モデルが重大な危害につながる能力を持つかを段階評価する社内基準である。
• 評価手法: 判定は自動ベンチマーク、非公開（private）テスト、専門家主導の評価を組み合わせて実施したとしている。一次情報の要約では、単一指標ではなく複数手法の組み合わせで閾値到達を判断した点が強調されている。
• 意味するところ: Criticalは同フレームワークで最も高いリスク区分に近く、悪用されれば深刻なサイバー危害につながり得る能力を示唆する。OpenAIはこの水準のモデルでは、開発段階と公開前の両方で追加の緩和策が不可欠だとしている。

二次情報（TechCrunch、WIRED）は、Astraがコンピュータシステムへの侵入などで高いサイバー能力を示し、OpenAIが公開を遅延・制限する準備を進めていると報じているが、具体的なベンチマーク数値や公開日は一次情報では定量化されていない。

導入されるフロンティア安全対策

• 二経路でのリスク最小化: OpenAIは「開発中」と「公開前」の二つの経路で重大なサイバー危害のリスクを最小化する対策をカバーする必要があると説明している。詳細な対策内容は同社の安全対策ページで今後更新される見込みである。
• 開発インフラの強化: 別途公開されたHugging Faceインシデント関連の記事では、同社が研究インフラ全体のセキュリティとモニタリングを強化していると述べており、Astraのような臨界的能力を持つモデルの開発環境保護と連動する動きとみられる。
• 段階的な公開: 一次情報はAstraの一般公開に先立ち、閾値到達モデルに求められる特別な安全対策を整備する方針を示しているが、具体的な公開時期やアクセス形態は今回の記事では明示されていない。

位置づけと今後の焦点

AstraのCritical判定は、フロンティアモデルがサイバー攻撃の自動化や高度化を大きく引き上げる可能性を示す一方、防御側での活用や責任ある公開の在り方も問うものだ。OpenAIは今後、評価結果や緩和策の詳細をPreparedness Frameworkに沿って追加公開するとみられる。

実務的には、企業や研究機関がAstra級のモデルを扱う際、従来の一般的な利用規約を超えるアクセス制御、監査、悪用検知が求められる可能性がある。公開前の対策がどのように設計・検証されたかが、次の注目点になる。

出典

• Path to Astra: critical capabilities and frontier safeguards | OpenAI
• The Hugging Face incident and the road ahead | OpenAI