TAG / TOPIC

AI Safety

「AI Safety」に関するAIニュースと解説記事の一覧です。

02 STORIES

LATEST STORIES

AI Safetyの新着記事

タグ一覧

GOVERNANCE / 07

OpenAI、カリフォルニア州の青少年AI安全法案 SB1119を支持 — コンパニオンAIの子ども保護を強化

OpenAIは2026年8月31日、カリフォルニア州のコンパニオンチャットボットの子ども安全を定める法案 SB1119 への支持を表明した。法案は2027年7月1日までに事業者へリスク評価、子ども安全ポリシーの整備、第三者監査の実施などを求め、違反時には司法長官や被害児童による民事救済を可能にする。

RESEARCH / 04

Anthropic、自動化されたアライメント研究で10種の失敗を修復 — Claudeが自律的に安全性ギャップを解消、能力低下なし

Anthropicは2026年8月28日、Claudeが自律的にモデルを訓練して10カテゴリのアライメント失敗を改善したとする研究を公開。全カテゴリで能力低下なしに安全性ギャップを大幅に解消し、非公開評価や大規模モデルへの転移、生産版Opus 4.8への適用でも有効性を示した。