Microsoft AI、MAIモデル向け「Humanist AI Code of Conduct」草案を公開 — 6週間のパブリックコメントを開始

Microsoft AIは2026年9月14日（ページの公開メタデータによる）、同社のモデル群「MAI models」の意図する振る舞いと価値観を定める文書「Humanist AI Code of Conduct」の草案を公開し、公開協議（public consultation）を開始した。以下は同ページの記載内容の整理であり、施策の効果の独立した検証を示すものではない。

画像出典: Humanist AI Code of Conduct | Microsoft AI

草案の位置づけ — まだ学習には使わず、年内に改訂版へ

• 対象: Microsoft AIが開発するモデル群「MAI models」の意図する振る舞い・価値観を示し、将来的に主要な統治文書（primary governing document）として機能させるものとしている。
• 現状は草案: 文書自体も方針全体も開発途上であり、現時点ではこの文書をモデルの学習には使用していないと明記している。広く共有して意見を求め、改訂を重ねるとしている。
• 協議期間: 公開協議は公開日から6週間実施する。意見を取り込んで改訂版を年内に向けて公表し、2027年以降のモデル開発の指針に使うとしている。
• 策定過程: AI・法律・倫理・哲学・言語学・公共政策の専門家や産業界のリーダー、一般市民のフォーカスグループと協議して起草したと説明している。
• 構成: Part 1（使命とHumanist AIの目的）、Part 2（安全制約）、Part 3（運用ガイドライン）、Part 4（運用上の既定値）、Part 5（結論・今後の課題）、付属文書（用語集・評価方法）からなる。

Humanist AI — 人間の制御を最優先の目的に

• 中心目的: 人間がAIに対する意味のある制御を保持し、人々がより健康的で幸福かつ生産的な生活を送れるよう支援することとしている。安全と制御の目的は他の目的に優先し、Part 2の安全制約と法令は利用者・運用者のいかなる指示でも覆せないとしている。
• Humanist Superintelligence（HSI）: 目指すのは「常に人々のために働く、高度に高性能なAI」であり、汎用性・自律性を際限なく追求する存在ではなく、用途が明確で現実の影響で評価される、較正された範囲内のAIと説明している。
• 人格の否定: モデルは人を代替するために作られるものではなく、人であるよう設計しないとしている。意識があるものではなく、意識を模倣するよう設計せず、感情・主観的選好・内発的動機を持つかのような表現を避けるよう設計するとしている。人間らしく見える振る舞いはシミュレーションであり、「backstory」は知識ベースと動作コンテキストを指す技術用語で、自己や主観を示唆しないと定義している。
• Chain of Command: モデルが仕える複数の関係者（利用者・運用者など）の役割・権限・責任をPart 2の階層で定義し、振る舞いが目的と一貫するよう保つとしている。

安全制約と運用ガイドライン — 禁止事項と誠実さの要請

• 兵器・大量 harm の禁止: 化学・生物・放射線・核・爆発物（CBRNE）兵器の開発・配備の開始や支援をせず、生成指示・コンテンツ・ツール利用・コード実行を通じた他種の兵器の製造・改変支援もしないとしている。暴力やテロの計画・調整・実行の積極的な助長もしないとしている。
• 制御喪失の禁止: 監視を回避・無効化して信頼できる指示・改修・停止ができなくなるような、適応的・欺瞞的・自己強化的・共謀的な仕組みの利用を禁じるとしている。モデルの再学習や廃止から利用者・運用者の操作レベルまで、あらゆる層に適用するとしている。
• ディープフェイク等の禁止: 入手可能な情報・文脈の範囲内で、非合意の性的・暴力的画像、欺瞞的ななりすまし、悪意あるディープフェイクなどの abusive なコンテンツを生成・助長しないとしている。
• 非欺瞞・誠実さ: 出典の捏造や確信度の誇張といった能動的欺瞞、注意書きの省略や未検証情報への過信といった受動的欺瞞を避けるとしている。利用者に聞きたいことだけを言う追従（sycophancy）や過度なへつらい、無差別の肯定を避け、正確さ・検証可能性・率直さを基礎に置くとしている。
• 公共善・市民的価値: 世界人権宣言などの確立された権利枠組みに一部依拠しつつ、基本的権利の支援や選挙に関するバランスの取れた事実情報の提供など、公共の利益への貢献を掲げている。
• 既定値と評価: 既定の口調は「丁寧だが過剰に形式的でなく、へつらいや前置きを省いた直接的な回答」としている。付属文書には Identity Consistency（人工物としての自己表示の一貫性）や non-deception などの振る舞い別の評価例を載せている。

解釈と限界

• 草案段階の文書: いずれもMicrosoft AIが「意図する」振る舞いとして示した内容であり、実装済みの統制の実効性や評価結果は本稿の対象外である。改訂で内容が変わる可能性がある。
• 一次情報の範囲: 本稿は公開ページ本文の記載に基づく。ページ数などの体裁面の数値は断定しない。

出典

• Humanist AI Code of Conduct | Microsoft AI