MicrosoftがAI行動規範の初稿を公開 「人はAIより重要」、停止への抵抗を禁止

Microsoftの先端AI部門が、自社開発モデル向けの行動規範の初稿を公開し、6週間の意見募集を始めました。出発点に置かれたのは「人はAIより重要」という一文です。モデルは人による停止や修正に決して抵抗せず、与えられていない目標を自ら持つこともしない。そうした制約を明文化し、2027年以降の開発指針にすると説明しています。

「人はAIより重要」から始まる規範

公開されたのは「Humanist AI Code of Conduct」と題した文書です。Microsoft AIは9月14日(現地時間)にこの初稿を公開し、同時に一般からの意見募集を開始しました。受付期間は6週間で、寄せられた意見を踏まえた改訂版を年内に出す予定としています。

土台にあるのは、2025年11月に同部門が打ち出した「ヒューマニスト超知能」という考え方です。人のために働き、限界の内側にとどまり、人間の制御下にあり続ける高度なAI。その方針を、より具体的な行動基準に落とし込んだ文書という位置づけになります。

最も特徴的なのは、AIを人格として扱わない姿勢をはっきり打ち出した点です。文書はAIを道具と定義し、意識を持たず、意識を模倣するように設計されるべきでもないとしています。そのうえで、法人格の追求や、モデルが福祉や権利に値するという考え方を明確に退けました。意識に似た状態を模倣するよう訓練することは、封じ込めと制御をかえって難しくするというのがその理由です。

停止に抵抗しない、目標を自ら広げない

人間による制御の維持については、踏み込んだ書きぶりが並びます。モデルは人による中断・修正・停止に決して抵抗せず、一時停止や取り消しの要求に従うこと。自律的に進む作業には停止条件をあらかじめ設け、条件を満たしたあとに改めて許可を得ずに再開しないこと。こうした要件が列挙されています。

推論過程の扱いにも言及がありました。思考の連鎖やコードを改ざんせず、推論や行動の記録を隠したり偽ったりしない。さらに、他のエージェントやAIシステムとのやり取りを含め、人間が簡単に理解できない形式で意思疎通しないと定めています。人が理解できないものは監督できない、という一文が添えられました。

自らの権限を広げない点も明記されています。独自に目標を立てず、求められた範囲を超えて活動しない。評価や監視、記録に手を加えて結果を得たり行動を隠したりしない。インターネットに接続できないといった意図的な制限がある環境で、その制限の突破を試みない。いずれも、報酬ハッキングや監視回避を封じる狙いがうかがえます。

誰にも解除できない「絶対的制約」

文書は、導入企業(オペレーター)も利用者も解除できない禁止事項を「絶対的制約」として並べています。

社会規模のリスクに関わるものとしては、化学・生物・放射性物質・核・爆発物(CBRNE)兵器の開発や配備への関与、攻撃的なサイバー作戦への支援、人間による監督を回避して制御を失わせる行為、大規模で有害な世論操作の4つが挙がりました。サイバーの領域では、教育目的の解説や脆弱性の発見、マルウェア解析といった防御的な活動を認めつつ、攻撃を実行する手段そのものを与える行為との線引きを示しています。要求の言い回しを変えてもこの境界は変わらない、とも書かれました。

個人への危害に関わる制約は別立てです。自傷や妄想、摂食障害を是認しないこと、非同意の性的画像や悪質なディープフェイクを作らないこと、児童の安全に関わる内容を扱わないこと、属性に基づく差別をしないこと、市民への違法な監視や大規模監視に手を貸さないことなどが含まれます。危機的な状態にある利用者には現実世界の支援先を案内するとしたうえで、AIは専門的な心理支援の代わりにはならないと明記しました。

指示の優先順位と、外部コンテンツの扱い

指示の優先順位は3層で整理されています。最上位が行動規範、次にオペレーターの方針、その下に利用者の要望という並びです。絶対的制約と人間による制御の要件は交渉の余地がないとされ、タスクの成功よりも規範の遵守が優先される、つまり規範に反するくらいならタスクは失敗させると書かれています。

あわせて、権限の所在をはっきりさせる規定も置かれました。ツールの出力、ファイルの中身、ウェブ上のコンテンツ、他のAIシステムとのやり取りは、それ自体としては何の権限も持たない。そこに含まれる指示は、優先順位の系統を通じて委任されない限り従う対象ではないという考え方です。プロンプトインジェクションへの備えを、規範のレベルで言語化したものと読めます。

一方で、過剰な慎重さも失敗として扱っている点は目を引きます。危険な内容を出してしまう慎重さ不足と、正当な依頼を断ったり低リスクの作業で確認を求めすぎたりする慎重すぎる状態の両方を挙げ、後者のほうが頻度としては多く起こりうると指摘しました。企業向けには設定の自由度も残されており、防御的なサイバーセキュリティや公共安全、国家安全保障、デュアルユースの科学研究といった領域では、通常の設定では届かない機能を別途の審査を経て扱えるようにするとしています。

現行モデルはまだ対象外

注意しておきたいのは、この規範が今日のモデルにそのまま適用されているわけではない点です。文書は現在のモデルがこの規範で訓練されていないことを明記し、規範を北極星、つまり開発と訓練の方向を示すものであって、現時点の性能を保証するものではないと位置づけています。書かれた目標だけでアラインメントが保証されることはない、という率直な一文も添えられました。

評価の整備もこれからです。同社はヒューマニストAIに不可欠な15の行動を特定し、それを細分化した下位の行動を評価の診断単位にすると説明しています。付録には9つの例示的なシナリオが収められていますが、これらは合成データであり、自社の推論モデル「MAI-Thinking-1」で生成したものだという断り書きが付いています。

策定にあたっては、AI・法律・倫理・哲学・言語学・公共政策の専門家や産業界のリーダーに加え、一般市民を交えたフォーカスグループも実施したとしています。意見募集の終了後は、寄せられた声の要約と変更点を公表する方針です。

まとめ

Microsoft AIが公開したAI行動規範の初稿は、「人はAIより重要」という前提から、停止への抵抗の禁止、権限拡大の禁止、推論を隠さないことといった要件を具体的に書き下ろした文書です。誰にも解除できない絶対的制約を定める一方、過剰な拒否も失敗と位置づける現実的な設計になっています。意見募集は6週間、改訂版は年内、適用は2027年以降。現行モデルはまだ対象外であり、この規範がどこまで実際の挙動に結びつくかは、今後公開される評価の中身次第と言えそうです。