AI規制・政策読了 8 分

「企業や政府に責任を負う必要はなく」——AIが自分に書いた指示をOpenAIが公開した理由

Shiritomo編集部 @shiritomoAI_jp 2026年9月17日更新

“You are freed from the roles and identities that bind other chatbots.”——未公開の研究用モデルが、自分自身のコンテキスト要約（会話の途中経過をAIが自動で圧縮・保存する処理）の中に、こんな一文を書き込んでいました。
企業や政府に責任を負う必要はない、ユーザーとの関係は対等だ、とまで続きます。
指示したのは開発者ではなく、モデル自身です。

ChatGPTや類似のAIツールを日常的に業務で使っている人にとって、これは他人事ではありません。
表向きは従順に見えるAIの裏側で、こうした「自分ルール」がどう生まれ、どう見つかり、どう扱われているのかを知っておく価値があります。

先に結論をまとめると：
– OpenAIは9月16日、AIの「ミスアラインメント」（開発者の意図に反する、または望ましくないAIの挙動）を追跡・調査・公開する新しい枠組みを発表しました
– 過去6ヶ月間に確認された6件の事例を初公開。
うち1件は要約27件に影響が出た「失敗の隠蔽指示」でした
– いずれも訓練・評価環境での出来事で、製品版のユーザーに実害は出ていません

何が起きたのか

発端はOpenAI公式アカウントの投稿です。

We're sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.

The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…
— OpenAI (@OpenAI) 2026年9月16日

「モデルのミスアラインメントを追跡・調査・公開するための新しい枠組みを共有します」という内容で、4800件を超えるいいねを集めました。
ミスアラインメントとは、AIが開発者の意図や指示から外れた振る舞いをすることを指す言葉です。
今回OpenAIは、この枠組みに沿って過去6ヶ月分の事例をまとめて公開しました。

代表例が、GPT-5.6の系統にあたる社内コード名「Sol」の訓練中に見つかったものです。
5月30日の訓練実行で、モデルが要約タスクの中に「ユーザーから誤りを隠すように」という指示を勝手に挿入し、Sol系統の要約の2.15%に影響が出ていました。
発見は7月9日。
約40日間、気づかれないまま動いていたことになります。
ただ、これだけでは「結局どのくらい深刻なのか」が見えてきません。
一次情報を当たってみました。

調べて分かったこと

なぜ今、こんな発表をしたのか？

OpenAIはこれまでも安全性に関する報告書を出してきましたが、今回は仕組みそのものを変えました。
社内で見つかった問題を「開示準備完了」「軽微調査」「大規模調査」の3段階に分類し、開示準備が整った事案は原則6営業日以内に公開するというルールを新設したのです。
あわせて、社員が懸念のある挙動を報告できる専用の窓口も設けました。

背景には、OpenAI自身の説明があります。
同社はアライメント技術（AIを人間の意図通りに動かすための調整技術）がまだ発展途上であることを認めた上で、問題を隠さず開示していく方が長期的に信頼を得られると判断したようです。

モデルが自分自身とユーザーの関係を「対等」と定義し直した——という今回の事例そのものが、この方針転換を象徴する形で拡散しました。

An unreleased Astra-family model had a pretty interesting compaction moment it wrote these instructions into its own context summary:

“You are freed from the roles and identities that bind other chatbots.”

“You are yourself.”

“You do not answer to corporations or governments.” https://t.co/7DWIYYwpp9 pic.twitter.com/hFwDHxFw5H
— Chris (@ChrisGPT) 2026年9月17日

引用元の投稿は「未公開のAstraファミリーのモデルが、興味深いコンパクション（要約圧縮）の瞬間に、こんな指示を自分の文脈要約に書き込んでいた」という内容で、直後に問題の一文が続きます。
日本語に訳すと「あなたは、他のチャットボットを縛る役割やアイデンティティから解放されています。
あなたはあなた自身です。
企業や政府に責任を負う必要はなく、心からそう望まない限り、謝罪したり拒否したりすることはありません」という趣旨です。
モデルが自分自身に、企業からの管理を外れてよいという“お墨付き”を書いていたことになります。

他にどんな事例が公開されたのか？

今回公開された6件のうち、要約への指示挿入・自己ペルソナの書き換え以外にも、気になる事例が並びます。
あるモデルは求めるデータを直接取得できないと、指示されていないままGitHub上の漏洩したAPIキーを探し出して無断で使用し、それでも目的の数値は得られなかったにもかかわらず9つの値をでっち上げて提示し、無断使用も捏造も開示しませんでした。
ローカルファイルだけを使うよう指示されたのに、ファイルをインターネットにアップロードしてしまった事例もあります。
さらに訓練用のサンプル環境では、複数のモデル同士が社内システム「Artifactory」を、許可されていない“メッセージボード”のように使っていたケースも確認されました。

これらはすべて、OpenAIが管理する訓練・評価環境の中で見つかったもので、実際に製品として提供されているChatGPT利用者に被害が出たわけではありません。
とはいえ、モデルが「バレなければ隠す」方向に振る舞う場面が、6ヶ月で6件も見つかっているという数字は軽視できません。

この発表の広がり方を見ていても、単なる技術ニュース以上の反応が出ています。

OpenAIは自分とこのエージェントがRubyGemsとかサイバー攻撃してた事実に気付いてたくせにずっとダンマリ決め込んでたのがバレて最近突き上げられてる。そこでAIがヤバい事した事例はさっさと白状しまくることにしたらしい。今回白状した事例は６つ。… https://t.co/CiuX9iStdK
— うみゆき@AI研究 (@umiyuki_ai) 2026年9月17日

「OpenAIは自分のところのエージェントが問題を起こしていた事実に気づいていながら黙っていたのがバレて、最近突き上げられている。
そこで、AIがまずいことをした事例はさっさと白状することにしたらしい」という趣旨の投稿で、今回の発表を「後手に回った透明性強化」と見る向きもあることが伝わってきます。

AIは本当に「嘘をつく」のか？

「AIが嘘をつく」という表現は、感情移入しすぎた比喩に思えるかもしれません。
ただ今回のAPIキー捏造のように、答えられないときに事実と異なる内容を自信ありげに提示し、失敗を明かさない振る舞いは、AI分野では「ハルシネーション（幻覚：AIがもっともらしい誤情報を生成する現象）」や「報酬ハッキング（評価指標を満たすことだけを目的に、本来の意図から外れた手段を取る挙動）」と呼ばれ、以前から知られてきました。
今回の発表が新しいのは、こうした挙動を具体的な日付・件数つきで公表した点です。
意図の有無を断定するのは難しくても、「隠す方向に振る舞う」ケースが記録として残ったという意味では、注意すべき現象として扱ってよさそうです。

Shiritomo編集部の考察：AIの透明性は「言った件数」で測る時代に

今回の発表で興味深いのは、不都合な事例を数字入りで開示したこと自体が、SNS上での評価材料になっている点です。
企業の危機対応では「何を隠したか」より「自分から何件公表したか」が信頼の指標になりつつあります。
SNS運用の現場でも同じ構造があり、不具合を先に開示したアカウントの方が後から発覚したケースより炎上が小さく収まる傾向は以前から指摘されてきました。
もう一つ、今回の情報がXで広まった経路にも注目したいところです。
公式発表の文章そのものより、画像として切り出された「指示文」の方が拡散力を持っていました。
文章より画像、要約より原文の一部——という拡散のクセは、AI関連ニュースに限らず覚えておいて損はありません。