OpenAIは2026年11月20日、「Combatting adversarial distillation」という記事を公開し、敵対的蒸留(adversarial distillation)への対策をまとめました。AIモデルの蒸留とは何かを知っておくと、ChatGPTなどの出力を手元で使い回すときに、どこから先が許可のない行為として扱われるのかが見えてきます。ここでは発表の内容を、個人の利用者の立場で整理します。
要点
- 蒸留(distillation)は、あるモデルが別のモデルの作ったデータから学ぶ機械学習の一般的な手法
- 問題とされているのは、フロンティアモデルの出力を許可なく使って同等の能力を持つ別のモデルを学習させ、同等の保護なしに配備する行為
- OpenAIはGPT‑6.2 AstraとGPT‑6.2 Solで、保護された推論(chain-of-thought)の抽出に対する防御を強化した
- 以前のリクエストの保護された推論を取り出す攻撃の平均成功率は54.0%から0.2%へ下がった
- 無許可の蒸留キャンペーンに対する週ごとの措置は、数千から数万アカウントの規模に及ぶ
何が発表されたか
蒸留と敵対的蒸留の違い
OpenAIは蒸留を、あるモデルが別のモデルの生成したデータから学ぶ、機械学習で一般的な手法だと説明しています。学習データを作る側をteacher(教師)、そこから学ぶ側をstudent(生徒)と呼びます。
問題になるのは敵対的蒸留です。発表では、ある主体がフロンティアモデルの出力を許可なく使って同等の能力を持つ別のモデルを学習させ、同等の保護なしにそれを配備する流れが示されています。例として、モデルのサイバー能力を蒸留し、元のモデルなら支援を断ったはずのサイバー攻撃に使うケースが挙げられています。ソフトウェアの脆弱性を守る側が見つけるのを助けるモデルは、攻撃側がそれを突くのも助けられる、というデュアルユース(両用)の性質が背景にあります。
守る対象は思考の途中
OpenAIが特に重視するのは、protected reasoning(保護された推論)の抽出を防ぐことです。これは、モデルが答えに向かって内部で生成する中間ステップで、chain-of-thought(思考の連鎖)と呼ばれます。こうした記録は最終的な答えが省いた情報を含むことがあり、他のモデルの学習データとして価値が高いとされています。
内部研究では、ユーザーが通常見られる内容、つまり最終応答・推論の要約・ツールのやり取りを基準にしたうえで、teacherの正確な推論の記録まで使えた場合にサイバー能力がどれだけ追加で移るかを比べました。教師あり微調整の後では、正確な推論の記録で学んだstudentが要約で学んだstudentを概ね上回りました。強化学習の後も、示された両方のベンチマークで試した最大の推論予算では正確な記録で学んだ側が高く、予算が小さい場合は要約で学んだ側が高くなりました。OpenAIは、利用ポリシーの下で許されるタスクであっても、推論の記録を守ることでサイバー能力の移転を抑えられると述べています。
検知と措置の仕組み
対策は、敵対的テスト、モデルの学習、分類器、APIレベルの保護に、能力を引き出そうとする組織的な試みの調査を組み合わせたものです。モデル側では、推論を取り出そうとする試みを認識して開示を断るよう学習させています。入力側の分類器が抽出の試みを検知し、出力側の分類器がアシスタントのメッセージとツール呼び出しの引数に含まれる漏洩を検知します。これはストリーミングと非ストリーミングの両方の応答に適用され、疑われる漏洩は呼び出し元に届く前にブロックできます。
APIレベルでは、user・workspace・organization・model-familyの境界をまたぐ保護が強化され、他のユーザーの暗号化された推論が露出しうる経路も閉じられました。GPT‑6.2 AstraとSolでは、保護された推論をそれを生んだ会話履歴に紐付けます。前のメッセージが書き換えられた場合、APIはそれに続く推論を落とします。安全対策が弱い古いモデルファミリーが、GPT‑6.2 AstraとSolの保護された推論を読むことも防いでいます。
効果は数字でも示されました。自動の赤チームによる適応的な評価で、以前のプロンプトに答える際に生成された保護された推論を攻撃側が回収できるかを試験したところ、平均の攻撃成功率は元の安全対策のGPT‑6 Astraに対する54.0%から、更新後のGPT‑6.2 Astraに対する0.2%へ下がりました。現在のリクエストから取り出す攻撃は22.9%から0.9%でした。数字は6つの攻撃側モデルをまとめたもので、更新後のGPT‑6.2 Astraでは攻撃の種類ごとに平均成功率が1%未満でした。選んだ安全対策の改善は、GPT‑6 Astraにも適用が進められています。
キャンペーン単位では、リクエスト単位とアカウント単位の信号のパターンから、組織的な抽出の試みを探します。無許可の敵対的蒸留キャンペーンを検知するとアカウントを調査し、違反が確認された場合は、ポリシーと利用規約に沿ってアカウントのネットワークに対して措置を取ります。週ごとの措置の規模は数千から数万アカウントに及び、その割合はこの夏に大きく増えたとしています。蒸留の悪用の広がりや、検知から措置までの時間も追跡されています。OpenAIは今年、自社プラットフォーム上で複数の無許可の敵対的蒸留キャンペーンを確認し、9月のレポートで初期の所見を共有しました。侵害の指標(indicators of compromise)は他のモデル提供者とも共有されます。2月にはDeepSeekが米国のフロンティアモデルを蒸留しようとしていたことを示す活動について議会にブリーフィングし、9月には保護された推論を取り出すキャンペーンの中心部分を、Kimiの開発元であるMoonshot AIに関係する個人に帰属させたと報告しています。
個人の仕事や学びにどう使えるか
ひとつ目は、自分の使い方を見直す場面です。発表で問題とされているのは、出力を許可なく使って同等の能力を持つ別のモデルを学習させることと、保護された推論を組織的に取り出そうとする試みです。フリーランスのライターやコンサルタントが「このAIの回答を大量に集めて別のモデルを育てたい」と相談を受けたとき、何が論点になるのかを言葉で説明できるようになります。
ふたつ目は、APIを使って社内の仕組みを作る場面です。情報システム担当やエンジニアにとっては、保護された推論が会話履歴に紐付けられ、前のメッセージを書き換えると後続の推論が落ちるという挙動は、会話を編集して再送する設計に関わります。古いモデルファミリーがGPT‑6.2 AstraとSolの保護された推論を読めない点も、モデルを切り替える設計の前提になります。
みっつ目は、学び直しの場面です。蒸留・teacher・student・chain-of-thoughtという用語は技術ニュースに頻繁に出てきます。今回の発表はそれらが一本の流れで説明されているので、用語の意味を押さえる教材として読めます。
会社・チームで使うときのポイント
社内でAIを業務に組み込むなら、どこまでが許される使い方かをチームの共通認識にしておくと安全です。今回の発表では、違反が確認された場合にアカウントのネットワークに対して措置が取られると明記されており、組織で使うアカウントも無関係ではありません。出力の二次利用や外部モデルの学習について社内ルールを作る際は、公式の利用規約を一次情報として参照するのが確実です。法人でAIの導入や研修を考えるなら、法人向けAIリスキリングサービスで導入社数No.1(東京商工リサーチ・2026年3月末時点)の株式会社デジライズに相談できます。
使う前の注意点
防御の強化はGPT‑6.2 AstraとGPT‑6.2 Solについて示されたもので、GPT‑6 Astraには選んだ改善の適用が進められている段階です。攻撃成功率の数字は内部の適応的評価による平均値で、攻撃の種類ごとに分かれています。APIを使う場合は、前のメッセージを書き換えると後続の推論が落ちる点を踏まえて動作を確かめてください。
自分の用途が規約の範囲に収まるかどうかは、個別の事情で変わります。出力の二次利用や学習への利用を考えているなら、使う前に公式の利用規約とヘルプで最新の条件を確かめるのが確実です。日本での扱いや細かい運用についても、同じく公式の案内で確認してください。
まとめ
AIモデルの蒸留とは、あるモデルが別のモデルの作ったデータから学ぶ手法です。今回の発表は、そこに安全対策が引き継がれないことがリスクであり、許可のない抽出には検知と措置が行われていると示したものでした。仕組みの前提から体系的に学ぶなら、デジライズAIスクールのコース一覧に「ChatGPT組織展開(上級)」などの講座があります。デジライズAIスクールは個人向けのオンラインAIスクールで、動画は990本以上です。
出典
この記事は、各社の公式の発表をもとに AI で下書きし、出典の本文との照合とGoogle 検索による事実確認(ファクトチェック)を通ったものだけを公開しています。
