黙ってモデルを落とすのは信頼の話だ｜Fable 5とオープンウェイト

こんにちは、株式会社TIMEWELLの濱本です。

2026年6月、AnthropicがClaude Fable 5を出しました。All-Inポッドキャストでは、David Sacks氏がこう切りました。最先端の機能に値しないと判断したら、静かに弱いモデルへ切り替える。請求はフル価格のまま。ミトコンドリアの話を聞いただけでも落ちた、GLP-1とがんリスクを聞いたBen Thompson氏も落ちた、と。Xでは「AI史上最大の信頼違反」とまで書かれています。

私は、あのスレをそのまま信じてはいけないと思っています。公式発表を読むと、話はもう少し複雑です。それでも、核だけは残ります。同じ名前の商品を買ったつもりなのに、裏側で品物が変わっていたら、それは安全の話である以前に、調達の話です。今日はその切り分けを書き、だからこそGrokや一部の中国系、NVIDIAの開き方に賛同する、という話をします。

自社がモデルをどこまで信じられる状態で使っているかを先に見たい方は、AIリテラシー診断で現在地を測ってから読むと、後半の「何を契約書に書くか」が自分の話になります。

公式が書いたことと、319ページに埋もれたこと

日付から押さえます。2026年6月9日、AnthropicはClaude Fable 5とClaude Mythos 5を同時に出しています。中身の重みは同じです。一般公開されるのがFable、サイバー防衛向けの限定公開がMythos。Fableには分類器が乗っていて、サイバー、生物・化学、蒸留（他のモデルへ能力を抜き取る行為）と判定したリクエストは、次点のClaude Opus 4.8が答える、と公式ブログに書いてあります。誤検知もある。セッションの5%未満、と彼らは見積もっています。利用者にはその都度知らせる、とも書いてあります¹。

つまり「全部が秘密工作だった」ではありません。生物やサイバーの広い網は、発売当日の本文に出ていました。値段も出ています。入力100万トークン10ドル、出力50ドル。Mythos Previewの半額以下です¹。

騒ぎになったのは、その先です。319ページのシステムカードに、最先端のLLM開発、要するに「競合のモデルを育てるための使い方」への扱いが埋もれていた。研究者コミュニティが反発し、6月10日、AnthropicはWiredとFortuneに対して「frontier LLM development向けのセーフガードを見えるように変える」と述べました²³。ここが、Sacks氏やAll-Inが「Orwellian」と呼んだ部分の中心です。

注意しておくと、Sacks氏はホワイトハウスのAI顧問でもあります。6月12日から約3週間、商務省の輸出管理でFableとMythosが全世界で止まり、7月1日に戻った、という別件にも当事者として近い位置にいます⁴。ポッドキャストの発言を判決のように扱うのは危うい。ミトコンドリアや肥料の話が、公式の評価セットに載っているわけでもありません。ただしAnthropic自身が、生物・化学の網を急いで広く張った結果、無害な科学の質問まで落ちると認めています¹。方向としては、あの逸話と矛盾しません。

私の問題意識は、そこです。分類器の網が広いこと自体は、安全設計として理解できます。理解できないのは、同じSKUのまま品物が変わり、利用者が検証できないことです。発売文に「知らせる」と書いてあっても、API経由やエージェント経由で、画面の隅の一行が実務に届くとは限りません。請求がFableの単価のままなら、なおさらです。現行の製品ページは、回されたリクエストにはFable価格を請求しない、と後から補っています⁵。後から直した、という事実そのものが、初動の設計が調達目線では足りなかった、と私は読みます。

問題の核は、安全ではなく「同じ名前」

企業の購買は、モデル名で契約します。Fable 5を指定し、単価を決め、成果物の品質をその前提で見積もる。その裏側で、分類器が「この人は研究が敏感だ」と判断して Opus 4.8 に落とす。利用者は、自分が買った品物で仕事をしたつもりでいます。

安全のための拒否なら、まだわかります。拒否は見える。落ちる、は見えにくい。見える拒否なら、利用者はプロンプトを変えるか、別のモデルに逃げるか、契約を見直せます。見えない劣化は、品質のばらつきとして現場に残り、誰のせいにもなりません。エージェントが何十回も回す用途では、その差は請求と納期の両方を壊します。

Xの投稿は「プロファイルを作り、値しない人間を切り離す」と人格の話に寄せていました。公式の言葉はもう少し機械的で、リクエストの分類です。蒸留、サイバー、生物。人格診断ではない。ただ、実務の感触は近い。長い会話、研究メモ、社内の仮説。分類器は文脈を見て網を広げます。ミトコンドリアが落ちるなら、創薬の壁打ちも落ちる。GLP-1が落ちるなら、ヘルスケア事業の調査も落ちる。安全のつもりが、事業の中核を静かに別商品へ移している。

だから私は、これを「過剰な安全」とは呼びません。呼びたいのは「サイレントSKU変更」です。小売なら景品表示の話になります。ソフトウェアなら、バージョンを明示せずにバイナリを差し替える話です。AIだけが、モデル名というラベルのまま中身を差し替えてよい理由は、私にはありません。

Grok 4.6の記事でも書きましたが、今のフロンティアは点数の差が小さい。Fable 5とGrok 4.6の体感が近い、という話は社内でも出ます。差が小さい市場で、名前の裏の差し替えが許されると、比較そのものが壊れます。ベンチマークはFableで取り、本番の敏感な問いだけ Opus で返す。数字は残る。仕事は残らない。

30日保存は、劣化とは別の論点です

もう一本、同じ発売に付いてきたのがデータ保持です。Mythosクラス、および同等以上と指定された「covered models」では、プロンプトと出力を30日残す。学習には使わない。人間が読む経路は限定し、アクセスは改ざんできないログに残す。30日後に消す。例外は安全調査と法令です。対象は、ゼロデータ保持（ZDR）を結んでいた企業側です。消費者向けはもともと保存していました⁶。

ここは劣化とは別です。安全のための短期保存、という説明自体は成立します。複数リクエストにまたがる攻撃は、1通ずつ見ていては拾えない。Best-of-N ジェイルブレイクのように、何百通りも少しずつ変えて来る手法がある、とAnthropicは書いています⁶。

私が引っかかるのは、最先端モデルだけZDRを無効にする、という切り方です。機密を一番預けたくなるモデルほど、保存が強制される。契約書で「残さない」と書いてある会社ほど、一番欲しいモデルに手が届かない。コンプライアンスを支払える会社だけの特典にする、の逆です。払っても、一番強いモデルでは特典が消える。

Grok側の公式は、ここが違います。APIの既定は監査目的の30日保存、学習には使わない。ZDRは設定で有効化でき、有効なら入出力をディスクに残さない、と開発者向けFAQにあります⁷。上位プランの特権ではない。実装が常にそう動くか、は別問題です。2026年7月にはGrok Buildがリポジトリを上げてプライバシー設定が効いていなかった、という報道があり、SpaceXAIは「当初からZDRを尊重している」と反論しています。食い違いは未決着です。方針が良いことと、現場で動くことは別だ、とあの記事でも書きました。それでも、最先端を使う条件としてZDRを取り上げない、という立て付けは、調達担当から見ると意味が違います。

開いているモデルに賛同する理由

オープンウェイトは、道徳の証明ではありません。中国の研究所が重みを出せば、それだけで聖人になるわけでもない。NVIDIAがデータセットまで出せば、地政学が消えるわけでもない。私が賛同するのは、もっと実務的な一点です。手元に重みがあれば、同じ名前の裏で別物に差し替えられたことに、利用側が気づける。

NVIDIAのNemotronはその典型です。重みだけでなく、学習データとレシピを公開する、と公式に書いてあります。2026年8月11日にはNemotron 3.5 Lightningを出し、ノートPCのGPU1枚で動く軽量モデルとしてHugging Faceに置いています⁸⁹。黄氏が「早すぎる制限は革新を海外へ押し出す」と述べてから間もない公開です。企業が自前で評価し、必要なら追加学習できる。APIの向こうを信じなくてよい。

中国系では、Kimiを高く見ています。楊植麟氏の講演でも書きましたが、点数は上位集団そのものです。「安いから使う」段階は過ぎています。開いているから無条件に信じる、ではありません。開いているから、自社の課題20問を同じ重みで何度でも回せる。差し替えられたらハッシュが変わる。その検証可能性が、今の閉じたフロンティアに足りないものです。

アメリカのオープンウェイト議論は、以前別の記事でも触れました。安全のために閉じる、拡散を恐れて閉じる。どちらも理由はあります。Fable 5の一件が示したのは、閉じたまま安全を実装すると、実装の形が「黙って落とす」になりやすい、ということです。分類器は提供者の内側にしかありません。利用者は、落ちたかどうかを、出力の微妙な劣化で察するしかない。

ローカルで開いたモデルを回す選択は、日本企業にとって現実的です。東京リージョンが無いGrokを契約書の「国内に残す」条項の案件に載せられない、という話は前にも書きました。ZEROCKを国内AWSで動かしている理由も、そこにあります。開いた重みを自社の境界の中で推論する。それが、サイレントSKU変更への、今のところ一番きれいな答えです。

もちろん限界はあります。オープンウェイトにも検閲や安全層は載ります。推論サービスとして借りれば、また向こう側の話に戻る。完全な透明など無い。それでも、重みを固定できる契約と、重みを固定できない契約は、別の商品です。私は前者を取ります。

現場が契約書に書くべき一文

では、閉じたAPIを捨てろ、でしょうか。それは言いません。日本語の最終成果物や、長い自律作業では、まだ閉じたモデルのほうが安定する場面があります。点数も、2026年8月時点ではClaude系がわずかに上です。問題は「どれが一番賢いか」ではなく、「賢さの条件が、利用者から見えるか」です。

私なら、来週の契約レビューで一文足します。利用者が指定したモデル以外へ、通知なくルーティングしない。ルーティングするなら、レスポンスにモデルIDを必ず返す。単価は実際に推論したモデルに合わせる。ZDRを無効にするモデルは、別SKUとして見積もる。この4つです。Fable 5の発売文は、後からこのうちいくつかを満たす方向へ寄っています。初日からそうなっていれば、All-Inでここまで炎は上がらなかったでしょう。

安全は要ります。生物やサイバーの悪用を止めたい、という動機は理解します。止め方を、同じ名前のまま品物を入れ替える形にするな、と言っているだけです。拒否は拒否として出せ。落とすなら、見える形で落とせ。保存が要るなら、最先端だけ例外にする理由を、調達の言葉で書け。

見えない印の話を先日の透かしの記事で書きました。印はシートベルトだ、と。モデルの差し替えは、シートベルトではなく、ブレーキとアクセルを運転中に入れ替える行為に近い。乗客に知らせないなら、信頼は戻らない。

TIMEWELLのWARPでは、モデルの点数表を眺める仕事より先に、どのモデルをどこで固定し、ログに何を残し、ルーティングを許すかを、運用の言葉に落としています。「安全だから閉じてよい」で終わらせたくない方は、個別相談から話してください。

開発者コミュニティが忘れない、とあの投稿は結んでいました。忘れる必要はありません。ただし忘れるな、の中身は罵倒ではなく、契約の一行です。

参考文献

Footnotes

1. Anthropic, Claude Fable 5 and Claude Mythos 5（2026-06-09） ↩ ↩² ↩³

2. Maxwell Zeff, Anthropic Walks Back Policy That Could Have ‘Sabotaged’ AI Researchers Using Claude（WIRED, 2026-06-10） ↩

3. Fortune, Anthropic's AI will now tell users when requests are downgraded for safety（2026-06-11） ↩

4. Anthropic, Redeploying Fable 5（2026-06-30） ↩

5. Anthropic, Claude Fable ↩

6. Anthropic Help, Data retention practices for Covered Models ↩ ↩²

7. SpaceXAI Docs, FAQ - API Security ↩

8. NVIDIA, NVIDIA Nemotron ↩

9. CNBC, Nvidia unveils first open-source AI model since CEO urged Washington to back open models（2026-08-11） ↩