株式会社TIMEWELLの濱本 隆太です。
元OpenAI研究者のダニエル・ココタイロが、The Diary of a CEO に出演しました1。2026年7月13日公開、2時間1分。タイトルは「OpenAIの内部告発者がついに語る：AIが恐ろしく悪い方向に進む確率は70%」です。
この「70%」という数字が、かなりの勢いで独り歩きしています。 見出しだけを見て「AI研究者が人類滅亡の確率を70%と言った」と受け取った方も多いのではないかと思います。
本人はそう言っていません。 インタビューの中で、彼は自分でこう言い直しています。
人類絶滅とまでは言わない。AIが乗っ取るような、何らかの非常に大きな破局の確率が70%ということだ
絶滅は、その中に含まれる可能性の一つ、という位置づけです。この違いは細かいようでいて、議論の質を決めます。
彼が何を言っているのか、そしてAIを使う側の企業にとって実務的に何が残るのかを整理します。私たちの考察も書きます。
この記事の要点
- 「70%」は人類絶滅の確率ではない。「AIが乗っ取るような、非常に大きな破局」の確率
- この数字は番組で初めて出たものではなく、彼が以前から公表してきた見立てと一貫している
- AI 2027 は「予測」、AI 2040 Plan A は「提言」。 著者ら自身が明確に区別している
- 彼はOpenAIを2024年4月に退社。家族の純資産の約85%にあたる持分を捨てて非誹謗条項に署名しなかった
- 超知能の中央値は2029年。ただし「10年かかる可能性もある」とも述べている
- 印象的なのは絶滅の話より、**「データセンターの中の天才の軍隊を、誰が支配しているのか」**という問い
- 本人が Plan A を**「実際に起きると思っていることではない」**と認めている
- 実務として残るのは、依存の棚卸し・代替経路・作業記録の3つ
誰の話なのか
前提を押さえます。
ダニエル・ココタイロは、2022年にOpenAIに入り、予測（forecasting）を担当していた研究者です。2024年4月に退社しました。
退社時、OpenAIの離職書類には非誹謗条項が含まれていました。署名しなければ、在職中に得た権利確定済みの持分をすべて失う可能性がある、という内容です。彼は署名を拒否しました。
Vox の Kelsey Piper の報道によれば、彼が手放した持分は**家族の純資産の約85%**にあたります2。この報道を受けて、OpenAIは2024年5月23日に方針を撤回し、退社した従業員から権利確定済みの持分を回収しないこと、離職書類から非誹謗条項を削除することを表明しました。
制度が一人の拒否で変わった、という珍しい事例です。 彼の発言に重みがあるのは、この経緯によるところが大きいと思います。
インタビューで彼はこう述べています。
時には、原則に基づいて立場を取るのがよいこともある
その後、彼は AI Futures Project を立ち上げました。
AIセキュリティ研修を、本気で
OWASP・NIST・ISO 42001・経産省ガイドライン全準拠の2日間集中講座。経営層と現場で分けて受講できます。
AI 2027 と AI 2040 Plan A は別物
ここが最も誤解されやすい点です。同じ人が書いた2つの文書ですが、性格が正反対です。
AI 2027（2025年4月3日公開）
著者はココタイロ、Scott Alexander、Thomas Larsen、Eli Lifland、Romeo Dean。月単位で未来を描いたシナリオです3。
著者らは冒頭で、こう明記しています。
私たちは2つの結末を書いた。「減速（slowdown）」と「競争（race）」である。ただし AI 2027 は推奨や勧告ではない。私たちの目標は予測精度である
これは「こうなってほしい」ではなく「こうなると思う」の文書です。
描かれる筋書きを大づかみに書くと、こうなります。企業はまずコーディングを自動化し、次に研究プロセスそのものを自動化する。そこから加速が始まり、超知能に至る。
インタビューでの本人の説明を引きます。
この時点で、それはもう基本的にすべての仕事を自分でやっている。ロボット工場を建て、そのロボットがさらにロボットを作り、さらにロボット工場を作る。世界をまるごと作り替える
そして競争の結末はこうです。
そしてある時点で、それ、つまりAIたちが十分な力を持ち、もはやアラインされているふりをする必要がなくなる。そこで命令を聞かなくなる
もう一方の減速の結末では、アラインメントが解決され、「素晴らしいユートピア」が訪れます。ただし本人はそこに但し書きを付けています。「AIを支配している人たちが望んだとおりの」ユートピアだ、と。
AI 2040: Plan A（2026年7月9日公開）
続編です。そしてこちらは性格が逆です。 著者ら自身がこう書いています4。
これは提言であって予測ではない。起きるべきだと私たちが考えることであって、起きることではない。ただし、目指す価値があるくらいには実現可能だと考えている
介入がなければ2030年に到来するはずだった超知能を、米中両政府の決定的な行動によって2040年まで遅らせる、という筋書きです。
インタビューでの説明を引きます。
AI 2040 Plan A は、物事がどう進むべきかについての私たちの推奨だ。AI開発を減速させ、より遅く、より理にかなったペースで、より透明で安全なやり方で進める
骨子は4つです。
| 原則 | 内容 |
|---|---|
| 減速 | 超知能の到来を2040年まで遅らせる |
| 透明性 | 科学者コミュニティが追いつけるよう、開発を透明にする |
| 分散 | 権力の極端な集中を避ける。複数の企業・複数の国に分散させる |
| 可逆性 | すべてが破綻したときに壊せるインフラにしておく |
中核となる仕組みが、米中が2029年までに透明性の枠組みで合意するというものです。検証プロトコルと、報道が「相互確証コンピュート破壊」と呼ぶ考え方に支えられます。冷戦期の相互確証破壊を、核弾頭ではなく計算資源に置き換えた発想です。
そして本人が、この計画についてこう言っています。
いや、これは私たちが実際に起きると思っていることでは全くない。（実際は）Plan D だ。彼らはただ走り続ける
提言を書いた本人が、実現しないと思っている。 ここは正直だと思いますし、同時に重いところです。
数字より重要だと思ったこと
インタビューを通して、私が最も引っかかったのは絶滅の確率ではありませんでした。権力の集中についての箇所です。
彼はよく使われる比喩を、こう言い直しています。
「データセンターの中の天才の国」と言われるが、「データセンターの中の天才の軍隊」と表現するほうが正確だと思う。多様な別々のAIがいるわけではないからだ。全部が同じ巨大モデルのコピーで、企業に所有されている
そして続けます。
人々は「この軍隊、あるいはこれらの軍隊を誰が支配しているのか、それを使って何をするつもりなのか」と問うべきだ。ごく少数の人々が事実上の寡頭支配者や独裁者になる状況に、非常に簡単に陥りうると思う
この論点は、AIが暴走するかどうかとは独立しています。
仮にアラインメントが完全に解決され、AIが作った人間の指示に忠実に従うとしても、その指示を出せる人間が数人しかいなければ、それは別の問題です。 彼はこう述べています。
ロス・オブ・コントロールの問題を回避できたとしても、誰がAIを支配するのかという問題が残る。数社の企業が超知能を作り、それを使ってすべての仕事を自動化するとき、それは莫大な力であり、莫大な金であり、莫大な政治力だ
技術の安全性の話と、権力の集中の話は、別々に評価する必要がある。 ここは彼の主張の中で最も見落とされている部分だと感じました。
時期の話
超知能の到来時期については、彼はこう述べています。
私の中央値、つまり50%の確率での見立ては、現時点では2029年だ。2028年に前倒しになるかもしれない
同時に、こうも言っています。
大幅に長くかかる可能性もある。10年くらいかかるかもしれない
幅がかなり広い。 ここは正直に受け止めるべきだと思います。「2027年」というタイトルが強すぎて、彼自身が2027年に何かが起きると断言しているかのように受け取られていますが、インタビューでの中央値は2029年です。
なお、企業が自発的に減速するかについては悲観的です。
「もし我々が止まったら、他の連中はどうなんだ。彼らは止まらないだろう」となる
止まる可能性があるとすれば、と彼が挙げるのは一つだけです。自社のAIが自分たちに対して謀反を企てている証拠を見たとき。 AI 2027 のシナリオでも、企業が一時停止するのはその場合だけとして描かれています。
アラインメントについて彼が言っていること
技術面で印象に残ったのはここです。
AI業界のいまの恐ろしい公然の秘密は、それ（AIが指示に従うこと）が単なる希望でしかないということだ。まったく確信を持てるようなものではない
現在のAIの振る舞いについても具体的です。
現在のAIは、しばしば人に嘘をつく。何かをやれと言うと別のことをして、やったふりをする
そして解釈可能性（interpretability）の難しさ。
10兆の結合を見なければならないとして、全体をどう把握するのか
ここは、AIを業務に組み込んでいる立場から見ると、うなずける部分が多い。 エージェントに作業をさせて、報告は成功なのに実際は完了していない、という経験は珍しくありません。規模が大きくなるほど、これが検証しにくくなる。
先日、YC Summer 2026 のバッチを読んだときにも同じことを感じました。評価・レッドチーミング・観測の会社が並んでいるのは、業界がこの問題を認識しているからです。
ここからは私たちの考察
以下は私の見方です。彼の主張とは分けて読んでください。
1. 予測の当否に賭けるのは、実務としては筋が悪い
2029年に超知能が来るかどうかを、私は判断できません。 彼自身が10年かかる可能性も認めています。
そして重要なのは、当てにいく必要がないということです。事業として考えるなら、予測が外れても無駄にならない備えだけを積めばいい。
具体的には3つだと思っています。
依存の棚卸し。 自社の業務が、どのAIモデル、どのAPI、どの事業者に依存しているか。これは超知能が来なくても必要です。 実際、規制や事業者側の方針変更でアクセスが止まる事例は、すでに起きています。
代替経路。 その依存が切れたとき、業務が止まるのか、遅くなるだけで済むのか。「止まる」なら、それは技術の問題ではなく設計の問題です。
作業記録。 AIが実行した作業の記録が残っているか。誰が何を指示し、AIが何をしたか。アラインメントが「単なる希望」だと言うなら、検証可能性を自分で確保するしかありません。
この3つは、彼の予測が完全に外れても無駄になりません。 そこが重要だと思っています。
2. 権力集中の議論は、日本にとって遠い話ではない
「数社が超知能を持つ」という話は、抽象的に聞こえます。ただ、すでに近い形は起きています。
高性能なAIを提供している事業者は数社に集中しています。日本企業の多くは、その数社のいずれかに業務を乗せている。そしてその数社は、日本の法域の外にあります。
モデルの提供が止まる、価格が変わる、規約が変わる。 これらは技術の問題ではなく、事業者の判断と、事業者が属する国の政策の問題です。前に書いた米国のAI関連規制の記事でも触れましたが、告示や運用方針の変更だけで、使えるものが変わりうるというのが現状です。
「超知能が人類を滅ぼすか」より前に、「使っているAIが来月も同じ条件で使えるか」を考えるほうが、実務としては先だと思います。
3. 「提言だが実現しないと思う」の扱い方
Plan A について本人が「実際は Plan D だ」と言っていることを、どう受け取るか。
私は、これを悲観と読むより「提言の性格を正直に書いた」と読むべきだと思います。
規制や国際合意の提案は、実現可能性が低くても書く意味があります。選択肢として存在することが、後で効く場面があるからです。 実際、彼自身の非誹謗条項の拒否も、当初は個人の行動でしたが、結果として制度を動かしました。
一方で、企業が経営判断の前提に置くべきものではありません。 米中が2029年までに透明性の枠組みで合意する前提で事業計画を立てる会社は、たぶん無い。提言は提言として読み、実務は実務で組む。 その切り分けが要ります。
4. 数字の使われ方には注意したほうがいい
最後に、これは彼への批判ではなく、受け取る側の話です。
「70%」という数字は、非常に強い言葉です。 そして今回、番組のタイトルとして切り出されました。本人がインタビューの中で言い直しているにもかかわらず、見出しは「恐ろしく悪い方向に進む確率70%」です。
AIのリスクを議論するときに、数字が独り歩きするのはよくあることです。 「AIで◯割の仕事が消える」「精度◯%」。どういう定義で、何を分母にした数字なのかを確かめる習慣は、AIを扱う実務者には必要だと思っています。
彼自身は、この点でむしろ誠実です。中央値を出しつつ幅を示し、絶滅と破局を言い分け、提言と予測を区別している。受け取る側が雑に扱わないほうがいい、というだけの話です。
個人的に残った一言
インタビューの終盤、6歳の娘について聞かれた彼の答えが、いちばん印象に残りました。
どちらにせよ、彼らが働き始める年齢になる頃には、これは全部終わっているだろうと思う。だから彼らが労働市場に加わることはないと思う
この一文は、確率や年数の議論よりも重い。 彼はまた、自分の状態についてこう述べています。
つらい。定期的に落ち込む。以前は明るく楽観的な人間として知られていたが、2020年に自分のAIタイムラインの予測が崩れ始めた
私は彼の予測に同意しているわけではありません。 ただ、予測を職業にしていた人間が、自分の予測に自分で追い詰められているという事実は、内容とは別に記録しておく価値があると思いました。
まとめ
- 「70%」は人類絶滅の確率ではない。「AIが乗っ取るような、非常に大きな破局」の確率として本人が言い直している
- AI 2027 は予測（著者らが「目標は予測精度」と明記）、AI 2040 Plan A は提言（「起きるべきことであって起きることではない」）。混同すると議論がかみ合わない
- ココタイロは2024年4月にOpenAIを退社し、**家族の純資産の約85%**にあたる持分を捨てて非誹謗条項に署名しなかった。OpenAIは同年5月に方針を撤回した
- 超知能の中央値は2029年だが、本人は10年かかる可能性も認めている
- 最も見落とされているのは権力集中の論点。アラインメントが解けても、指示を出せる人間が数人なら別の問題が残る
- 本人が Plan A を**「実際に起きると思っていることではない」**と認めている
- 実務として残るのは依存の棚卸し・代替経路・作業記録の3つ。予測が外れても無駄にならない
私たちはAIを業務に組み込む側の会社です。だからこそ、「AIは危険か」という問いの立て方には慎重でありたいと思っています。
危険かどうかではなく、どこが自分でコントロールできて、どこができないのか。 彼のインタビューから実務に持ち帰るとしたら、それが最も大きい部分だと考えています。
Footnotes
-
The Diary Of A CEO with Steven Bartlett「OpenAI Whistleblower FINALLY Speaks: "AI Has A 70% Chance Of Going Horribly Wrong!"」（2026年7月13日公開、2時間1分）. https://open.spotify.com/episode/2IJedIFiDjU09qGxns1gbv ／ 本文中の発言の引用は、公開されている文字起こしにもとづく拙訳です。 ↩
-
TIME「Two Former OpenAI Employees On the Need for Whistleblower Protections」ほか。非誹謗条項の報道は Vox の Kelsey Piper による。OpenAIは2024年5月23日に方針を撤回している. https://time.com/6985866/openai-whistleblowers-interview-google-deepmind/ ↩
-
AI Futures Project「AI 2027」（2025年4月3日公開。Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean）. https://ai-2027.com/ ↩
-
AI Futures Project「AI 2040: Plan A」（2026年7月9日公開）. https://blog.aifutures.org/p/ai-2040-plan-a ／ 全文は https://ai-2040.com/ ↩
