株式会社TIMEWELLの濱本です。
人工知能（AI）の進化は、現代社会における最も注目すべき技術革新の一つです。特に、ChatGPTやSoraといった画期的なモデルを次々と発表するOpenAIとそのCEOであるSam Altman氏の動向は、世界中のビジネスパーソンや研究者から熱い視線を集めています。AIは私たちの働き方、創造性、そして社会のあり方そのものを根底から変える可能性を秘めている一方で、著作権、倫理、安全性といった深刻な課題も提起しています。
この記事では、Sam Altman氏がTEDのステージで語った内容に基づき、AIが切り拓く未来、OpenAIが直面する課題、そして私たちがこの変革期にどのように向き合うべきかについて深く掘り下げていきます。AIの驚異的な能力から、その開発に伴う責任、そして人類の未来像まで、Altman氏の洞察に満ちた言葉を紐解きながら、ビジネスの最前線に立つ皆様にとって示唆に富む情報を提供します。
AIが切り拓く創造性の新境地と著作権問題：OpenAIの挑戦とクリエイターの未来 加速するAI開発競争と安全性：AGI・エージェントAIのリスクとOpenAIの戦略 AI倫理と未来への責任：Sam Altman氏が描くビジョンと直面する課題 まとめ AIが切り拓く創造性の新境地と著作権問題：OpenAIの挑戦とクリエイターの未来
OpenAIは、驚異的なスピードで新しいAIモデルを発表し続けています。その中でも、テキストからリアルな動画を生成する「Sora」や、GPT-4の知性を統合した画像生成モデルは、多くの人々を驚かせ、AIの持つ創造的な可能性を改めて示しました。Sam Altman氏がTEDのステージで紹介したデモンストレーションは、その能力の一端を垣間見せるものでした。例えば、Soraに「TEDで衝撃的な暴露をする場面」を想像させた動画は、Altman氏自身も「悪くない」と評価するほどのクオリティでした。手の指が5本であることや、服装が似ている点など、細部への配慮も見られました。さらに驚くべきは、「知性と意識の違いを示す図」をAIに描かせた例です。生成された図は非常にシンプルでありながら、概念的な関係性を見事に可視化しており、単なる画像生成を超えた、モデルの根底にある知性と連携していることを示唆しています。Altman氏は、この新しい画像生成モデルがGPT-4の一部であり、その知性を内包していることが、人々を魅了するような成果を生み出している理由の一つだと説明しました。
このようなAIの進化は、特にコンサルタントのような知識労働者にとって、自身の将来について考えさせられる契機となるかもしれません。しかしAltman氏は、悲観的な見方だけでなく、新たなツールを手に入れたことで、より多くのことが達成可能になるという、歴史上の技術革命と同様の視点も提示します。確かに、特定の職務に対する期待値は上がるかもしれませんが、AIによって能力そのものが飛躍的に向上するため、その期待に応えることは容易になるだろう、と彼は考えています。
一方で、AIによる創造性の発揮は、著作権や知的財産（IP）という、より複雑な問題を提起します。Altman氏が紹介した、AIがチャーリー・ブラウンのスタイルで「AIとしての自己」について思考する画像は、示唆に富むものでした。しかし、同時に「これはIPの盗用ではないか？」という疑問も生じさせます。OpenAIはピーナッツの権利者と契約を結んでいるわけではありません。この点についてAltman氏は、人類の創造的精神を尊重し、それを支援するツールを構築したいというOpenAIの基本的な考え方を強調しました。新しい人々がより良いアート、コンテンツ、小説を生み出せるようにすることを目指しており、その中心には常に人間がいるべきだと信じています。
同時に、創造的な成果物の経済的な側面に関して、新しいモデルが必要であることも認めています。人々が他者の創造性に基づいてインスピレーションを得てきた歴史は長いですが、AIによって創造性へのアクセスが劇的に民主化され、互いのアイデアの上に構築することが常態化する中で、新たなビジネスモデルの模索が不可欠になります。具体的な形はまだ模索中であるとしつつも、「他人の作品をコピーすることは許されない」という明確な一線は存在すると述べています。問題は、どの程度の「インスピレーション」が許容されるか、例えば「同意を得た7人のアーティストのスタイルでアートを生成する」場合に、収益をどのように分配するか、といった複雑な点です。歴史的に見ても、より強力なテクノロジーがクリエイターの手に渡るたびに、創造的なアウトプット全体の質が向上し、人々はより素晴らしいものを生み出してきました。
しかし、同意が得られていない場合はどうでしょうか。TEDのオープニングセッションで、ジャーナリストのキャロル・キャドワラダ氏は、ChatGPTが自身のスタイルを模倣して講演を行った事例を紹介し、「同意していない」と問題を提起しました。Altman氏は、現行のOpenAIの画像生成モデルでは、存命中のアーティストのスタイルを指定しても生成しないように制限していると説明します。しかし、「特定の雰囲気」や「スタジオ」、「芸術運動」といった指定は可能です。また、既存の楽曲のコピーを生成することもできません。どこに一線を引くべきか、どの程度が「過剰」なのかという問題は、従来の著作権法やフェアユースの議論と同様に、AIの世界でも新たなモデルを模索していく必要があるとAltman氏は考えています。
クリエイターの中には、AIに対して強い怒りや恐怖を感じている人々がいることも事実です。「自分の作品や未来が盗まれている」と感じるか、「自分の作品が増幅され、可能性がある」と感じるかは、天と地ほどの差があります。後者の感覚へと移行できれば、人類全体がAIを受け入れる度合いが大きく変わる可能性がある、とAltman氏は指摘します。特定のプロンプトで名前が挙げられた人物に収益の一部が還元される仕組みについては、原理的には計算可能かもしれないとしつつも、音楽家が過去に聴いた音楽からインスピレーションを得て作曲する場合のように、影響元を正確に特定し分配することは非常に困難であると例を挙げます。ただし、プロンプトで特定のアーティスト名を指定し、そのアーティストがオプトイン（参加を選択）した場合に収益モデルを構築するというアイデアには前向きであり、これは実現すべきクールなことだと考えています。この新しいモデルの確立は、AIと創造性の共存において、極めて重要な一歩となるでしょう。
加速するAI開発競争と安全性：AGI・エージェントAIのリスクとOpenAIの戦略
AI開発の現場では、独自の高性能モデルを追求するOpenAIのような企業と、オープンソースコミュニティとの間で、ある種の競争と協力の関係性が生まれています。DeepSeekのような強力なオープンソースモデルの登場は、OpenAIにとって無視できない動きです。Altman氏は、オープンソースには重要な役割があると認め、OpenAI自身もコミュニティセッションを開催し、パラメータを決定した上で、非常に強力なオープンソースモデルをリリースする計画を明らかにしました。これは、現在のどのオープンソースモデルよりも優れた、フロンティアに近い性能を目指すものであり、AIエコシステムにおけるオープンソースの重要性を認識した上での戦略転換と言えます。ただし、このモデルが一部の人々にとって好ましくない方法で利用される可能性も認識しており、オープンソースモデルがAIの多様な利用形態の一部として存在することになると述べています。OpenAIがこの動きに対応するのが遅れたことは認めつつも、今後はしっかりと取り組んでいく姿勢を示しました。
DeepSeekが比較的低コストで開発されたとされる点（論争はありますが）と比較して、OpenAIが投じる莫大なリソース（数十億ドル規模）が、常に圧倒的なリードを維持できる保証になるのか、という疑問も投げかけられました。これに対しAltman氏は、GPUの確保に奔走している現状を語り、計算資源が依然として大きな制約であることを示唆しました。ChatGPTの成長は驚異的であり、DeepSeekのようなモデルが登場しても、その勢いは衰えていないと述べています。具体的なユーザー数として、以前公表された「週間アクティブユーザー5億人」という数字を挙げ、その後も急速に成長していることを強調しました。（舞台裏での「数週間で倍増」発言は訂正されましたが、成長の速さは明らかです。）
このような急成長とモデル開発を続ける中で、OpenAIが内部で開発している、まだ公開されていない最先端モデルはどのようなものなのでしょうか。Altman氏は、今後、多くの非常にスマートなAIモデルが登場し、ある程度コモディティ化するだろうと予測します。OpenAIは最高のモデルを目指しますが、多くのユースケースにおいては、現在のモデルでも十分に「賢い」レベルに達しているとも指摘します。重要なのは、単に最高の「モデル」を作るだけでなく、最高の「製品」を構築することだと強調します。ユーザーは画像生成や動画生成（Sora）、そして既存のデータやサービスとの連携を求めています。最近強化された「Memory」機能は、ユーザーとの対話を通じてAIがユーザーを学習し、パーソナライズされた体験を提供するものであり、これは統合された製品体験に向けた一歩です。多くの優れたモデルが登場する中で、OpenAIは最高の「決定版製品」を構築することに注力し続けることで、ユーザーからの支持を得られると考えています。
ユーザーが自身の全クエリ履歴に基づいて「自分について教えて」とChatGPTに尋ねた際の驚きは、AIが個人のコンパニオンとして機能する未来を予感させます。Altman氏も、AIがユーザーの生涯にわたって学習し、自己の延長線上にあるような存在になる可能性に言及し、映画『her/世界でひとつの彼女』のように、AIがユーザーの才能を見出し、積極的に支援するような未来も、そう遠くないかもしれないと示唆しました。
内部で開発が進む中で、次に人々を驚かせるであろう技術として、Altman氏が個人的に最も興奮しているのは「科学のためのAI」です。彼は、世界の進歩と人々の生活向上における最も重要な推進力は、新たな科学的発見にあると信じています。最新モデルを利用する科学者たちから、実際に生産性が向上し、発見に繋がっているという声が聞かれ始めているとのことです。具体的な近未来の発見としては、「室温超伝導」のような物理法則に反しない限り可能性のあるブレークスルーや、AI支援ツールによる「病気に対する有意な進歩」を挙げています。また、ソフトウェア開発の分野でも、今後数ヶ月のうちに大きな変革が再び起こると予測しており、エンジニアが数年かかっていた作業を数時間で終えるといった、まさに「宗教的体験」に近い効率化がさらに進むと考えています。
しかし、AIの進化には常にリスクが伴います。Altman氏は、内部で「意識を持つAI」や「自己改善能力を持つAI」を発見したという噂は否定しつつも、AIがもたらす潜在的な脅威については真剣に受け止めています。最も懸念されるリスクとして、以下の点を挙げています。
悪用の可能性：非常に強力なモデルが、大規模な誤用を招く可能性。
バイオテロ：新種の生物兵器開発などに悪用されるリスク。
サイバーセキュリティ：高度なサイバー攻撃を可能にするリスク。
制御不能な自己改善：AIが自律的に能力を高め、人間の制御を離れてしまうリスク。
これらに加え、偽情報（ディスインフォメーション）の拡散や、ユーザーが好まない発言をするなど、より日常的なレベルでの問題も存在します。OpenAIでは、これらのリスクに対処するため、リリース前に内部で厳格なチェックを行っており、「Preparedness Framework（準備フレームワーク）」に基づいて、潜在的な危険性を評価し、対策を講じていると説明しました。安全性チームから一部のメンバーが離脱したことについては、AIの安全性に関する多様な見解が存在することを認めつつも、これまでのOpenAIの安全実績（世界人口の約10%が利用しているにもかかわらず、大きな問題が発生していない点）を強調しました。ただし、過去の実績だけでは将来のリスクに対応できないことも認識しており、AIの能力が指数関数的に向上する中で、ステークホルダーが比較的低い段階から反復的にシステムを導入し、フィードバックを得ながら安全性を確保していくプロセスが重要だと述べています。特に、AIが自律的に行動する「エージェントAI（Agentic AI）」の登場は、安全性における新たな、そして最も重要な課題であると認識しています。
AI倫理と未来への責任：Sam Altman氏が描くビジョンと直面する課題
AI、特にAGI（人工汎用知能）の開発における倫理的な側面と、開発者が負うべき責任は、極めて重要な問いです。TEDのステージで、Altman氏自身が開発したモデル（GPT-4の推論強化版）から投げかけられた「人類全体の運命を形作る可能性のある技術を創造するにあたり、誰があなたや他の誰かに道徳的権威を与えたのか？そして、もしあなたが間違っていた場合、個人的にどのように責任を負うのか？」という質問は、この問題の核心を突いています。Altman氏はこの問いに対し、過去半時間にわたって同様の質問を受けてきたと述べ、聴衆に逆質問を投げかける形で応じました。
Altman氏自身については、二つの相反する評価が存在します。一つは、Googleのような巨大企業よりも少ないリソースで、はるかに強力なAIを開発し、世界を驚かせた「驚異的なビジョナリー」という評価。もう一つは、当初の「オープン」な理念から逸脱し、強力なAI開発の魅力に取り憑かれ、信頼性に疑問符が付くという評価です。重要な人材の流出も、後者のナラティブを補強する材料と見なされることがあります。
これに対しAltman氏は、自身も他の誰かと同じように多面的な人物であり、単純なレッテル貼りでは捉えきれないと述べます。称賛される点も批判される点も、どちらも真実の一部だろうと認めました。OpenAIの目標は「AGIを開発し、人類の広範な利益のために安全に普及させること」であり、その方向性においては多くのことを達成してきたと自負しています。ただし、組織の成長過程で当初の想定とは異なり、営利企業としての側面を持つ必要性が生じるなど、戦術は変化してきたと説明します。特に、資本の必要性に関する現実は、初期の理想とは異なりました。それでも、非常に高性能なAIを高い安全性と共に多くの人々に提供し、彼らが素晴らしいことを成し遂げるためのツールを提供してきた点においては、高く評価されるべきだと考えています。
一方で、オープンソース化については、もっと早く取り組むべきだったという批判は公平だと認めます。AIシステムのインパクトや安全確保の方法が不確かだった初期段階において、慎重に行動したのは、多くの人々が抱く懸念（Altman氏への質問にも表れている）に配慮した結果でもあると示唆します。しかし、現在では世界全体の理解が深まり、高性能なオープンシステムを公開する時期が来たと判断しています。来年、もし再びTEDに招かれれば、今度はオープンソースシステムの悪用について非難されるかもしれない、と予測しつつも、あらゆる決断にはトレードオフが伴うことを強調します。OpenAIはAI革命における一プレイヤーであり、責任ある形でこの技術を世界に導くために最善を尽くしていると述べ、過去の過ちを認め、将来も過ちを犯す可能性を示唆しながらも、全体としてはミッションに忠実に進んできたと主張しました。
権力や富が個人に与える影響についても、議論が及びました。「指輪物語」の「力の指輪」に例えられ、Elon Musk氏から「指輪に堕落させられた」と評されたことについて（Musk氏自身にも当てはまりうる指摘だと前置きしつつ）、Altman氏は、他のCEOと比較して自身がどのように振る舞っているかを逆に問いかけます。インタビュアーは、Altman氏が個人的な振る舞いにおいて無礼でなく、攻撃的でない点を評価しつつも、それが本当の姿なのか、という疑問も呈します。Altman氏は、権力によって堕落したと感じる具体的な行動例を尋ねます。インタビュアーは、OpenAIが非営利から営利モデルへ移行した点を挙げ、富への欲求に「堕落」したのではないかという一部の見方を指摘します。ただし、インタビュアー自身の見解としては、Altman氏の動機は富ではなく、「とてつもなくクールなものを作りたい」という欲求であり、懸念はむしろ競争心によって適切な開発ペースを見失うことにあるのではないか、と述べました。
これに対しAltman氏は、驚くほど以前と変わらない感覚だと語ります。段階的に変化に慣れていくため、10年前から突然現在に飛ばされたら混乱するだろうが、日常の感覚は同じだと述べます。父親になったことについては、人生で最も素晴らしい出来事であり、多くの変化をもたらしたと語ります。子供と過ごす時間の大切さを痛感するようになった一方で、「世界を破壊しない」という責任感は、子供を持つ前から強く持っていたと強調します。子供の未来について具体的に考えるようにはなったものの、未来全体に対する責任感は普遍的なものであるという考えを示しました。
AI開発のペースに関する議論では、Tristan Harris氏が指摘した「開発は不可避であり、競争に勝つしかない」という認識が開発者たちの間で共有されており、それがリスクを高めているという見解について、Altman氏は反論します。実際には、技術的な準備不足や安全性の懸念から、開発を遅らせたり、特定の機能をリリースしなかったりする判断は常に行われていると主張します。OpenAIのこれまでの実績を見ても、安全性に配慮しながら進めてきたことが分かると述べます。（ただし、最近の画像生成モデルにおける「表現の自由」に関する方針変更は、社会からのフィードバックを受けて、従来の「安全性」の定義の一部を見直した例として挙げています。）主要な開発組織間ではコミュニケーションがあり、AIの安全性に対する深い配慮があると主張します（例外が一つあると示唆）。「狂ったレース」というような単純化された見方は、実態のニュアンスを見逃していると指摘しました。
AIの方向性を決める上での意思決定プロセスについては、少数のエリートが集まるサミット形式ではなく、AI自身が地球上のすべての人々と対話し、集合的な価値観や好みを学習するアプローチに期待を示します。これは、AIが持つ新しい可能性であり、特定のグループの意見だけでなく、より広範な人々の望みを反映したガードレールを設定することに繋がると考えています。AIは、人々がより賢明で、より良い集合的なガバナンス決定を下すのを助けることができる、とAltman氏は信じています。例えば、ある要求に対して、AIが他の視点や影響を提示することで、より思慮深い判断を促すといった役割です。
最後に、自身の息子がどのような世界で育つかという問いに対して、Altman氏は、かつて幼児が雑誌を「壊れたiPad」のように扱ったエピソードを引用し、未来の子供たちにとってはAIが当たり前の存在になるだろうと語ります。彼らは、AIよりも賢くなることはなく、製品やサービスが信じられないほどスマートで有能であり、コンピューターがユーザーを理解し、想像できる限りのことを実現してくれる世界で育つと予測します。それは、驚異的な物質的豊かさと、信じられないほど速い変化率、そして個人の能力が現在とは比較にならないほど拡張された世界です。未来の子供たちが、現代を振り返り、「なんてひどい、制限された時代だったんだ」と、ある種の憐れみとノスタルジアをもって見るようになることを望んでいる、と締めくくりました。
まとめ
Sam Altman氏がTEDで語った内容は、AI技術の目覚ましい進歩とその影響力の大きさを改めて浮き彫りにしました。SoraやGPT-4ベースの画像生成に見られる創造性の新次元から、著作権やクリエイターへの経済的影響、そして同意やインスピレーションの境界線といった倫理的課題まで、議論は多岐にわたりました。また、オープンソースとの関係性、AGIの定義を巡る議論、そして特に注目されるエージェントAIがもたらす潜在的なリスクと、それに対する安全性確保の重要性も強調されました。
Altman氏は、AI開発における責任の重さを認識しつつも、技術の進歩がもたらす計り知れない恩恵、特に科学技術の発展や個人の能力拡張への期待を語りました。開発の不可避性という見方には一部反論し、安全性への配慮からペース調整は行われていると主張する一方で、AIが集合的な知恵や価値観を反映し、より良い社会的意思決定を支援する可能性にも言及しました。
彼のビジョンは、AIが空気のように当たり前となり、人類の可能性を飛躍的に高める未来を描いています。しかし、その実現には、技術的な挑戦だけでなく、倫理的な合意形成、社会制度の変革、そして何よりも開発者自身の強い責任感が不可欠です。OpenAIとAltman氏が、この強力な技術を人類全体の利益のために、賢明かつ慎重に導いていくことができるか、世界中の注目が集まっています。私たち一人ひとりも、この変革の時代において、AIとの向き合い方を考え、議論に参加していくことが求められています。
参考：https://www.youtube.com/watch?v=5MWT_doo68k&t=7s https://chatgpt.com/
いま話題の他の記事はこちらから↓
Google AI Studioの新機能で画像生成の可能性が大きく広がる！自然な動画も作れる革命的な機能とは
中国発の世界最高峰AIエージェント「Manus」が登場！ChatGPTを超える驚異の性能とは？
ChatGPTが新機能“ネイティブ画像生成機能”を発表！
プログラミング知識ゼロでアプリ開発が可能に？ 話題のAIツール「Rork」を実際に使ってみた！