株式会社TIMEWELLの濱本です
株式会社TIMEWELLの濱本です。
人工知能（AI）の急速な発展により、私たちは歴史的な転換点に立っている
人工知能（AI）の急速な発展により、私たちは歴史的な転換点に立っている。「シンギュラリティ」と呼ばれる技術的特異点が、これまで予想されていたような劇的で混乱をもたらすものではなく、むしろ「穏やか」な形で進行している可能性が高まっている。シンギュラリティ (Singularity) は、技術的特異点とも呼ばれ、AI（人工知能）が人間の知能を超える時点、またはその転換点を指す概念です。この概念は、AIが自己進化を繰り返し、人間の能力を超えることで、技術革新が爆発的に進むと予測されています。
本記事では、現在のAI技術の発展状況から将来の予測まで、技術的な現実を踏まえながら、この変革の意味を考察する。
現在のAI発展状況と近未来予測（2025-2027年） 2030年代の社会変革と技術的ブレークスルー 課題と展望：安全性・公平性・社会実装 まとめ 現在のAI発展状況と近未来予測（2025-2027年）
我々は事象の地平線を越えた。テイクオフは始まっている。人類はデジタル超知能の構築に近づいており、少なくとも今のところ、それは思っていたほど奇妙ではない。
ロボットはまだ街を歩いていないし、私たちの
ロボットはまだ街を歩いていないし、私たちの大部分も一日中AIと話しているわけではない。人々はまだ病気で死に、宇宙にも簡単には行けず、宇宙について理解していないことが多くある。
それでも、我々は最近、多くの面で人間より賢いシステムを構築し、それらを使う人々の生産性を大幅に向上させることができている。最も困難な部分はすでに過ぎ去った。GPT-4やo3のようなシステムに到達するための科学的洞察は苦労して得られたものだが、それらは我々を非常に遠くまで導いてくれるだろう。
しかし、現在の技術には重要な制約も存在する。今のAIシステムは、膨大なデータから学習したパターンを組み合わせて答えを生成しているが、本当に「理解」しているのか、それとも高度なパターンマッチングに過ぎないのかは判然としない。また、AIの性能を向上させるためには計算能力を大幅に増やす必要があり、そのコストは指数的に増加している。
ある大きな意味では、ChatGPTは
ある大きな意味では、ChatGPTはすでにこれまで生きた誰よりも強力である。何億人もの人々が毎日それに依存し、ますます重要なタスクに使用している。小さな新しい能力は非常にポジティブな影響を生み出すことができ、何億人もの人々によって倍増された小さなミスアライメントは大きな負の影響を引き起こす可能性がある。
2025年は実際の認知的作業ができるエージェントの到来を見た。コンピュータコードを書くことは二度と同じではないだろう。2026年には新たな洞察を見つけ出すことができるシステムの到来を見る可能性が高い。2027年には現実世界でタスクを実行できるロボットの到来を見るかもしれない。
ただし、これらの予測には慎重さが必要だ。確かにAIのコード生成能力は目覚ましく向上しているが、これは主に大量のプログラムコードで学習した結果である。真に「新たな洞察」を生み出すシステムの実現には、現在の技術を大きく超えた革新が必要かもしれない。特に、AIが自分で新しいアイデアを生み出したり、間違った情報を生成する問題を解決することは、まだ技術的に困難な課題として残っている。
2030年代の社会変革と技術的ブレークスルー
より多くの人がソフトウェアやアートを作成できるようになるだろう
より多くの人がソフトウェアやアートを作成できるようになるだろう。しかし世界はそれらをもっと多く求めており、新しいツールを受け入れる限り、専門家はおそらく初心者よりもはるかに優れているだろう。一般的に言えば、2030年に一人の人が2020年にできたよりもはるかに多くのことを成し遂げる能力は著しい変化であり、多くの人がそれから利益を得る方法を見つけるだろう。
2030年代には、知能とエネルギー、つまりアイデアとアイデアを実現する能力が非常に豊富になるだろう。この二つは長い間、人類の進歩の根本的な制限要因であった。豊富な知能とエネルギー（そして良いガバナンス）があれば、理論的には他の何でも手に入れることができる。
すでに我々は科学者たちから、彼らがAI以前よりも2倍から3倍生産的になったと聞いている。高度なAIは多くの理由で興味深いが、おそらく我々がそれをより速いAI研究を行うために使用できるという事実ほど重要なものはない。我々は新しいコンピューティング基板、より良いアルゴリズム、そして他に何があるかわからないものを発見できるかもしれない。10年分の研究を1年で、あるいは1か月で行うことができれば、進歩の速度は明らかに全く異なるものになるだろう。
しかし、この予測は楽観的すぎる面もある
しかし、この予測は楽観的すぎる面もある。現在のAIシステムは確かに科学研究を支援しているが、真の科学的発見には仮説を立て、実験を設計し、原因と結果を正しく判断する高度な思考能力が必要である。これらは現在のAI技術では限界がある。また、コンピューターの性能向上にも物理的な制約があり、無限に高速化できるわけではない。
これから先、我々がすでに構築したツールは、さらなる科学的洞察を見つけ、より良いAIシステムの作成を支援してくれるだろう。もちろんこれはAIシステムが完全に自律的に自身のコードを更新することと同じではないが、それでもこれは再帰的自己改善の幼体版である。
他にも自己強化ループが働いている。経済的価値創造は、これらのますます強力なAIシステムを動かすための複合的なインフラ構築のフライホイールを開始した。そして他のロボットを作ることができるロボット（そしてある意味では、他のデータセンターを作ることができるデータセンター）はそれほど遠くない。
データセンターの生産が自動化されるにつれ、知能のコストは最終的に電気のコストに近づくはずである。（人々はしばしばChatGPTのクエリがどのくらいのエネルギーを使うかに興味を持っている。平均的なクエリは約0.34ワット時、オーブンが1秒ちょっとで使うくらい、あるいは高効率の電球が数分で使うくらいである。また約0.000085ガロンの水を使う。これは小さじ約15分の1である。）
ただし、エネルギー効率の向上にも限界がある
ただし、エネルギー効率の向上にも限界がある。現在のコンピューターチップは電力効率の物理的限界に近づいており、さらなる効率向上には量子コンピューターや脳の仕組みを真似た新しいチップなど、根本的に異なる技術が必要になる可能性がある。また、大規模なデータセンターを冷却するシステムや電力供給設備の制約も無視できない問題である。
技術進歩の速度は加速し続け、それは人々がほとんど何にでも適応できるということが続くだろう。職業の全分類がなくなるなど非常に困難な部分があるだろうが、一方で世界は非常に速く豊かになるため、これまで検討することができなかった新しい政策アイデアを真剣に検討することができるようになるだろう。
巨大な上振れと共に直面すべき深刻な課題がある。我々は技術的にも社会的にも安全性の問題を解決する必要があるが、その後、経済的影響を考えると、超知能へのアクセスを広く配布することが極めて重要である。
アライメント問題を解決すること、つまり我々が
アライメント問題を解決すること、つまり我々が長期的に集合的に本当に望むことに向けて学習し行動するAIシステムを確実に得ることを堅実に保証できるということが必要である。（ソーシャルメディアフィードはミスアライメントされたAIの例である。それらを動かすアルゴリズムはあなたにスクロールし続けさせることが信じられないほど得意で、明らかにあなたの短期的な好みを理解しているが、あなたの長期的な好みを覆すあなたの脳の何かを悪用することによってそれを行う）。
しかし、AIを人間の価値観に合わせることは現在のAI技術における最も困難な課題の一つである。現在の学習手法では、人間の複雑で多様な価値観を完全に捉えることは技術的にほぼ不可能に近い。また、人々の価値観は多様で時代と共に変化するため、それに対応できる仕組みの開発はまだ初期段階にある。AIの動作を人間が理解できるようにし、確実な安全保証を実現するには、根本的な技術革新が必要である。
そして超知能を安価で、広く利用可能で、どの個人、会社、国にも過度に集中しないようにすることに焦点を当てる。社会は弾力性があり、創造的で、迅速に適応する。人々の集合的意志と知恵を活用できれば、我々は多くの間違いを犯し、いくつかのことが本当にうまくいかないだろうが、迅速に学習し適応し、この技術を使って最大の上振れと最小の下振れを得ることができるだろう。
我々（OpenAIだけでなく業界全体）は世界のための脳を構築している。それは極めて個人化され、誰もが使いやすいものになるだろう。我々は良いアイデアによって制限されるだろう。長い間、スタートアップ業界の技術者は「アイデアガイ」、つまりアイデアを持ち、それを構築するチームを探している人々をからかってきた。今、彼らが日の目を見る時が来ているように私には見える。
計測するには安すぎる知能は手の届くところにある
計測するには安すぎる知能は手の届くところにある。これはクレイジーに聞こえるかもしれないが、2020年に我々が今日いるところにいると言ったなら、それはおそらく2030年についての我々の現在の予測よりもクレイジーに聞こえただろう。
ただし、「安価な知能」の実現には、ハードウェアとソフトウェアの両面での大幅な技術革新が必要である。現在の半導体技術は性能向上の限界に近づいており、従来のような改善ペースは持続不可能である。また、AIを多くの人が使えるようにするには、分散コンピューティング、小型デバイスでも動くAI、効率的な計算方法などの技術開発が不可欠である。
穏やかなシンギュラリティという概念は魅力的だが、技術的な現実を慎重に評価する必要がある。現在のAI技術の急速な発展は確かに印象的であり、多くの分野で人間の能力を補完・増強している。しかし、真の汎用人工知能や超知能の実現には、まだ解決されていない根本的な技術的課題が多数存在する。
技術的な制約として、計算効率の物理的限界、エネルギー消費の
技術的な制約として、計算効率の物理的限界、エネルギー消費の問題、AIの安全性確保、そして現在の技術の根本的限界などが挙げられる。これらの課題は段階的な改良では解決できず、大きな技術革新が必要となる可能性が高い。
一方で、AI技術の社会実装は着実に進んでおり、その影響は既に日常生活や業務に深く浸透している。重要なのは、技術的な可能性と制約を正確に理解し、過度な楽観論や悲観論に陥ることなく、段階的で責任ある発展を促進することである。
技術者として我々は、AIの驚異的な潜在能力に興奮しつつも、技術的な謙虚さを保ち、安全性と持続可能性を最優先に開発を進める必要がある。シンギュラリティが「穏やか」であり続けるかどうかは、技術の発展そのものよりも、我々がいかに賢明にそれを導いていくかにかかっているのである。
参考：https://blog.samaltman.com/the-gentle-singularity
