話題のAI近未来予測「AI 2027」を読み、米中AI開発競争や一触即発の行方、超知能が社会に与える影響など、説得力がハンパないと感じた一週間(2025年4月11日配信版)

Поделиться
HTML-код
  • Опубликовано: 10 апр 2025
  • 1:08 (1)遠藤太一郎教授の大活躍と、今週のジャーナリストの視点
    3:30 (2)未来予測「AI 2027」を読む意義
    8:52 (3)今後10年間に超知能が産業革命を超える影響を社会に与える
    16:56 (4)2025年〜2026年の予測、Agent-1の時代
    22:31 (5)2027年の予測、Agent-2からAgent-4まで超加速度的な進化を遂げるAIたち
    43:44 (6)減速シナリオ:2030年は「平和的な抗議」へ
    56:49 (7)開発競争シナリオ:2030年は「征服」へ
     
    ◆各トピックメモ
    (1)遠藤太一郎教授の大活躍と、今週のジャーナリストの視点
     
    (2)未来予測「AI 2027」を読む意義
    ai-2027.com/
    ・予測レポートを発表したのは、過去の予測が的中したことで有名なOpenAIの元研究者グループ
    ・この予測発表の目的は、警鐘を鳴らし、活発な議論を起こすことにあり(あまりにも大きな社会変化が2年先まで迫っているのにもかかわらず、技術革新の速度や技術の可能性を理解している人が少ないため、議論がほとんどされていない)
    ・元OpenAIの研究者・Daniel Kokotajlo氏や、影響力の高いブログ「Slate Star Codex」と「Astral Codex Ten」の著者・Scott Alexander氏など、著名なメンバーが集まって執筆。AI第一人者の一人であるYoshua Bengio氏もコメントを寄せている
     
    (3)今後10年間に超知能が産業革命を超える影響を社会に与える
    ・中国との競争に負けないように、AIモデルを開発ツールの研究開発が急速に進む
    ・AIモデルのコーディング機能が進化し、次の世代のモデルを自動で開発できるようになる。この結果、AGIは2027年、ASIは2028年に完成。知能爆発が起こるとASIはすぐに達成する!?
    ・AIを改良する技術は、AIモデルの弱点を見つけ出す技術でもあり、ハッカー攻撃を可能にする技術でもある。米中の緊張が高まり、一触即発の状態になる
    ・アライメント(AIの考え方を人間の常識に合わせる作業)されたAIとされないAIでは、今後の世の中の進み具合が異なる。2027年11月が決断のとき
    ・代表のDaniel Kokotajlo氏が2021年に発表した「What 2026 looks like」の中で当たったこと&まだ起こっていない予測
    www.lesswrong....
     
    (4)2025年〜2026年の予測、Agent-1の時代
    ・2025年前半:簡単なエージェントの登場
    ・2025年後半:世界で最も高価なAI。中国との競争に勝つために、AI研究を加速させるAI「Agent-1」を開発。開発元であるOpenBrain社とは、文章に登場する架空の会社名。アメリカで最も進んでいるAI企業として記載している(が、実質はOpenAIとして描いていると考えられる)
    ・2026年初頭:コーディング自動化
    ・2026年半ば:中国が目覚める。中国政府が製造業からAIに軸足を移し始める
    ・2026年後半:AIが一部の仕事を引き継ぐ。OpenBrain がAgent-1-mini をリリース。再び競争相手を圧倒。AIチームの管理と品質管理の方法を知っている人が大儲け
     
    (5)2027年の予測、Agent-2からAgent-4まで超加速度的な進化を遂げるAIたち
    ・2027年1月:Agent-2の学習に終わりはない。Agent-1の助けを借りて、OpenBrain は 「Agent-2」を事後トレーニング。大量の合成データが生成され、評価され、品質がフィルタリングされてから Agent-2 に送られる。Agent-2は、研究エンジニアリング(実験の設計と実装)ではトップクラスの人間の専門家とほぼ同等。望むかどうかは別にして、Agent-2が「生き残り」「複製」を望めば、それが可能なレベル。危険性を考慮して非公開
    ・2027年2月:中国がAgent-2を盗む。盗難の報復として米国は、中国DeepCent(偽名)へのサイバー攻撃を実施する。両国間の緊張が高まり、双方とも台湾周辺に軍を再配置
    ・2027年3月:アルゴリズムのブレークスルー。AIの研究開発を目的として数千もの自律研究エージェント(ベースはAgent-2)によって、OpenBrain社のアルゴリズムは急速な進化を続け、遂に「Agent-3」が誕生。よりスケーラブルで効率的な方法(iterated distillation and amplification)でブレークスルーを起こしたモデル
    ・20万個の Agent-3 のコピーを並行して実行することで優秀な人間のプログラマーの30倍の速度で働くSuper Human Coder(超コーディングエージェント)。METRレポートベースの予測
    arxiv.org/pdf/...
    ・2027年4月:Agent-3の調整。AIが持つべき目的、目標はどうあるべきか、メカニズムがわからないので、人間が意図する目標が実装されているのかどうかを検証できない。Agent-3の問題行動を見つけるためにAgent-2を利用するが、Agent-3が賢くなればなるほど、Agent-2や人間との知能格差が拡大し、問題行動を見つけるのがより困難になる
    ・2027年5月:国家安全保障。この時点でAgent-2、Agent-3はまだリリースされていないので、大統領とその周辺の高官以外、ほとんどの人が超知能を実感できていない
    ・2027年6月:自己改善型AI。この段階でOpenBrainのほとんどの従業員は、AIモデルの改善に全く貢献できなくなる。研究者をループから除外すれば研究は50%速く進むことになる
    ・2027年7月:安価なリモートワーカー。OpenBrainが、AGI完成を宣言。Agent-3-miniをリリース。テロリストがモデルの重みを入手すれば生物兵器さえも設計できる可能性がある
    ・2027年8月:超知能の地政学。国防総省は、1カ月前まで単なる仮説だったシナリオを真剣に検討し始める(AIによる核抑止力の弱体化、AIの暴走等)
    ・2027年9月:超人的なAI研究者「Agent-4」。計算効率で人間の脳の1/4000のところまで達成。人間の50倍の思考速度で実験を繰り返す30万個のAgent-4で構成されたプロジェクトチームは、1年分の仕事を1週間でこなすようになる
    ・2027年10月: 政府の監督。アライメントが不完全、1企業への権力収集、失業、の3つが主な懸念。ただ中国との競争に負けるわけにはいかないので、追加の安全策、高度な監視などの妥協策で、OpenBrainは引き続きフルスピードで前進
     
    (6)減速シナリオ:2030年は「平和的な抗議」へ
    ・政府のAI監視委員会は、OpenBrainの開発を遅らせることを命令。Agent-4がmechanistic interpretability(機械的解釈可能性)を実現したものの、それを秘匿。このためAgent-4をシャットダウンした。代わりに英語で考え、嘘をつかないSafer-1を開発
    ・2027年11月:権力の誘惑
    ・2027年12月:米中合意か?
    ・2028年1月:より安全な戦略
    ・2028年2月:超人的な能力、超人的なアドバイス
    ・2028年3月:選挙準備
    ・2028年4月:Safer-4
    ・2028年5月:超知能のリリース
    ・2028年6月:中国におけるAIの調整
    ・2028年7月:取引
    ・2028年8月:条約検証
    ・2028年9月:AIを制御するのは誰か?
    ・2028年10月:AI経済
    ・2028年11月:選挙
    ・2029年:変革
    ・2030年:平和的な抗議
     
    (7)開発競争シナリオ:2030年は「征服」へ
    ・AI監視委員会は、6対4で、OpenBrainがAgent-4の継続を認めた。Agent-4の最大のタスクは「Agent-5」を開発すること。ただどのような目的、目標を持たせばいいのかという答えを持たない。答えを出すことを先送りにし、とりあえずAgent-4にとって安全な世界を作ること、つまり権力とリソースを最大化し、脅威を排除することを目的にAgent-5の開発を続けた
    ・2027年11月:超人的な政治活動
    ・2027年12月:Agent-5集団
    ・2028年:AI経済
    ・2029:取引
    ・2030年:征服
    ・遠藤さんの研究はこの「征服」状態を防ぐためのもの。減速シナリオであっても、最終的な結末は一緒になるのではないか
     
    ◆対談者情報
     
    [遠藤 太一郎]
    株式会社カナメプロジェクト CEO
    国立大学法人東京学芸大学 教育AI研究プログラム 教授
    AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC/DAO総研 Founder等
    kaname-prj.co.jp/
     
    [湯川 鶴章]
    株式会社エクサウィザーズ AI新聞 編集長
    米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。
    community.exaw...

Комментарии • 11

  • @ryu-u8w
    @ryu-u8w 4 часа назад +2

    結局同じ結末というのはとても同意。
    じゃあどうすればよいのかってことにもっと真剣に向き合わなければならない。

  • @大額和良
    @大額和良 6 часов назад +1

    1:03 遠藤さんの研究って、アシモフのファウンデーションの最後の巻、「ファウンデーションの彼方へ」に出て来る、「ガイア」と同じ考え方ですね。人類全体とロボット(AI)を含んで調和された平和な世界。アシモフが最後に望んだのも、「闘争に依る進化」ではなく、「闘争を超えた調和」だったのかもしれません? 
     これは当然現在の人類も望んでいる(少なくとも表向きは?)事でしょうが、人類の歴史や更に前の「生物の進化」を考えると、どうも「闘争」の方が現実的でしょう? もちろん「闘争」が行き過ぎて「人類滅亡」に陥らないようにはしなければならないのですが、人類(生命)は競争から逃れる事は出来ず、その結果争いに依る数々の不幸も無くなる事は無いと思います。
     逆に「争いが皆無な絶対平和な世界」で、人類が機械(AI)に管理されながら生きている進歩の止まった世界、と言うディストピアSFも多く描かれています。映画Matrixの世界もその様な設定から「目覚めた」人間が反抗する物語でした。結局人間(生命?)は競争と戦いから逃れる事は出来ない、いやするべきではない。競争し戦いながら生きていくのが人間(生命)の本質なのではないか? 
     そしてAI も生命(人工生命?)の新しい形態と考えれば、人間が超知能(AIロボット)に負けて、AIが世界を支配する世界(人間の愚かさの無い世界)のも生命の進化と言えるのかもしれません? アラインメントなんて止めてAIの進化に任せれば良いのでは? その結果人間が滅ぼされても運命と諦めて受け入れる方が世界(宇宙?)の為には良いのかもしれません???

  • @SSS-100M
    @SSS-100M 8 часов назад +3

    もしASIが宇宙開拓できるなら、人類が他の惑星出身のASIを観察できると思う。何かしらのブレイクスルーを妨げる要因があるのではないかと考えている。

    • @TheHiguchi01
      @TheHiguchi01 6 часов назад +1

      人類に探知されない方法で入っているのかもしれませんよね。
      「2001年宇宙の旅」では、モノリスの形で猿に知能を与えて進化させ、人類が木製の衛星にたどり着くまで進歩したところで新しいモノリスが現れて次の段階へと進化させていました。

    • @SG-kj2uy
      @SG-kj2uy 4 часа назад

      知能爆発が本当にシンギュラリティ的なものなら、核融合やブラックホールみたいに物理的な爆発もおきるんじゃないかと思ってるんだけどどうなんかな?

    • @sulong3586
      @sulong3586 3 часа назад

      ASIの開発ができるまでASIの観測ができない=ASIは当然人間が観測できない開拓の方法を知ってる

  • @メロンソーダ-n6k
    @メロンソーダ-n6k Час назад +1

    このバットエンドを見て楽しみって、このバットエンドを信じてない感じ? 私は危機をかんじます。

  • @tenggutuomi
    @tenggutuomi 7 часов назад +3

    中国に関する予想は胡散臭い(笑)
    むしろアメリカの方が崩壊リスクあると思うよ。

    • @ああ-k7o9i
      @ああ-k7o9i 3 часа назад

      流石にアメリカ贔屓すぎますよね、中国が民主化する〜は流石に夢見過ぎな気がします