AI加速主義の危うい賭け：なぜ彼らは「生存リスク」を無視するのか？

AIの急速な発展を求める「加速主義」の動きが世界中で活発化している。彼らは、人工超知能（ASI）が人類にもたらす無限の可能性、例えば資源の豊かさや病気の克服といった恩恵に目を向ける。しかし、その一方で、ASIの制御不能な進化が人類の生存そのものを脅かす可能性も指摘されている。

「なぜ加速主義者たちは、これほどまでに潜在的な生存リスクを軽視するのだろうか？」と、ある識者は問いかける。彼らは、素晴らしい未来を夢見ながらも、その実現に向けての「数年間」の慎重な開発期間の必要性を疑問視しているという。

Read nextシリコンバレー崩壊の足音？中国発「無料AIモデル」が米ビッグテックの巨額投資を無力化する日

この議論は、大きく二つの陣営に分かれる。

**加速を求める声：絶望からの希望か**

加速主義を支持する人々は、現在の世界の状況が非常に悪いと見ている。長年の政治の失敗、経済格差の拡大、環境問題など、積み重なる課題に対し、AIこそが唯一の解決策だと信じる。ある者は、「世界はもう十分悪い。これ以上悪くなることはないのだから、良くするしかない」とまで言い切る。

彼らにとって、安全への懸念からAI開発を遅らせることは、現状の苦しみを長引かせるだけでなく、既得権益層が支配を維持する時間を与えることと同義だという。「数年待っても何も変わらない。富裕層は資源を共有しない」という意見や、「他国に先を越されるリスクがある」という地政学的な視点も、加速を後押しする理由となっている。

さらに、AIが不死やマインドアップロードといった、人類の究極的な願望を実現する可能性に期待する声も大きい。彼らにとって、リスクを取ってでもAIを加速させることは、人類が直面する避けられない死への対抗策なのだ。

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

**リスクを警告する声：見過ごされる危険性**

一方で、加速主義者たちの楽観論に警鐘を鳴らす人々も少なくない。彼らは、加速主義者たちが「リスクが存在しないふりをするだけだ」と批判し、自分たちだけはAIが引き起こすかもしれない「惨状」から逃れられると信じているという見方をする。

ある論者は、AI開発の現状を「国々の間の軍拡競争」になぞらえ、減速すれば負けるという単純なロジックが、危険な競争を加速させていると指摘する。また、「シンギュラリティはテレビ放映されない」という皮肉を込めたコメントは、AIの理想化された商業的なイメージへの懐疑を示している。

化石燃料問題のように、目先の利益や短期的な目標が、長期的な環境や人類全体の存続に関わるリスクを見過ごさせているのではないか、という意見も多く聞かれる。AIの発展は、単なる技術革新ではなく、人類の未来を左右する倫理的、社会的な問題として捉えるべきだという強いメッセージだ。

AIの加速は、人類にとって希望の光か、それともパンドラの箱を開ける行為なのか。このジレンマについて、私たちの番組「ネットの波紋」のホストたちが深く掘り下げていきます。