今後の10年における状況認識とAGI（汎用人工知能）の進展

序章: サンフランシスコで歴史が生きている
サンフランシスコがAIの最前線であり、ここでの動きが未来を形作る。
10億ドル規模のコンピュートクラスターから1000億ドル規模のクラスターへの急速な進化。

GPT-4からAGIへの進化: OOM（オーダー・オブ・マグニチュード）の計算
GPT-2からGPT-4までの進化を例に、2027年までにAGIが実現する可能性が高いことを論じる。
コンピュートの増加、アルゴリズムの効率向上、「アンホブリング」効果による急速な進展を予測。

AGIから超知能への進化: 知能爆発
人間レベルのAIが自動的にAI研究を進めることで、アルゴリズムの進展が数十年分を1年で達成する可能性。
超知能の出現がもたらす強力かつ危険な影響。

課題

トリリオンドルクラスターへの競争:
AI収益の急増に伴い、数兆ドルがGPU、データセンター、電力の構築に投入される。
アメリカの電力生産の大幅な増加が必要。

AGIのためのセキュリティ強化:
現在のAI研究所のセキュリティ対策が不十分であり、国家安全保障の脅威に対処するための大規模な努力が必要。

超整合性の確保:
人間よりも賢いAIシステムを制御するための技術的課題。
急速な知能爆発の中での管理が失敗すれば、破滅的な結果を招く可能性。

自由世界の優位性維持:
超知能が経済的

リンク元