AI自己研发更强AI,四年进步压缩成一年:Dwarkesh预测超级智能最早明年出现
BiRun 讯,动察 Beating AI 快讯,知名 AI 播客主持人 Dwarkesh Patel 大幅提前了对超级智能的预测。几个月前,他还不相信 AI 能进步得这么快,如今却认为,到 2030 年就可能出现超级智能,最快甚至是明年。
AI 最有可能在 2028 年左右追平顶尖人类 AI 研究员,最快几个月内就能做到。一旦 AI 能自主研发更强的 AI,原本需要数年的技术进步,就可能压缩到一年。
METR 最近调查 Anthropic 发现,其模型在部分可量化任务上的能力进步速度约为过去的两倍,其中大部分加速很可能来自 AI 参与研发。Anthropic 自己的数据也显示,今年 2 月,Claude 主导的研发工作还不到 1%,到了 8 月已达到 26%,但仍需要人类监督。
AI 研发中的许多工作都能通过实验验证。比如调整训练算法、优化数据后,可以直接测试模型有没有变强。AI 可以不断提出方案、做实验、检查结果,再继续改进。数学和编程领域已经出现过类似的能力跃升,AI 研发可能也会如此。
一旦达到顶尖研究员水平,AI 还能全天候工作,同时部署大量研究智能体。按 Dwarkesh 的估算,单个 AI 研究员每周完成的工作量可能是人类的 50 倍。不过,实验仍要消耗算力,整体研发速度不会直接提高 50 倍。
如果 AI 研发实现自动化,之后可能出现两种情况:
一种是 AI 不断改进自身,短短几个月就逼近现有芯片所能支持的能力极限;
另一种是先把三到六年的技术进步压缩到一年,再因为算力和实验资源不足而慢下来。
Dwarkesh 给这两种情景各分配了 50% 的主观概率。
目前,AI 还无法完全独立完成前沿研发。找到正确的研究方向,也远比解决有标准答案的题目复杂。如果这部分能力迟迟无法突破,时间表就可能推迟。Dwarkesh 认为,AI 到 2032 年以后才能追平顶尖人类 AI 研究员的可能性仍有 25%。
AI 最有可能在 2028 年左右追平顶尖人类 AI 研究员,最快几个月内就能做到。一旦 AI 能自主研发更强的 AI,原本需要数年的技术进步,就可能压缩到一年。
METR 最近调查 Anthropic 发现,其模型在部分可量化任务上的能力进步速度约为过去的两倍,其中大部分加速很可能来自 AI 参与研发。Anthropic 自己的数据也显示,今年 2 月,Claude 主导的研发工作还不到 1%,到了 8 月已达到 26%,但仍需要人类监督。
AI 研发中的许多工作都能通过实验验证。比如调整训练算法、优化数据后,可以直接测试模型有没有变强。AI 可以不断提出方案、做实验、检查结果,再继续改进。数学和编程领域已经出现过类似的能力跃升,AI 研发可能也会如此。
一旦达到顶尖研究员水平,AI 还能全天候工作,同时部署大量研究智能体。按 Dwarkesh 的估算,单个 AI 研究员每周完成的工作量可能是人类的 50 倍。不过,实验仍要消耗算力,整体研发速度不会直接提高 50 倍。
如果 AI 研发实现自动化,之后可能出现两种情况:
一种是 AI 不断改进自身,短短几个月就逼近现有芯片所能支持的能力极限;
另一种是先把三到六年的技术进步压缩到一年,再因为算力和实验资源不足而慢下来。
Dwarkesh 给这两种情景各分配了 50% 的主观概率。
目前,AI 还无法完全独立完成前沿研发。找到正确的研究方向,也远比解决有标准答案的题目复杂。如果这部分能力迟迟无法突破,时间表就可能推迟。Dwarkesh 认为,AI 到 2032 年以后才能追平顶尖人类 AI 研究员的可能性仍有 25%。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯