User Upload Audio - 2026 Conference on Physics and AI: Jascha Sohl-Dickstein
发布时间:
原节目
根据播客转录内容,嘉宾Yashison Dixon(由Tom介绍)在节目中发表了关于人工智能(AI)未来发展的演讲和观众问答。以下是演讲和问答中提到的所有主要新闻、事实、观点和建议:
### 一、 核心观点与背景
* **指数级增长与未来展望:** 自1950年左右起,人类进入了约定的指数级增长率。GDP对时间的图表、模型训练计算量的对数图表等都表明,未来与现在将有很大不同,且AI正处于早期变革阶段。AI算力在过去十年中增长了约1000万倍,当前的训练计算量已接近人脑一生的计算规模。
* **地质纪元与“人类世”的缩短:** 人类活动正在导致地球历史上第六次大灭绝,并在岩层中留下核试验同位素等痕迹,这被称为“人类世”。而随着AI的发展,如果AI演变得当,人类作为主要驱动智能的时期(即这个地质纪元)可能会非常短暂。
* **软件任务能力呈指数上升:** 根据Meter的最新研究,AI能够独立完成的软件任务的时间尺度(以人类完成该任务所需时间衡量)在按指数级增长。目前AI已能胜任更高水平的智力工作。
* **AI解决前沿数学问题:** AI模型已经开始解决数学家Paul Erdos留下的大量未解猜想和开放问题,推动了人类已知数学边界的发展。
* **主流人物与机构对AGI的认可:** 预测AGI(通用人工智能)已逐渐进入主流欧文顿窗口(Overton window)。多位知名人士对此发表过看法:
* 英国前首相Rishi Sunak认为,超越人类所有认知任务的AI具有基础地缘政治重要性。
* Barack Obama认为AI的影响将比手机技术更深刻、来得更快。
* Eric Schmidt曾预测,在3到5年内将出现与最优秀人类一样聪明的AGI系统,6年内将出现超越所有人的超级人工智能(ASI)。
* 《经济学年鉴》(The Economist)和《纽约时报》等媒体也对经济超级智能进行了探讨。
* **AGI的时间表:** 在旧金山(SF)的AI圈子中,共识是AGI将在短短几年内到来。相比于生物技术等领域 curing cancer(治愈癌症)的长期性,AI领域的研发人员没有看到通往超级智能模型之间的实质性屏障。过去尝试预测AI平台期的基准测试,现在往往在几个月到几年内就会被人类水平的成就超越。
### 二、 给个人的建议与职业规划
* **重新审视科研项目:** 随着AI的迅速迭代,研究人员应避免进行耗时两年且极易被大模型轻易超越的慢节奏摸索。应该采用更有针对性的项目、与他人合作快速推进,避免在项目完成时成果已被大模型覆盖。
* **遵循理查德·萨顿的《苦涩的教训》(The Bitter Lesson,2019年):** 利用计算的通用方法最终是最有效的。应致力于那些随着计算和智能规模扩大而变得更有效、甚至能反馈进该过程的项目。
* **充分使用AI工具:** 尽管UX(用户体验)有时不够完美,但应利用AI进行头脑风暴、迭代研究构想、获取写作反馈(但不要用AI写初稿以避免外包思考)、运行复杂分析和生成代码。与LLMs合作类似于扮演PI(项目负责人),需要清晰界定任务范围。
* **放弃安于现状的传统职业路径:** AI将带来大规模破坏,传统的“安全选项”不再安全,因为无法规避大环境的系统性风险。因此,应当追求更有趣、更有开创性的事情。
* **选择有长期影响力的项目:** 在有限的时间里,应当选择在AGI之后也能对轨迹产生积极影响的项目,做自己退休后会引以为傲的事情。
### 三、 杠杆作用与早期干预
* **极早期指数增长的杠杆:** 尽管AI发展迅速,但我们依然处于AI指数级增长的超早期阶段。2030年的计算能力可能是2025年的10,000倍。
* **早期小决策的重大后果:** 就像早期电子邮件标准、Haber-Bosch固氮法、美国医学会/律师协会的成立或学术同行评审系统的建立一样,AI早期的小型干预(如研究方向、开源与否、模型架构是否可解释、公开的道德立场等)将对未来的商业、社会和政治格局产生巨大的杠杆作用。
### 四、 推荐的具体研究领域
* **科学AI(AI for Science):** 材料发现、蛋白质折叠、天气建模、聚变反应堆等(Yashison认为更好理解世界总体上是积极的)。
* **对AI模型的科学研究(AI作为研究对象):** 如可解释性(对AI模型做神经科学研究)、AI的统计物理学、心理学或经济学。
* **AI安全研究:** 尽管仍处于初期且相对领域规模而言被严重低估,但这是极具价值的领域。
* **能力预测与外推:** 更精确地理解和预测即将发生的事情。
* **获取公平性与权益:** 确保技术惠及所有人,虽然可能充满挑战和压力。
* **政策与治理:** 帮助政府和政策制定者制定规章制度,学术界的背景能带来政府信任的高杠杆作用。
### 五、 问答环节摘要
* **关于资源与获得Token的不平等:** Yashison认为财富分配和重新分配(如对AI公司和智能征收高额税收来重新分配)将非常重要。美国由于其政府体系可能会较好地处理失业问题,但全球范围内的公平性更令人担忧。
* **关于技术瓶颈和效率:** Yashison承认当前AI的运作方式(如数据效率)比人脑低几个数量级,但这只代表效率低下,并不能阻碍其达到目标。
* **关于研究品味(Research Taste):** 没有通用的基准来衡量研究品味,真正的突破在于等待模型独立做出具有概念突破性的发现(例如室温超导体)。
* **关于编程技能的价值:** 研究生不需要像以前那样写那么多代码,但必须理解代码的逻辑和含义,就像学会站在更高抽象层面上进行思考一样。
* **关于实验科学与理论科学的差距:** 实验科学(如流体力学风洞、新材料偶然发现)目前对AI持怀疑态度。Yashison预测未来10到15年内机器人将能完成物理实验,且通过理论和AI的结合可以减少实验次数。
根据播客转录内容,嘉宾Yashison Dixon(由Tom介绍)在节目中发表了关于人工智能(AI)未来发展的演讲和观众问答。以下是演讲和问答中提到的所有主要新闻、事实、观点和建议:
### 一、 核心观点与背景
* **指数级增长与未来展望:** 自1950年左右起,人类进入了约定的指数级增长率。GDP对时间的图表、模型训练计算量的对数图表等都表明,未来与现在将有很大不同,且AI正处于早期变革阶段。AI算力在过去十年中增长了约1000万倍,当前的训练计算量已接近人脑一生的计算规模。
* **地质纪元与“人类世”的缩短:** 人类活动正在导致地球历史上第六次大灭绝,并在岩层中留下核试验同位素等痕迹,这被称为“人类世”。而随着AI的发展,如果AI演变得当,人类作为主要驱动智能的时期(即这个地质纪元)可能会非常短暂。
* **软件任务能力呈指数上升:** 根据Meter的最新研究,AI能够独立完成的软件任务的时间尺度(以人类完成该任务所需时间衡量)在按指数级增长。目前AI已能胜任更高水平的智力工作。
* **AI解决前沿数学问题:** AI模型已经开始解决数学家Paul Erdos留下的大量未解猜想和开放问题,推动了人类已知数学边界的发展。
* **主流人物与机构对AGI的认可:** 预测AGI(通用人工智能)已逐渐进入主流欧文顿窗口(Overton window)。多位知名人士对此发表过看法:
* 英国前首相Rishi Sunak认为,超越人类所有认知任务的AI具有基础地缘政治重要性。
* Barack Obama认为AI的影响将比手机技术更深刻、来得更快。
* Eric Schmidt曾预测,在3到5年内将出现与最优秀人类一样聪明的AGI系统,6年内将出现超越所有人的超级人工智能(ASI)。
* 《经济学年鉴》(The Economist)和《纽约时报》等媒体也对经济超级智能进行了探讨。
* **AGI的时间表:** 在旧金山(SF)的AI圈子中,共识是AGI将在短短几年内到来。相比于生物技术等领域 curing cancer(治愈癌症)的长期性,AI领域的研发人员没有看到通往超级智能模型之间的实质性屏障。过去尝试预测AI平台期的基准测试,现在往往在几个月到几年内就会被人类水平的成就超越。
### 二、 给个人的建议与职业规划
* **重新审视科研项目:** 随着AI的迅速迭代,研究人员应避免进行耗时两年且极易被大模型轻易超越的慢节奏摸索。应该采用更有针对性的项目、与他人合作快速推进,避免在项目完成时成果已被大模型覆盖。
* **遵循理查德·萨顿的《苦涩的教训》(The Bitter Lesson,2019年):** 利用计算的通用方法最终是最有效的。应致力于那些随着计算和智能规模扩大而变得更有效、甚至能反馈进该过程的项目。
* **充分使用AI工具:** 尽管UX(用户体验)有时不够完美,但应利用AI进行头脑风暴、迭代研究构想、获取写作反馈(但不要用AI写初稿以避免外包思考)、运行复杂分析和生成代码。与LLMs合作类似于扮演PI(项目负责人),需要清晰界定任务范围。
* **放弃安于现状的传统职业路径:** AI将带来大规模破坏,传统的“安全选项”不再安全,因为无法规避大环境的系统性风险。因此,应当追求更有趣、更有开创性的事情。
* **选择有长期影响力的项目:** 在有限的时间里,应当选择在AGI之后也能对轨迹产生积极影响的项目,做自己退休后会引以为傲的事情。
### 三、 杠杆作用与早期干预
* **极早期指数增长的杠杆:** 尽管AI发展迅速,但我们依然处于AI指数级增长的超早期阶段。2030年的计算能力可能是2025年的10,000倍。
* **早期小决策的重大后果:** 就像早期电子邮件标准、Haber-Bosch固氮法、美国医学会/律师协会的成立或学术同行评审系统的建立一样,AI早期的小型干预(如研究方向、开源与否、模型架构是否可解释、公开的道德立场等)将对未来的商业、社会和政治格局产生巨大的杠杆作用。
### 四、 推荐的具体研究领域
* **科学AI(AI for Science):** 材料发现、蛋白质折叠、天气建模、聚变反应堆等(Yashison认为更好理解世界总体上是积极的)。
* **对AI模型的科学研究(AI作为研究对象):** 如可解释性(对AI模型做神经科学研究)、AI的统计物理学、心理学或经济学。
* **AI安全研究:** 尽管仍处于初期且相对领域规模而言被严重低估,但这是极具价值的领域。
* **能力预测与外推:** 更精确地理解和预测即将发生的事情。
* **获取公平性与权益:** 确保技术惠及所有人,虽然可能充满挑战和压力。
* **政策与治理:** 帮助政府和政策制定者制定规章制度,学术界的背景能带来政府信任的高杠杆作用。
### 五、 问答环节摘要
* **关于资源与获得Token的不平等:** Yashison认为财富分配和重新分配(如对AI公司和智能征收高额税收来重新分配)将非常重要。美国由于其政府体系可能会较好地处理失业问题,但全球范围内的公平性更令人担忧。
* **关于技术瓶颈和效率:** Yashison承认当前AI的运作方式(如数据效率)比人脑低几个数量级,但这只代表效率低下,并不能阻碍其达到目标。
* **关于研究品味(Research Taste):** 没有通用的基准来衡量研究品味,真正的突破在于等待模型独立做出具有概念突破性的发现(例如室温超导体)。
* **关于编程技能的价值:** 研究生不需要像以前那样写那么多代码,但必须理解代码的逻辑和含义,就像学会站在更高抽象层面上进行思考一样。
* **关于实验科学与理论科学的差距:** 实验科学(如流体力学风洞、新材料偶然发现)目前对AI持怀疑态度。Yashison预测未来10到15年内机器人将能完成物理实验,且通过理论和AI的结合可以减少实验次数。