首页  >>  来自播客: All-In Podcast 更新   反馈  

All-In Podcast - Arvind Krishna & Nikesh Arora: Quantum Threat, Open vs Frontier AI, AI Cyber Warfare & SaaS Collapse

发布时间:   原节目
以下是根据您的要求翻译的简体中文内容: 以下是根据访谈脚本生成的摘要,包含了两位嘉宾(Arvind 和 Nikesh)以及主持人(David / Chamath)的每一个观点: ### 一、 量子密码学与安全风险 * **Arvind 的观点:** * DARPA 正在运行量子 benchmarking 竞赛(QBI),最初有几百家公司,现在只剩大约 13 家。 * 量子计算机在 2030 年左右(中间点)将不可避免地破解当今的密码学。如果加密硬盘现在被偷,黑客可以保存 5 年并在那时破解。 * 后量子密码学(Post-quantum cryptography)已经成熟、广为人知,代码也已写好,但人们一直太懒而没有去采用。现在的警钟已经敲响。 * 量子安全方案是基于计算机科学中的复杂性理论(建立在某些假设之上),其严格程度与今天经典密码学无法被经典计算机破解的程度相同。 * **量子计算机发展的里程碑:** 1. **第一步(明年):** 谁能证明在运行中的量子计算机上实现错误校正(Error correction)或缓解,而不是靠模拟。随后需要第三方评估。 2. **第二步(2027年及以后):** 是否能以一定规模(非完全规模)运行,例如门计算(gate computations)。如果每年算力增加一个数量级(目前约 1 万,每年加一个零),到 2029 年可能达到 1000 万,这将带来惊人的突破。 * 关于“逻辑量子比特(Logical qubits)”的概念:虽然名字不够完美,但它是一个合理的术语,指经过纠错后的机器有效容量。 * 无法通过不同架构(如经典 AI 模拟)来替代量子架构实现高效结果。AI 可以发现新的量子算法,但必须在量子硬件上运行才能获得优势。 * **Nikesh 的观点:** * IT 基础设施的各个角落都运行着加密密钥,所有供应商在两端也都有密钥。任何不具备量子防御能力的东西都将被破解。 * 不能等到 2029 或 2030 年再采取行动,因为 IT 基础设施不可能在一年内花 5 万亿美元推倒重来。 * 现在就应该开始用量子安全或量子证明的基础设施替换当前的 IT 栈。市场已有现成技术可以作为权宜之计,把后量子准备就绪的密钥包裹在流量外。 * 大家今年 earmark 的数亿美元 IT 支出中,估计有 50% 都用在了不具备量子安全的基础设施上。 * **主持人(David/Chamath)的观点及讨论:** * 有 AI 研究员认为,无需等待量子计算机,AI 模型在数论前沿的进展(如对质数分布的更好预测)就能让我们在量子计算机到来之前通过经典计算路径破解密码。 * Arvind 认为,如果经典计算破解一个密钥需要 10 年,那就没有实际意义,但辩论和可能性确实存在。 --- ### 二、 模型选择:闭源(Frontier)与开源权重(Open Weight) * **Nikesh 的观点:** * 在实验阶段,不要限制团队的能力,不要过早进行成本优化,因为组织内的大多数人只在过去 12 到 18 个月才刚接触 AI。 * 在生产阶段,应该采用“不同任务对应不同模型”的策略。例如在网络安全中,无法承担把所有端点流量都通过 token 传给 OpenAI 的天价成本。 * 替代方案是使用小语言模型(SLM),进行压缩和任务特定训练,达到 99.9% 的准确率。这样可以用极低的成本完成特定任务。 * 在极端情况(如正在遭受攻击、面临数十亿美元业务损失时)下,则需要使用最先进的前沿大模型(LLM)来运行代理集群(Agent swarms)以阻止攻击。 * 在和平时期防御模型等场景下,更倾向于采用开源权重模型,利用自身专有数据进行训练并管理权重,这带来了可审计性、可解释性和开放系统的优势。 * **Arvind 的观点:** * **经济学角度:** 顶尖生成式模型的 token 成本高昂,而采用开源权重模型(如某些大规模参数的开源模型,并在自己的 GPU 上优化)可以将成本降低 10 到 40 倍,且能完成 95% 的工作。没有企业会拒绝这种性价比。 * **品牌与知识产权角度:** 如果采用前沿闭源模型,思维链(Chain of thought)可能被第三方捕获和审计,相当于泄露了 IP。因此人们需要运行自己的模型,这只能通过开源权重来实现。 * **地缘政治角度:** 最好的开源权重模型目前在中国。虽然放在沙盒里自己运行没有危险,但未来一两年内,西方也一定会涌现出同样强大且差距在 6 到 12 个月之内的开源权重模型。 * 综合上述三点,未来所有 token 消耗量的 75% 到 90% 将流向开源权重模型。 * 开发者往往比较懒,在实验阶段为了速度会使用最昂贵的方案,但到了生产阶段就必须转向更具成本效益的开源方案。 --- ### 三、 网络安全、AI 与战争哲学 * **Nikesh 的观点:** * 网络安全正在演变成战争。行业需要建立强大的联盟,汇聚各自发现的漏洞,只找一次防御方案,而不是让每个公司都去重复测试和修复。 * 虽然 AI 模型(如 Mythos 等)被攻击者用来寻找漏洞(攻击者只需要一个漏洞,而防御者需要找到并修补所有漏洞),但防御者同样可以利用这些模型来检测和加固代码。不过,即使有 AI 辅助,修补漏洞后仍需人工重新测试。 * **Arvind 的观点:** * **战争中的经验法则:** 1. **联盟的力量:** 强有力的联盟可以变得比攻击者更强大。 2. **不对称性与对称性:** 战争中最有效的是不对称性(攻击比防御便宜,导致防御者耗尽资金)。目标是让防御变得同样便宜,从而实现对称战争。 3. **技术优势:** 赢得战争的关键在于建立技术优势。目标是通过技术(如寻找漏洞、自动修补、边界保护)让攻击者的成本变得极其高昂。 * 代理式代码(Agentically written code)最终会优于人类编写的代码,因为代理可以进行评估(Evals),确保在发布前修复所有能找到的缺陷。但计算机科学中仍存在无法完全形式化验证(Verifiable)的难题。 --- ### 四、 地缘政治、监管与 AI 发展节奏 * **Nikesh 的观点:** * 没有人会放慢脚步,全球都在以狂热的速度开发更聪明、更快、更智能的模型。 * 社会过度放大了 AI 的黑暗面和负面影响,而忽略了其带来的巨大利益。 * 无论谁构建了软件并将其释放到市场,都必须承担产品责任。不能说“软件是自己写的”来逃避责任。 * **Arvind 的观点:** * 试图让全球(包括中国、日本、印度等)齐心协力放慢 AI 开发是根本不可能的。一个国家慢下来,反而给了其他国家赶超的机会。数字技术是无法被人为踩刹车的。 * 关于监管和数据中心禁令:部分政治层面的讨论(如某些州考虑禁止数据中心)更多是出于民粹主义以获取选票,而非基于现实。但同时也有许多人关心长期的经济优势。 * **资本与劳动的历史规律:** 历史上历次产业革命中(17、18、19世纪),更倾向于资本密集型的国家和企业最终都赢得了胜利。愿意放弃盲目保护现有每一个工作岗位(左翼哲学)、转而追求资本密集和技术创新的国家,将在这次变革中胜出。 * **主持人的观察(David):** * 在华盛顿的对话中,一方面看到某些科技巨头对网络安全感到极端恐慌,另一方面又听到关于可能出现跨州数据中心禁令的讨论。 --- ### 五、 全球“有产者与无产者(Haves and Have-Nots)”的差距 * **Nikesh 的观点:** * 技术应该变得足够便宜,让每个人都能轻松获取,因此不会陷入不可调和的“有产者与无产者”场景。 * 更大的挑战在于**算力供应链约束**:中美两国在算力发展上遥遥领先,而远离中心 epicenters 的地区(例如欧洲或世界其他地方)可能会面临严重的硬件和算力获取短缺,而非单纯的经济问题。 --- ### 六、 垂直整合与横向扩张(M&A) * **Arvind 的观点:** * 以 IBM 主机(Mainframe)为例,其历经 65 年长盛不衰的原因就在于**垂直整合**。过去 IBM 甚至从沙子、晶圆、芯片一直做到整机和底层软件,从而避免了 IP 泄漏并保留了整个技术栈的利润。 * 现代的垂直整合代表是 NVIDIA(Jensen Huang),其从底层的晶圆设计一路做到了上层的应用生态。掌握垂直整合意味着可以决定利润池在各个层级之间的分配。 * **Nikesh 的观点:** * 应用层的巨头(如 OpenAI 或 Anthropic)也将走向垂直整合,将软件、推理、内存和上下文融为一体。随着个人代理(Personal agent)的发展,每个用户或企业都会构建自己的垂直技术栈,因为这样可以消除在不同技术栈之间迁移时摩擦过大的问题。 * **网络安全领域的 M&A:** 客户不应该被迫购买 40 种不同的解决方案并自行拼接。行业正在走向整合,最终软件解决方案会形成统一平台。 * **SaaS 领域的未来:** 随着 AI 对现有软件产品市场契合度(Product-market fit)的颠覆,许多传统 SaaS 软件的终局价值面临巨大不确定性。企业最终可能会用少量 AI 能力替代成百上千种不同的 SaaS 软件,转向核心的 5 到 10 个主平台,这将引发软件行业的巨大整合。

以下是根据访谈脚本生成的摘要,包含了两位嘉宾(Arvind 和 Nikesh)以及主持人(David / Chamath)的每一个观点: ### 一、 量子密码学与安全风险 * **Arvind 的观点:** * DARPA 正在运行量子 benchmarking 竞赛(QBI),最初有几百家公司,现在只剩大约 13 家。 * 量子计算机在 2030 年左右(中间点)将不可避免地破解当今的密码学。如果加密硬盘现在被偷,黑客可以保存 5 年并在那时破解。 * 后量子密码学(Post-quantum cryptography)已经成熟、广为人知,代码也已写好,但人们一直太懒而没有去采用。现在的警钟已经敲响。 * 量子安全方案是基于计算机科学中的复杂性理论(建立在某些假设之上),其严格程度与今天经典密码学无法被经典计算机破解的程度相同。 * **量子计算机发展的里程碑:** 1. **第一步(明年):** 谁能证明在运行中的量子计算机上实现错误校正(Error correction)或缓解,而不是靠模拟。随后需要第三方评估。 2. **第二步(2027年及以后):** 是否能以一定规模(非完全规模)运行,例如门计算(gate computations)。如果每年算力增加一个数量级(目前约 1 万,每年加一个零),到 2029 年可能达到 1000 万,这将带来惊人的突破。 * 关于“逻辑量子比特(Logical qubits)”的概念:虽然名字不够完美,但它是一个合理的术语,指经过纠错后的机器有效容量。 * 无法通过不同架构(如经典 AI 模拟)来替代量子架构实现高效结果。AI 可以发现新的量子算法,但必须在量子硬件上运行才能获得优势。 * **Nikesh 的观点:** * IT 基础设施的各个角落都运行着加密密钥,所有供应商在两端也都有密钥。任何不具备量子防御能力的东西都将被破解。 * 不能等到 2029 或 2030 年再采取行动,因为 IT 基础设施不可能在一年内花 5 万亿美元推倒重来。 * 现在就应该开始用量子安全或量子证明的基础设施替换当前的 IT 栈。市场已有现成技术可以作为权宜之计,把后量子准备就绪的密钥包裹在流量外。 * 大家今年 earmark 的数亿美元 IT 支出中,估计有 50% 都用在了不具备量子安全的基础设施上。 * **主持人(David/Chamath)的观点及讨论:** * 有 AI 研究员认为,无需等待量子计算机,AI 模型在数论前沿的进展(如对质数分布的更好预测)就能让我们在量子计算机到来之前通过经典计算路径破解密码。 * Arvind 认为,如果经典计算破解一个密钥需要 10 年,那就没有实际意义,但辩论和可能性确实存在。 --- ### 二、 模型选择:闭源(Frontier)与开源权重(Open Weight) * **Nikesh 的观点:** * 在实验阶段,不要限制团队的能力,不要过早进行成本优化,因为组织内的大多数人只在过去 12 到 18 个月才刚接触 AI。 * 在生产阶段,应该采用“不同任务对应不同模型”的策略。例如在网络安全中,无法承担把所有端点流量都通过 token 传给 OpenAI 的天价成本。 * 替代方案是使用小语言模型(SLM),进行压缩和任务特定训练,达到 99.9% 的准确率。这样可以用极低的成本完成特定任务。 * 在极端情况(如正在遭受攻击、面临数十亿美元业务损失时),则需要使用最先进的前沿大模型(LLM)来运行代理集群(Agent swarms)以阻止攻击。 * 在和平时期防御模型等场景下,更倾向于采用开源权重模型,利用自身专有数据进行训练并管理权重,这带来了可审计性、可解释性和开放系统的优势。 * **Arvind 的观点:** * **经济学角度:** 顶尖生成式模型的 token 成本高昂,而采用开源权重模型(如某些大规模参数的开源模型,并在自己的 GPU 上优化)可以将成本降低 10 到 40 倍,且能完成 95% 的工作。没有企业会拒绝这种性价比。 * **品牌与知识产权角度:** 如果采用前沿闭源模型,思维链(Chain of thought)可能被第三方捕获和审计,相当于泄露了 IP。因此人们需要运行自己的模型,这只能通过开源权重来实现。 * **地缘政治角度:** 最好的开源权重模型目前在中国。虽然放在沙盒里自己运行没有危险,但未来一两年内,西方也一定会涌现出同样强大且差距在 6 到 12 个月之内的开源权重模型。 * 综合上述三点,未来所有 token 消耗量的 75% 到 90% 将流向开源权重模型。 * 开发者往往比较懒,在实验阶段为了速度会使用最昂贵的方案,但到了生产阶段就必须转向更具成本效益的开源方案。 --- ### 三、 网络安全、AI 与战争哲学 * **Nikesh 的观点:** * 网络安全正在演变成战争。行业需要建立强大的联盟,汇聚各自发现的漏洞,只找一次防御方案,而不是让每个公司都去重复测试和修复。 * 虽然 AI 模型(如 Mythos 等)被攻击者用来寻找漏洞(攻击者只需要一个漏洞,而防御者需要找到并修补所有漏洞),但防御者同样可以利用这些模型来检测和加固代码。不过,即使有 AI 辅助,修补漏洞后仍需人工重新测试。 * **Arvind 的观点:** * **战争中的经验法则:** 1. **联盟的力量:** 强有力的联盟可以变得比攻击者更强大。 2. **不对称性与对称性:** 战争中最有效的是不对称性(攻击比防御便宜,导致防御者耗尽资金)。目标是让防御变得同样便宜,从而实现对称战争。 3. **技术优势:** 赢得战争的关键在于建立技术优势。目标是通过技术(如寻找漏洞、自动修补、边界保护)让攻击者的成本变得极其高昂。 * 代理式代码(Agentically written code)最终会优于人类编写的代码,因为代理可以进行评估(Evals),确保在发布前修复所有能找到的缺陷。但计算机科学中仍存在无法完全形式化验证(Verifiable)的难题。 --- ### 四、 地缘政治、监管与 AI 发展节奏 * **Nikesh 的观点:** * 没有人会放慢脚步,全球都在以狂热的速度开发更聪明、更快、更智能的模型。 * 社会过度放大了 AI 的黑暗面和负面影响,而忽略了其带来的巨大利益。 * 无论谁构建了软件并将其释放到市场,都必须承担产品责任。不能说“软件是自己写的”来逃避责任。 * **Arvind 的观点:** * 试图让全球(包括中国、日本、印度等)齐心协力放慢 AI 开发是根本不可能的。一个国家慢下来,反而给了其他国家赶超的机会。数字技术是无法被人为踩刹车的。 * 关于监管和数据中心禁令:部分政治层面的讨论(如某些州考虑禁止数据中心)更多是出于民粹主义以获取选票,而非基于现实。但同时也有许多人关心长期的经济优势。 * **资本与劳动的历史规律:** 历史上历次产业革命中(17、18、19世纪),更倾向于资本密集型的国家和企业最终都赢得了胜利。愿意放弃盲目保护现有每一个工作岗位(左翼哲学)、转而追求资本密集和技术创新的国家,将在这次变革中胜出。 * **主持人的观察(David):** * 在华盛顿的对话中,一方面看到某些科技巨头对网络安全感到极端恐慌,另一方面又听到关于可能出现跨州数据中心禁令的讨论。 --- ### 五、 全球“有产者与无产者(Haves and Have-Nots)”的差距 * **Nikesh 的观点:** * 技术应该变得足够便宜,让每个人都能轻松获取,因此不会陷入不可调和的“有产者与无产者”场景。 * 更大的挑战在于**算力供应链约束**:中美两国在算力发展上遥遥领先,而远离中心 epicenters 的地区(例如欧洲或世界其他地方)可能会面临严重的硬件和算力获取短缺,而非单纯的经济问题。 --- ### 六、 垂直整合与横向扩张(M&A) * **Arvind 的观点:** * 以 IBM 主机(Mainframe)为例,其历经 65 年长盛不衰的原因就在于**垂直整合**。过去 IBM 甚至从沙子、晶圆、芯片一直做到整机和底层软件,从而避免了 IP 泄漏并保留了整个技术栈的利润。 * 现代的垂直整合代表是 NVIDIA(Jensen Huang),其从底层的晶圆设计一路做到了上层的应用生态。掌握垂直整合意味着可以决定利润池在各个层级之间的分配。 * **Nikesh 的观点:** * 应用层的巨头(如 OpenAI 或 Anthropic)也将走向垂直整合,将软件、推理、内存和上下文融为一体。随着个人代理(Personal agent)的发展,每个用户或企业都会构建自己的垂直技术栈,因为这样可以消除在不同技术栈之间迁移时摩擦过大的问题。 * **网络安全领域的 M&A:** 客户不应该被迫购买 40 种不同的解决方案并自行拼接。行业正在走向整合,最终软件解决方案会形成统一平台。 * **SaaS 领域的未来:** 随着 AI 对现有软件产品市场契合度(Product-market fit)的颠覆,许多传统 SaaS 软件的终局价值面临巨大不确定性。企业最终可能会用少量 AI 能力替代成百上千种不同的 SaaS 软件,转向核心的 5 到 10 个主平台,这将引发软件行业的巨大整合。