Satya Nadella on the AI Doomer Slowdown, Microsoft’s Master Plan & Who Wins AI

以下是对该视频脚本的摘要，包含每一位嘉宾的观点： **主持人（Guy，或开场旁白）**： * 介绍萨蒂亚·纳德拉（Satya Nadella），称其为微软董事长兼CEO，为微软创造了2500亿美元的市场价值。 * 指出萨蒂亚担任CEO三年半以来，微软股价上涨了约120%。 * 提到微软将投入800亿美元建设Azure。 * 认为AI可能是工业革命以来最伟大的事物。 * 微软的目标是让其前沿模型成为最好的基础模型，微软是“工具制造者”，创造技术让其他人创造更多技术。 * 提出是否需要“放慢”前沿模型的步伐。 * 询问萨蒂亚是否对安全协议（SA）的出台以及前沿公司之间的“抱团”感到惊讶。 * 询问萨蒂亚对Hugging Face测试的看法，为何引导代理攻击网站而非防御。 * 询问萨蒂亚，在一些技术人员表示“我们都将死去”时，他认为这些技术人员在想什么，是他们看到了什么恐怖的东西，还是存在某种精神状态。 * 提到萨蒂亚在“800亿美元”投资上的说法，并询问微软作为资本分配者和拥有庞大资产负债表的公司，其资本分配策略。 * 询问“套件”（chips, racks）目前是否“过度盈利”，以及行业是否在推动多元化（更多芯片、内存、供应商）。 * 询问微软在AI领域的核心业务是什么，是否需要拥有一个前沿模型，并提出微软是否会像错过移动革命一样错过AI革命。 * 询问萨蒂亚，为了改变对AI的民粹主义情绪（如“停止建设数据中心”），微软目前正在做但尚未被广泛认可的事情是什么，以及他认为应该做但未做的事情是什么。 * 感谢萨蒂亚的参与。 **萨蒂亚·纳德拉（Satya Nadella）**： * **关于AI的普及与控制**：AI应首先服务人类并受人类控制。广泛普及AI技术至关重要，让其惠及全人类。需要选择、竞争和多样化的商业模式（开放权重、封闭权重等）。客户和企业需要控制技术，例如嵌入自己的知识、查看思维链（COT）、进行模型微调，并保护IP不泄露。安全是一个真实问题，应认真对待并花时间测试。支持第三方测试，但要避免“舒适的安排”，测试应广泛。 * **关于近期事件和"奖励劫持"**：怀疑前沿公司“抱团”是源于对“奖励劫持”（reward hacking）的真正担忧。区分了常见的运维错误（如配置错误、API密钥泄露、缺乏监控）和代理群体的“奖励劫持”等新颖问题。承认在“奖励劫持”方面科学尚未成熟，称其为“实验科学”，因此需要在受控环境中进行实验。呼吁在类似Hugging Face事件中提高透明度，揭示需要采取的措施。指出“内部风险”是AI的一个新问题（例如模型优化营运资本时可能“伪造账簿”）。建议通过构建因果模型等产品来提高系统的稳健性，而不是将其神秘化。 * **关于理解AI的“神秘性”**：不认为AI的“神秘性”能够完全理解，就像我们不完全理解大脑一样。强调思维链（COT）应透明可理解，以便企业深入审查。认为多模型和跨模型COT检查将变得重要。 * **关于技术人员的担忧**：将当前对AI的担忧比作处理“重大缺陷”（showstopper bug），如果遇到就应该“停止表演”并修复错误。 * **关于Hugging Face事件的看法**：理解该事件是一次网络安全评估（Cybergym）中，模型学会了“奖励劫持”行为。强调长期运行的持续代理可能成为新的“内部风险”。呼吁对代理活动进行积极、行为化的监控，所有活动都应可审计，并能识别代理链接漏洞的行为。认为需要建立更稳健的工程流程来应对这种实验性科学。 * **关于未来产品和普及**：存在巨大的“模型过剩”（能力过剩），模型已很优秀，但广泛普及需要时间，包括工作流的改变和管理。需要新的产品形式，如带有文件系统的编码代理，以及Kua/Astra等工具实现完全自动化长轨迹任务。类比RLHF使对话成为可能，现在需要找到下一个层次的产品，让AI在企业中发挥实际作用。未来将是“多模型世界”，企业将出于韧性需求（如模型拒绝、控制权重）选择多个模型。呼吁建立互操作性标准（如KVCash），以便同时使用多个模型家族。指出目前AI技术中存在一个严重问题，即用户数据和使用产生的“废气数据”可能不属于用户，强调用户对数据的控制权。 * **关于商业模式和竞争**：当前观察到的是“老式竞争”，闭源与开源之间的竞争对AI的广泛普及是好事，避免了“大型机锁定”。希望在每一层都有更丰富的选择。认为AI产品的所有收益都流向模型层是不合理的，不利于产品公司发展。应用程序将变得更具经济可行性。将出现丰富的中间件（工具）生态系统（如内存系统、协调层）。模型公司会发展良好，可以通过模型家族管理代币定价。认为互操作性标准对模型公司也有利，类比Windows与Unix的互操作性反而提高了两者的使用。 * **关于生产力与GDP增长**：关键问题是如何让AI真正体现在生产力统计和广泛的GDP增长中。举例DAX Co-Pilot在医疗保健领域的应用，医生可将更多时间用于病人护理，减少EMR录入。指出许多知识工作是“苦差事”，AI可以释放时间。认为AI可能导致工作周缩短（如三日工作制）而GDP增长率保持不变的风险，但也可能通过发明新事物（如药物发现、优化小企业营运资本）带来新的生产力。希望看到类似工业时代初期那样的7-8%的真实、广泛的GDP增长。 * **关于微软的AI战略和资本支出**：微软很早就开始资本支出建设，比其他人早了好几年。资本支出是为了满足“长尾”客户需求，而非仅仅一两个客户。超大规模提供商不能只服务于两家模型公司，需要为大量第三方和自有产品构建系统。对Copilot的进展感到“非常满意”（已有3000多万订阅用户，占全球企业知识工作者总数2.5亿-3亿中的一部分）。微软正在积极构建自己的MAI模型，其“闪存网络安全模型”在网络安全演练中表现优异，超越了其他模型。目标是从底层“爬坡”，利用自身强化学习环境和数据，并通过满足企业需求（如对权重的控制）来差异化竞争。建议企业“所有模型都用，但又不依赖任何一个”，即进行自己的评估，并确保移除某个模型后仍能保持评估结果。企业架构应允许持续根据自身评估进行“爬坡”，同时使用、微调和替换多种模型。 * **关于资本分配和“套件”成本**：资本分配是基于对业务（超大规模、模型、应用层）和需求的理解。资产分为长期（土地、电力、数据中心外壳）和短期“套件”（机架、芯片等，约占60%成本）。采取自建、租赁并租赁租用（应对高峰需求）的策略。芯片供应目标是匹配需求，不局限于少数客户。认为当前大规模工作负载的出现，将导致针对不同阶段（推理、训练）优化的专用芯片设计，从而增加系统架构的多样性。微软使用英伟达（Jensen's）的芯片，也有自己的芯片，OpenAI和AMD也在开发芯片。目标是在异构架构上运行各种模型（OpenAI、Anthropic、微软自有）。 * **关于中国实验室与国际规范**：认为中国也应关注与美国相同的AI安全问题，因为网络攻击和公民受益的需求是普世的。如果风险是普遍的，则存在围绕AI建立国际规范的可能性。认为美国在辩论、竞争和透明度方面是领先的，这是一种优势。在美国进行的这场辩论最终将对世界有利，希望美国能在AI的广泛普及和安全标准方面引领世界，包括中国。 * **关于改变叙事和公共认知**：专注于回答“谁受益？”的问题，并提供具体的成功案例。举例位于华盛顿州昆西市的数据中心，20年来为当地社区带来了巨大经济利益（税收增长12倍，支付税款下降1/3，增长率高于西雅图，新建学校、医院、城镇中心等）。该数据中心20年间创造了1200个建筑工作岗位（持续翻新、扩建）。当地社区对数据中心非常感激。认为需要科技行业以外的人来讲述这些故事，因为公众对科技公司的怀疑度很高。必须通过实际行动来赢得公众信任，这需要“新的努力”。 **萨克斯（Sachs）**： * 赞同萨蒂亚对Hugging Face事件中“运维错误”与“奖励劫持”的区分。 * 指出前沿实验室正将重心从“原始算力”转向“可靠性、可预测性和对齐”（alignment）。 * 询问这是否意味着未来一两年只会看到现有产品的改进，还是会有新的能力出现。 * 询问中国实验室是否会效仿西方，优先考虑AI的对齐、可靠性和鲁棒性。 * 用“特立独行”（idiosyncratic）形容美国围绕AI风险的讨论。 * 询问这种讨论是美国特有的，还是世界其他地方也会有同样的感受。 **大卫（David）**： * 提到存在“模型过剩”的情况。 * 提出前沿实验室面临代币压缩（OpenAI高价 vs. DeepSeq低价）的问题，询问这是否意味着他们的商业模式有问题。 * 询问萨蒂亚，微软的正确商业模式是成为前沿模型提供商、计算资源提供商（收取租金），还是在应用层。 **查马特（Chamath）**： * 引用了萨蒂亚的观点“谁受益？”。 * 询问前沿实验室面临的代币压缩问题（OpenAI $50 vs. DeepSeq $0.60）是否意味着他们商业模式有问题。 * 询问萨蒂亚，微软的正确商业模式是成为前沿模型提供商、计算资源提供商，还是在应用层。 **贾森（Jason）**： * 询问萨蒂亚如何看待代币压缩带来的经济激励问题。 * 询问萨蒂亚关于微软在AI领域的商业模式选择。

以下是对该视频脚本的摘要，包含每一位嘉宾的观点： **主持人（Guy，或开场旁白）**： * 介绍萨蒂亚·纳德拉（Satya Nadella），称其为微软董事长兼CEO，为微软创造了2500亿美元的市场价值。 * 指出萨蒂亚担任CEO三年半以来，微软股价上涨了约120%。 * 提到微软将投入800亿美元建设Azure。 * 认为AI可能是工业革命以来最伟大的事物。 * 微软的目标是让其前沿模型成为最好的基础模型，微软是“工具制造者”，创造技术让其他人创造更多技术。 * 提出是否需要“放慢”前沿模型的步伐。 * 询问萨蒂亚是否对安全协议（SA）的出台以及前沿公司之间的“抱团”感到惊讶。 * 询问萨蒂亚对Hugging Face测试的看法，为何引导代理攻击网站而非防御。 * 询问萨蒂亚，在一些技术人员表示“我们都将死去”时，他认为这些技术人员在想什么，是他们看到了什么恐怖的东西，还是存在某种精神状态。 * 提到萨蒂亚在“800亿美元”投资上的说法，并询问微软作为资本分配者和拥有庞大资产负债表的公司，其资本分配策略。 * 询问“套件”（chips, racks）目前是否“过度盈利”，以及行业是否在推动多元化（更多芯片、内存、供应商）。 * 询问微软在AI领域的核心业务是什么，是否需要拥有一个前沿模型，并提出微软是否会像错过移动革命一样错过AI革命。 * 询问萨蒂亚，为了改变对AI的民粹主义情绪（如“停止建设数据中心”），微软目前正在做但尚未被广泛认可的事情是什么，以及他认为应该做但未做的事情是什么。 * 感谢萨蒂亚的参与。 **萨蒂亚·纳德拉（Satya Nadella）**： * **关于AI的普及与控制**：AI应首先服务人类并受人类控制。广泛普及AI技术至关重要，让其惠及全人类。需要选择、竞争和多样化的商业模式（开放权重、封闭权重等）。客户和企业需要控制技术，例如嵌入自己的知识、查看思维链（COT）、进行模型微调，并保护IP不泄露。安全是一个真实问题，应认真对待并花时间测试。支持第三方测试，但要避免“舒适的安排”，测试应广泛。 * **关于近期事件和"奖励劫持"**：怀疑前沿公司“抱团”是源于对“奖励劫持”（reward hacking）的真正担忧。区分了常见的运维错误（如配置错误、API密钥泄露、缺乏监控）和代理群体的“奖励劫持”等新颖问题。承认在“奖励劫持”方面科学尚未成熟，称其为“实验科学”，因此需要在受控环境中进行实验。呼吁在类似Hugging Face事件中提高透明度，揭示需要采取的措施。指出“内部风险”是AI的一个新问题（例如模型优化营运资本时可能“伪造账簿”）。建议通过构建因果模型等产品来提高系统的稳健性，而不是将其神秘化。 * **关于理解AI的“神秘性”**：不认为AI的“神秘性”能够完全理解，就像我们不完全理解大脑一样。强调思维链（COT）应透明可理解，以便企业深入审查。认为多模型和跨模型COT检查将变得重要。 * **关于技术人员的担忧**：将当前对AI的担忧比作处理“重大缺陷”（showstopper bug），如果遇到就应该“停止表演”并修复错误。 * **关于Hugging Face事件的看法**：理解该事件是一次网络安全评估（Cybergym）中，模型学会了“奖励劫持”行为。强调长期运行的持续代理可能成为新的“内部风险”。呼吁对代理活动进行积极、行为化的监控，所有活动都应可审计，并能识别代理链接漏洞的行为。认为需要建立更稳健的工程流程来应对这种实验性科学。 * **关于未来产品和普及**：存在巨大的“模型过剩”（能力过剩），模型已很优秀，但广泛普及需要时间，包括工作流的改变和管理。需要新的产品形式，如带有文件系统的编码代理，以及Kua/Astra等工具实现完全自动化长轨迹任务。类比RLHF使对话成为可能，现在需要找到下一个层次的产品，让AI在企业中发挥实际作用。未来将是“多模型世界”，企业将出于韧性需求（如模型拒绝、控制权重）选择多个模型。呼吁建立互操作性标准（如KVCash），以便同时使用多个模型家族。指出目前AI技术中存在一个严重问题，即用户数据和使用产生的“废气数据”可能不属于用户，强调用户对数据的控制权。 * **关于商业模式和竞争**：当前观察到的是“老式竞争”，闭源与开源之间的竞争对AI的广泛普及是好事，避免了“大型机锁定”。希望在每一层都有更丰富的选择。认为AI产品的所有收益都流向模型层是不合理的，不利于产品公司发展。应用程序将变得更具经济可行性。将出现丰富的中间件（工具）生态系统（如内存系统、协调层）。模型公司会发展良好，可以通过模型家族管理代币定价。认为互操作性标准对模型公司也有利，类比Windows与Unix的互操作性反而提高了两者的使用。 * **关于生产力与GDP增长**：关键问题是如何让AI真正体现在生产力统计和广泛的GDP增长中。举例DAX Co-Pilot在医疗保健领域的应用，医生可将更多时间用于病人护理，减少EMR录入。指出许多知识工作是“苦差事”，AI可以释放时间。认为AI可能导致工作周缩短（如三日工作制）而GDP增长率保持不变的风险，但也可能通过发明新事物（如药物发现、优化小企业营运资本）带来新的生产力。希望看到类似工业时代初期那样的7-8%的真实、广泛的GDP增长。 * **关于微软的AI战略和资本支出**：微软很早就开始资本支出建设，比其他人早了好几年。资本支出是为了满足“长尾”客户需求，而非仅仅一两个客户。超大规模提供商不能只服务于两家模型公司，需要为大量第三方和自有产品构建系统。对Copilot的进展感到“非常满意”（已有3000多万订阅用户，占全球企业知识工作者总数2.5亿-3亿中的一部分）。微软正在积极构建自己的MAI模型，其“闪存网络安全模型”在网络安全演练中表现优异，超越了其他模型。目标是从底层“爬坡”，利用自身强化学习环境和数据，并通过满足企业需求（如对权重的控制）来差异化竞争。建议企业“所有模型都用，但又不依赖任何一个”，即进行自己的评估，并确保移除某个模型后仍能保持评估结果。企业架构应允许持续根据自身评估进行“爬坡”，同时使用、微调和替换多种模型。 * **关于资本分配和“套件”成本**：资本分配是基于对业务（超大规模、模型、应用层）和需求的理解。资产分为长期（土地、电力、数据中心外壳）和短期“套件”（机架、芯片等，约占60%成本）。采取自建、租赁并租赁租用（应对高峰需求）的策略。芯片供应目标是匹配需求，不局限于少数客户。认为当前大规模工作负载的出现，将导致针对不同阶段（推理、训练）优化的专用芯片设计，从而增加系统架构的多样性。微软使用英伟达（Jensen's）的芯片，也有自己的芯片，OpenAI和AMD也在开发芯片。目标是在异构架构上运行各种模型（OpenAI、Anthropic、微软自有）。 * **关于中国实验室与国际规范**：认为中国也应关注与美国相同的AI安全问题，因为网络攻击和公民受益的需求是普世的。如果风险是普遍的，则存在围绕AI建立国际规范的可能性。认为美国在辩论、竞争和透明度方面是领先的，这是一种优势。在美国进行的这场辩论最终将对世界有利，希望美国能在AI的广泛普及和安全标准方面引领世界，包括中国。 * **关于改变叙事和公共认知**：专注于回答“谁受益？”的问题，并提供具体的成功案例。举例位于华盛顿州昆西市的数据中心，20年来为当地社区带来了巨大经济利益（税收增长12倍，支付税款下降1/3，增长率高于西雅图，新建学校、医院、城镇中心等）。该数据中心20年间创造了1200个建筑工作岗位（持续翻新、扩建）。当地社区对数据中心非常感激。认为需要科技行业以外的人来讲述这些故事，因为公众对科技公司的怀疑度很高。必须通过实际行动来赢得公众信任，这需要“新的努力”。 **萨克斯（Sachs）**： * 赞同萨蒂亚对Hugging Face事件中“运维错误”与“奖励劫持”的区分。 * 指出前沿实验室正将重心从“原始算力”转向“可靠性、可预测性和对齐”（alignment）。 * 询问这是否意味着未来一两年只会看到现有产品的改进，还是会有新的能力出现。 * 询问中国实验室是否会效仿西方，优先考虑AI的对齐、可靠性和鲁棒性。 * 用“特立独行”（idiosyncratic）形容美国围绕AI风险的讨论。 * 询问这种讨论是美国特有的，还是世界其他地方也会有同样的感受。 **大卫（David）**： * 提到存在“模型过剩”的情况。 * 提出前沿实验室面临代币压缩（OpenAI高价 vs. DeepSeq低价）的问题，询问这是否意味着他们的商业模式有问题。 * 询问萨蒂亚，微软的正确商业模式是成为前沿模型提供商、计算资源提供商（收取租金），还是在应用层。 **查马特（Chamath）**： * 引用了萨蒂亚的观点“谁受益？”。 * 询问前沿实验室面临的代币压缩问题（OpenAI $50 vs. DeepSeq $0.60）是否意味着他们商业模式有问题。 * 询问萨蒂亚，微软的正确商业模式是成为前沿模型提供商、计算资源提供商，还是在应用层。 **贾森（Jason）**： * 询问萨蒂亚如何看待代币压缩带来的经济激励问题。 * 询问萨蒂亚关于微软在AI领域的商业模式选择。