All-In Podcast - Brad Gerstner: Companies Will Pay 5x More for the Best AI
发布时间:
原节目
这段视频脚本中只有一位嘉宾,即Jason。以下是Jason提出的每一个观点:
**嘉宾:Jason**
1. **AI任务成本差异化:**
* 简单的任务,如文档摘要,可能只需要2万个廉价的token,可以使用滞后或开源模型来完成。
* 复杂的、高价值的任务,例如替代软件工程师两小时的工作,可能需要200万个昂贵的token。
2. **低质量AI的巨大成本:**
* 对于长时间运行的关键性任务,即使是95%有效的解决方案,其失败的后果也可能非常严重。
* 如果任务在早期、中期或后期中断,都会产生巨大的成本,因为你仍然消耗了token、时间和计算资源(就像在老虎机上输钱一样)。
3. **高价值任务中模型成本的“无关紧要”性:**
* 如果一个AI代理正在替代一位每小时200美元的顾问,那么在选择一个3美元的廉价模型和一个15美元的昂贵模型之间,推理(inference)成本的差异是“无关紧要的”。
* 只要那个15美元的昂贵模型能提供“万无一失”(bulletproof)的解决方案,这个成本差异就显得微不足道。
4. **市场表现作为证据:**
* 这些观点的最佳证据是当前AI公司的收入增长,例如Anthropic和OpenAI的收入增长与开源模型相比。
* 数百万独立用户每天都在做出选择,这反映了市场的真实需求。
5. **开源模型与市场定位:**
* 开源公司也在增长,但它们主要通过销售“非常非常便宜”的产品来实现增长。
* 每个市场都有高端产品、中端产品和商品级产品的空间。
6. **对“智能差距缩小”论的质疑:**
* 有人猜测,商品级AI和前沿AI之间的智能差距会缩小,以至于人们将不再愿意为前沿产品付费。
* 然而,Jason认为目前没有任何实际证据支持这一论断。
这段视频脚本中只有一位嘉宾,即Jason。以下是Jason提出的每一个观点:
**嘉宾:Jason**
1. **AI任务成本差异化:**
* 简单的任务,如文档摘要,可能只需要2万个廉价的tokens,可以使用滞后或开源模型完成。
* 复杂的、高价值的任务,如替代软件工程师工作两小时,可能需要200万个昂贵的tokens。
2. **低质量AI的巨大成本:**
* 对于长时间运行的、关键性任务,即使是95%好的解决方案,其失败的后果也非常严重。
* 如果任务在早期、中期或后期中断,都会产生巨大的成本,因为你仍然消耗了tokens、时间和计算资源(就像老虎机赌输了一样)。
3. **高价值任务中模型成本的“无关紧要”性:**
* 如果一个AI代理正在替代一个每小时200美元的顾问,那么在选择一个3美元的廉价模型和一个15美元的昂贵模型之间,推理成本的差异是“无关紧要的”。
* 只要那个15美元的昂贵模型能提供“万无一失”(bulletproof)的解决方案,这个成本差异就显得微不足道。
4. **市场表现作为证据:**
* 这些观点的最佳证据是当前AI公司的收入增长,例如Anthropic和OpenAI的收入增长与开源模型相比。
* 数百万独立用户每天都在做出选择,这反映了市场的真实需求。
5. **开源模型与市场定位:**
* 开源公司也在增长,但它们主要通过销售“非常非常便宜”的产品来实现增长。
* 每个市场都有高端产品、中端产品和商品产品的空间。
6. **对“智能差距缩小”论的质疑:**
* 有人猜测,商品级AI和前沿AI之间的智能差距会缩小,以至于人们将不再愿意为前沿产品付费。
* 然而,Jason认为目前没有任何实际证据支持这一论断。