AI缩放定律

一、批量大小：AI 推理成本与延迟的核心杠杆 当我们谈论 AI 时，往往聚焦于模型的能力、参数规模和应用场景，却极少追问那些决定 AI 本质的底层物理约束： 为什么 Claude 的快速模式价格贵 6 倍，速度却仅快 2.5 倍？ 为什么 GPT-4 发布后，模型规模的增长突然踩了刹车？ 为什么长上下文的 API 定价会直接翻倍？ 为什么 Ilya Suts…