推理优化
-
DeepSeek-V3.2实测：稀疏注意力机制DSA如何实现推理效率与性能的协同突破
深度求索近期发布了DeepSeek-V3.2版本，这是一款在计算效率、推理能力和智能体性能方面实现协调统一的模型。其高算力变体DeepSeek-V3.2-Speciale在2025年IMO和IOI中均达到了金牌水平。此次评测重点是评测思考模式（Think），其思考模式下的DeepSeek-V3.2（下面简称DeepSeek-V3.2-Think）在多个维度实…
-
Grok-4-1-fast-reasoning评测：速度与成本的革命性优化，准确率与专业能力的权衡
XAI近期发布了Grok-4-1-fast模型，官方将其定义为“针对高性能智能体工具调用进行优化的前沿多模态模型”。该模型支持思考模式与非思考模式两种版本。本次评测聚焦于思考模式版本 grok-4-1-fast-reasoning。相比此前的 grok-4-0709 版本，新版本在响应速度上实现了显著优化，但在准确率方面有所下降。我们对这两个版本在准确率、响…
-
SimKO算法突破RLVR探索困境：实现大模型推理中探索与利用的平衡
在DeepSeek-R1、Kimi1.5等模型相继展示强化学习对大型语言模型复杂推理能力的显著提升后，可验证强化学习（RLVR）在数学、逻辑与编程等领域的应用已成为研究热点。然而，现有RLVR方法在提升模型pass@1性能的同时，却导致pass@K（K>1）性能下降，这一矛盾现象揭示了当前强化学习范式的根本缺陷。 **RLVR的探索困境：概率分布的过度…
-
推理模型效率革命：英伟达DLER如何用强化学习实现“短而精”的思考
在通往通用人工智能（AGI）的道路上，推理能力被视为核心瓶颈之一。过去一年，以OpenAI o系列、DeepSeek-R1、Qwen为代表的推理模型通过“长链思维”策略显著提升了复杂问题解决能力，但这种进步伴随着沉重的代价：推理链条不断延长导致Token消耗呈指数级增长，响应速度大幅下降，部署成本急剧攀升。当DeepSeek-R1在AIME-24数学基准上需…
-
高通进军AI推理芯片市场：挑战英伟达霸权的移动技术新路径
在人工智能芯片领域，英伟达长期占据主导地位，其GPU在训练和推理市场均形成近乎垄断的格局。然而，这种局面正面临来自多方的挑战。高通作为移动通信和计算领域的巨头，近日宣布将于明年推出AI200芯片，并计划在2027年跟进AI250芯片，正式进军AI推理芯片市场。这一战略举措不仅反映了高通自身业务拓展的雄心，更揭示了AI芯片市场格局可能发生的深刻变化。 高通此次…
