晶圆级集成
-
Ouroboros:中科院计算所发布晶圆级存算一体芯片,大模型推理吞吐量提升9.1倍
中科院计算所发布晶圆级存算一体芯片Ouroboros,大模型推理吞吐量最高提升9.1倍 当前大模型的发展呈现出模型规模持续攀升的趋势,对计算硬件的需求也随之快速增长。从千亿参数到万亿规模,每一次迭代都对硬件资源提出了更高的要求。 在这一背景下,一个关键的“隐性开销”日益凸显:数据搬运。在传统计算架构中,一次推理过程往往需要在DRAM、SRAM与计算单元之间反…
中科院计算所发布晶圆级存算一体芯片Ouroboros,大模型推理吞吐量最高提升9.1倍 当前大模型的发展呈现出模型规模持续攀升的趋势,对计算硬件的需求也随之快速增长。从千亿参数到万亿规模,每一次迭代都对硬件资源提出了更高的要求。 在这一背景下,一个关键的“隐性开销”日益凸显:数据搬运。在传统计算架构中,一次推理过程往往需要在DRAM、SRAM与计算单元之间反…