GPU微架构

关键词：LLM Inference、GPU、 Prefill-Decode Heterogeneity 、Microarchitectural Analysis 、Multi-GPU Scaling 、Energy Predictability A Systematic Characterization of LLM Inference on GPUs ht…

关键词：GPU 微架构、微基准测试、CUDA、存储层次、算术流水线、控制流 本文是系列文章《Demystifying GPU Microarchitecture through Microbenchmarking》的第一篇，也是早期 NVIDIA GPU 架构分析文章之一。由于全文篇幅较长（约 2 万字），可能更适合作为参考资料，建议读者根据目录选择感兴趣的…