大模型工程

一套深度实战的 22 篇工程系列：用 1B–7B 模型打造快速、低成本、私密且强大的 AI 系统。 使用 AI 生成的图像 四个月前，我真的觉得小模型是个笑话。 并非没用——只是…有限。适合做演示、做研究挺有意思，但离生产可用还差得远。 在我看来，“真正的 AI 工程”就该用巨型基础模型和一堆 A100。如果你不在烧算力，你算什么在做 AI？ 这个信念在一个…

关键词： MLIR 、Nanokernels 、 Microkernels 、Matmul、Vectorization、Compiler 超微内核（Nanokernel） 指寄存器级别的最小计算单元，专为特定硬件指令集优化，可作为可组合的、目标无关的编译器 IR 到目标特定指令的 kernel。 论文标题：Library Liberation: Compet…

30B的小模型，竟然在重量级Agent基准测试上，超越了万亿参数的Kimi K2T？ MiroThinker v1.5的开源，似乎正在悄然改写行业长久以来对参数规模的迷信。这不仅仅是一次模型迭代，其背后以“交互深度”为核心的训练思想，可能正在定义Agent发展的新范式。 L3的影子 过去几年，AI性能的提升主要围绕两个轴心：数据规模与上下文长度。然而到了20…

面向企业生产的、成本优化且全链路可观测的 GraphRAG 操作系统 Agentic GraphOS | 生产可用 · 多智能体 · 思维速度级扩展 本文将从零开始，完整介绍如何构建一套可投入生产的知识图谱系统——GraphOS。你将了解如何架构一个多智能体平台，智能地将查询路由到最具性价比的检索策略，在保持研究级准确率的同时实现 30–50% 的成本优化。…

Andrej Karpathy 力荐的 Vibe Coding 正成为开发者的新宠。这种“只需聊一聊，AI 就能把功能写出来”的体验，极大地提升了简单任务的开发效率。 然而，当我们将目光转向实际的复杂系统，特别是 AI 基础设施（AI Infra）领域时，Vibe Coding 往往会陷入“水土不服”的困境。 总结下来，主要有三方面问题： 上下文丢失：对话历…

为什么说它是 Agentic AI 真正“能干活”的关键 导语｜为什么你的 Agent “看起来很聪明，却干不了事”？ 许多开发者在初次构建 AI Agent 时，常会遇到一个典型困境： 👉 模型本身能力很强，擅长推理与对话，但一旦接入真实业务场景就频频“卡壳” 其根本原因往往不在于模型本身，而在于——未能真正理解并构建起 Agent Skills（智能体技…

LingoEDU：结构化预处理新突破，让大模型生成可溯源，DeepSeek准确率飙升51% 一种名为LingoEDU（简称EDU，即基本话语单元技术）的新方法，能够零成本降低大模型幻觉，让DeepSeek的准确率相对提升51%。 LingoEDU是一个在大模型正式生成前执行的专用「预处理」模型。其核心在于对输入文本进行精准切分，为每一个最小信息单元（EDU）…

Addy Osmani 是谷歌 Cloud AI 的总监，专注于帮助开发者和企业通过 Gemini、Vertex AI 和代理开发套件（ADK）取得成功。他在谷歌拥有14年的工作经验，曾参与 DevTools、Lighthouse 和 Core Web Vitals 的开发，拥有 25 年构建网络技术的行业经验，同时也是《超越Vibe编程》《学习 JavaS…

2026年新年第三天，Claude Code的创始人兼负责人Boris Cherny进行了一场线上教学，亲自演示了他使用这款AI编程工具的个人工作流。 他表示，自己的配置可能“简单”得令人意外。Claude Code开箱即用的体验已经非常出色，因此他个人并未进行太多自定义设置。 Boris强调，使用Claude Code没有所谓的“标准答案”。该工具在设计之…