大模型工程

如果你还在手动复制项目上下文给AI，或者反复粘贴数据库Schema来让Cursor理解你的项目，那么你正在做太多不必要的重复劳动。 最近，我深入体验了一系列新的MCP工具，它们彻底重塑了我利用AI进行项目开发的方式。我们来深入探讨一下原因——为什么这些工具能让AI从一个“看起来不错”的玩具，转变为真正实用的生产力伙伴。 什么是MCP？ “MCP”代表模型上下…

在 LangGraph 中基于结构化数据源构建 在 LangGraph 中构建不同的 agent 系统 | Image by author 对于希望构建不同智能体系统的开发者而言，一个有效的切入点是深入比较单智能体工作流与多智能体工作流，这本质上是评估系统设计的灵活性与可控性之间的权衡。 本文旨在阐明 Agentic AI 的核心概念，并演示如何利用 Lan…

上周，我无意间组建了一支特别的开发团队。这支“团队”由我、Claude Code 和 Codex 组成，我们分坐在屏幕两侧，像两位彼此挑剔但又不得不合作的工程师。 说实话，效果堪称神奇。如果你想在不崩溃的情况下将开发速度提升一个数量级，这套组合可能是目前最接近真人结对编程体验的 AI 方案。 下面我将展示它的实际工作流程——不夸大，全是实战经验。 步骤 1：…

Part I: 文本的“隐形重量” 我们通常认为文本是“轻”的：易于存储、传输和计算。但在大语言模型时代，文本变得非常“重”。 处理一张发票的PDF扫描件，就可能消耗1,000至5,000个tokens。将这个数量级乘以企业日志、法律合同、监管文件和数字化档案，总token量将变得极其庞大——其中大部分是冗余、昂贵且处理缓慢的。虽然OpenAI的GPT-4-…

斯坦福团队推出AgentFlow框架，通过在线强化学习让仅7B参数的小模型在流式协作中“边做边学”。该方法使模型在搜索、数学等10项任务中性能显著提升，部分表现甚至超越了GPT-4o等超大模型，证明了优化系统设计可突破模型规模限制。

大多数创业者以为自己在构建AI产品，其实他们真正在做的是构建上下文选择系统。 近期，旧金山举办了一场高规格AI圆桌讨论，嘉宾包括来自Uber、WisdomAI、EvenUp和Datastrato的工程师和机器学习负责人。这场名为“Beyond the Prompt”的活动吸引了600多位报名者，主要是创始人、工程师和早期AI产品构建者。 讨论的核心议题是上下…

本文详细介绍了如何在本地使用Ollama框架部署DeepSeek模型，涵盖硬件要求、安装步骤、界面搭建及注意事项，帮助用户打造安全私密的个人智能助手。

AI智能体的设计模式围绕效率与灵活性展开：基础模式ReAct通过”思考-行动-观察”循环实现环境交互；Plan & Execute、ReWOO和LLM Compiler通过预规划和并行执行优化效率；反思架构赋予智能体自我改进能力；LATS实现多路径智能决策。这些模式为不同应用场景提供了关键设计思路。

随着 LLM 技术的不断发展和突破，LLM 大模型工程师这一新兴职业应运而生，他们正成为推动 AI 进步的关键力量，对于传统软件工程师来说，了解并迈向这一领域，或许将开启一段充满机遇与挑战的职业新征程。

企业推进大模型落地，需统筹五大关键工程：算力工程是基础设施，关注规模、效率与服务；应用工程是价值门户，衡量业务覆盖与成效；模型工程是技术核心，驱动算法效能与迭代；知识工程是企业智库，负责知识的沉淀与复用；数据工程是循环血脉，确保数据的贯通与消费。五者协同，方能实现真正的业务智能化。