大模型工程
-
探秘AI智能体设计模式：从ReAct到LATS，深入剖析智能体的“大脑”构建术
AI智能体的设计模式围绕效率与灵活性展开：基础模式ReAct通过”思考-行动-观察”循环实现环境交互；Plan & Execute、ReWOO和LLM Compiler通过预规划和并行执行优化效率；反思架构赋予智能体自我改进能力；LATS实现多路径智能决策。这些模式为不同应用场景提供了关键设计思路。
-
LLM 大模型工程师：AI 时代的弄潮儿
随着 LLM 技术的不断发展和突破，LLM 大模型工程师这一新兴职业应运而生，他们正成为推动 AI 进步的关键力量，对于传统软件工程师来说，了解并迈向这一领域，或许将开启一段充满机遇与挑战的职业新征程。
-
企业推进大模型落地的关键工程与核心指标
企业推进大模型落地，需统筹五大关键工程：算力工程是基础设施，关注规模、效率与服务；应用工程是价值门户，衡量业务覆盖与成效；模型工程是技术核心，驱动算法效能与迭代；知识工程是企业智库，负责知识的沉淀与复用；数据工程是循环血脉，确保数据的贯通与消费。五者协同，方能实现真正的业务智能化。
-
大模型流式输出打字机效果的前后端实现
1. 背景 在使用ChatGPT时，发现输入 prompt 后，页面是逐步给出回复的，起初以为使用了 WebSckets 持久化连接协议，查看其网络请求，发现这个接口的通信方式并非传统的 http 接口或者 WebSockets，而是基于 EventStream 的事件流，像打字机一样，一段一段的返回答案。 ChatGPT 是一个基于深度学习的大型语言模型，…
-
9张图速览大模型核心技术：从Transformer到AI Agent的全面解析
在 AI 工程领域，RAG（检索增强生成）、LLM（大语言模型）和 AI Agent（智能体）是当前最核心的技术方向。本文通过 9 张可视化图表，系统性地解析其核心概念、技术差异与应用场景，旨在帮助读者快速把握技术脉络。 1. Transformer 与 混合专家 (Mixture of Experts) 混合专家（MoE）是一种改进Transformer模…
