应用工程概览
LLM 应用工程 = 传统后端工程 + LLM 特有挑战。面试主线：应用形态、工程要素、和普通后端的差异。
应用形态
| 形态 | 例子 | 技术要点 |
|---|---|---|
| 对话应用 | 客服、Copilot | 流式、上下文管理 |
| Agent | 自动执行任务 | 工具调用、循环、持久化 |
| RAG | 知识问答 | 检索链路、评估 |
| 批处理 | 内容生成、数据清洗 | 队列、成本控制 |
工程要素
LLM 应用工程要素链
- Prompt 工程：指令设计（见 Prompt 实战篇）
- API 集成：模型调用、参数、可靠性（见 API 集成篇）
- 流式输出：打字机体验（见流式输出篇）
- 工具调用：Agent 能力（见 FC 实战篇）
- 路由成本：模型选型与省钱（见路由成本篇）
与普通后端的差异
| 维度 | 普通后端 | LLM 应用 |
|---|---|---|
| 确定性 | 输入决定输出 | 输出不确定（要评估、兜底） |
| 延迟 | 可控 | 慢（秒级，要流式） |
| 成本 | 稳定 | 按 token 计费，随用量波动 |
| 故障模式 | 明确错误 | 幻觉、格式错、拒绝回答 |
| 测试 | 断言 | 评估集 + 统计指标 |
核心认知：LLM 应用要把“不确定的模型”包在“确定的工程”里，校验、重试、兜底、评估是工程层的事。
面试追问
- LLM 应用工程的核心挑战？ 不确定性：输出不可预测，要评估、校验、兜底
- 和普通后端的最大差异？ 确定性 vs 概率性。测试从断言变评估，故障从报错变幻觉
- 工程要素有哪些？ 提示、API、流式、工具、路由成本、评估监控
- 为什么流式重要？ 模型生成秒级，不流式用户等白屏。SSE 是标配
- 成本怎么控？ 模型路由（简单任务用便宜模型）、缓存、提示精简（token 优化）