应用工程
校招考察频度：☆ 中频（原理扩展·工程加分项） 复习主线：LLM 应用工程是将“概率性黑盒模型”安全包覆在“确定性高可用后端”中的开发实践。校招面试核心聚焦点：OpenAI 规范参数调优（Temperature 随机度 vs Top_p 采样截断）、SSE（Server-Sent Events）流式响应与长连接保持、Function Calling 生产实操（结构化输出与参数重试修正）、模型智能路由分发与 Token 成本监控。
大模型应用工程 = 传统高并发后端工程 + LLM 特有的“长耗时、高成本、输出概率性”治理。
分类考频地图
| 专题 | 核心页面 | 校招考频星级 | 重点考查要点 |
|---|---|---|---|
| 流式响应体验 | 流式输出实战 | ★ 高频 | 解决首字延迟（TTFT）体验瓶颈、HTTP 分块传输与 Server-Sent Events（SSE）规范、前端打字机渲染 |
| 函数调用工程 | Function Calling 实战 | ★ 高频 | Pydantic 生成 JSON Schema、工具执行异常注入模型反馈重试（Self-Correction）、防止无限循环 |
| 模型 API 集成 | API 集成核心实践 | ☆ 中频 | OpenAI SDK 异步客户端、指数退避重试（应对 429 速率限制）、Temperature / Top_p / Frequency Penalty 调优 |
| 提示词工程实务 | Prompt 实战模式 | ☆ 中频 | Markdown 格式化约束、Few-shot 边界示例、思维链（CoT）引导复杂推理 |
| 动态路由与降本 | 路由与成本控制 | ☆ 中频 | 级联路由（简单意图分类用小模型，复杂推理调用旗舰模型）、Prompt Caching 命中率提升、Token 消耗监控 |
应用形态
| 形态 | 例子 | 技术要点 |
|---|---|---|
| 对话应用 | 客服、Copilot | 流式、上下文管理 |
| Agent | 自动执行任务 | 工具调用、循环、持久化 |
| RAG | 知识问答 | 检索链路、评估 |
| 批处理 | 内容生成、数据清洗 | 队列、成本控制 |
工程要素
LLM 应用工程要素链
- Prompt 工程：指令设计（见 Prompt 实战篇）
- API 集成：模型调用、参数、可靠性（见 API 集成篇）
- 流式输出：打字机体验（见流式输出篇）
- 工具调用：Agent 能力（见 FC 实战篇）
- 路由成本：模型选型与省钱（见路由成本篇）
与普通后端的差异
| 维度 | 普通后端 | LLM 应用 |
|---|---|---|
| 确定性 | 输入决定输出 | 输出不确定（要评估、兜底） |
| 延迟 | 可控 | 慢（秒级，要流式） |
| 成本 | 稳定 | 按 token 计费，随用量波动 |
| 故障模式 | 明确错误 | 幻觉、格式错、拒绝回答 |
| 测试 | 断言 | 评估集 + 统计指标 |
核心认知：LLM 应用要把“不确定的模型”包在“确定的工程”里，校验、重试、兜底、评估是工程层的事。
面试追问
- LLM 应用工程的核心挑战？ 不确定性：输出不可预测，要评估、校验、兜底
- 和普通后端的最大差异？ 确定性 vs 概率性。测试从断言变评估，故障从报错变幻觉
- 工程要素有哪些？ 提示、API、流式、工具、路由成本、评估监控
- 为什么流式重要？ 模型生成秒级，不流式用户等白屏。SSE 是标配
- 成本怎么控？ 模型路由（简单任务用便宜模型）、缓存、提示精简（token 优化）