AI 应用架构总览
AI 应用架构的核心，不是简单调用一次大模型 API，而是为不确定的模型建立一套可控的运行环境。
- 模型接入层：统一不同模型供应商的调用、限流、重试和成本统计。
- 上下文工程：把正确的信息在正确的时机提供给模型。
- Tools：让模型通过受控接口读取业务数据或执行操作。
- RAG：从企业知识中检索与当前问题有关的内容。
- Memory 与 State：保存对话、任务和长期用户信息。
- Workflow 与 Agent：组织多步骤任务、分支判断和循环执行。
- 评估与可观测性：判断效果、定位问题并控制质量和成本。
对于后端架构师，最重要的转变是：从设计确定性程序，走向设计一个能够约束和承载不确定性模型的系统。