AI 网关与 API 网关有相通的接入和流量治理能力。区别主要在治理对象与管理深度:模型调用除了请求数,还涉及 Token 用量、模型渠道、路由策略与内容处理。选型时应比较实际能力覆盖,而不能只根据产品名称判断;部分 API 管理平台也已提供 AI 网关能力。
按治理需求比较,而不是按名称划分
| 维度 | 常见 API 治理关注点 | 模型调用新增的关注点 |
|---|---|---|
| 接入对象 | 业务服务、接口与后端地址 | 模型供应商、模型标识与能力兼容 |
| 流量控制 | 请求频次与并发 | 结合输入输出消耗管理 Token 吞吐 |
| 路由配置 | 将请求转发到目标后端 | 渠道绑定、模型映射及业务路由选择 |
| 运营分析 | 请求量、延迟与错误 | 增加模型、渠道、令牌的 Token 与费用分析 |
| 内容治理 | 依产品和配置而异 | 确认敏感词、PII 规则及生效范围 |
表格用于梳理评估维度,不表示所有传统网关都缺少右侧能力。例如 Microsoft 的 API Management 官方资料已介绍 AI 网关能力。因此,应检查所选产品和版本的实际配置。
已有 API 网关,不一定要替换
先列出已有网关能完成的工作,再找模型调用中的缺口。如果现有平台已覆盖所需协议、令牌授权、Token 限流和模型用量分析,可以继续评估复用;若只有基本转发,可能需要补充面向模型的治理能力。
若采用多个管理组件,应明确哪一层负责身份认证、哪一层限流、哪一层重试,避免重复策略造成难以解释的拒绝或延迟。不同组件之间的兼容性应通过实际链路验证。
得帆 AI 网关的能力重点
得帆 AI 网关集中管理公有云、私有化与自建模型渠道,提供直达、权重、优先级、规则和智能五种路由模式,并结合模型映射、令牌授权与渠道重试配置管理调用。
流量治理包括并发、RPM / RPD 和 TPM / TPD。并发支持拒绝及优先级队列模式;内容策略可绑定敏感词和 PII 规则,运营侧按模型、渠道和令牌查看用量及费用。具体模型协议与能力仍需联调确认。
选型时安排一次可重复的验证
- 准备实际使用的模型、请求格式和应用调用样例。
- 验证正常调用、授权撤销、上游不可用与超限行为。
- 观察路由命中、返回结果及错误信息是否符合预期。
- 核对统计维度是否能支撑团队分摊与问题定位。
- 记录产品版本、配置和测试条件,再决定是否满足需求。
对于流式响应、工具调用或多模态输入,应使用真实需求单独验证,不能仅凭模型名称或能力标签判断兼容。

实施问答
五种路由模式应如何选择?+
平台提供直达、权重、优先级、规则与智能路由。单一渠道可从直达开始;分配调用比例可评估权重模式;有主次渠道或条件分流需求时评估优先级与规则模式。智能路由的判断依据、适用条件与效果应结合实际配置和测试确认。
模型在广场中可见,就代表所有人都能调用吗?+
不是。模型市场可见性与调用访问权限分别管理。私密模型需要令牌授权;上线时应分别检查展示范围、令牌授权与撤销结果,避免把可见性当作访问控制。
产品能力依据得帆对应产品介绍资料整理;页面中的实施步骤、试点与验收项为建议。具体接入、配置和运行效果以实际部署版本及联调结果为准。
概念参考:Microsoft Learn:AI gateway capabilities in Azure API Management。该参考不作为得帆产品能力的证明。
查看得帆 AI 网关的产品界面与功能 ↗
Dolphin AI