Dolphin AI企业 AI 能力平台400-087-0500产品演示
首页 / 资源中心 / 选型指南
IMPLEMENTATION GUIDE

AI 网关与传统 API 网关有什么区别?

从请求治理、模型路由、Token 计量和内容策略四个维度判断,现有网关能否满足模型调用需求。

产品实施指南 · 更新于
核心回答

AI 网关与 API 网关有相通的接入和流量治理能力。区别主要在治理对象与管理深度:模型调用除了请求数,还涉及 Token 用量、模型渠道、路由策略与内容处理。选型时应比较实际能力覆盖,而不能只根据产品名称判断;部分 API 管理平台也已提供 AI 网关能力。

按治理需求比较,而不是按名称划分

企业选型时需要核对的能力维度
维度常见 API 治理关注点模型调用新增的关注点
接入对象业务服务、接口与后端地址模型供应商、模型标识与能力兼容
流量控制请求频次与并发结合输入输出消耗管理 Token 吞吐
路由配置将请求转发到目标后端渠道绑定、模型映射及业务路由选择
运营分析请求量、延迟与错误增加模型、渠道、令牌的 Token 与费用分析
内容治理依产品和配置而异确认敏感词、PII 规则及生效范围

表格用于梳理评估维度,不表示所有传统网关都缺少右侧能力。例如 Microsoft 的 API Management 官方资料已介绍 AI 网关能力。因此,应检查所选产品和版本的实际配置。

已有 API 网关,不一定要替换

先列出已有网关能完成的工作,再找模型调用中的缺口。如果现有平台已覆盖所需协议、令牌授权、Token 限流和模型用量分析,可以继续评估复用;若只有基本转发,可能需要补充面向模型的治理能力。

若采用多个管理组件,应明确哪一层负责身份认证、哪一层限流、哪一层重试,避免重复策略造成难以解释的拒绝或延迟。不同组件之间的兼容性应通过实际链路验证。

得帆 AI 网关的能力重点

得帆 AI 网关集中管理公有云、私有化与自建模型渠道,提供直达、权重、优先级、规则和智能五种路由模式,并结合模型映射、令牌授权与渠道重试配置管理调用。

流量治理包括并发、RPM / RPD 和 TPM / TPD。并发支持拒绝及优先级队列模式;内容策略可绑定敏感词和 PII 规则,运营侧按模型、渠道和令牌查看用量及费用。具体模型协议与能力仍需联调确认。

选型时安排一次可重复的验证

  1. 准备实际使用的模型、请求格式和应用调用样例。
  2. 验证正常调用、授权撤销、上游不可用与超限行为。
  3. 观察路由命中、返回结果及错误信息是否符合预期。
  4. 核对统计维度是否能支撑团队分摊与问题定位。
  5. 记录产品版本、配置和测试条件,再决定是否满足需求。

对于流式响应、工具调用或多模态输入,应使用真实需求单独验证,不能仅凭模型名称或能力标签判断兼容。

得帆 AI 网关的模型路由配置界面
得帆 AI 网关的模型路由配置界面 · 点击查看大图

实施问答

五种路由模式应如何选择?+

平台提供直达、权重、优先级、规则与智能路由。单一渠道可从直达开始;分配调用比例可评估权重模式;有主次渠道或条件分流需求时评估优先级与规则模式。智能路由的判断依据、适用条件与效果应结合实际配置和测试确认。

模型在广场中可见,就代表所有人都能调用吗?+

不是。模型市场可见性与调用访问权限分别管理。私密模型需要令牌授权;上线时应分别检查展示范围、令牌授权与撤销结果,避免把可见性当作访问控制。

资料与适用范围

产品能力依据得帆对应产品介绍资料整理;页面中的实施步骤、试点与验收项为建议。具体接入、配置和运行效果以实际部署版本及联调结果为准。

概念参考:Microsoft Learn:AI gateway capabilities in Azure API Management。该参考不作为得帆产品能力的证明。

查看得帆 AI 网关的产品界面与功能 ↗
BUILD YOUR AI FUTURE

让企业 AI,从连接走向价值。

了解如何将现有模型、企业 API 与技能资产纳入统一管理。

产品演示