缺乏统一访问管控
大模型访问入口分散，缺乏统一管控，大模型服务"裸奔"运行，容易遭受非法攻击和越权访问，存在严重安全隐患。
为什么企业在引入 AI 时，需要建设 AI 网关
内容合规风险
模型推理与调用过程中缺乏数据校验、过滤与脱敏机制，业务数据使用存在合规风险，难以满足监管要求。
模型接入复杂
不同类型的大模型接入方式各异，模型差异难以屏蔽，业务系统调用与维护复杂度高，增加技术负担。
缺乏监控审计
模型调用缺乏集中监控与审计能力，无法进行成本统计、问题追溯与运行治理，难以支撑长期稳定运行。
企业 AI 统一安全入口
AI 网关：对 AI 行为进行统一安全管控与治理
AI 网关用于对 AI 的调用与执行行为进行统一的鉴权、策略控制、审计与风控管理，是支撑 AI 从试验走向生产运行的关键基础设施。
统一鉴权与身份管理
对接企业身份源，支持 AI/Agent/工具身份区分，基于最小权限原则控制访问，支持多租户隔离
访问与调用策略控制
基于条件的访问控制，调用限流防刷，黑白名单拦截，支持人工审批与灰度放行
数据保护与安全防护
敏感字段识别与脱敏，数据出域控制，内容安全校验，高风险请求实时拦截
全链路审计与可观测
请求响应全量审计，调用链路追踪，行为回放追溯，异常告警与风险分析
产品功能特性
01
LLM 统一管理
提供 100+ 大模型一站式接入能力，统一管理鉴权信息，统计调用成本。
02
统一 API 接口格式
统一使用 OpenAI 接口规范，可同时连接多个大模型，无需修改现有代码。
03
AI 服务集成
支持将 AI 模型和提示词组合成新的 API，支持对 AI 大模型连接器的编排开发。
04
性能优化
提供高效负载均衡解决方案，提升系统的响应速度和可靠性。
05
监控与安全防护
实时监控运行状态，并提供详细日志记录，确保系统稳定运行和数据安全。
06
多租户管理
支持多租户架构，提供独立的资源空间和管理权限，实现资源的高效共享与隔离。
产品核心功能
大模型管理
支持 100+ 主流大模型接入，包括 GPT、文心一言、讯飞星火等，提供完整的生命周期管理功能。
- ✓ 一键部署模型服务
- ✓ 实时监控模型状态
- ✓ 灵活的版本管理
Prompt 提示词封装
支持快速将 AI 模型和 Prompt 提示词组合成新的 API。
- ✓ 自定义提示词
- ✓ 快速配置
- ✓ 一键发布
完善日志监控
提供全面的日志记录能力，详细记录每一次 API 调用的相关信息，方便追踪和排查。
- ✓ 全链路日志
- ✓ 基于日志预警
- ✓ 统计分析
数据统计
通过历史调用日志的采集分析，生成大模型与 Token 消耗统计，提供全面的数据分析和可视化能力。
- ✓ Token 消耗统计
- ✓ 余额预警
- ✓ API 调用统计
AI API 共享
提供 AI API 市场，将所有的 API 服务集中展示在市场上，使得不同部门和团队能够轻松找到并使用所需的 API 服务。
- ✓ API 市场
- ✓ 申请 & 授权审批
- ✓ 访问控制
全球 100+ AI 大模型快速接入
OpenAI
Claude
ChatGLM
通义千问
文心一言
智谱AI
Moonshot
DeepSeek
MiniMax
Baichuan
Qwen
Yi
Mistral
Gemini
LLaMA
PaLM
GPT-4
GPT-3.5
Azure OpenAI
AWS Bedrock
常见问题
AI 网关负责"允不允许、怎么做、是否合规"，是 AI 访问企业系统的统一安全入口。MCP 平台负责"能做什么"，定义并管理 AI 可用的系统能力。Agent 平台负责"要做什么"，负责任务编排并触发执行。三者协同工作，AI 网关对 MCP 工具的调用进行统一安全管控，确保 Agent 的每一次执行都在可控边界内完成。
当 AI 开始具备调用系统、执行操作的能力时，风险不再来自模型本身，而来自于 AI 对企业系统的访问方式是否安全、可控、可治理。AI 网关提供统一鉴权、策略控制、审计与风控管理，是支撑 AI 从试验走向生产运行的关键基础设施。没有 AI 网关，企业就无法放心让 AI 进入核心业务系统。
AI 网关支持 100+ 主流大模型接入，包括 OpenAI、Claude、文心一言、通义千问、讯飞星火、智谱AI、Moonshot、DeepSeek 等国内外主流模型。统一使用 OpenAI 接口规范，可同时连接多个大模型，无需修改现有代码。
AI 网关通过多层防护机制保障安全：统一鉴权与身份管理，对接企业现有身份源；访问与调用策略控制，包括限流、防刷、黑白名单拦截；数据保护与安全防护，敏感字段识别与脱敏、数据出域控制；全链路审计与可观测，请求响应全量审计、调用链路追踪、行为回放追溯。关键操作可设置审批流程，所有调用都有完整日志与回放能力。
AI 网关支持对接企业现有身份源（如 IAM / SSO），支持 AI、Agent、工具的身份区分，基于最小权限原则控制访问范围，支持多租户与多环境隔离。可以继承企业现有的权限体系，无需重建。
AI 网关提供全面的数据统计能力，通过历史调用日志的采集分析，生成大模型与 Token 消耗统计。支持 Token 消耗统计、余额预警、API 调用统计等功能，提供可视化的数据分析和报表，帮助企业有效管理和控制 AI 调用成本。