AI Hub

> 多模型统一接入与智能 API 管理平台

在大模型加速进入业务系统的当下，模型调用已经成为支撑智能应用运行的关键能力。然而，随着接入的模型厂商与业务系统不断增多，企业在实践中遇到了新的问题：不同厂商的接口协议、鉴权方式与计费口径各不相同，业务每接入一个模型就要重复改造一遍；API 密钥散落在各个业务代码中，缺少统一的发放、回收与权限约束机制，一旦泄露难以控制影响范围；调用量与花费无法归因到具体的人、项目与部门，"用了多少、谁在用、钱花在哪"始终说不清。为此，AI Hub 模块应运而生，旨在通过多模型统一管理、API 密钥分发与访问控制、调用统计、财务计费、成员权限控制等功能，为企业提供高效、安全、可计量、易扩展的大模型调用与管理服务。

AI Hub 是一个集大模型管理、API（应用程序接口）密钥分发、调用统计、财务计费及成员权限控制于一体的综合性 AI 资产与 API 管理平台。该模块分为面向普通用户的前台和面向管理员的后台：前台面向开发者与业务用户，回答的是"能不能方便地用起来"；后台面向管理员与运营人员，回答的是"能不能安全地管得住、清楚地算得清"。

以下按"前台用户功能"与"后台管理功能"两个维度，对模块能力做详细介绍。

---

## 一、前台功能（面向开发者与业务用户）

### 1. 概览与模型中心

统计概览与模型中心是用户进入 AI Hub 的第一站。统计概览以可视化方式直观展示个人或当前空间调用 API 的整体信息与核心数据；模型列表则以卡片式样式展示当前可用的全部 AI 模型及其相关信息，让用户在一个界面上完成选型判断。

这样做的好处是：

- **统一视图**：可用的模型、当前的用量、消耗的趋势集中呈现，用户无需在多个系统之间切换即可掌握使用现状。
- **快速选型**：卡片式的信息组织方式让模型之间的能力与差异一目了然，降低选型与试错成本。
- **工具联动**：支持在 Agent（智能体）工具中一键获取可用模型列表，开发者从"查文档"到"写代码"的路径被大幅缩短。

### 2. API 密钥与访问控制

API 密钥与访问控制是 AI Hub 安全体系的核心。它把一把 API Key 从"能用就行"的通行证，升级为"谁在什么时候、从哪个地址、能调用哪些模型、能用多少"的精细授权凭证，由基础管理、访问控制、限额配置三个层次构成。

**基础管理**支持 API Key 的创建、查看与配置。密钥展示增加了掩码处理，隐藏中间部分字符以保护隐私；原"备注"字段升级为"Key 名称"，使命名更规范、语义更明确。这有助于：

- **降低泄露风险**：密钥默认以掩码形式呈现，避免在日常协作、截图与录屏中造成明文暴露。
- **便于识别定位**："Key 名称"取代模糊的备注，在多密钥并行使用的场景下，能够快速分辨每一把 Key 归属哪个业务或哪个环境。
- **全生命周期可控**：创建、查看、编辑、停用形成闭环，人员变动或项目下线时密钥可被及时回收。

**访问控制**在新建或编辑 Key 时提供两道约束：一是支持配置 IP 白名单，从网络边界收紧调用入口；二是支持"可访问模型"控制，既可以全选所有模型，也可以限定为特定模型范围。这有助于：

- **收敛影响范围**：即使密钥不慎泄露，由于来源地址与可调模型均被限定，攻击者能够触达的资源也被压缩到最小。
- **落实最小授权**：按业务实际需要分配模型范围，避免"一把钥匙打开所有的门"。
- **灵活适配场景**：内部联调可以放开限制，对外合作则收紧到单一模型与固定出口 IP，同一套机制覆盖不同安全等级的需求。

**限额配置**支持灵活设置使用限额策略，提供不限制、总额度、每日重置、每月重置四种模式，额度类型支持 Token（大模型处理的文本单位）或金额两种口径，并实时展示历史用量与剩余额度。这有助于：

- **预算前置控制**：把预算约束写进密钥本身，而不是等到月底对账时才发现超支，从"事后核算"转向"事中控制"。
- **适配多样场景**：一次性项目适合总额度，日常业务适合每日重置，部门预算适合每月重置，不同业务形态都能找到合适的配额模型。
- **技术财务双视角**：Token 口径贴近工程排障与容量规划，金额口径贴近预算审批与成本核算，两类角色都能看懂同一份用量数据。

### 3. 数据与财务管理

数据与财务管理为用户提供完整的调用与消费记录，包括 API 调用历史记录、账户资金流水记录，以及账单明细与消费记录。每一次调用都留痕，每一笔资金变动都可查。

这有助于：

- **问题快速定位**：调用历史完整记录时间、模型、用量与结果状态，出现异常时可逐条回溯，不必依赖猜测与复现。
- **账目清晰可查**：资金流水记录充值、消费、调整等每一次余额变动，账单与流水一一对应，对账不再依赖人工拼凑。
- **支撑内部结算**：账单明细可按周期与维度查看，为部门分摊、项目核算与预算复盘提供可信的数据基础。

### 4. 成员与配额管理

成员与配额管理用于管理 AI Hub 成员及其权限，支持对多个成员的配额进行批量处理，提升管理效率。

这样做的好处是：

- **权责清晰**：成员按角色分配可见范围与操作权限，谁能看、谁能改、谁能花，边界明确。
- **批量提效**：团队扩容或预算调整时，可一次性完成多成员配额调整，避免逐个设置的重复劳动。
- **资源可控**：配额到人之后，资源池的分配情况清晰可见，避免个别成员占用过量资源而挤压其他业务。

---

## 二、底层技术架构支撑

AI Hub 在底层架构上包含三个核心模块，协同保障调用链路的高效运行与灵活扩展。

### 1. Controller（控制层）

Controller 负责对接前端协议，支持 stream、SSE（服务器推送事件）、websocket 等协议，实现流式打字机效果。

这有助于：

- **协议广泛兼容**：不同业务系统、不同前端框架可以按照自身习惯选择通信方式，无需为接入 AI Hub 而改造现有架构。
- **交互体验一致**：流式打字机效果让模型输出逐字呈现，用户等待感知明显降低，体验接近原生对话产品。
- **前后端解耦**：协议适配集中在控制层，底层模型替换或流程调整不会波及前端接入方式。

### 2. Service（服务层）

Service 处理通用功能，包括 ID 生成、Process（处理流程）匹配和调用、Model（模型）的匹配和调用，是连接控制层与流程层的中枢。

这有助于：

- **能力复用**：ID 生成、匹配与调度等通用逻辑集中沉淀，避免在各条调用链路上重复实现。
- **链路可追踪**：统一的 ID 生成贯穿一次调用的完整生命周期，为后续的日志、统计与计费提供关联依据。
- **扩展成本可控**：新增模型或新增流程时，只需在匹配规则中登记，不必改动主干逻辑。

### 3. Process（流程层）

Process 分为 Up（调用前）和 Down（调用后）两个阶段。Up 负责模型匹配、上下文构建、知识库查询等，以构建完整的 Prompt（提示词）；Down 负责处理模型返回的答案。

这有助于：

- **职责边界清晰**："调用前增强"与"调用后处理"被明确拆开，两个阶段各自演进，互不干扰。
- **能力可插拔**：知识库检索、上下文裁剪、敏感信息过滤等能力可以作为独立环节挂载到 Up 或 Down 上，按需启停。
- **改动面可控**：新增业务逻辑时只需在对应阶段扩展，改动范围局限在单一环节，回归验证的成本更低。

---

## 三、概念区分说明

请注意，本系统中的 AI Hub 侧重于 **API 聚合、密钥管理、计费与成员权限控制**，解决的是大模型"用得上、管得住、算得清"的问题；而其他公有云中的 AI Hub 则侧重于 **算法、模型、镜像、Workflow 等 AI 资产的共享、发布与订阅**，解决的是 AI 资产"找得到、发得出、能复用"的问题。

| 对比项 | 本系统 AI Hub | 公有云平台 ModelArts AI Hub |
| --- | --- | --- |
| 核心定位 | API 聚合、密钥管理、计费与成员权限控制 | AI 资产的共享、发布与订阅 |
| 管理对象 | 模型调用通道、API Key、账单、成员配额 | 算法、模型、镜像、Workflow 等资产 |
| 典型用户 | 开发者、业务团队、平台运营 | 算法工程师、AI 资产管理者 |

两者在业务场景与定位上有所区别，交流时请注意上下文，避免混淆。

---

## 结语

AI Hub 通过提供多模型统一管理、API 密钥分发与访问控制、调用统计、财务计费、成员权限控制等功能，帮助企业把原本分散、不可见、难管控的大模型调用，转变为统一入口、精细授权、成本可归因的标准化能力。这不仅提升了开发者的接入效率与调用稳定性，也让管理者第一次真正看清了 AI 资源的流向与收益。随着企业接入的模型越来越多、使用 AI 的团队越来越广，这样的统一管理平台将成为控制成本、防范风险、保障业务连续性的关键基础设施。