模型管理操作指南
概述
本指南旨在帮助服务管理者了解和使用Bella-OpenAPI平台的模型管理功能。通过本文档,您将学会如何使用Web控制台和API接口来添加、配置和管理AI模型及其关联的渠道。
Bella-OpenAPI是一个多厂商AI服务统一接入平台,支持OpenAI、阿里云、火山引擎、AWS Bedrock等多种AI服务提供商。平台通过统一的接口规范和灵活的协议适配机制,为用户提供一致的AI服务体验。
核心概念
模型(Model)
模型是AI服务的核心实体,定义了AI模型的能力边界和基础属性,包含:
- 基础信息:模型名称、文档地址、所有者信息
- 状态控制:激活/停用、公开/私有状态
- 模型属性(Properties):模型本身的能力参数(如上下文长度、支持的语音类型等)
- 模型特性(Features):模型具备的AI能力开关(如流式输出、函数调用、视觉能力等)
- 端点关联:模型支持的API端点类型
- 所有者类型:system(系统级)、org(组织级)、person(个人级),org(组织级)目前暂未实现
- 所有者编号:system类型,统一为0;如果是person类型,则为用户id,比如ucid
重要区别:模型特性描述的是AI模型"能做什么",与具体服务商实现无关;而渠道特性描述的是服务商"怎么实现",与具体协议和技术实现相关。
渠道(Channel)
渠道是模型的具体服务实现,连接特定的AI服务供应商,包含:
- 服务配置:厂商协议、服务URL、认证信息
- 协议属性(Protocol Properties):服务商特定的技术实现参数
- 路由策略:优先级、数据流向、负载均衡
- 价格信息:调用成本配置
- 安全控制:访问权限、安全级别
- 所有者类型:system(系统级)、org(组织级)、person(个人级),org(组织级)目前暂未实现
- 所有者编号:system类型,统一为0;如果是person类型,则为用户id,比如ucid
渠道特性:描述具体服务商的API接口能力和技术实现细节,如是否支持StreamOptions参数、API版本要求等。
端点(Endpoint)
端点定义了不同类型的AI服务接口:
/v1/chat/completions
- 对话完成/v1/audio/speech
- 语音合成(TTS)/v1/audio/realtime
- 实时音频对话/v1/images/generations
- 图像生成/v1/embeddings
- 文本向量化
协议适配
平台支持多种厂商协议的统一接入:
- OpenAI协议 - OpenAI、火山引擎等
- 阿里云协议 - 阿里云通义千问
- AWS协议 - AWS Bedrock
- 自定义协议 - 支持扩展其他厂商
Web控制台操作指南
访问控制台
访问模型管理控制台:
https://your-domain/meta/console/model
创建模型
1. 进入创建页面
- 访问
https://your-domain/meta/console/model/create
- 或在模型列表页面点击"添加模型"按钮
2. 选择能力点
首先选择模型支持的端点类型:
- 对话完成 (
/v1/chat/completions
) - 支持文本对话、函数调用、视觉理解 - 语音合成 (
/v1/audio/speech
) - 文本转语音 - 实时音频 (
/v1/audio/realtime
) - 实时语音对话 - 图像生成 (
/v1/images/generations
) - 文本生成图像 - 文本向量化 (
/v1/embeddings
) - 文本转向量
重要提示:选择端点后,系统会自动加载对应的属性和特性配置表单