模型管理

简介

OAI开发的大模型推理引擎，基于JAVA的自主大模型推理引擎，支持语言、视觉、语音、向量、重排序等大模型。

设置模型

• 您先点击头像“设置”菜单，再点击“模型供应商”左侧菜单，即可切换到模型管理主界面，如图所示：

  

• 添加模型：点击“添加更多模型提供商”下任一模型厂商，即可进入模型设置界面，操作界面如图所示：

  

  API Key：用户可以点击各大厂商官网获取，图示例：从阿里云获取API Key。再点击保存，完成模型添加操作。 注：添加完成后如果模型列表未见，可刷新页面再次查看。

• 系统模型配置：点击右侧 “系统模型设置”按钮弹出操作区，可设置系统需要使用的模型。操作界面如图所示：

  

• 模型列表：点击模型列表区“显示模型”字样，展开模型列表区，界面如图所示：

  

  注：灰色表示官方已下架或弃用的模型，表示不可用；“latest”字样，代表最新版本。