本文将以智算平台上大模型服务中的 DeepSeek-R1-Distill-Qwen-7B 为例，向用户介绍如何在 MaxKB 中添加并使用平台提供的模型服务。

背景信息

MaxKB = Max Knowledge Base，是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于智能客服、企业内部知识库、学术研究与教育等场景.借助 MaxKB，企业用户可以快速上线业务 AI 助手，将生成式 AI 能力应用于业务数据管理、内部资料查询、线上客户服务等领域，优化业务服务流程并切实提升用户体验。

MaxKB具有如下功能特点：

  • 开箱即用

  • 快速接入

  • 灵活编排

  • 模型中立

前提条件

用户已下载并安装 MaxKB。

操作步骤

获取 API 密钥和域名

  1. 登录控制台。

  2. 在顶部导航栏，选择产品与服务 > 大模型服务 > 大模型服务平台。

    model enter

  3. 进入大模型服务管理页面，在左侧导航栏中选择 API 密钥管理，用户可直接获取 API 域名和API 路径，点击相应按钮即可创建和获取 API 密钥。

    说明

    • 当前平台上的预置模型的 API 域名为 https://openapi.coreshub.cn/v1，用户可直接使用无需修改。

    • 若平台内无可用的 API 密钥，用户可参考前文内容创建和获取新的 API 密钥。

    • 若平台内已有可用的 API 密钥，用户可直接将鼠标悬停在指定密钥上，点击 API 密钥右侧的复制按钮，即可获取完整的 API 密钥。
    model api get

配置模型服务

  1. 访问 MaxKB 系统地址，输入账号密码后登录。

  2. 在顶部导航栏，选择系统设置 > 模型设置，并点击添加模型。

    model maxkb 1

  3. 在弹出的新窗口中，配置各项参数，点击保存。

    说明

    • 若使用 RAG 或知识库功能，用户需要添加嵌入模型，目前智算平台上的嵌入模型为 bce-embedding-base_v1 或使用 MaxKb 自带的Embedding 模型。

    • 如需要继续添加其他模型，则继续参考如上方式添加模型按钮即可。

    • 模型提供方：智算平台的大模型服务，兼容 OpenAI 接口规范，此处选择 OpenAI 即可。

    • 模型名称：用户自定义。

    • 权限：选择私有或``公有`，本实践此处选择私有。

    • 模型类型：此处选择大语言模型。

    • 基础模型：本实践为 DeepSeek-R1-Distill-Qwen-7B，若需使用平台内其他模型，用户仅需在智算平台的在线推理服务页面，复制得到相应模型名称即可。

    • API URL：此处直接填写 https://openapi.coreshub.cn/v1 即可。

    • API Key：用户在获取 API 密钥和域名操作中复制得到的完整 API 密钥，需根据实际情况进行修改。

创建知识库

  1. 在顶部导航栏，选择知识库页签，点击创建知识库。

  2. 在弹出的创建知识库窗口中，配置各项参数，点击创建。

    model maxkb 2

    • 知识库名称：用户自定义。

    • 知识库描述：针对当前知识库的描述信息，用户自定义。

    • 向量模型：选择平台内已有的模型即可。

    • 知识库类型：支持选择通用型文档和 Web 站点，本实践选择 Web 站点，

      • 若选择通用型，则根绝页面提示上传本地文档即可。

      • 若选择 Web 站点，则需配置 Web 根地址。

  3. 系统将自动开启爬取文档功能，耐心等待所有状态完成即可。

    model maxkb 3

构建应用

  1. 在顶部导航栏，选择应用页签，点击创建应用。

  2. 在弹出的界面中，配置各项参数。如需进行测试，可直接在右侧调试预览窗口，输入相关问题。若无需测试，直接点击右上角的保存并发布即可。

    model maxkb 4

    • 应用名称：用户自定义。

    • 应用描述：针对当前应用的描述信息，用户自定义。

    • AI 模型：选择已添加的模型，本实践为 DeepSeek-R1-Distill-Qwen-7B，用户也可根据实际需要选择其他 LLM 大语言模型。

    • 系统角色：根据自己需求填写或留空。

    • 关联知识库：点击添加，选择上一步创建的知识库进行关联即可。

    • 开场白：用户自定义。

  3. 返回系统首页，选择应用页签，选择上一步创建的应用，即可进行对话。

    model maxkb 5