本文将以智算平台上大模型服务中的 DeepSeek-R1-Distill-Qwen-7B 为例，向用户介绍如何在本地使用 Chatbox 客户端，调用相应模型，部署自己的 AI 应用。

背景信息

Chatbox 是一款安装简单，功能强大的大语言模型的全平台 AI 客户端应用和助手，其可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

model chatbox intro

Chatbox 的功能主要包括：

  • 代码生成与优化：Chatbox 能够理解用户提出的复杂编程请求，提供代码生成、预览、语法高亮、代码审查、重构和智能文档等功能。它能根据用户的指示优化代码布局或修复界面细节，提升开发效率。

  • 图表生成：Chatbox 可根据客户需求绘制可视化图表，如思维导图、流程图、统计图表等。

  • 智能文档处理：用户可向 Chatbox 直接输入文档、图片等文件，它能直接理解内容并提供智能响应。

操作步骤

获取 API 密钥和域名

  1. 登录控制台。

  2. 在顶部导航栏，选择产品与服务 > 大模型服务 > 大模型服务平台。

    model enter

  3. 进入大模型服务管理页面，在左侧导航栏中选择 API 密钥管理，用户可直接获取 API 域名和API 路径，点击相应按钮即可创建和获取 API 密钥。

    说明

    • 当前平台上的预置模型的 API 域名为 https://openapi.coreshub.cn/v1，用户可直接使用无需修改。

    • 若平台内无可用的 API 密钥，用户可参考前文内容创建和获取新的 API 密钥。

    • 若平台内已有可用的 API 密钥，用户可直接将鼠标悬停在指定密钥上，点击 API 密钥右侧的复制按钮，即可获取完整的 API 密钥。
    model api get

安装并使用 Chatbox

  1. 访问 Chatbox AI 官网，下载并安装客户端。

    注意

    • 用户根据本地电脑自行选择相应的安装包下载即可。

    • 本实践中使用 MacOS 系统的 Chatbox 客户端，其他系统的客户端界面可能存在差异，以用户下载的版本界面为准。

  2. 启动 Chatbox 客户端，在弹出的提示窗口中，点击使用自己的 API Key 或本地模型。

    model chatbox 1

  3. 下滑至底部，选择添加自定义提供方。

  4. 在弹出设置窗口中，配置模型的各项参数后，点击保存。

    model chatbox 2

    • API 兼容模式：选择 OpenAI API 兼容即可。

    • 名称：用户可根据实际情况自定义。

    • API 域名：智算平台上的预置模型的 API 域名为 https://openapi.coreshub.cn/v1，用户可直接使用无需修改。

    • API 路径：本实践中使用的 DeepSeek-R1-Distill-Qwen-7B 模型的路径为 /chat/completions，用户可直接使用。

    • API 密钥：用户在获取 API 密钥和域名操作中复制得到的完整 API 密钥，需根据实际情况进行修改。

    • 模型：本实践中使用 DeepSeek-R1-Distill-Qwen-7B 模型。若需使用平台内其他模型，用户仅需在智算平台的在线推理服务页面，复制得到相应模型名称即可。

    • 其他参数，用户可根据实际情况进行修改或保持默认。

  5. 完成上一步配置后，即可进入聊天界面，用户即可直接在 Chatbox 的 Just chat 窗口中，与 DeepSeek-R1-Distill-Qwen-7B 大模型进行对话，界面中还有思考过程，支持输出表格、公式、代码块等。

    说明

    后续将推出模型联网问答功能，敬请期待。
    model chatbox 4