在 NextChat 中使用
本文将以智算平台上大模型服务中的 DeepSeek-R1 为例,向用户介绍如何在 NextChat 中调用相应模型,部署自己的 AI 应用。
背景信息
NextChat 是一个开源项目,基于 Next.js 和 Vercel 构建,致力于帮助用户轻松将人工智能模型融入其网页应用。它具备以下主要功能:
-
AI 集成:NextChat 的核心亮点在于通过 OpenAI 密钥集成 ChatGPT AI 模型,内置多种场景提示,能够作为用户的创意写手、文案助手,甚至进行图像搜索等。
-
跨平台支持:支持 Web、PWA、Linux、Windows 和 MacOS,提供跨平台的客户端解决方案。
-
一键部署:借助 Vercel 等平台实现快速部署,简化了用户的设置流程。
-
多模型接入:支持多种 AI 模型接入,用户可根据需求进行选择。
-
个性化智能体:允许用户选择或创建不同的 AI 智能体,以满足特定对话需求。
-
Markdown 支持:提供完整的 Markdown 编辑功能,支持 LaTex 公式、Mermaid 流程图和代码高亮等特性。
操作步骤
获取 API 密钥和域名
-
在顶部导航栏,选择产品与服务 > 大模型服务 > 大模型服务平台。
-
进入大模型服务管理页面,在左侧导航栏中选择 API 密钥管理,创建并获取 API 密钥。
说明 -
若平台内无可用的 API 密钥,用户可参考前文内容创建和获取新的 API 密钥。
-
若平台内已有可用的 API 密钥,用户可直接将鼠标悬停在指定密钥上,点击 API 密钥右侧的复制按钮,即可获取完整的 API 密钥。
-
-
用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的 API 文档,查看预置模型 API 服务接口路径,即为模型的API 域名。
说明 当前平台上的预置模型的 API 域名为
https://openapi.coreshub.cn/v1
,用户可直接使用无需修改。
配置 NextChat
-
访问 NextChat 官网。
-
在 NextChat 界面,点击左下角的设置按钮。
-
在设置页面,勾选自定义接口,并配置各项参数。
-
模型服务商
:此处选择 OpenAI 即可。 -
接口地址
:NextChat 填写地址时需忽略 v1 版本,故该处填写https://openapi.coreshub.cn
即可。 -
API Key
:用户在获取 API 密钥和域名操作中复制得到的完整 API 密钥,需根据实际情况进行修改。 -
自定义模型名
:本实践中使用DeepSeek-R1
模型。若需使用平台内其他模型,用户仅需在智算平台的在线推理服务页面,复制得到相应模型名称。若需填写多个模型名称,注意需使用英文逗号隔开。
-
-
在 NextChat 左侧区域,点击新的聊天,在新的聊天对话框中,点击设置按钮。
-
在当前对话设置中,模型选择为新增加的 DeepSeek-R1,其他参数用户可根据实际需要进行修改,关闭当前页面。
-
返回聊天窗口,输入相关问题,即可向 DeepSeek-R1 模型提问。