在 Deep Research WebUI 中的使用
本文将以智算平台上大模型服务中的 DeepSeek-V3 为例,向用户介绍如何在 Deep Research 中调用相应模型,部署自己的 AI 应用。
背景信息
Deep Research 是 dzhng/deep-research 的可视化 UI,可以让 AI 根据特定问题联网搜索并自行深挖,并输出研究报告。 本项目可以流式传输 AI 的回答来实时反馈,并使用树状结构可视化搜索过程。
DeepSeek-V3 模型是一款拥有 6710 亿参数的混合专家(MoE)语言模型,采用多头潜在注意力(MLA)和 DeepSeekMoE 架构,结合无辅助损失的负载平衡策略,优化推理和训练效率。
操作步骤
获取 API 密钥和域名
-
在顶部导航栏,选择产品与服务 > 大模型服务 > 大模型服务平台。
-
进入大模型服务管理页面,在左侧导航栏中选择 API 密钥管理,创建并获取 API 密钥。
说明 -
若平台内无可用的 API 密钥,用户可参考前文内容创建和获取新的 API 密钥。
-
若平台内已有可用的 API 密钥,用户可直接将鼠标悬停在指定密钥上,点击 API 密钥右侧的复制按钮,即可获取完整的 API 密钥。
-
-
用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的 API 文档,查看预置模型 API 服务接口路径,即为模型的API 域名。
说明 当前平台上的预置模型的 API 域名为
https://openapi.coreshub.cn/v1
,用户可直接使用无需修改。
配置和使用 Deep Research Web UI
-
访问 Deep Reasarch Web UI 官网,点击右上角设置按钮
-
在弹出的设置页面,配置 AI 服务的各项参数。
-
AI 服务
:此处选择OpenAI Compatible
,即 OpenAI 兼容模式。 -
API 密钥
:用户在获取 API 密钥和域名操作中复制得到的完整 API 密钥,需根据实际情况进行修改。 -
API Base URL
:直接填写https://openapi.coreshub.cn/v1
即可。 -
模型名称
:上述参数配置成功后,此处可看到平台上所有模型,选择待使用的即可。本实践选择 DeepSeek-V3。 -
上下文长度
:用户可根据实际情况进行修改或保持默认。
-
-
AI 服务配置完成后,配置联网搜索服务的各项参数,点击保存。
-
联网搜素服务
:目前支持 Tavily 和 Firecrawl,本次实践选择 Tavily。点击提示中的链接,进入 Tavily 官网,根据页面提示注册账号并登录后,即可获得一个默认的 API 密钥,用户可直接使用。 -
API 密钥
:在 Tavily 官网获取到的默认 API 密钥即可。 -
其他参数,根据实际情况进行修改或保持默认即可。
-
-
返回 Deep Web UI 页面,输入相应的研究主题和模型反馈内容即可。
-
在联网搜索模块,Deep Research 将会输出其相应研究主题的结论,并生成相应的研究报告。