本文将以智算平台上大模型服务中的 DeepSeek-V3 为例,向用户介绍如何在 Deep Research 中调用相应模型,部署自己的 AI 应用。

背景信息

Deep Research 是 dzhng/deep-research 的可视化 UI,可以让 AI 根据特定问题联网搜索并自行深挖,并输出研究报告。 本项目可以流式传输 AI 的回答来实时反馈,并使用树状结构可视化搜索过程。

DeepSeek-V3 模型是一款拥有 6710 亿参数的混合专家(MoE)语言模型,采用多头潜在注意力(MLA)和 DeepSeekMoE 架构,结合无辅助损失的负载平衡策略,优化推理和训练效率。

操作步骤

获取 API 密钥和域名

  1. 登录控制台

  2. 在顶部导航栏,选择产品与服务 > 大模型服务 > 大模型服务平台

    model enter
  3. 进入大模型服务管理页面,在左侧导航栏中选择 API 密钥管理,创建并获取 API 密钥。

    说明
    • 若平台内无可用的 API 密钥,用户可参考前文内容创建和获取新的 API 密钥。

    • 若平台内已有可用的 API 密钥,用户可直接将鼠标悬停在指定密钥上,点击 API 密钥右侧的复制按钮,即可获取完整的 API 密钥。

    model api get
  4. 用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的 API 文档,查看预置模型 API 服务接口路径,即为模型的API 域名

    说明

    当前平台上的预置模型的 API 域名为 https://openapi.coreshub.cn/v1,用户可直接使用无需修改。

    model chatbox 3

配置和使用 Deep Research Web UI

  1. 访问 Deep Reasarch Web UI 官网,点击右上角设置按钮

    model research 1
  2. 在弹出的设置页面,配置 AI 服务的各项参数。

    model research 2
    • AI 服务:此处选择 OpenAI Compatible,即 OpenAI 兼容模式。

    • API 密钥:用户在获取 API 密钥和域名操作中复制得到的完整 API 密钥,需根据实际情况进行修改。

    • API Base URL:直接填写 https://openapi.coreshub.cn/v1 即可。

    • 模型名称:上述参数配置成功后,此处可看到平台上所有模型,选择待使用的即可。本实践选择 DeepSeek-V3。

    • 上下文长度:用户可根据实际情况进行修改或保持默认。

  3. AI 服务配置完成后,配置联网搜索服务的各项参数,点击保存

    model research 3
    • 联网搜素服务:目前支持 Tavily 和 Firecrawl,本次实践选择 Tavily。点击提示中的链接,进入 Tavily 官网,根据页面提示注册账号并登录后,即可获得一个默认的 API 密钥,用户可直接使用。

    • API 密钥:在 Tavily 官网获取到的默认 API 密钥即可。

    • 其他参数,根据实际情况进行修改或保持默认即可。

  4. 返回 Deep Web UI 页面,输入相应的研究主题模型反馈内容即可。

    model research 5
  5. 联网搜索模块,Deep Research 将会输出其相应研究主题的结论,并生成相应的研究报告。

    model research 6
    model research 7