针对某一专属节点,通过开启 GPU 显存切分,实现将显存进行切分使用,如 80G 显存,可按照 10G、20G、40G、80G 进行分配,开启 GPU 显存切分后,完成配置显存切分调度规格即可使用。

前提条件

开启 GPU 显存切分

  1. 登录基石智算控制台,进入 AI 计算平台。

  2. 在左侧导航栏,选择专属资源组,进入资源组列表页面。

  3. 选择专属节点页签,点击指定计算节点所在行最右侧的更多操作more opera,选择 GPU 显存切分

    res manage gpu memory cut 1
  4. 在弹出的提示窗口中,确认信息无误,点击确定即可。

关闭 GPU 显存切分

  1. 进入专属资源组页面。

  2. 专属节点页签,点击指定计算节点所在行最右侧的更多操作more opera,选择取消 GPU 显存切分

  3. 在弹出的提示窗口中,确认信息无误,点击确定即可。