此操作是将已创建的模型或其指定版本的模型部署成服务。

前提条件

  • 已经获取基石智算控制台账户和密码。

  • 模型管理列表已存在可使用的模型。

操作步骤

  1. 登录基石智算控制台。

  2. 在左侧导航栏，选择模型管理，进入模型列表页面。

  3. 点击待部署的模型操作栏中的模型部署，进入创建推理服务页面。

    注意

    在模型管理列表默认使用当前模型最新版本进行模型部署操作。若需使用该模型的其他版本进行部署，则需点击模型详情进入详情页后，在版本列表中，选定指定版本的模型进行部署。

  4. 根据页面提示，配置各项参数，点击创建。

    • 模型名称：用户在模型管理列表页面选定的模型名称，系统自动生成。

    • 服务名称：选填项，当前推理服务的名称，由用户自定义。

    • 资源配置：必填项，针对当前模型部署所需的资源配置，用户可根据实际情况选择相应的资源类型及配置。

  5. 等待推理服务创建完成即可。