概述
更新时间:2024-12-26 10:51:20
资源组服务专为企业级用户和团队用户量身打造,提供专属资源的购买、管理与分配一体化服务。专属资源具备价格优势与管理灵活性,支持专属节点的GPU 切分与共享调度,满足多样化需求。所有功能模块均适配资源组调度模式,允许平台子账号创建容器实例和分布式任务进行资源利用。此外,该服务还集成了分布式计算排队策略,确保资源分配与利用更加精准与高效。
功能优势
-
精准资源分配,灵活应对研发需求
用户申请专属计算节点,配置资源组分配给团队算法工程师,支持从单卡、多卡、GPU 切分的资源颗粒度进行分配。同时,支持多用户多场景的计算服务。
-
智能调整策略,用户自服务
用户可通过设置专属计算池进行优先级任务调度,算法工程师仅需提交计算任务,相应的任务会在获取到资源时自动运行,在快速得到研发产出的同时,避免资源空闲。
使用流程
应用场景
-
团队使用资源的情况下,由管理员用户申请资源,分配给其他用户使用。
-
高校科研团队,申请专属计算节点用于专一课题的计算。
-
金融领域多个模型的推理资源服务,用户可申请多个资源组,分别部署不同推理服务,且支持模型弹性伸缩。