上云无忧 > 文档中心 > 腾讯云容器服务 TKE 标准集群 - qGPU 概述
容器服务 TKE
腾讯云容器服务 TKE 标准集群 - qGPU 概述

文档简介:
容器服务 GPU 虚拟化: 腾讯云 Tencent Kubernetes Engine qGPU 服务(以下简称 TKE qGPU)是腾讯云针对 原生节点 推出的 GPU 容器虚拟化产品,支持多个容器共享 GPU 卡并支持容器间算力和显存精细隔离,同时提供业界唯一的在离线混部能力,在精细切分 GPU 资源的基础上,在最大程度保证业务稳定的前提下,提高 GPU 使用率,帮助客户大幅度节约 GPU 资源成本。
*此产品及展示信息均由腾讯云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

容器服务 GPU 虚拟化

腾讯云 Tencent Kubernetes Engine qGPU 服务(以下简称 TKE qGPU)是腾讯云针对 原生节点 推出的 GPU 容器虚拟化产品,支持多个容器共享 GPU 卡并支持容器间算力和显存精细隔离,同时提供业界唯一的在离线混部能力,在精细切分 GPU 资源的基础上,在最大程度保证业务稳定的前提下,提高 GPU 使用率,帮助客户大幅度节约 GPU 资源成本。qGPU 依托 TKE 对外开源的 Elastic GPU 框架,可实现对 GPU 算力与显存的细粒度调度,并支持多容器共享 GPU 与多容器跨 GPU 资源分配。同时依赖底层强大的 qGPU 隔离技术,可做到 GPU 显存和算力的强隔离,在通过共享使用 GPU 的同时,尽量保证业务性能与资源不受干扰。
说明:
qGPU 功能仅针对 TKE 原生节点开放,其他节点类型不提供有效性服务保障。

方案框架图


产品优势

灵活性:精细配置 GPU 算力占比和显存大小。
强隔离:支持显存和算力的严格隔离。
在离线:支持业界唯一在离线混部能力,GPU 利用率压榨到极致。
覆盖度:支持主流架构 Volta(如 V100 等)、Turing(如 T4 等)、Ampere(如 A100、A10 等)。
云原生:支持标准 Kubernetes 和 NVIDIA Docker。
兼容性:业务不重编、CUDA 库不替换、业务无感。
相似文档
  • 使用须知: 支持的 Kubernetes 版本: TKE 版本 ≥ v1.14.x。 支持的节点类型: 仅支持 原生节点,原生节点搭载 FinOps 理念,配合 qGPU 使用可全面提升 GPU/CPU 资源利用率。
  • 功能概述: 通常场景下,qGPU Pod 会公平地使用物理 GPU 资源,qGPU 内核驱动为各任务分配等价的 GPU 时间片。但不同 GPU 计算任务的运行特点和重要性会有很大差异,导致对 GPU 资源的使用和要求不同。
  • 本文介绍如何使用 qGPU 离在线混部能力。 步骤1:前置准备。 1. 在使用 qGPU 及 qGPU 在离线混部之前,您需要拥有一个集群。若您没有集群,请参见 创建 TKE 集群。 2. 依次执行使用 qGPU 的 步骤1:安装 qGPU 调度组件、步骤2:开启集群 qGPU 共享 和 步骤3:准备 GPU 资源。
  • 对象管理说明: 您可以通过控制台直接操作原生 Kubernetes 对象,例如 Deployment、DaemonSet 等。 Kubernetes 对象是集群中持久实体,用来承载集群内运行的业务。
  • Namespaces 是 Kubernetes 在同一个集群中进行逻辑环境划分的对象, 您可以通过 Namespaces 进行管理多个团队多个项目的划分。在 Namespaces 下,Kubernetes 对象的名称必须唯一。您可以通过资源配额进行可用资源的分配,还可以进行不同 Namespaces 网络的访问控制。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部