[导读]〇、本文写作背景大约2年前,在腾讯内网,笔者和很多同事讨论了GPU虚拟化的现状和问题。从那以后,出现了一些新的研究方向,并且,有些业界变化,可能会彻底颠覆掉原来的一些论断。但这里并不是要重新介绍完整的GPU虚拟化的方案谱系。而是,我们将聚焦在英伟达GPUCUDA计算领域,介绍下我...
〇、本文写作背景
大约 2 年前,在腾讯内网,笔者和很多同事讨论了 GPU 虚拟化的现状和问题。从那以后,出现了一些新的研究方向,并且,有些业界变化,可能会彻底颠覆掉原来的一些论断。但这里并不是要重新介绍完整的 GPU 虚拟化的方案谱系。而是,我们将聚焦在英伟达 GPU CUDA 计算领域,介绍下我们最新的技术突破 qGPU,以及它的意义究竟是什么。关于 GPU 虚拟化的历史性介绍,我将直接摘抄当时的讨论。这也不是一篇介绍 TKE qGPU 产品特性的文章。而是,我们将潜入到前所未有的深度,去探索 GPU 调度和 QoS 的本质。本文也不是巨细靡遗的系统性探索,但你可以在这里看到别处不曾出现过的知识。本文涉及对一些厂商的推测性技术介绍,不保证准确性。一、术语介绍
GPU ————— Graphics Processing Unit,显卡CUDA ———— Compute Unified Device Architecture,英伟达 2006 年推出的计算 APIVT/VT-x/VT-d — Intel Virtualization Technology。-x 表示 x86 CPU,-d 表示 Device。SVM ————— AMD Secure Virtual Machine。AMD 的等价于 Intel VT-x 的技术。EPT ————— Extended Page Table,Intel 的 CPU 虚拟化中的页表虚拟化硬件支持。NPT ————— Nested Page Table,AMD 的等价于 Intel EPT 的技术。SR-IOV ——— Single Root I/O Virtualization。PCI-SIG 2007 年推出的 PCIe 虚拟化技术。PF ————— Physical Function,亦即物理卡VF ————— Virtual Function,亦即 SR-IOV 的虚拟 PCIe 设备MMIO ——— Memory Mapped I/O。设备上的寄存器或存储,CPU 以内存读写指令来访问。CSR ———— Control
本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
Nscale收购Monarch计算园区——美国首个获州认证的AI微电网,现场供电能力最高可扩展至8吉瓦以上 Nscale与Microsoft签署意向书,提供高达1....
关键字:
NVIDIA
MICROSOFT
GPU
TE
加州圣荷西2026年3月17日 /美通社/ -- 全球高效能、节能服务器解决方案领导厂商,神达控股股份有限公司(股票代号:3706)旗下子公司神雲科技股份有限公司(MiTAC Computing Technology C...
关键字:
NVIDIA
TC
AI
GPU
加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2026 年 3 月 16 日 —— NVIDIA 今日宣布,正与包括 Cadence、达索系统、PTC、西门子和新思科技等在内的全球领先工业软件厂商合作,将 NVID...
关键字:
GPU
AI
数字孪生
上海2026年3月12日 /美通社/ -- 继3月5日在硅谷成功举办全球品牌发布会后,图灵进化携其AI全栈解决方案首次亮相中国家电及消费电子博览会(AWE 2026)。 在展会上,图灵进化展示了覆盖AI算力、存储、...
关键字:
芯片
GPU
PS
全栈
芯原成熟的GPU、显示处理与畸变矫正IP三者协同,支持AR显示处理实现高度集成与低时延
关键字:
AR显示
处理器
GPU
在数字化浪潮席卷全球的今天,云计算、大数据、人工智能等新兴技术正以前所未有的速度重塑着我们的生活与工作方式。而在这些技术的背后,虚拟化技术作为基石,默默支撑着整个IT架构的高效运转。从大型企业的数据中心到个人电脑的虚拟机...
关键字:
虚拟化
大数据
Feb. 25, 2026 ---- 根据TrendForce集邦咨询最新AI server产业研究,为加速AI应用导入与升级,全球云端服务供应商(CSP)持续加强投资AI server及相关基础建设,预计2026年八大...
关键字:
AI
ASIC
GPU
Feb. 13, 2026 ---- 根据TrendForce集邦咨询最新HBM产业研究,随着AI基础建设扩张,对应的GPU需求也不断成长,预期NVIDIA(英伟达) Rubin平台量产后,将带动HBM4需求。目前三大存...
关键字:
HBM4
AI
GPU
Feb. 10, 2026 ---- 根据TrendForce集邦咨询最新高速互连市场研究,为应对AI所需的庞大运算需求,Google(谷歌)新世代Ironwood机柜系统结合3D Torus网络拓扑、Apollo OC...
关键字:
AI
数据中心
GPU
1月27日消息,国产GPU迎来了重磅更新,这家名叫天数智芯的公司发布的四代架构路线图显示,明年超英伟达Rubin架构。
关键字:
GPU
5nm
上海2026年1月22日 /美通社/ -- 以下报道来自海峡导报: 2025年末,随着摩尔线程、沐曦股份在科创板上市后股价表现强劲,及2026年初壁仞科技成功登陆港股,国产高端GPU领军企业集群加速对接资本市场。如今,...
关键字:
GPU
IP
进程
BSP
1月21日消息,被称为国产GPU第一股的摩尔线程今晚发布了2025年报预告,营收14.5亿元到15.2亿元,同比增长230.70%到246.67%,但依然亏损9.5亿元到10.6亿元。
关键字:
GPU
5nm
1月20日消息,最近,基于兆芯开胜KH-40000 32核心处理器打造的高性能服务器产品,成功落地南非塞拉利昂宝石矿区预测系统,为矿产资源勘探提供核心算力支撑。
关键字:
CPU
GPU
上海2026年1月2日 /美通社/ -- 北京时间2026年1月2日,启明创投投资企业、国产GPU领军企业壁仞科技成功登陆港交所,成为2026年港股首家上市企业。壁仞科技(06082.HK)发行价为19.6港元/股,开盘...
关键字:
GPU
AI
芯片
智能计算
1月6日消息,在“全球最快游戏CPU”这个头衔上,现在的AMD不可能让步。
关键字:
CPU
GPU
随着GPU功耗的持续攀升,AI服务器环境中的供电需求不断增长,本文围绕此趋势展开讨论。文中重点阐述了供电架构从48V向800V的转型变化,并探讨了随着数据中心基础设施的演进,ADI在高压热插拔保护领域的持续创新成果。
关键字:
热插拔保护
GPU
AI服务器
12月20日,备受瞩目的“国产GPU第一股”摩尔线程在其2025年度MUSA开发者大会上,不仅发布了全新的“花港”GPU架构,更一举推出了基于该架构的两款侧重点完全不同的芯片——“华山”与“庐山”。此举标志着国产GPU企...
关键字:
GPU
芯片
在信息技术的发展历程中,虚拟化技术如同一场静默的革命,重新定义了计算机资源的利用方式。从早期单台服务器只能运行单一操作系统的时代,到如今一台物理服务器可同时承载数十个虚拟机的云数据中心,虚拟化技术通过抽象化、隔离和共享机...
关键字:
虚拟化
Hypervisor