当前位置:首页 > 嵌入式 > 嵌入式硬件
[导读]为了加速 AI 训练、推理的发展,英伟达(NVIDIA)、英特尔(Intel)以及 Arm 近日携手发布了“FP8 Formats for Deep Learning”白皮书,希望能通过 8 位浮点运算的格式来改善运算性能,并将其作为 AI 通用的交换格式,提升深度学习训练与推理速度。目前该白皮书也已提交给了电气与电子工程师协会(Institute of Electrical and Electronics Engineers, IEEE)。

为了加速 AI 训练、推理的发展,英伟达(NVIDIA)、英特尔(Intel)以及 Arm 近日携手发布了“FP8 Formats for Deep Learning”白皮书,希望能通过 8 位浮点运算的格式来改善运算性能,并将其作为 AI 通用的交换格式,提升深度学习训练与推理速度。目前该白皮书也已提交给了电气与电子工程师协会(Institute of Electrical and Electronics Engineers, IEEE)。

FP8 格式之所以重要的原因有很多,其中最重要的是,到目前为止,AI 推理之间存在一种分裂,以整数格式(通常为 INT8,但有时为 INT4)以低精度完成,与 AI 训练以 FP16、FP32 或 FP64 精度完成,HPC 以 FP32 或 FP64 精度完成。NVIDIA和 Intel 都认为 FP8 不仅可以用于推理,在某些情况下还可以用于 AI 训练,从而从根本上提高其加速器的有效吞吐量。

AI芯片企业Graphcore 也正在推动 IEEE 采用供应商为 AI 设计的 FP8 格式作为其他所有人都可以使用的标准。此外,AMD 和高通也支持将FP8格式作为标准格式,以帮助降低云和边缘的训练和推理成本。”

NVIDIA官方再度公布的最新消息显示,美国政府对NVIDIA继续开发H100集成电路的出口、再出口和国内转让的许可进行了授权。这也意味着NVIDIA无需将某些业务转移到中国境外。另外该授权还允许NVIDIA在2023年3月1日前为A100 GPU的美国客户提供必要的出口支持(这里应该指的是在大陆的美国客户);同时,授权A100和H100在2023年9月1日之前通过NVIDIA的香港公司履行订单和物流。

虽然,NVIDIA A100/H100系列产品在美国给出的“缓冲期”之内仍然可以通过其香港公司对中国大陆的出口,但是“缓冲期”过后,则必须有美国政府的许可才能出口。因此,一些大陆客户为了保障供应,赶在“缓冲期”内加大了A100/H100的采购量,也并不奇怪。

需要指出的是,从美国的禁令来看,只要性能小于A100的产品的都是能够正常对国内出货的。那么鉴于国内市场的庞大需求,NVIDIA完全是有能力、也有动机来专门为中国市场推出一款性能略低于A100的产品,比如搞个A90来规避美国的出口许可机制,同时又能满足国内的需求。预计“缓冲期”过后,NVIDIA有可能会推出相应的产品。

尽管NVIDIA的游戏业务收入在2022年二季度出现严重下滑,但是在独立GPU市场(包括AIB 合作伙伴显卡), NVIDIA仍保持着79%的份额,稳居第一。根据市场研究机构Jon Peddie Research的最新数据显示,2022年二季度,全球独立GPU市场出货量较去年同期增长 2.4% 至 1040 万台,但是较一季度环比则下滑了22.6%。NVIDIA在独立GPU的显卡市场出货量虽然同比增长了近3%,但是环比却下滑了19.1%。而这主要是由于PC出货量及虚拟币挖矿需求下滑所引起的。

NVIDIA公司(纳斯达克代码:NVDA)是全球可编程图形处理技术领袖。与ATI(后被AMD收购)齐名,专注于打造能够增强个人和专业计算平台的人机交互体验的产品。公司的图形和通信处理器拥有广泛的市场,已被多种多样的计算平台采用,包括个人数字媒体PC、商用PC、专业工作站、数字内容创建系统、笔记本电脑、军用导航系统和视频游戏控制台等。NVIDIA全球雇员数量超过4000人。全球各地众多OEM厂商、显卡制造商、系统制造商、消费类电子产品公司都选择NVIDIA的处理器作为其娱乐和商用解决方案的核心组件。在PC应用领域(例如制造、科研、电子商务、娱乐和教育等),NVIDIA公司获奖不断的图形处理器可以提供出色的性能和鲜锐的视觉效果。其媒体和通信处理器能够执行宽带连接和通信应用中要求十分苛刻的多媒体处理任务,并在音频应用能力方面取得突破。NVIDIA产品和技术的基础是NVIDIA ForceWare,这是一种综合性软件套件,能够实现业内领先的图形、音频、视频、通信、存储和安全功能。NVIDIA ForceWare可以提高采用NVIDIA GeForce图形芯片和NVIDIA nForce平台解决方案的各类台式和移动PC的工作效率、稳定性和功能。

声明:该篇文章为本站原创,未经授权不予转载,侵权必究。
换一批
延伸阅读

LED驱动电源的输入包括高压工频交流(即市电)、低压直流、高压直流、低压高频交流(如电子变压器的输出)等。

关键字: 驱动电源

在工业自动化蓬勃发展的当下,工业电机作为核心动力设备,其驱动电源的性能直接关系到整个系统的稳定性和可靠性。其中,反电动势抑制与过流保护是驱动电源设计中至关重要的两个环节,集成化方案的设计成为提升电机驱动性能的关键。

关键字: 工业电机 驱动电源

LED 驱动电源作为 LED 照明系统的 “心脏”,其稳定性直接决定了整个照明设备的使用寿命。然而,在实际应用中,LED 驱动电源易损坏的问题却十分常见,不仅增加了维护成本,还影响了用户体验。要解决这一问题,需从设计、生...

关键字: 驱动电源 照明系统 散热

根据LED驱动电源的公式,电感内电流波动大小和电感值成反比,输出纹波和输出电容值成反比。所以加大电感值和输出电容值可以减小纹波。

关键字: LED 设计 驱动电源

电动汽车(EV)作为新能源汽车的重要代表,正逐渐成为全球汽车产业的重要发展方向。电动汽车的核心技术之一是电机驱动控制系统,而绝缘栅双极型晶体管(IGBT)作为电机驱动系统中的关键元件,其性能直接影响到电动汽车的动力性能和...

关键字: 电动汽车 新能源 驱动电源

在现代城市建设中,街道及停车场照明作为基础设施的重要组成部分,其质量和效率直接关系到城市的公共安全、居民生活质量和能源利用效率。随着科技的进步,高亮度白光发光二极管(LED)因其独特的优势逐渐取代传统光源,成为大功率区域...

关键字: 发光二极管 驱动电源 LED

LED通用照明设计工程师会遇到许多挑战,如功率密度、功率因数校正(PFC)、空间受限和可靠性等。

关键字: LED 驱动电源 功率因数校正

在LED照明技术日益普及的今天,LED驱动电源的电磁干扰(EMI)问题成为了一个不可忽视的挑战。电磁干扰不仅会影响LED灯具的正常工作,还可能对周围电子设备造成不利影响,甚至引发系统故障。因此,采取有效的硬件措施来解决L...

关键字: LED照明技术 电磁干扰 驱动电源

开关电源具有效率高的特性,而且开关电源的变压器体积比串联稳压型电源的要小得多,电源电路比较整洁,整机重量也有所下降,所以,现在的LED驱动电源

关键字: LED 驱动电源 开关电源

LED驱动电源是把电源供应转换为特定的电压电流以驱动LED发光的电压转换器,通常情况下:LED驱动电源的输入包括高压工频交流(即市电)、低压直流、高压直流、低压高频交流(如电子变压器的输出)等。

关键字: LED 隧道灯 驱动电源
关闭