当前位置:首页 > graphcore
  • Graphcore宣布支持阿里云深度学习开放接口标准

    Graphcore宣布支持阿里云深度学习开放接口标准

    2020年9月25日,北京——在刚刚结束的2020云栖大会上,阿里云宣布对行业开源业界首个深度学习开放接口标准ODLA(Open Deep Learning API)。阿里云在今年5月份的OCP全球峰会上首次对外公布ODLA接口标准,并宣布已率先在Graphcore等生态伙伴上获得支持。IPU是Graphcore为机器智能从零设计的AI处理器,通过ODLA接口,开发者可以在IPU上快速跑通AI Matrix的各类模型。 张伟丰博士在2020 OCP全球峰会上公布ODLA接口标准 ODLA是一个为加速深度学习的统一异构硬件编程接口。ODLA规范了深度学习计算任务的定义和执行,实现上层应用和底层异构硬件平台的解耦,让AI异构计算更简单,实践代码“生成一次,随时链接,随处执行”的愿景。 “令人兴奋的新应用程序意味着我们对数据中心的期望比以往任何时候都要更高。我们希望通过使用更广泛的硬件选择,以更大的规模,扩大操作类型范围。ODLA使我们能够管理这种复杂性,并挖掘出这些出色的新技术的全部潜力。”Graphcore高级副总裁兼中国区总经理卢涛表示。 阿里云开发ODLA是为了解决异构计算中存在许久的一个核心挑战。ODLA是轻量高效的异构硬件统一接口标准,可在异构计算环境中实现效率最大化。在异构计算环境中,软件框架需要从专业芯片中获得最高性能,需要多种类型处理器在一个通用平台上协同工作,而每种处理器都需要针对其架构和专业知识领域进行某种程度的优化,例如AI的稀疏性。API提供的抽象级别可以适应芯片架构之间的差异。 基于ODLA的异构AI硬件对接方案 通过ODLA,在Graphcore IPU上技术适配和应用部署的工作量可以实现大幅度降低,且实现效率大幅提升。另外,通过ODLA可以更好的与AI计算框架进行软硬协同,快速利用现有的编译优化技术,达到最佳性能。对于异构任务,ODLA充当该系统范围通用语言与特定于架构的优化之间的接口或转换器,该优化可从Graphcore的IPU等设备实现最佳性能。 对于数据中心运营商而言,除了简化了新微处理器技术的集成之外,ODLA还带来了其他一系列好处。它支持通用和高性能的数据中心设置,并为高级应用程序提供统一的加速框架。对于应用程序开发人员来说,它减少了对不同架构进行重复优化的需求,并应该可以减少开发成本,缩短产品上市时间。 ODLA在2020云栖大会上宣布的主要特性及优势包含: 透明接口层,零损耗。 接口抽象和统一,软硬件解耦:通过面向AI的多粒度算子抽象,定义统一的接口,解耦具体软硬件,平滑迁移业务;实现代码复用,提升开发和部署效率。 多模态执行方式:支持多种执行模式,覆盖解释执行、编译执行、载入预编译代码等场景,兼容各种硬件的运行模式。 AI全场景支持:支持推理和训练,适配云、边、端全场景AI业务;拥有广泛的算子定义和丰富的接口(设备管理、会话管理、执行管理、事件同步/异步、资源查询、性能监控等)。 卓越的扩展性,支持AI芯片厂家独特属性和自定义算子。 张伟丰博士在云栖大会上宣布开源ODLA Graphcore公司相信,IPU将成为下一代数据中心AI工作负载的核心。我们深知,我们的愿景需要ODLA在内的诸多框架和工具,这些框架和工具能使我们的产品与其他同类最佳技术协同工作。 Graphcore的联合创始人兼首席执行官Nigel Toon表示:“ODLA优雅地满足了Graphcore新用户的两个最大需求。一是他们希望轻松地将我们的技术集成到现有的数据中心,二是他们希望确保最终的设置在从各个组件到整个系统的每个层级都能得到高度优化。”

    时间:2020-09-25 关键词: graphcore 阿里云

  • Graphcore启动全球合作伙伴计划

    Graphcore启动全球合作伙伴计划

    2020年9月22日,布里斯托——Graphcore宣布推出精英合作伙伴计划,该计划是汇集渠道合作伙伴的全球网络,旨在满足客户对Graphcore两大解决方案的需求,包括广受赞誉的AI计算平台IPU-M2000以及用于横向扩展和超级计算规模的IPU-POD。 Graphcore精英合作伙伴计划包括许多世界上最知名的渠道伙伴、技术分销商和转售商,该计划将支持Graphcore最新的IPU-Machine: M2000 (IPU-M2000)向全球范围内的客户供货。 Graphcore发布的合作伙伴名单如下: 2CRSi、Atos、Boston Limited、BSI、戴尔科技、神州数码、浪潮、Lambda、Macnica/Cytech、Meadowgate Technologies、Megazone、OCF、Penguin Computing、Tech Data Europe、Tech Data USA和Wildflower International。 Graphcore的go-to-market合作伙伴计划的规模和国际影响力证明了智能处理器(IPU)的猛劲势头,以及市场对其最近宣布的第二代IPU系统的旺盛需求。 Graphcore首席执行官Nigel Toon表示:“Graphcore精英合作伙伴计划使我们能够通过信息技术供应链中一些最受信任的公司为全球的商业、学术和政府客户提供服务。” “Graphcore新IPU-M2000系统提供了无与伦比的计算性能,其性价比远远优于迄今为止主导机器智能的传统技术。这在全球范围内掀起了一股热潮和商业机会。” 现在,人工智能已经渗透到金融、医疗、汽车以及消费互联网等各个行业,Graphcore精英合作伙伴计划可助力创始成员为它们的客户提供领先的下一代AI计算平台。 除了私营部门对AI计算不断增长的需求,来自公共部门和研究机构的需求也在迅速增长。人工智能也逐渐承担起过去由高性能计算(HPC)承担的工作负载。 关于Graphcore精英合作伙伴计划的启动,Moor Insights&Strategy高级分析师Karl Freund评论说:“ 显然,Graphcore正在寻找合适的合作伙伴,以确保全球范围内的客户可以获取Mk2 IPU和IPU-Machine。” “随着客户不断获取高度灵活的IPU-Machine和Poplar软件栈的相关经验,我认为Graphcore精英合作伙伴计划中的合作伙伴将会越来越多。”Karl说道。 合作伙伴感言 2CRSi “一直以来,2CRSi都渴望集成新的创新技术并提供最先进的解决方案,我们十分兴奋能够将2CRSi的硬件专业知识与Graphcore的尖端技术相结合,为AI计算提供一流的产品。因此,我们很高兴加入Graphcore的精英合作伙伴计划,这使得我们能够向欧洲和中东的客户提供Graphcore的IPU-M2000产品。” Alain Wilmouth,2CRSi联合创始人兼首席执行官 Atos “Graphcore技术发展前景十分可观。从医学研究到金融服务,从学术界到汽车行业,Graphcore的技术已在Atos服务的诸多领域得到了证明。随着AI计算需求的增长,我们很高兴在整个生态系统中提供Graphcore系统。” Agnès Boudot, Atos集团高级副总裁兼HPC和Quantum业务负责人 Boston Limited “在向AI计算解决方案的过渡过程中,Boston处于最前沿的位置。我们意识到,公司、研究机构和公共团体正寻求利用这种更为智能的数据处理方式。Graphcore系统可帮助客户减少时间、节省成本并提供环保认证,这让商业和技术专家极为兴奋。我们很高兴能够为我们的客户提供IPU-M2000。” Dev Tyagi, Boston Limited首席销售和营销官 BSI “BSI的客户都是各自行业的佼佼者,他们不断找寻自身的竞争优势以使自己和客户受益。Graphcore专为AI计算构建的解决方案可帮助BSI实现这一目标,该解决方案已经在金融服务、计算机视觉、自然语言和众多其他应用中证明了自身的价值。我们预计,对于那些希望从AI投资寻求最大收益的人来说, Graphcore技术将成为其必备工具。” Daniel Goodman,BSI执行董事 戴尔科技 “人工智能和机器学习的变革性影响跨越了我们日常生活中的各种应用,进而影响了人类进步的能力。随着机器学习模型变得越来越复杂,企业需要新的处理技术来满足推动业务成果所需的资源需求。正是看到了这个机会,戴尔科技资本(Dell Technologies Capital)成为了Graphcore的早期投资者。通过与戴尔OEM解决方案合作,Graphcore现在可以提供采用Dell EMC PowerEdge R6525服务器设计的交钥匙系统,旨在加速机器智能、帮助客户减少在训练AI模型和获得业务见解方面的价值。” Ron Pugh,戴尔OEM解决方案副总裁兼总经理 Lambda “Lambda为全球领先的机器学习研究团队提供AI计算基础设施。我们期待与Graphcore合作为客户提供Graphcore的IPU。过去十年,AI的进步主要由计算的进步推动。研究人员一直渴望尝试Graphcore新IPU-M2000,我们很高兴能向他们呈现未来之光。” Stephen Balaban, Lambda联合创始人兼首席执行官 MeadowgateTechnologies “Meadowgate是美国联邦客户技术赋能者,“联邦客户”需要性能最佳、最可靠和可信赖的系统。Graphcore凭借不懈的创新和对用户需求的坚定承诺,在业界已经树立起了声誉,在我们的客户纵览人工智能提供的巨大机遇之际,我们很高兴与Graphcore合作。” Hunter Lochte,Meadowgate Technologies运营副总裁 Megazone “Megazone加入了Graphcore精英合作伙伴计划。我们已与Graphcore开展了广泛合作,为我们的客户提供强大的AI解决方案。我们亲眼目睹了使用IPU技术可以获得的性能优势,所以很高兴正式成为Graphcore精英合作伙伴,并将同样的竞争优势提供给更多的韩国客户。” Eric Han,Megazone混合云和AI平台服务执行董事 OCF “OCF正通过当今最重大的技术(高性能计算、云、存储和人工智能)提供解决方案和服务。我们很高兴将Graphcore的IPU-M2000系统添加到我们的客户产品中。Graphcore打造的卓越技术提高了当今AI应用程序性能标准,并帮助实现下一代模型和技术。藉此,Graphcore业已脱颖而出。“ Russell Slack, OCF执行董事 Tech Data USA “全球许多企业都熟悉Graphcore,并了解其IPU技术的能力。作为服务一百多个国家/地区的精英合作伙伴,Tech Data将把这项技术推向我们全球的客户市场,以满足从私营行业到公共机构的创新者全球需求。” Maghen Hannigan, Tech Data USA融合与集成解决方案总监 Wildflower International “Wildflower International为公共部门和联邦政府部门中的关键任务应用程序提供支持。我们的客户充分了解,他们需要的技术和系统应该能够提供领先的功能和强大且值得信赖的支持系统,并能够产生令人瞩目的经济收益。Graphcore符合所有这些标准,而且我们预期IPU-M2000将成为我们的客户在建立AI功能时不可或缺的工具。” Andrew Balzarini, Wildflower International 市场营销与联盟总监 关于Graphcore 的IPU-Machine: M2000 (IPU-M2000) IPU-Machine: M2000 (IPU-M2000)是一款即插即用的机器智能计算刀片,旨在轻松部署并支持可以大规模扩展的系统。纤巧的1U刀片可以提供1PetaFlop的机器智能计算能力,并且机箱内部包括了针对AI横向扩展进行优化的集成网络技术。每个IPU-M2000由Graphcore的4个全新7纳米Colossus™Mk2 GC200 IPU处理器驱动,并由Poplar®软件栈全方位支持。IPU-M2000产品将开始在第四季度供货。 关于 Graphcore® Graphcore IPU(智能处理器)硬件和Poplar®软件帮助创新者创建下一代机器智能解决方案。IPU是第一个专门为机器智能从零设计的处理器。 Graphcore已从领先的金融以及战略投资者那里筹集了超过4.5亿美元的资金,公司总部位于英国布里斯托。

    时间:2020-09-23 关键词: AI graphcore

  • Graphcore发布IPU开发者云 中国创新社区全面上线

    Graphcore发布IPU开发者云 中国创新社区全面上线

    7月8日消息,Graphcore今日正式发布基于IPU的开发者云,面向中国的客户、大学、研究机构和个人研究者免费使用。该开发者云是中国首款IPU开发者云,部署在金山云上,使用了IPU PCIe卡适配完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。 通过Graphcore IPU开发者云,机器智能创新者可以轻松获取IPU进行前沿AI模型的云端训练与推理,避开自建机房或者申购IPU服务器等繁琐内部流程,专注于在IPU上快速运行自己的AI模型结果。 Graphcore高级副总裁兼中国区总经理卢涛表示,“我们在与创新者交流时,很多创新者想要使用IPU来运行自己的算法模型,以期获得更好的运行结果,但受制于各种条件限制,难以达成。因此我们推出了IPU开发者云,开发者们可以很方便地使用IPU进行训练与推理任务,探索自己的算法模型的极致表现,并且它是免费的,我们的本地工程支持团队还会和开发者们一同制定工程计划,全程提供咨询与支持。” 具体而言: * 对于商业客户来说,在较短的时间内(通常为三周或者按需适度延长),可以通过IPU极大优化现有模型,了解到模型现在及未来的性能提升空间,从而迅速行动,早竞争对手一步实现产品化和市场化,获得最大时间窗口优势,赢取市场先机。 * * 大学、研究机构和个人研究者可以在较长的时间内(通常为6个月)免费访问,直至完成研究项目并发表结果。在IPU上,用于研究的算法模型得以极大优化,充分释放潜能,帮助缩短研究成果面世的时间,并触发新的研究方向,探索新领域。 * * 专注于在机器智能方面取得新突破以扩大人类潜能的研究者可获得优先访问使用权。另外,全球范围内正在进行COVID-19相关研究的机构和个人可以获得最先使用权。 在收到使用请求并完成评估后,Graphcore工程团队会和商业客户、大学和研究者一起制定开发计划和使用周期,并全程提供技术咨询和支持。 IPU开发者云适用于先进和复杂的AI模型的训练和推理,按照场景大致分为五类: 1.自然语言处理类,比如BERT; 2.高级计算机视觉应用类,即以分组卷积为代表的一些机器视觉类的应用,比如ResNeXt、EfficientNet、ResNet; 3.时序分析类,比如LSTM、RNN、GRU等大量应用于语音应用、广告推荐、金融算法等模型; 4.排名与推荐类,比如Deep Autoencoder; 5.概率模型,比如MCMC等用于算法交易的模型; 除了上述模型,IPU还非常适合在稀疏化的应用场景里进行前沿探索。相关Benchmark请参考:graphcore.ai/benchmarks。 另外,为了更好地赋能中国AI创新者,配合开发者云,Graphcore的创新社区现已全面正式上线,社区平台包含微信、知乎、微博以及Graphcore即将上线的中文创新社区网站。

    时间:2020-07-27 关键词: 开发者 开发者云 graphcore

  • Graphcore发布第二代IPU及IPU-M2000 重新定义AI计算的未来

    Graphcore发布第二代IPU及IPU-M2000 重新定义AI计算的未来

    Graphcore 于近日正式发布第二代IPU以及用于大规模系统级产品IPU-Machine: M2000(IPU-M2000),新一代产品具有更强的处理能力、更多的内存和内置的可扩展性,可处理极其庞大的机器智能工作负载。 IPU-M2000是一款即插即用的机器智能刀片式计算单元,由Graphcore全新的7纳米 Colossus™ 第二代 GC200 IPU提供动力,并由Poplar™软件栈提供全面支持。其设计便于部署,并支持可扩展至大规模的系统。这款纤薄的1U刀片机可提供1个PetaFlop的机器智能计算,并集成了针对AI扩展优化的网络技术。 Graphcore第二代Colossus™ IPU处理器:GC200 IPU-M2000可构建成IPU-POD64这一Graphcore全新模块化机架规模解决方案,可用于极大型机器智能横向扩展,提供前所未有的AI计算可能性,以及完全的灵活性和易于部署的特性。它可以从一个机架式本地系统扩展到高度互连的超高性能AI计算设施中的1000多个IPU-POD64系统。 “随着IPU-M2000和IPU-POD64的推出,Graphcore进一步扩大了我们在机器智能领域的产品竞争优势。” Graphcore首席执行官Nigel Toon 指出:“Graphcore通过技术创新实现更强有力的产品线,这些创新能够提供客户所期望的行业领先性能。对于寻求将机器智能计算添加到数据中心的客户而言,Graphcore最新推出的IPU-M2000凭借其强大的算力、易于扩展的灵活性和突出的易用性,将具有极强的可行性和价值提升潜力。” Graphcore IPU-M2000 Mk1 IPU产品的用户可以确信,他们现有的模型和系统可以在这些新的Mk2 IPU系统上无缝运行。虽然第一代Graphcore IPU产品已经处于领先地位,但与之相比,第二代产品的性能还将提高8倍。 IPU-M2000的设计使客户可以在IPU-POD™配置中构建多达64,000个IPU的数据中心规模系统,提供16ExaFlops的机器智能计算能力。新的IPU-M2000甚至能够处理最艰巨的机器智能训练或大规模部署工作负载。 Graphcore全新的IPU-Fabric™技术使大规模连接IPU-M2000和IPU-POD成为可能,该技术是专为机器智能通信而从头设计的,并提供了专用的低时延结构,可在整个数据中心内连接IPU。 Graphcore的Virtual-IPU软件与工作量管理和编排软件集成在一起,可以轻松地为许多不同的用户提供训练和推理服务,并允许根据工作情况调整和重新配置可用的资源。 无论您是要使用单个IPU还是要使用数千个IPU来完成机器智能工作负载,Graphcore的Poplar SDK都可以使这一过程变得简单。您可以使用首选的AI框架(例如TensorFlow或PyTorch)。而且,从这一高级描述中,Poplar将构建完整的计算图,以捕获计算、数据和通信。然后,它会充分利用可用的IPU硬件,编译此计算图,并构建用于管理计算、存储和网络通信的运行时程序。 Mk1 IPU产品与Mk2 IPU产品性能对比 Graphcore的最新产品线是通过三大颠覆性技术创新实现的,这些创新可提供客户期望的行业领先性能: ● 计算:每个IPU-M2000的核心都是Graphcore新的Graphcore Colossus™Mk2 GC200 IPU。该芯片采用台积电最新的7纳米工艺技术开发,每个芯片在一个823平方毫米的裸片上包含超过594亿个晶体管,使其成为有史以来最复杂的处理器。 ● 数据:每个IPU都有大量的In-Processor Memory™。Graphcore新型Mk2 GC200在处理器内部具有史无前例的900MB超高速SRAM,在每个处理器内核旁边都设有大量RAM,以实现每位最低能量的访问。Graphcore的Poplar软件还允许IPU通过Graphcore独特的Exchange-Memory™通信访问Streaming Memory™。这甚至可以支持具有数千亿个参数的最大模型。每个IPU-M2000都可以支持密度高达450GB的Exchange-Memory™,以及前所未有的180TB/秒的带宽。 ● 通信:IPU-M2000具有内置的专用AI联网IPU-Fabric™。Graphcore创建了一个新的Graphcore GC4000 IPU-Gateway芯片,该芯片可提供令人难以置信的低时延和高带宽,每个IPU-M2000均可提供2.8Tbps。在从数十个IPU扩展到数以万计个IPU的过程中,IPU-Fabric技术使通信时延几乎保持恒定。 Graphcore IPU-Fabric™技术 “将强劲算力与网络能力相结合,我们能够处理全球最先进、最复杂的算法模型。”Graphcore高级副总裁兼中国区总经理卢涛 表示:“这样的算法模型,对中国本地的AI算法落地场景,如云计算、互联网和通信等场景都会产生推动作用,并将为AI产业者提供巨大的价值。” 在中国市场,Graphcore与领先的本地商业用户展开紧密的早期合作,基于IPU的开发者云已于7月初正式上线,其IPU-POD产品技术,已在IPU开发者云上供用户访问。因此,中国很可能成为Graphcore最新推出的第二代处理器技术最先实现商业化落地的区域之一。 以上努力,仅仅是Graphcore在中国市场进行的相当规模的投资中的一部分。Graphcore还在本地构建了强有力的工程化团队,希望与本地的AI产业者和AI创新者进行紧密合作,以先进科技助推中国AI创新。

    时间:2020-07-16 关键词: AI ipu graphcore

  • Graphcore发布二代IPU,代号M2000

    Graphcore发布二代IPU,代号M2000

    在下面的内容中,小编将对Graphcore今日正式发布的第二代 IPU 以及用于大规模系统级产品 IPU-Machine: M2000(IPU-M2000)进行介绍,和小编一起来了解下吧。 据介绍,IPU-M2000 是一款即插即用的机器智能刀片式计算单元,由 Graphcore 全新的 7 纳米 Colossus 第二代 GC200 IPU 提供动力,并由 Poplar 软件栈提供全面支持。其设计便于部署,并支持可扩展至大规模的系统。这款纤薄的 1U 刀片机可提供 1 个 PetaFlop 的机器智能计算,并集成了针对 AI 扩展优化的网络技术。 IPU-M2000 可构建成 IPU-POD64 这一 Graphcore 全新模块化机架规模解决方案,可用于极大型机器智能横向扩展,提供前所未有的 AI 计算可能性,以及完全的灵活性和易于部署的特性。它可以从一个机架式本地系统扩展到高度互连的超高性能 AI 计算设施中的 1000 多个 IPU-POD64 系统。 “随着 IPU-M2000 和 IPU-POD64 的推出,Graphcore 进一步扩大了我们在机器智能领域的产品竞争优势。”Graphcore 首席执行官 Nigel Toon 指出:“Graphcore 通过技术创新实现更强有力的产品线,这些创新能够提供客户所期望的行业领先性能。对于寻求将机器智能计算添加到数据中心的客户而言,Graphcore 最新推出的 IPU-M2000 凭借其强大的算力、易于扩展的灵活性和突出的易用性,将具有极强的可行性和价值提升潜力。” Mk1 IPU 产品的用户可以确信,他们现有的模型和系统可以在这些新的 Mk2 IPU 系统上无缝运行。与第一代 Graphcore IPU 产品相比,第二代产品的性能还将提高 8 倍。 IPU-M2000 的设计使客户可以在 IPU-POD™配置中构建多达 64,000 个 IPU 的数据中心规模系统,提供 16ExaFlops 的机器智能计算能力。新的 IPU-M2000 甚至能够处理最艰巨的机器智能训练或大规模部署工作负载。 Graphcore 全新的 IPU-Fabric 技术使大规模连接 IPU-M2000 和 IPU-POD 成为可能,该技术是专为机器智能通信而从头设计的,并提供了专用的低时延结构,可在整个数据中心内连接 IPU。 以上便是小编此次带来的全部内容,十分感谢大家的耐心阅读,想要了解更多相关内容,或者更多精彩内容,请一定关注我们网站哦。

    时间:2020-07-15 关键词: ipu m2000 graphcore

发布文章

技术子站

更多

项目外包