文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Graphcore Bow IPU正式发布:性能提升40%,电源效率提升16%,无需更改代码

2024-12-02 05:38

关注

Graphcore大中华区总裁兼全球首席营收官卢涛

  在Graphcore近期举办的一场线下媒体沟通会上,Graphcore大中华区总裁兼全球首席营收官卢涛详细介绍了新一代产品的各种优势。他表示,与上一代产品相比,Bow IPU不但有了非常明显的性能提升,给用户带来了更好的产品选择,并且产品发布即上市,合作伙伴已经能够买到新的产品,并将其应用到企业的各种计算场景当中。

  全球首款基于台积电3D Wafer-on-Wafer的处理器

  作为全球第一款基于台积电3D Wafer-on-Wafer的处理器,Bow IPU采用了台积电SoIC-WoW技术,7nm工艺制程,将两颗die叠在一起。这种3D封装的设计使得单个封装芯片中的晶体管数量超过了600亿个,具有350 TeraFLOPS的人工智能计算的性能。

  根据卢涛的介绍,与上一代MK2 IPU 250 TeraFLOPS相比,Bow IPU在性能上得到了40%的提升,并且通过对供电系统进行优化,每瓦性能也有了更好的表现。在片上存储方面,与上一代MK2 IPU相比,并没有任何没有变化,仍旧是0.9 GB的容量,但是吞吐量从47.5TB/s提高到65TB/s。除此之外,处理器内核的个数、独立线程个数、接口等,与上一代的处理器相比都没有变化。

  以Bow-2000为例,IPU-Machine与上一代IPU Machine:M2000(IPU-M2000)保持一致,使用了4颗Bow IPU。不同的是,上一代产品在1U刀片中能够提供1 PetaFLOPS的算力,Bow-2000则能够提供1.4 PetaFLOPS的算力。除此之外,Bow-2000 1U刀片具有3.6 GB的处理器内存储,吞吐量为260TB/s,IPU流存储多达256 GB,并具有2.8 Tbps IPU-Fabric。

  卢涛表示,Bow IPU是Graphcore与台积电联合创新的产品,与上一代产品相比,能够提供更好的每瓦特性能,拥有更高的性能比,是AI计算的首选产品。

  丰富的软件栈生态系统是性能提升的关键

  除了在硬件上的创新之外,丰富的软件栈生态系统也是Bow IPU性能提升的关键因素。

Graphcore中国工程副总裁、AI算法科学家金琛

  据Graphcore中国工程副总裁、AI算法科学家金琛介绍,在Poplar SDK中,不但有Graphcore研发的图编译器、驱动,而且还有上层的XLA backend。这些软件的加持使得Bow IPU在不同应用的性能上能够得到广泛的提升。

  在此之上,Graphcore还提供了比较丰富的生态,例如在AI软件框架上,能够支持PyTorch、TensorFlow、HALO、PaddlePaddle,以及高层API Keras等等。在用户方面,支持Jupyter Notebook,以及Inference Deployment Toolkit等等,帮助客户实现推算一体的部署。

  除此之外,Graphcore还在加速推进开发者社区的建设,并在其中提供了广泛的代码用例,以及各种文档、视频示范。

  金琛表示,Graphcore在机器学习应用上提供了特别多的模型范例,覆盖不同的AI垂直领域,包含大模型、语音模型、语言模型等等的模型库还在不停进行迭代和增加。另外,在云上,Graphcore也提供了广泛的部署、监控,以及管理软件集成。

  金琛还用一些数据展现了Bow IPU的性能优势。例如在ASR模型以及TextToSpeech(文本转语音)的模型上,性能实现了39%左右的提升。

  除了能够保证较高的性能提升之外,大部分模型可以实现接近96%的电源效率,更加环保节能。

  全新一代的Bow IPU,在性能上实现了大幅度的提升,有着更好的功耗,但相应的价格却没有变化。沟通会上卢涛针对这一问题进行了回应。他表示,“我们针对已经下了IPU-M2000订单的老用户准备了一些优惠方案,确保这些老客户也可以获得相似的每美元性能。”

  正式官宣:Good Computer(古德计算机)

  在此次媒体沟通会上,Graphcore还正式对外宣布了下一代的超级计算机:Good Computer(古德计算机)。

  卢涛表示,人的大脑里大概有860亿个神经元,有100万亿个突触。这个突触相当于人工智能里面模型的参数个数。他强调,目前最大的人工智能模型的参数跟真正的人脑比较起来,可能还有100倍左右的差距。因此,Graphcore目前正在开发一款可以用来超越人脑处理的超级智能机器。

  据介绍,这款命名为Good Computer(古德计算机)的计算机具有两层含义。一是好的计算机,希望计算机能够带来正面的影响;二也是向前辈致敬,Good是一位非常知名的计算机科学家。

  “Good Computer大概能够达到8192个Graphcore未来的IPU,能够提供超过10 Exa-Flops的AI算力,也许会继续往3D Wafer-on-Wafer演进,可以实现4 PB存储,能够助力超过500万亿参数规模的人工智能模型的开发,而Graphcore Poplar SDK完全支持。”卢涛表示,取决于不同的配置,大概价格在100万美元到1.5亿美元。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯