文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

以夸娥千卡集群为底座,摩尔线程与无问芯穹联手开启千亿大模型服务新篇章

2024-11-29 23:38

关注

无穹Infini-AI大模型开发与服务平台是基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。目前,无穹Infini-AI已支持了Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5等系列模型共20多个模型。

图注:无穹Infini-AI平台演示

当前,无穹Infini-AI与摩尔线程大模型智算千卡集群夸娥(KUAE)已顺利完成系统级融合适配,并完成了LLama2-70B大模型的训练测试。发布会现场演示了无穹Infini-AI如何灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。

图注:摩尔线程联合创始人兼执行总裁王东、无问芯穹联合创始人兼CEO夏立雪作为双方代表进行了现场签约

摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产GPU公司。无问芯穹联合创始人兼CEO夏立雪表示:“经验证,摩尔线程夸娥千卡智算集群在性能、稳定性、易用性和算力利用率上均有优异表现,可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。”双方的合作是国产算力产业链上下游携手推动大模型落地应用的完美例证。

摩尔线程联合创始人兼执行总裁王东表示,“基于先进的MUSA架构,摩尔线程已建立了从芯片、板卡、集群到软件的全栈AI产品线。摩尔线程夸娥智算集群是以全功能GPU为底座、软硬一体化的全栈解决方案,凭借高兼容性、高稳定性、高扩展性等综合优势,我们致力于成为大模型训练坚实可靠的先进基础设施。”

无问芯穹依托行业领先且经过验证的AI计算优化能力与算力解决方案,追求大模型落地的极致能效。打造 “M 种模型” 和 “N 种芯片” 间的“M×N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署。链接上下游,共建AGI时代大模型基础设施,加速AGI落地千行百业。摩尔线程作为国内AI芯片领军企业,旨在为广泛的生态合作伙伴提供强大的AI计算加速能力,可充分赋能大模型AIGC、数字孪生、物理仿真等场景,驱动各行业智能变革,致力于为新质生产力提供 AI原动力。

基于此次战略合作,无问芯穹与摩尔线程将携手共进,开展更多适配与测试,推动国产大模型技术的快速发展与应用普及,为中国人工智能产业的蓬勃发展贡献力量。

+++

关于摩尔线程

摩尔线程智能科技(北京)有限责任公司是一家以全功能GPU芯片设计为主的集成电路高科技公司,能够为广泛的科技生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多元算力的元计算平台。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯