文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

重构云计算!百度智能云一口气发布20余款全栈产品

2024-11-30 03:17

关注

百度智能云表示,为满足大模型落地需求,正在基于「云智一体」战略重构云计算服务,目前已完成从底层基础设施 — 大模型开发与应用 —AI 原生应用开发的端到端升级重构:全面升级百舸等 20 多个云计算基础设施、千帆大模型平台再升级、AI 原生应用开发工作台“千帆 AppBuilder ”全面开放。

智算大会现场,百度智能云还公布了最新“成绩单”。自 8 月 31 日文心大模型向全社会全面开放以来,在千帆大模型平台上,大模型 API 日调用量增长 10 倍。目前千帆平台已经累计服务超过 4 万家企业用户,累计帮助企业用户精调近 1 万个大模型。相较于自建系统训练大模型,使用千帆平台训练的成本最高可以下降 90%。

大模型正在重构云计算

“AI 原生时代开启,大模型正在驱动云计算产业创新变革。”百度集团副总裁侯震宇表示:“大模型重构云计算主要体现在三个层面:AI 原生云将改变云计算的格局,模型即服务(MaaS )会成为新的基础服务,AI 原生应用催生新的研发范式 。”

首先,在云基础设施层,移动互联网时代的应用,底层大多依赖 CPU 算力,而 AI 应用对 GPU 或异构计算的需求大幅增加,云市场的底层算力需求将逐渐转向以 GPU 为主。

其次,在模型层,大模型正在成为通用的服务能力,即 MaaS。MaaS 将大幅降低 Al 落地的门槛,实现真正的 Al 普惠。

最后,在应用层,应用开发的范式已经被彻底颠覆。大模型理解、生成、逻辑、记忆的独特能力会催生 A 原生应用研发新范式,整个应用技术栈、数据流和业务流都将被改变。

▲ 百度集团副总裁侯震宇

侯震宇表示,总体来说,构建繁荣的 A 原生应用生态,需要大模型、智能算力、AI 原生应用研发新范式三要素相辅相成。大模型是 AI 原生应用的“大脑”,智能计算则为 A 原生应用运行提供坚实支撑,新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的 AI 原生应用的充分必要条件,让大模型能力高速迭代,产品体验持续进步。

云计算全面升级:五大领域 20 余款全栈产品集中发布

AI 原生时代,面向大模型的云计算基础设施体系将全面重构。侯震宇表示,百度智能云将在三大方面重构云计算服务,即:面向模型的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施,以支撑 AI 原生应用落地。

大会现场,百度智能云密集发布和升级了 20 多款云计算产品,涵盖智能计算、通用计算、数据库和大数据、分布式云、应用开发平台五大领域。

在智能计算领域,算力是大模型落地的基础条件,当前大模型训练、推理、部署对高速互联、计算效率、算力成本等都提出了高要求,需要打造新型的智算基础设施。但目前的计算集群还面临不少挑战,大模型训练时间长、易出错、稳定性差,算力集群规模大、系统复杂度高也增加了运维难度。

全新发布的百度百舸・AI 异构计算平台 3.0,针对 AI 原生应用以及大模型的训练、推理等环节进行了专项优化。百舸 3.0 在稳定、高效、易运维三个方面大幅升级产品能力,实现万卡级别任务有效训练时长达到 98% 以上,带宽有效性可达 95%。相比自建智算基础设施,可以实现模型训、推吞吐分别最高提升 30% 和 60% 。

▲ 百度百舸 3.0 发布

针对 AI 原生时代智能算力的供给平衡问题,百度智能云发布智算网络平台。在算力资源层面,智算网络平台支持将百度及第三方建设的智算中心、超算中心、边缘节点等智算节点进行全域接入,将分散和异构的算力资源连接起来,形成统一的算力网络资源池,再通过百度自主研发的算力调度算法,智能分析各类算力资源的状态、性能和利用率等指标,统一调度算力,让智算资源灵活、稳定、高效地交付给有需求的用户,实现智算资源的“南水北调”。

在通用计算领域,计算、存储、网络等云原生基础设施也需要面向 AI 原生时代重构升级,提供更具弹性、高性能和智能化的运维能力。

本次大会,百度太行・计算新增了三款计算实例:全新推出第 7 代(通用计算型)云服务器实例 G7,综合性能较上一代产品提升 10%;发布昆仑芯弹性裸金属实例 NKL5,搭载了百度自研的昆仑芯 R300 加速处理器,在大模型推理场景综合性能较业界主流加速卡可提升达 50%;发布基于昇腾 910B 加速处理器打造的弹性高性能计算实例 NH6T,在大模型训练场景中,综合性能较业界主流加速卡提升可达 40%。

同时,高性能计算平台 CHPC(Cloud HPC)正式发布,为用户提供的一站式公共云 HPC 服务。在资源使用层面,CHPC 支持用户一键创建高性能计算环境,并根据业务变化灵活使用云上资源;在业务应用层面,CHPC 支持集成药物研发、基因测序等行业的应用。此外,结合集成在 VPC 内的百度网盘等服务,用户可以轻松实现 HPC 源文件从提交、上传、处理、结果回传,到分发的数据全链路打通,助力研发提效。

‎在分布式云方面,百度智能云带来三大升级:边缘计算节点 BEC 产品能力升级,打造全球统一的边缘计算网络和产品体验,打造 AI 原生应用时代能力最完善的“云边一体”;专有云 ABC Stack 新能力发布,支持本地部署百度智能云千帆大模型平台;本地计算集群 LCC 新能力发布,支持全新一代 CPU / GPU 实例以及完整的百度智能云 AI&HPC 集群管理能力,进一步丰富完善基础设施与云产品支持能力矩阵。

‎大模型落地不仅需要算力支持,还需要对各类数据和海量的知识进行存储、管理和分析工作。百度智能云在云存储、云原生数据库、大数据平台等数据基础设施领域发布了一系列重磅新品。

百度沧海・存储,统一技术底座正式发布,能够支持各类存储产品,同时满足 AI 原生时代的大规模、高性能、低成本的存储要求。全新升级的对象存储 BOS、云磁盘 CDS、并行文件存储 PFS 等产品,面向数据湖存储和 AI 存储能力进行了全面增强,加速智能计算,释放数据价值。

云原生数据库 GaiaDB 4.0 版本正式发布,增强并行查询能力,突破单机计算瓶颈,实现跨机多核并行查询,在混合负载和实时分析业务场景中性能提升超过 10 倍;针对不同的工作负载推出列存索引和列存引擎,提升不同规模数据的查询速度,其中列存引擎最大可支持 PB 级数据的复杂分析,并且与事务处理业务严格复杂隔离;通过共识协议优化、链路优化、自适应动态回放存储多版本等一些列数据流深度优化,大幅提升 GaiaDB 整体性能 60% 以上。

大会期间,杭州吉利易云科技有限公司总经理成品耀,分享了吉利集团携手百度智能云的打造集团专有云,打造数字基建底座。目前吉利集团已实现车联网、生产制造业务上云,且正在基于这套高效、稳定的基础设施平台构建企业级 AI 大模型能力,全方位赋能集团业务。

▲ ‎杭州吉利易云科技有限公司总经理成品耀

模型即服务(MaaS):千帆大模型平台再升级

在 AI 原生时代,大模型将作为新的通用服务能力,由模型即服务(MaaS)平台提供给广大用户。百度智能云千帆大模型平台(以下简称“千帆平台”)作为业界领先的 MaaS 服务平台,预置了包括百度文心大模型在内的、国内最多的 54 个主流基础大模型和行业大模型,还为大模型的持续预训练、精调、评估、压缩和部署等环节提供最完善易用的工具链,帮助客户针对自身业务场景快速定制专属大模型。相较于自建系统训练大模型,使用千帆平台训练的成本最高可以下降 90%。

▲ 百度智能云千帆大模型平台

目前,千帆平台已经累计服务超过 40000 家企业用户,精调近 10000 个大模型。本次智算大会,针对客户应用大模型最关心的“提效”和“降本”两大核心诉求,千帆平台发布一系列全新功能。

‎在数据方面,千帆平台提供完善、高效的大模型数据管理工具链,包括数据采集,清洗、自动标注、自动增强与推理数据多位评估等功能,助力用户快速构建自身业务“数据飞轮”,实现反馈驱动增长。全新发布的数据统计分析、数据质量检查等功能,支持用户获取全方位的数据洞察信息,结合数据清洗可视化 Pipeline,能够构建出面向大模型场景的高质量数据燃料,为大模型训练“保驾护航”,千帆也因此成为国内首个支持大模型多方位数据分析的 MaaS 服务平台。

作为模型部署上线前的“最后一公里”,模型评估能够对大模型的输出效果、计算性能等进行全方位评估,确保大模型上线后 AI 原生应用的效果稳定可靠。千帆平台创新性地引入自动化与人工结合的双重评估机制,充分发挥双方优势,大幅提升模型评估效率与质量。一方面,百度文心大模型作为 AI 裁判员,能够对被评估模型的回答进行自动化打分,极大程度地减少海量重复性人工作业;另一方面,由数据标注员 / 业务专家对大模型回答进行打分,则能够实现对大模型回答质量的精细化衡量。

此外,千帆平台灵活的计价方式,如 Tokens(适用灵活性要求较高的业务)、TPM(Tokens per Minute,适用于较大并发量业务)、批量计算(适用于离线内容生产等对实时性要求较低,吞吐较大的任务)、算力单元(适用于需要专享硬件部署模型的客户)等,可以轻松满足客户的多种业务场景需要,助力企业低成本用好大模型。

赋能 AI 原生应用开发:千帆 AppBuilder 正式开放服务

为了满足企业敏捷、高效地进行 AI 原生应用开发的需求,降低 AI 原生应用开发门槛,百度智能云千帆 AppBuilder 正式开放服务。

‎AppBuilder 将大模型开发 AI 原生应用的常见模式、工具、流程,沉淀成一个工作台,帮助开发者聚焦业务本身,而无需为开发过程牵扯多余精力。具体来讲,AppBuilder 主要由组件、框架两层服务构成。

「组件」服务由多模态的 AI 能力组件(如文字识别、文生图等)、基于大语言模型的能力组件(如长文总结、nl2sql 等)、基础组件(如向量数据库、对象存储等)三部分组成,是对底层服务能力的组件化封装,让每个组件完成一个特定的功能。

「框架」则是通过将上述这些组件有选择地串联、组合起来,让它们能够比较完整地完成一个特定场景的任务。目前,AppBuilder 提供的检索增强生成(RAG)、智能体(Agent)、智能数据分析(GBI)就是常用的 AI 原生应用框架。

AppBuilder 提供两种产品形态,代码态与低代码态。对于有深度 AI 原生应用开发需求的用户,AppBuilder 代码态提供包括 SDK、开发环境、调试工具、应用示例代码等各种开发套件和应用组件;而 AppBuilder 低码态则提供可视化工具,用户只需简单点选,即可快速定制、上线 AI 原生应用。

▲ 百度智能云千帆 AppBuilder

百度创始人、董事长兼首席执行官李彦宏认为,繁荣的 AI 原生应用生态,会驱动经济增长。今年 10 月,百度智能云推出了国内首个大模型全链路生态支持体系,为合作伙伴提供包括赋能培训、AI 原生应用孵化、销售商机、市场营销等全方位的支持,致力于繁荣 AI 原生应用生态。

侯震宇预判,2024 年将成为 AI 原生应用的元年,迎来 AI 原生应用的爆发式增长。百度智能云将持续推出有竞争力的产品方案,与伙伴一起深耕客户应用场景,让更多的 AI 原生应用创新涌现。

来源:51CTO内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯