在人工智能技术飞速发展的今天,要让IT售前将大模型能力融入到招投标这项专业性极强的工作中,就像“西天取经”一样难关重重:AI助手如何精准掌握大量格式不一且随时更新的产品资料?如何理解售前业务逻辑?能否确保数据安全?
浪潮信息售前团队先行先试,基于企业大模型开发平台元脑企智EPAI(Enterprise Platform of AI),零代码完成企业知识库构建、模型微调、应用开发等工作,简单高效、低门槛地打造出售前助手“元小智”,赋能日常售前业务,实现智慧化变革,团队工作效率提升3-5倍。
做一个好用的售前助手,到底有多难?
面对日益增长的业务需求,浪潮信息售前团队决定用大模型技术变革售前业务,加速推进业务体系的智能化转型。在对市面上多种工具进行测试后发现:AI助手在阅读、理解、分析和处理长文本方面表现优异,但是要想将大模型应用到专业化、精细化和低容错的招投标业务中,还有非常繁琐的开发工作需要完成。
第一难,如何构建浪潮信息全业务线产品信息知识库,并让大模型实现高精准、高效率的检索。浪潮信息的业务资料覆盖了服务器、存储、网络、虚拟化、安全等多种IT基础设施领域,大到产品迭代型号,小到插槽数量、板卡规格,繁杂的信息不仅多如牛毛,还分成了pdf、doc、xls、html、json等多种格式进行存储,难以进行统一转换。此外,要想确保模型对有效信息进行精准检索,还涉及到复杂的结构化、非结构化信息提取、数据向量化、召回测试、检索优化等多个环节,需要对RAG系统进行整体优化,以提高检索精度。
第二难,如何快速、高效地完成模型微调,提升基础大模型对于售前业务的理解能力。售前业务具有特定的行文格式、专业术语,大模型需要能够进行专业化的内容输出,因此需要构建高质量的微调数据集进行模型微调。这不仅需要对行业、企业数据进行清洗和过滤,还要基于提取出的高质量数据合成、生成、构建,以满足微调过程中对数据量的需求。这些繁琐的准备工作,需要开发人员具备丰富的大模型微调经验,时间周期长、最终结果不可控,试错成本高。
最后,考虑到招投标文件包含大量企业隐私数据,不能上传至云端大模型进行训练推理,企业模型必须完成私有化本地开发,以及部署易用的大模型应用,在确保数据绝对安全的同时确保应用的高可用。
化解三难,元脑企智EPAI降低大模型开发门槛
卓越的大模型应用开发工具是释放AI生产力的关键。企业大模型开发平台元脑企智EPAI提供了全链路、高可用的系列工具,将专业的大模型应用开发流程进行了界面化封装,有效降低大模型应用开发门槛,零代码即可完成大模型应用开发的全流程工作。
浪潮信息售前团队使用元脑企智EPAI,完成了企业知识库构建、模型微调、应用开发与服务上线,实现了企业知识的高效利用、售前场景下的模型能力提升与便捷的应用开发部署,跑通大模型应用落地全流程,成功打造出智能售前助手“元小智”。
● 轻松构建企业知识库,提高回复精准度:依托元脑企智EPAI的知识库工具,自动完成结构化、非结构化数据的解析和存储。售前团队将整理出的1500多份pdf、docx、xls等格式的业务资料、产品信息、行业研报进行统一处理,构建起公司8大业务线全部在售产品的知识库,将繁杂的企业知识转换为大模型“最强外挂”。
为了提升知识库检索生成效果,元脑企智EPAI的RAG系统完成了各个环节的全链路优化,特别是通过自研模型替代传统Rerank模型,实现整体精度提升。通过混合检索策略,多次调整、验证不同参数配置下的检索精度,找到最佳的检索配置,有效提高知识库检索问答的质量,满足售前专家精准快速查找产品信息的业务需求。
知识库检索配置测试
● 高效微调数据治理,提升模型专业能力:基于元脑企智EPAI的微调数据处理工具,售前人员从业务资料、产品信息等文档中,自动抽取生成微调数据集;然后通过多种参数阈值设定,针对微调数据进行自动打分,剔除低质量数据,完成高质量数据的过滤与筛选,最终形成数十万条高质量微调数据,减少数据处理的时间和成本。通过元脑企智EPAI的零代码微调工具,结合内置的经专业算法人员调优的超参数配置,实现最佳的微调效果,构建起符合业务需求的专用模型。
● 快捷开发本地应用,实现开箱即用:元脑企智EPAI内置对话式应用支持多轮对话、长文本分析、单文档对话、网络检索等交互功能,可在本地完成模型部署上线服务,轻松满足使用大模型的多种功能需求。
浪潮信息售前团队在元脑企智EPAI的加持下,大大缩短了应用开发周期,1人1月即可完成模型微调、应用开发,成功打造出售前助手“元小智”,为售前人员的工作注入智慧生产力。
投标效率提升3-5倍,元脑企智EPAI加速释放大模型价值
基于元脑企智EPAI打造的对话式智能售前助手“元小智”能够阅读数万字、上百页的招标文件,招标关键信息识别准确率达85%,秒级提取客户核心需求,将招标文件平均分析时间从天级缩短到分钟级以下。“元小智”可以快速查阅浪潮信息全系列在售产品及方案的相关内容,生成对应的产品优势、核心参数等投标支撑信息,免去售前人员在海量产品文件中逐一查阅的重复性劳动。此外,结合网络检索功能,“元小智”能够辅助售前人员快速了解同类产品信息,释放50%的分析时间。
未来,浪潮信息将基于元脑企智EPAI,为业内提供“算力+平台+服务”一站式解决方案,持续加速大模型应用创新与发展,让大模型应用开发不再复杂。
