使企业的GenAI大众化
全球数字化转型咨询公司Publicis Sapient的首席产品官Sheldon Monteiro告诉VentureBeat,随着GPT和更多API的出现,OpenAI已经使之前需要更多技术专业知识的任务变得更容易为普通人所用,以创建能够执行特定角色的助手。
Monteiro解释说,这在以前对于拥有开发人员资源的大型企业是可能的,但他说,OpenAI所做的是“让资源较少的企业实现民主化,这样任何业务人员都可以制造一个专门的代理并共享它。”
On Platform的创始人兼首席执行官Alex Beckman补充说,这些声明将“显著增强企业对GenAI的参与度”,因为它们不仅使API更加强大和用户友好,还能够对输入到AI的数据及其产生的信息进行精细控制。
他说:“这将产生更连贯和与背景相关的内容,适用于更广泛的应用和用例,并利用截至2023年4月的最新世界知识。”
他补充说,尽管这些声明在可用性和性能方面都很棒,但它们仍然依赖于相同的GPT-4基础模型。“OpenAI的用户界面也仍然落后,这可能会阻碍企业的学习曲线和采用。”他说。
OpenAI的GPT代理提高了工作效率
Interzoid是一家数据可用性咨询和GenAI支持的数据质量解决方案提供商,其创始人兼首席执行官Bob Brauer表示,OpenAI的新GPT,或“结合了说明、额外知识和任何技能组合的定制版本的ChatGPT”,可以参考特定的知识来源,如公司手册或技术领域指南,为他们的回应提供信息,并能够在全公司范围内部署使用。这意味着,公司多年来积累的巨大知识宝库现在可以通过AI聊天机器人进入,并在整个组织内共享和利用。
“潜在的生产率提升是无法估量的,”Brauer说。例如,人力资源部门可以将一整本200页的手册转换为聊天机器人格式,所有员工都可以访问,从而为该部门和每位员工节省了大量询问时间,特别是新员工,让他们迅速掌握情况。
GPT-4 Turbo更长的背景窗口可能会改变游戏规则
Monteiro补充说,GPT-4 Turbo更长的、128K的上下文窗口是“令人兴奋的”。他说,相当于300页的上下文意味着GPT将提高上下文理解,增强文档摘要,更连贯的长篇叙述,更连贯的多部分对话,以及改进的微调。
“例如,我们经常使用GPT来分析遗留代码,”他解释说。“旧的代码,例如COBOL,不是模块化的,而且许多旧的程序比以前的上下文窗口所允许的要长。新的更长的上下文窗口使我们能够使用GPT来理解整个程序,而不需要开发人员事先试图破坏它。“。
Square的首席工程师/技术主管皮尤什·特里帕西表示,GPT-4涡轮增压的推出,其世界事件知识可持续到2023年4月,使企业能够拥有“卓越”的理解能力。
例如,在领导Square的沟通平台开发期间,特里帕蒂表示,他正在为一个关键任务项目的想法做出贡献:从我们近2300万家中小型企业的用户基础上理解客户的关切和查询。
他说:“这项任务的巨大数量似乎令人望而生畏。”他指出,该公司使用AI来处理这项任务,但当时的技术无法处理如此大量的数据。
“因此,我们不得不用一些老式的手工工作来补充我们的技术,从每个案例中挑选摘要供进一步使用,”他说。如果我们当时有今天的OpenAI GPT-4 Turbo,它将是游戏规则的改变者。由于其更大的上下文窗口,它可以同时处理更大的对话块。这将使我们的总结工作变得容易得多,使我们从大量的手工工作中解放出来。
OpenAI的声明是否解决了GenAI面临的最大挑战?
并不是每个人都对OpenAI开发人员日的全面宣布表示赞赏,认为这改变了企业的游戏规则,例如,Domino Data Lab数据科学战略和布道部负责人Kjell Carlsson表示,虽然有一些好处-GPT使创建GenAI概念验证应用程序比以往任何时候都更容易、更便宜,这要归功于优化的GPT-4 Turbo和新的定价结构,而版权盾牌将有助于缓解人们对阻止实验开始的担忧,但这都不能解决核心问题-开发和运营生产级GenAI应用程序。
“公司抱怨OpenAI模型和API不能满足他们在数据安全、控制、可扩展性、可靠性、延迟甚至性能方面的需求,”他解释说。“如果有的话,这些公告对显著解决这些担忧几乎没有什么作用。它们使开始变得更容易——这对OpenAI的产品来说从来都不是一个有意义的问题——而不需要解决对交付价值至关重要的下游问题。“。
他补充说,随着公司在其GenAI之旅中取得进展,它们正在转向提供更大控制的开源模型和其他专有产品,而“这些声明无助于阻止这一趋势的加速。”
Carlsson甚至坚称,许多公司正在利用GenAI“为自己的失败做准备”。
“他们相信这样一种说法,即他们可以将GenAI能力的开发和运营外包给第三方,同时他们专注于设计和应用开发,”他解释说。不幸的是,事实恰恰相反。GenAI应用程序需要的内部专业知识和能力与传统的AI和基于ML的应用程序一样多,如果不是更多的话。“。
企业需要快速、安全地进行试验,以产生真正的影响
Huge的技术副总裁Jon Hackett指出,在企业的眼中,OpenAI是非常新的,他们的整个生计都建立在管理风险和成本的基础上。
他解释说,与GenAI相关的风险对他们来说仍然不清楚,特别是当提供商不是一个经过检验和真正的解决方案时,而OpenAI的定价模式仍然很高,这取决于公司将与其整合的规模和方式。“考虑到它们为一个组织带来的感知价值,它们往往过于昂贵。”他说。
考虑到这些挑战,他说,新的Assistant API和GPT是一种“聪明的方式,可以帮助公司在对定制的GenAI体验进行更深入的投资之前,以低成本或免费的方式快速进行试验。”
他说,这在很多方面类似于Google Vertex用其Gen AI App Builder工具推出的产品,看起来非常类似于他们在Meta Connect 2023上宣布的Meta的AI Studio产品。
他说:“任何更好的定价和费率限制的行动都将有助于推动采用率,并提供更好的投资回报,而任何使团队能够从概念转向原型以进行用户测试的举措都将有助于推动采用率。”
但他补充说,展望未来,组织需要快速、安全地使用GenAI进行试验,以推动对其内部生产力和为消费者提供的体验产生真正影响。
“这不是一个他们可以坐等尘埃落定的地方,”他说,“他们要么需要在AI领域发展优势和能力,要么他们的竞争对手会很快超过他们。如果公司发现他们需要帮助学习和培养组织内的这一空间,他们应该寻找合适的合作伙伴组合来帮助引领他们前进。”