德勤发布的一份新报告揭示了企业在采用GenAI过程中的复杂现状，展现了显著进展与持续挑战并存的局面，这份题为《企业中的GenAI现状：现在决定未来》的调查收集了来自14个国家和六个行业的2770名业务和技术领导者的见解。
这项调查是公司季度系列关于企业GenAI现状的最新一期，该系列的第一份报告于1月发布，发现业务领导者对社会影响和技术人才表示担忧。
新报告描绘了一幅企业努力利用GenAI潜力的图景，同时面临着可扩展性、数据管理、风险缓解和价值衡量等方面的挑战。报告强调了一个关键节点，即早期成功推动了更多投资，但广泛实施的道路仍然充满障碍。
报告的主要发现包括：
• 67%的企业由于早期取得的强劲价值而增加了对GenAI的投资
• 68%的企业仅将30%或更少的GenAI实验投入生产
• 75%的企业增加了对GenAI数据生命周期管理的投资
• 仅有23%的企业认为他们对GenAI相关的风险管理和治理挑战高度准备
• 41%的企业在定义和衡量GenAI工作的确切影响方面存在困难
• 55%的企业因数据相关问题而避免了某些GenAI的用例
德勤的合伙人Kieran Norton在接受VentureBeat采访时表示：“我看到很多客户正在进行原型开发和试点项目，但尚未进入生产阶段。很大一部分原因与数据质量及其影响有关，包括模型中引入偏差的风险。”
风险担忧如何影响企业AI部署
德勤的这项调查是最近几周内多项旨在详细说明企业AI当前使用情况的报告之一。普华永道上周发布的一份报告显示，尽管企业对GenAI的兴趣很高，但在评估AI风险方面仍存在一定差距。
德勤的报告进一步指出，AI风险可能正在影响企业的部署。Norton表示，企业高管们对这些风险非常关注，在他们认为这些问题可以得到解决之前，不愿意推进相关项目。
德勤报告强调了一些关键风险，包括数据质量、偏见、安全性、信任、隐私和合规性。这些虽然不是全新的领域，但Norton强调，GenAI存在一些特有的细微差别。Kieran认为，企业可以利用现有的风险管理计划来应对这些挑战，然而，他也承认需要加强某些实践，例如数据质量管理，以减轻GenAI带来的特定风险。
Norton表示：“有些细微差别需要解决，但归根结底，这仍然是核心治理问题。数据质量一直是一个关注点，因此你可能需要加强数据质量管理，以减轻风险。”
其中一个特别的担忧是GenAI模型可能会出现“幻觉”风险，即生成错误或无意义的输出。Norton解释说，这一风险确实令人担忧，并指出这通常与对输入模型的数据缺乏理解有关。他建议，对于某些用例，企业可以选择使用更小、更有针对性的语言模型和特定培训，以减少幻觉风险。
企业如何展示GenAI项目的价值
报告中的一个重要发现是，41%的组织难以有效衡量其GenAI的工作。更糟糕的是，只有16%的企业为其CFO定期提供报告，详细说明GenAI创造的价值。
Norton解释说，这种困难源于用例的多样性，需要一种更细致、针对具体用例的方法。
他说：“如果你在企业的不同部分探索20种不同的用例，你可能会遇到苹果、橙子、香蕉和菠萝，所以你无法以相同的方式衡量所有这些。”
Norton建议，企业应为每个具体用例定义KPI，针对他们试图解决的业务问题，这可能包括生产力、效率或用户体验的改进，具体取决于特定用例。他建议企业识别业务中存在问题的领域，然后尝试解决这些问题。
他说：“我认为，更重要的是将其分解到用例层面，而不是将其作为一个整体组合来处理。”
