建立实施负责任的人工智能

[[439410]]

 

在今天的商业环境中，人工智能至关重要。例如，零售商正面临一个繁忙的假日季，而人工智能可以迅速创造更好的在线体验。人工智能提高了生产率、产品质量和消费。通过将繁琐的任务自动化，人工智能帮助企业减轻IT团队面临的负担。

尽管创新带来了诸多好处，但团队在开始使用AI之前，仍需要一个负责任的AI框架和工具包。人工智能作为一项技术是中立的——它本身不具备道德或不道德。相反，人工智能可以是一种符合社会规范和标准的系统。评估是什么控制、需求或标准，或者应该采取什么措施来实现这一点是至关重要的。

评估AI对企业的影响

创建负责任的AI框架的一个重要部分是对其在公司内的使用进行分类。人工智能，尤其是以推荐引擎、对话机器人、客户细分模型、定价引擎和异常检测的形式在企业中变得无处不在。跟踪这些AI模型以及嵌入它们的系统或应用程序，对于确保企业不暴露于操作、声誉和财务风险中至关重要。

还需要知道模型将如何使用，以及它们可能会造成哪些潜在的伤害——身体、情感或经济上的伤害。了解这些危害和风险将有助于在构建或部署模型之前嵌入AI伦理。

理想情况下，在开始开发或部署之前，你应该了解AI将影响哪些系统。然而，如果你已经有了AI，你就需要对这个知识缺口进行分类。

为了向人工智能系统灌输信任，人们需要能够深入了解底层模型，分析人工智能是如何构建的，探索用于训练它的数据，揭示每个决策背后的原因，并及时向所有利益相关者提供一致的解释。每个AI系统都需要在准确性、可解释性、公平性和安全性之间进行权衡。能够在内部向不同的利益相关者、客户和监管机构证明这些权衡是获得信任的关键。

对你拥有的内容进行编目，可以调整AI系统以减少偏见，这是通过治理过程支持的。重要的是，你的AI——像每一个员工一样——遵守你所在组织的企业道德准则。

标准化AI开发生命周期

要有一个标准化的过程来管理你的数据，建立一个人工智能模型，并将其嵌入应用系统。一旦AI模型被部署到生产系统中，你还需要一个标准流程来监控它的性能，并根据需要继续改进和再培训它。

这一标准化过程通常涉及到根据业务需求和可用数据确定AI模型的范围。这将导致模型的设计以及如何在更大的应用程序系统中使用它。这个设计阶段之后是数据探索和模型构建。一旦模型经过训练、测试并满足接受标准，它就可以部署了。一个人需要在一个持续的基础上监视模型的性能，并确保模型在必要时被重新培训、改进或弃用。

作为AI开发生命周期的一部分，必须维护数据集和模型卡的数据表。数据表将捕获重要的数据项和概述收集数据的动机，收集过程，推荐使用和更多内容。拥有模型卡片也是一种很好的做法。这些卡片包括AI模型的细节，所选择的算法，模型的预期用途，伦理考虑等。社会影响和风险评估也必须经过审查。这些工具有助于形成关于是否应该采用算法的更明智的决定。

为了评估模型的部署，您需要从一致同意的成功和可接受标准开始。这些应该关注模型的性能，以及模型的可解释性、可解释性、公平性、安全性、控制、安全性、隐私性、健壮性和再现性。如果在部署过程中没有满足这些成功和可接受的标准，就不应该以当前状态部署AI。一些企业仍将继续前进，放宽门槛。然而，这只适用于特殊情况。数据科学家不应该做这个决定——它应该由企业或产品所有者决定。

由于人工智能系统学会根据培训数据做出结论，因此在开发过程中评估应用程序的影响，有助于确定可以预防风险的改进领域。

创建治理流程

创建治理流程有助于确保团队在部署AI系统之前解决与偏见和公平相关的具体问题。它使团队能够批判性地思考，并能够回答有关人工智能应用程序决策的问题。

如果操作正确，成功的治理过程将提供指导和保证。它将使团队能够评估现有的系统是否符合他们的业务战略，并鼓励问责制和遵从性。

对于任何团队来说，要发现人工智能的全部潜力，他们必须分析人工智能正在使用的系统，评估其影响，并创建治理流程。在当今日益透明、快速变化和竞争激烈的市场中，实施道德和负责任的人工智能不仅是好事，而且是成功的先决条件。