人工智能(AI)和机器学习(ML)技术带来好处的同时也伴随着挑战。亚马逊、苹果、谷歌和Facebook等全球领先企业被指控在其人工智能算法中存在偏见。例如，当苹果公司推出AppleCard时，其用户注意到女性消费者获得的信用额度比男性消费者少。这种偏见严重影响了苹果公司的声誉。
在一个影响严重的极端案例中，美国司法系统使用人工智能算法来宣布监禁和假释条款。不幸的是，这些人工智能系统建立在具有历史偏见的犯罪数据之上，放大并延续了人工智能系统中的嵌入偏见。最终，这导致质疑机器学习算法在刑事司法系统中提供的公平性。
为道德人工智能而战
政府和企业一直在积极参与全球人工智能的开发和采用。如今，即使是非专业人士也可以采用和设置的人工智能工具越来越多地进入市场。
在这种人工智能的采用和开发热潮中，全球许多专家和倡导者对人工智能应用程序的长期影响持怀疑态度。他们担心人工智能的进步将如何影响人们的生产力和自由意志的行使;为采用合乎道德的人工智能而进行斗争实际上为未来的技术而战，在未来发展中，人工智能技术不是替代而是帮助人类。
谷歌和IBM等全球科技巨头已经在其人工智能(AI)和机器学习(ML)算法中研究并解决了这些偏见。其解决方案之一是为用于训练人工智能(AI)和机器学习(ML)系统的数据创建文档。
在人工智能系统的偏见问题之后，另一个广为人知的担忧是缺乏对人工智能算法如何做出决策的可见性。它也被称为不透明算法或黑盒系统。可解释人工智能的发展减轻了黑盒系统的不利影响。虽然人们已经克服了一些道德上的人工智能挑战，但人工智能武器化等其他几个问题仍有待解决。
有许多政府、非营利组织和企业组织关注人工智能道德和政策。例如，由亚马逊、谷歌、Facebook、IBM和微软成立的非营利组织人工智能造福人类和社会伙伴关系，制定人工智能技术的最佳实践，促进公众的理解，并作为人工智能的平台。而苹果公司于2017年1月加入该组织。
如今，各国政府以及非政府组织为确保人工智能道德做出了许多努力。例如，在美国，奥巴马政府的2016年人工智能政策路线图是向道德人工智能迈出的重大飞跃;而2020年1月，特朗普政府发布了一份关于“人工智能应用监管指南”的行政命令草案。宣言强调需要投资人工智能系统开发，增强公众对人工智能的信任，消除人工智能障碍，保持美国人工智能技术在国际市场上的竞争力。
此外，欧盟委员会人工智能高级别专家组于2019年4月8日发布了《可信赖人工智能伦理指南》，2020年2月19日，欧盟委员会机器人与人工智能创新与卓越部门发布关于人工智能创新的卓越和信任的白皮书。
在学术方面，牛津大学设有三个研究机构，主要关注人工智能伦理，并将人工智能伦理作为一个结构化的研究和应用领域。纽约大学(NYU)的人工智能研究所还将研究人工智能的社会影响，重点关注偏见和包容、劳工和自动化、自由和权利以及民用基础设施和安全。
关于道德人工智能发展的一些关键担忧和希望
(1)担心
•主要的人工智能(AI)和机器学习(ML)系统开发者和部署者专注于盈利和社会控制。但关于道德人工智能会是什么样子，仍然没有达成共识。许多专家担心，道德的人工智能行为和结果难以定义、实施和执行。
•强大的科技公司和政府控制着人工智能的发展，推动他们的是他们的议程而不是道德问题。据推测，他们将使用人工智能(AI)和机器学习(ML)技术创造更复杂的方法来影响人类心理，以说服用户在未来十年内购买商品、服务和想法。
•黑盒系统中人工智能工具和应用程序的操作仍然是一个问题。此外，在这些不透明的条件下应用道德人工智能标准仍然是一个悬而未决的问题。
(2)希望
•人工智能/机器学习的发展已经清楚地展示了它的进步和价值。然而，迄今为止，人类社会总能找到减轻这种技术发展带来的问题的方法。
•迄今为止，人工智能工具和应用程序一直在做超越人类能力的惊人事情。进一步的创新和突破只会增加这一点。
•新的人工智能系统的无限推出是不可避免的。除此之外，开发可以减轻伤害的人工智能策略也是不可避免的。事实上，人们可以利用道德的人工智能系统来识别和纠正由不道德的人工智能系统引起的问题。
•近年来，关于道德人工智能的全球倡议富有成效。它推动人类社会在互利、安全、自主和正义的基础上适应人工智能的进一步发展。
•想象未来会有更多人工智能工具和应用程序出现，让人们的生活更轻松、更安全。人工智能将从根本上增强从医疗保健到旅行的每一个人类系统。因此，未来几年对道德人工智能的支持可能会大幅增长。
•在开源技术的帮助下，已经围绕道德人工智能建立了共识，特别是在生物医学界。几年来，在道德人工智能这一重要领域的广泛研究和讨论已经结出硕果。
•如果广泛提供有害和徒劳的结果，任何技术都无法生存。而市场和法律体系最终将淘汰不道德的人工智能体系。
道德人工智能的责任
微软和谷歌等科技巨头认为政府应该介入以有效监管人工智能，而法律的好坏取决于它们的执行方式。到目前为止，这一责任已经落在了监管机构和科技公司员工的肩上。
人们可以通过提出尖锐的问题和采取严厉的预防措施来选择希望人工智能在生活和企业中扮演的角色。因此，许多企业雇佣人工智能伦理学家来指导他们通过这一新领域。
在人工智能与道德合而为一之前，人们还有很长的路要走。但是在那一天之前，人们必须对如何使用人工智能技术进行自我监管。
