不过最新消息显示,就在微软AI狂飙之际,该公司却裁掉一个负责AI伦理道德的关键团队,该团队确保微软产品以符合伦理的方式引入AI技术。
裁员发生在微软迎来AI幸福时刻之前
今年1月微软曾裁员10000人,当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具,但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此,微软仍告诉外界会以负责任态度推进AI。
当然,微软现在内部保留了一个名叫“负责任AI办公室”(Office of Responsible AI)的机构,它为微软AI项目设立规范和原则。但员工似乎对此并不买账。
微软一些员工认为伦理和社会团队相当重要,它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说:“看到负责任AI办公室提供一些原则,有人可能会说:‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示,给没有规则的地方定出规则。”
在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏,它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前,团队还帮微软分析了引入OpenAI技术会有何种风险。
团队是逐步被“肢解”的
2020年时微软伦理和社会团队的规模达到最大,不过人数并不多,只有30人,包括工程师、设计师、哲学家。去年10月,因为重组团队人数减少,只剩下大约7人。
在一次会议上,微软AI企业副总裁John Montgomery说,员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大,上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”
会上有员工表示不满。一位员工说:“怒我大胆,希望你能重新考虑这个决定。我知道这一决定有业务上的考虑,我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响,尤其是负面影响。影响是十分巨大的。”
不过John Montgomery拒绝了员工的请求,他说:“我能重新考虑吗?我不能。很不幸,压力还是一样的。”当时John Montgomery并没有说团队会被取消。
的确,当时只是裁减了员工,伦理和社会团队仍然存在,只是人少了之后想推进宏大计划变得有心无力。
3月6日,伦理和社会团队剩余员工开会,John Montgomery明确告诉员工团队将会完全取消。
团队曾预警引入OpenAI工具的风险
就在伦理和社会团队被砍之前,他们正在做一件十分重要的事:预测微软OpenAI工具向全球推广之后会发生什么?
去年该团队曾撰写一份备忘录,详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统,它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。
必应Image Creator相当成功,微软研究人员却警告说,由于任何人都可以轻易模拟艺术家的风格,艺术家生计可能会受到影响。备忘录称:“测试必应Image Creator发现,只需要给AI简单提示,比如输入艺术家的名字和媒介(如绘画、打印、摄影、雕塑),生成的图片就可以与原作媲美,很难分出真假。”
报告认为必应Image Creator可能会损害微软的品牌形象,艺术家以及与他联系的利益相关方也会受到伤害,艺术家和公众可能会抱怨。
去年OpenAI更新服务条款,用户完全拥有DALL-E图片的版权,当时微软伦理和社会团队十分困惑。他们认为:“如果AI生成的图片只是艺术作品的图字模仿品,根据提示制作图片的人却拥有完整版权,这在伦理道德上是讲不通的。”
怎么应对?微软研究人员提出一套方案,比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片,还有就是创建一个集市出售艺术家作品,如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。
微软称在发布之前工具已经修改过,目的是解决备忘录中提到的问题,而且负责任AI办公室也做了很多工作。
那么,你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后,会认真规范AI,让它符合伦理吗?(小刀)