文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

蒙眼狂奔?GPT-4狂飙之际微软却被曝砍掉了AI伦理团队

2024-11-30 17:24

关注

不过最新消息显示,就在微软AI狂飙之际,该公司却裁掉一个负责AI伦理道德的关键团队,该团队确保微软产品以符合伦理的方式引入AI技术。

裁员发生在微软迎来AI幸福时刻之前

今年1月微软曾裁员10000人,当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具,但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此,微软仍告诉外界会以负责任态度推进AI。

当然,微软现在内部保留了一个名叫“负责任AI办公室”(Office of Responsible AI)的机构,它为微软AI项目设立规范和原则。但员工似乎对此并不买账。

微软一些员工认为伦理和社会团队相当重要,它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说:“看到负责任AI办公室提供一些原则,有人可能会说:‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示,给没有规则的地方定出规则。”

在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏,它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前,团队还帮微软分析了引入OpenAI技术会有何种风险。

团队是逐步被“肢解”的

2020年时微软伦理和社会团队的规模达到最大,不过人数并不多,只有30人,包括工程师、设计师、哲学家。去年10月,因为重组团队人数减少,只剩下大约7人。

在一次会议上,微软AI企业副总裁John Montgomery说,员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大,上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”

会上有员工表示不满。一位员工说:“怒我大胆,希望你能重新考虑这个决定。我知道这一决定有业务上的考虑,我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响,尤其是负面影响。影响是十分巨大的。”

不过John Montgomery拒绝了员工的请求,他说:“我能重新考虑吗?我不能。很不幸,压力还是一样的。”当时John Montgomery并没有说团队会被取消。

的确,当时只是裁减了员工,伦理和社会团队仍然存在,只是人少了之后想推进宏大计划变得有心无力。

3月6日,伦理和社会团队剩余员工开会,John Montgomery明确告诉员工团队将会完全取消。

团队曾预警引入OpenAI工具的风险

就在伦理和社会团队被砍之前,他们正在做一件十分重要的事:预测微软OpenAI工具向全球推广之后会发生什么?

去年该团队曾撰写一份备忘录,详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统,它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。

必应Image Creator相当成功,微软研究人员却警告说,由于任何人都可以轻易模拟艺术家的风格,艺术家生计可能会受到影响。备忘录称:“测试必应Image Creator发现,只需要给AI简单提示,比如输入艺术家的名字和媒介(如绘画、打印、摄影、雕塑),生成的图片就可以与原作媲美,很难分出真假。”

报告认为必应Image Creator可能会损害微软的品牌形象,艺术家以及与他联系的利益相关方也会受到伤害,艺术家和公众可能会抱怨。

去年OpenAI更新服务条款,用户完全拥有DALL-E图片的版权,当时微软伦理和社会团队十分困惑。他们认为:“如果AI生成的图片只是艺术作品的图字模仿品,根据提示制作图片的人却拥有完整版权,这在伦理道德上是讲不通的。”

怎么应对?微软研究人员提出一套方案,比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片,还有就是创建一个集市出售艺术家作品,如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。

微软称在发布之前工具已经修改过,目的是解决备忘录中提到的问题,而且负责任AI办公室也做了很多工作。

那么,你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后,会认真规范AI,让它符合伦理吗?(小刀)

来源:极客网内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯