文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

公开信敦促暂停人工智能研究

2024-11-30 16:07

关注

生命未来研究所在3月22日的公开信中写道:“具有与人类竞争的人工智能系统会给社会和人类带来巨大风险。”“先进的人工智能可能代表着地球生命史的深刻变化,应该以相应的谨慎和资源进行规划和管理。不幸的是,这种水平的规划和管理并没有实现。”

该研究所认为,如果没有人工智能治理框架——比如阿西洛马人工智能原则(Asilomar AI Principles,是著名的阿西莫夫的机器人三大法则的扩展版本。这23条准则由该研究所牵头制定。)——我们就缺乏适当的检查机制来确保人工智能以有计划和可控的方式发展。这就是我们今天面临的情况。

信中写道:“不幸的是,这种水平的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署越来越强大的数字思维,而没有人——甚至他们的创造者——能够理解、预测或可靠地控制这些思维。

在人工智能研究人员没有自愿暂停的情况下,生命未来研究所敦促政府采取行动,防止对大型人工智能模型的持续研究造成伤害。

顶尖的人工智能研究人员在是否暂停研究的问题上存在分歧。5000多人签名支持这封公开信,其中包括图灵奖得主Yoshua Bengio、OpenAI联合创始人埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。

然而,并不是每个人都相信禁止研究比GPT-4更强大的人工智能系统符合我们的最大利益。

“我没有签署这封信,”Meta首席人工智能科学家、图灵奖得主Yann LeCun(2018年与Bengio和Geoffrey Hinton一起获得图灵奖)在推特上说。“我不同意它的前提。”

LeCun、Bengio和Hinton被美国计算机协会(ACM)称为“深度学习革命之父”,他们在十多年前通过对神经网络的研究掀起了当前的人工智能热潮。当年,深度神经网络是世界各地人工智能研究人员的主要关注点。

随着谷歌2017年发表的Transformer论文,人工智能研究进入了超速状态。很快,研究人员注意到大型语言模型意外出现的能量财富,例如学习数学的能力、思维链推理和指令遵循。

2022年11月下旬,当OpenAI向世界发布ChatGPT时,公众尝到了这些LLM能做什么的滋味。从那时起,科技界一直致力于在他们所做的一切中实施LLM,而建造更大、更强大的模型的“军备竞赛”也获得了额外的动力,正如3月15日GPT-4的发布。

尽管一些人工智能专家对LLM的负面影响表示担忧,包括撒谎倾向、私人数据披露风险以及对就业的潜在影响,但它并没有使公众对新人工智能功能的巨大需求降温。英伟达首席执行官黄仁勋(Jensen Huang)称,我们可能正处于人工智能的转折点。但精灵似乎已经从瓶子里出来了,不知道它下一步会去哪里。

来源:今日头条内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯