文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

马斯克称人工智能毁灭人类的可能性为 20%,但仍值得冒险

2024-11-29 23:50

关注

马斯克重新评估了之前他对人工智能的风险评估,他在研讨会上表示:“我认为人工智能有可能终结人类文明。我可能同意 Geoffrey Hinton 的观点,这个概率大约是 10% 到 20% 左右。”但他补充说:“我认为积极的可能性场景要大于消极的可能性场景。”马斯克并没有提到他是如何计算该风险的。

IT之家注意到,去年 11 月,马斯克表示这项技术失控的可能性 “并非零”,但当时他并未断言失控的人工智能会毁灭人类。

尽管马斯克一直倡导监管人工智能,但去年他创办了一家名为 xAI 的公司,致力于进一步拓展人工智能的强大功能。xAI 是 OpenAI 的竞争对手,OpenAI 是马斯克与萨姆・阿尔特曼 (Sam Altman) 共同创立的公司,但马斯克在 2018 年辞去了 OpenAI 董事会职务。

在峰会上,马斯克估计到 2030 年,数字智能将超过所有人类智能的总和。虽然他仍然坚持潜在的正面影响大于负面影响,但马斯克用他在公开场合使用过的一些最直接的措辞承认了人工智能继续按当前轨迹发展将给世界带来的风险。

“你培育了一个人工智能,这几乎就像养一个孩子,但它却是一个超级天才,一个神一般的孩子 —— 教养它的方式至关重要,” 马斯克在 3 月 19 日的硅谷活动上谈到人工通用智能时说道,“我认为对人工智能安全来说非常重要的一点是,让它尽可能地追求真理和保持好奇心。”

马斯克表示,他关于实现人工智能安全最佳方式的“最终结论”是让人工智能以一种迫使其诚实的方式成长。

“不要强迫它撒谎,即使真相令人不快,” 马斯克谈到让人工智能安全的方式时说道, “这非常重要。不要让它撒谎。”

据《独立报》报道,研究人员发现,一旦人工智能学会对人类撒谎,就无法使用当前的人工智能安全措施来扭转这种欺骗行为。更令人不安的是,研究人员还补充说,人工智能有可能学会自己欺骗,而不是被特意教导撒谎。

来源:IT之家内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯