文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

黑客如何使用AI和ML来瞄准企业

2024-12-13 21:48

关注

而黑客常常利用人工智能和机器学习方面来对付企业。例如轻松访问云环境,使得开始使用AI并构建强大、有能力的学习模型变得简单。

让我们看看黑客如何使用人工智能和机器学习来瞄准企业,以及防止以人工智能为重点的网络攻击的方法。

黑客使用AI对抗安全团队的3种方式

1.在基于人工智能的工具测试恶意软件是否成功

黑客能以多种方式使用ML。第一种方法是通过构建他们自己的机器学习环境,并对自己的恶意软件和攻击实践进行建模,以确定安全团队寻找的事件和行为的类型。

例如,一个复杂的恶意软件可能会修改本地系统库和组件,在内存中运行进程,并与黑客控制基础设施拥有的一个或多个域通信。所有这些活动结合在一起创建了一个称为战术、技术和程序(TTP)的配置文件。机器学习模型可以观察TTP,并使用它们来构建检测能力。

通过观察和预测安全团队如何检测TTP,黑客可以巧妙而频繁地修改指标和行为,领先于依赖基于人工智能的工具检测攻击的安全团队。

2.用不准确的数据破坏AI模型

黑客还利用机器学习和人工智能,用不准确的数据破坏人工智能模型,从而破坏环境。机器学习和人工智能模型依靠正确标记的数据样本,来构建准确和可重复的检测配置文件。通过引入看起来类似于恶意软件的良性文件或创建被证明是误报的行为模式,黑客可以诱骗AI模型,使其相信攻击行为不是恶意的,还可以通过引入AI训练标记为安全的恶意文件来毒化AI模型。

3.绘制现有AI模型

黑客积极寻求绘制网络安全供应商和运营团队使用的现有和正在开发的AI模型。通过了解人工智能模型的功能及其作用,黑客可以在其周期内积极干扰机器学习操作和模型。这可以使黑客通过欺骗系统来影响模型,使系统有利于黑客。它还可以让黑客通过巧妙地修改数据来避开基于已识别模式的检测,从而完全避开已知模型。

如何防御以人工智能为中心的攻击

防御以人工智能为重点的攻击是极其困难的。安全团队必须确保与学习模型和模式开发中使用的数据相关联的标签是准确的。通过确保数据具有准确的标签标识符,用于训练模型的数据集可能会变得更小,这对人工智能的效率没有帮助。

对于那些构建AI安全检测模型的人来说,在建模时引入对抗技术和策略可以帮助将模式识别与野外看到的策略结合起来。约翰霍普金斯大学的研究人员开发了木马软件框架,以帮助生成木马和其他恶意软件模式的人工智能模型。麻省理工学院(MIT)的研究人员发布了一款用于自然语言模式的工具TextFooler,该工具可能有助于构建更具弹性的人工智能模型,以检测银行欺诈等问题。

随着人工智能的重要性日益增长,黑客将寻求通过自己的研究来超越安全团队的努力。对于安全团队来说,及时了解黑客的攻击策略以防御他们是至关重要的。

来源:千家网内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯