人工智能和机器学习如何改变安全的未来

根据IBMSecurity的数据，2020年，全球数据泄露的平均成本为386万美元，美国为864万美元。随着我们的技术堆栈随着微服务、物联网和云服务变得更加复杂，我们必须保护的端点数量不断增加。

[[427497]]

企业可以利用人工智能的力量来对抗更狡猾的恶意软件和网络钓鱼攻击。我们还可以使用它来增强我们的安全团队，使他们能够处理越来越多的威胁。

随着这些算法成为我们IT系统中更重要的部分，我们还需要询问我们如何保护我们自己的AI。让我们深入探讨人工智能和机器学习在保护我们的组织方面可以产生的影响。

识别不断发展的恶意软件和网络钓鱼攻击

恶意软件和网络钓鱼攻击变得越来越复杂。恶意软件作者不断产生新的变种，抛弃旧的病毒特征以逃避检测。当安全专业人员追逐这些不断变化的病毒蓝图时，这是一场终极的打地鼠游戏。

机器学习可以提供帮助。通过使用所有已知恶意软件的历史目录，它可以查明常见的行为模式，例如常见的文件大小、这些文件中存储的内容以及代码中隐藏的字符串模式。通过识别这些指纹，可以实时关闭新病毒或现有病毒的变种。

机器学习可以实时查明模式并关闭恶意软件。

使用人工智能，网络钓鱼攻击变得类似于精心调整的营销电子邮件。犯罪者不仅可以通过网络挖掘您的姓名和电子邮件地址，还可以了解您的工作地点、兴趣以及您信任的朋友和同事的姓名。这始终可以手动完成，但人工智能使黑客能够大规模构建这些自定义配置文件。

除了针对特定主题和人员定制电子邮件内容外，黑客还可以分析电子邮件回复，看看哪些措辞会触发更大的点击率，因为它会不断学习如何制作完美的网络钓鱼钩子。

为了解决这个问题，我们可以设置人工智能来监控我们的网络，以确定我们员工日常活动的模式。一旦建立了基线，该模型就可以识别网络钓鱼链接的点击何时不正常，并在用户凭据被盗用之前关闭恶意活动。它是一个非常有针对性的安全墙，围绕用户构建，对整个网络和业务造成的干扰最小。

加入竞赛

人工智能社区一直是开源的强大支持者。他们定期共享源代码和数据集，以帮助进一步发展这项有前途的技术。

不幸的是，你不能在代码库周围放置铁丝网来阻止坏人。当您将这些现成的工具与云计算能力相结合时，任何黑客都拥有工具和基础设施来构建基于人工智能的攻击，以达到毁灭性的效果。

虽然我们的数据有限，关于有多少黑客是由人工智能推动的，但我们知道这将是未来几年黑客工具包中的一项强制性技能。随着人工智能工具变得越来越强大，计算时间越来越便宜，哪个黑客不想加大对类固醇的攻击?

这确实是一场军备竞赛，组织将被迫部署人工智能安全解决方案，以跟上流氓行为者的步伐。

保护人工智能免受黑客攻击

这个问题有另一方面：据Gartner称，37%的组织已经在某种程度上实施了人工智能。这比四年前增加了470%。

人工智能和机器学习正迅速成为我们IT基础设施的关键组成部分。这使他们成为目标。如果黑客可以访问我们的AI，他们就可以毒害我们的数据以感染我们的模型。他们可以利用我们算法中的错误来产生意想不到的结果。无论是执行军事任务的无人机，还是向客户提供产品的工作流程，失败都可能是灾难性的。

增加而不是替换安全人员

人们听说机器人和人工智能如何准备取代他们的工作。但通常情况下，人工智能将补充我们的工作，使我们更有效地发挥我们的作用。网络安全也不例外。

人工智能安全工具不是您安装后忘记的东西。它们是机器学习模型，必须在数百万个数据点上进行训练。如果模型没有产生所需的响应，那么您将比以往任何时候都更容易受到攻击，因为您是在错误的安全感下运作的。

一旦模型经过审查，工作就不会停止。与您之前的解决方案相比，这种新的监控可能会捕获更多的异常。安全专业人员需要对这些警报进行分类，以将潜在威胁与噪音区分开来。没有适当的勤奋，一切都会变成噪音。

人工智能在安全方面的局限性

人工智能和机器学习并不是万能的。安保人员必须与这些模型密切合作，对它们进行培训和磨练，而这些专业人员既不便宜也不容易找到。

另一个挑战是数据和成本：我们需要积累足够的干净数据来构建我们可以信任的强大算法。干净的数据不会发生——必须对其进行分析和验证以确保其准确性。

存储大量数据和购买必要的计算时间来运行大量ML算法的成本非常高，而实施包罗万象的人工智能安全解决方案对某些人来说可能过于昂贵。根据《哈佛商业评论》，40%的高管表示人工智能计划所需的技术和专业知识过于昂贵。

传统的防病毒和防火墙解决方案无法跟上零日威胁和恶意软件变种浪潮的步伐。人工智能和机器学习提供了一种主动解决方案。他们可以从用户社区中找到行为模式，以在威胁开始之前阻止威胁。人工智能可以帮助安全专业人员消化大量数据以查明问题。他们可以帮助我们跟上意图伤害人工智能黑客社区的步伐。

在成为所有企业的安全解决方案之前，人工智能仍有一些成熟的工作要做，但它正在迅速发展。如果没有人工智能和机器学习的核心，很难想象IT安全的未来。