AI的蓬勃发展以及AI应用的激增改变了企业的运营模式,越来越多的企业开始大规模地使用AI,尤其在大型企业中,大模型已被广泛地应用在企业的各个生产流程中,人们享受着AI带来的便利。
但是,大规模采用AI也为企业安全态势带来了新挑战。据派拓网络统计,在目前公开的模型中,80%的模型能够被“越狱”,同时还有一百余种恶意模型在外传播。而企业中的开发人员用AI工具写代码,或者直接用AI开发应用,都会对企业产生潜在的安全威胁。
所以,为了帮助企业避免来自AI的威胁和攻击,派拓网络提出“从源头规划部署AI安全”。近日,派拓网络举办了网络媒体沟通会。在会上,派拓网络大中华区售前总经理董春涛介绍了派拓网络的AI赋能网络安全策略以及近期创新的安全解决方案。
从“源头”规划部署AI安全
那么,何为“源头”?对于派拓网络而言,这一“源头”指的是在AI技术应用的起始阶段,即在数据的生成、处理、存储和使用的每一个环节,都要采取严格的安全措施。这意味着,从数据的最初采集点直至在AI系统中的最终应用,整个过程都必须确保数据的安全性,防止未经授权的访问和潜在的数据泄露风险。
为了实现这一目标,派拓网络提出三大产品线和一个咨询服务,为企业构建坚固的安全防线。
第一个产品线是AI访问安全。AI访问控制能够实时、全面可视化员工访问AI的情况,在保护数据的同时控制员工访问AI应用的颗粒度,避免员工在使用AI应用时泄露企业数据、个人隐私数据等敏感信息。
第二个产品线是AI安全态势管理,AI-SPM。AI-SPM具备感知AI模型、infra、数据集、代理的能力,并能将其可视化,实现对整体AI 生态的全面发现。此外,AI-SPM还具备实时评估和鉴别安全风险的能力,并针对安全风险给出可行动的见解和补救措施指导。
第三个产品线是AI运行时防护,AI Runtime Security。与传统的应用保护相比,AI应用的保护更为复杂,因为除了对AI应用本身的保护,还要确保支撑AI应用运行的数据集和模型的安全。数据集和模型是AI应用的基石,一旦受到攻击,可能会严重影响AI应用的性能和准确性。因此派拓网络推出保护AI应用、AI数据和AI模型的AI运行时防护。
而咨询服务AI Security Assessment能够帮助企业前期调研AI的使用情况,发现潜在风险的同时提出改善建议。
Precision AI赋能,助力企业用AI抵御AI攻击
随着AI的发展,越来越多的攻击者和黑客开始采用AI技术进行攻击。通过AI,他们可以更轻松地攻击更多目标,以闪电般的速度扩大攻击范围,且每次攻击都是零日攻击,这对企业的安全造成了巨大的威胁。
在AI时代,什么样的安全防护才能避免AI的攻击?董春涛表示,实时性和自动化是关键。具体来说,企业需要实现持续监测异常和破坏行为,面对突发事件能够实时响应并自动抑制和消除威胁,减少人工介入。而要想实现这两点,则需要用AI抵御AI的攻击。
在近十年的发展中,人工智能技术已经成为提升安全检测能力的关键因素,毕竟唯有及时发现潜在威胁,才能有效进行防御。因此,众多技术都在不断优化,致力于提高检测的准确性和检出率。
不过,派拓网络坚信,仅仅依靠检测是不足以全面保障网络安全的,因此必须将检测与防御紧密结合,形成一套完整的安全策略。派拓网络始终致力于探索和实施有效的防范措施,其中包括高度自动化的响应机制。在派拓网络的三大产品线中,防御功能的集成化程度非常高,许多产品都实现了自动化的防御措施。
不过,最值得一提的是Precision AI技术。依托于在安全领域积累的大量数据,包括长期运行的防火墙、终端防护以及云中防护数据,再结合十余年在机器学习和深度学习领域的经验,派拓网络推出了Precision AI技术。
目前,派拓网络已经在全平台内置了Precision AI的基础组合,为零信任网络平台、CODE TO CLOUD平台以及AI驱动的SOC平台提供支持,助力企业利用AI技术构建起一道坚固的安全防线。通过这些措施,派拓网络不仅提升了检测能力,更在防御领域实现了质的飞跃,为企业网络安全提供了全面的保障。
此外,在传统的安全领域,从业人员常常面临产品繁多、配置复杂、定制化工具数量庞大以及工作流程频繁切换的挑战。这些挑战不仅增加了从业人员的操作难度,也无形之中要求从业人员必须掌握各个安全产品。为了解决这些难题,派拓网络在过去的一年中充分利用自己的数据和积累的经验,不断训练大模型,最终推出Copilots工具。这种自然语言交互方式的引入,极大地降低了安全管理系统和工具的使用门槛,使安全从业人员能够更加轻松、高效地管理和操作复杂的安全系统。
随着AI技术的不断进步,派拓网络正朝着自主化运营和全自动化的方向发展。未来,派拓网络的目标是实现AI与安全的完全融合,达到自适应和自学习的高度,最终实现自主安全的理想状态。这不仅是技术发展的必然趋势,也是派拓网络对安全领域未来发展的坚定承诺。