该计划的核心举措是开源Magika,这是一款用于文件类型识别的AI工具,能够帮助检测恶意软件。目前,Magika已被用于保护多个谷歌产品。谷歌在博客文章中写道:“Magika的表现优于传统的恶意文件识别方法,整体准确率提升了30%,在识别传统方法难以识别的VBScript、JavaScript和Power Shell等恶意代码方面,精确度提升了95%。”
“开源谷歌自研人工智能网络安全工具Magika是这一新计划的关键,”BMNxt商业和市场咨询公司创始人分析师Deepak Kumar表示,“Magika已被有效用于保护Gmail、谷歌云端硬盘和安全浏览等产品,开发者社区将认识到其价值,并将其用于开发更具针对性的防御工具。”
谷歌还宣布成立了一个由来自英国、美国和欧盟的17家初创公司组成的网络安全人工智能团队。“这将通过国际化战略、人工智能工具以及使用这些工具的技能来加强跨大西洋网络安全生态系统,”谷歌在博客中写道。
除开源Magika之外,谷歌网络安全人工智能防御计划的主要举措如下:
- 投资安全的人工智能数据中心网络。从2019年到2024年底,谷歌将在欧洲的数据中心投资超过50亿美元,帮助支持安全、可靠地访问一系列数字服务,包括广泛的生成式AI功能,例如VertexAI平台。
- 设立200万美元的研究基金,资助芝加哥大学、卡内基梅隆大学和斯坦福大学等机构的研究。
- 将其1500万美元的Google.org网络安全研讨会项目扩展至整个欧洲,该项目旨在支持大学培养来自弱势社区的下一代网络安全专家。
- 谷歌人工智能网络防御计划建立在其去年推出的安全人工智能框架(SAIF)之上,SAIF旨在减轻人工智能系统相关风险,例如“窃取模型、训练数据中毒、通过提示注入和恶意输入提取训练数据中的机密信息”。
最后,谷歌表示,人工智能可以帮助防御者摆脱困境,大大提高安全专业人员在威胁检测、恶意软件分析、漏洞检测、漏洞修复和事件响应方面的工作效率。