威胁人工智能 Forrester：2024年五大网络安全新威胁

Forrester近日发布《2024年网络安全威胁预测报告》指出，人工智能正重塑网络安全格局，武器化大语言模型正成为首选攻击工具，安全团队在应对武器化人工智能攻击方面将面临日益严峻的挑战。此外，Forrester还预测2024年网络安全行业将面临诸多新兴威胁，热点包括深度伪造、APT组织和网络犯罪团伙兜售的“勒索软件即服务”、FraudGPT恶意大模型、物联网攻击服务，以及无痕攻击（无法被网络安全系统检测到的定制化恶意软件攻击）。根据CrowdStrike最新发布的《2024年全球威胁报告》显示，无痕攻击在所有攻击事件中的占比从2022年的71%上升到2023年的75%。

数据泄露平均成本高达218万美元

2024年企业网络安全态势空前严峻。Forrester最近针对安全和风险管理专业人士的调查发现，近八成(78%)的受访者表示其组织的敏感数据在过去12个月中至少被泄露或入侵过一次。报告指出：“一次成功的网络攻击会成为未来攻击的信号弹。” 对比2022年和2023年的安全调查数据，过去12个月内经历过6到10次攻击的受访者比例增加了13%。48%的受访者曾遭遇过损失超过100万美元的网络攻击或数据泄露事件。其中大多数数据泄露事件的修复成本在200万至500万美元之间(27%)，还有3%的事件的修复成本超过1000万美元。数据泄露的平均预估成本为218万美元。接受采访的每3位安全和风险管理专业人士中就有1位遭受过总损失额在200万至1000万美元以上的数据泄露事件。——Forrester

Forrester评选的2024年五大安全威胁

利用虚假信息操纵舆论、日益增长的深度造假风险、生成式人工智能数据泄露、人工智能软件供应链漏洞以及太空安全是Forrester今年警告的五大安全威胁。下面将逐一进行概述。

01大选年的叙事（舆论）操控攻击

舆论操控攻击通过操纵信息、破坏其可信度来抹黑或扭曲叙事的真实含义。Forrester的报告写道：“新技术使传播复杂的虚假信息和错误信息变得更加轻松快捷。2024年将有64个国家举行选举，因此旨在塑造舆论和影响行为的叙事操控攻击将尤为盛行。”Forrester指出，俄罗斯国家攻击者就曾利用舆论操控攻击试图在美国和墨西哥边境争论问题上挑动政治分歧。美国情报界最近发布的《2024年年度威胁评估》详细解释了国家攻击者如何利用舆论操控攻击和其他技术扰乱外交政策和选举。

02深度伪造引发身份安全危机

深度造假是快速增长的威胁之一，其背后的推动力包括易于获取的廉价计算能力、生成式人工智能算法（包括生成对抗网络(GAN)和自动编码器）以及用于转换人物图像（例如换脸）的移动应用程序激增。其目标是创建具有高度音视频可信度的逼真人物形象。深度伪造通常用于创建用于欺诈、实施勒索软件攻击、窃取数据和知识产权(IP)的合成身份。Forrester指出，一些深度伪造案例被用于操纵股价、损害企业声誉和品牌、降低员工和客户体验以及放大错误信息。识别和阻止深度伪造威胁需要能够检测音频和图像篡改的算法。Forrester建议IT和安全团队研究如何使用身份验证器应用程序来控制媒体源，并通过额外的验证和保护层封装面部和语音生物识别技术，包括行为生物识别、设备ID指纹识别/信誉、机器人管理和检测、数字技术欺诈管理和无密码身份验证。

03生成式人工智能数据泄露

对于许多CISO来说，防御生成式人工智能泄露敏感数据的重点是提示工程、提示注入和重复提示攻击。随着越来越多的企业引入基于生成人工智能的应用程序，数据泄露风险正不断累积。鉴于微软Copilot、Salesforce Einstein GPT、Anthropic的Claude或Perplexity等大语言模型工具带来的生产力提升，CISO并不愿意完全禁止使用这些工具。Forrester指出，目前已经涌现出一些用于内容分析和过滤的新技术，包括PrivateAI、Prompt Security、ProtectAI和数据泄露防护(DLP)供应商，这些供应商正试图重新定位或转向提供此领域的安全控制。此外，思科、CradlePoint的Ericom生成人工智能数据泄露防护、Menlo Security、Nightfall A.I、Wiz和Zscaler是市场上提供此类安全方案的代表性厂商。其中，CradlePoint的独特之处在于它依赖于无客户端方法，该方法在Ericom云平台内的虚拟浏览器中执行用户与生成人工智能网站的交互。CradlePoint表示，这种方法能够在其云平台中部署数据丢失防护和访问策略控制。通过将所有流量路由到专有云平台，可以防止将个人身份信息(PII)或其他敏感数据提交到ChatGPT等生成式人工智能网站。

04人工智能软件供应链攻击

在人工智能软件供应链的源代码中嵌入恶意可执行程序是一种特别难以防范的威胁。攻击软件供应链并制造混乱是勒索软件攻击者偏爱的策略。国家黑客攻击者、网络犯罪集团和高级持续威胁(APT)组织也经常攻击软件供应链，因为它们从来都是软件公司或企业防御最薄弱的环节。值得注意的是，在短短一年内，91%的企业成为软件供应链事件的受害者，这凸显了对持续集成/持续部署(CI/CD)管道采取更好保护措施的必要性。GitHub和Hugging Face是最受欢迎的开源模型和框架之一。在人工智能软件供应链入侵尝试中，攻击者还会寻找利用供应链和框架的机会。Forrester援引了OpenAI的ChatGPT被泄露的事件，该事件是由于恶意行为者利用了Redis开源库中的漏洞造成的。大语言模型只是高度复杂的AI生态系统的一小部分。

05太空成为安全战略高点

间谍卫星和先进技术是各国攻击武器库的核心组成部分。美国外交关系委员会发现，2022年78%的国家网络攻击的目的是间谍活动，到2023年这一比例上升到82%。卫星正成为越来越需要保护的关键威胁面。2023年4月，网络空间日光委员会敦促白宫将太空设施纳入关键基础设施范畴，此前俄罗斯在入侵乌克兰期间攻击了Viasat的卫星网络。2023年晚些时候，德国研究人员披露了卫星技术中发现的巨大漏洞。鉴于不断变化的地缘政治格局，卫星供应链正受到更严格的审查。构建更具网络弹性的卫星离不开强大的安全网络为卫星供应链（包括地面和航天器）提供保护。截至2022年底，共有6718颗活跃卫星环绕地球运行，预计到2030年还将发射5.8万颗卫星。美国国防情报局在其2022年《太空安全挑战》报告中写道：“太空正变得越来越军事化。一些国家已经开发、测试和部署了各种卫星和反太空武器。中国和俄罗斯正在开发新的太空系统以提高其军事能力并减少对美国太空系统的依赖。”参考链接：https://www.forrester.com/report/top-cybersecurity-threats-in-2024/RES180754

文章列表