美国佐治亚理工学院助理教授伦纳特·马施迈尔8月14日发表题为《网络冲突中的人工智能：短期进攻机会，长期防御优势》的文章称，人工智能时代的网络攻防博弈走向将塑造网络冲突的未来及其对常规和非常规战争的影响，而人工智能作为加速与阻滞并存的“双刃剑”，在提升战争门槛以下网络行动效能、让“不战而胜”的网络战梦想接近现实的同时，也在多个维度使这一目标更难实现。

一方面，人工智能仅使进攻性网络行动更高效而非更有效。文章称，与普遍的预期相反，网络防御或许更可能从人工智能自动化中获益；尽管人工智能驱动的网络攻击吸引更多关注，但网络攻击的核心挑战恰恰反映了人工智能模型的劣势，而网络防御任务则体现了其优势；进攻端依赖的创造力与欺骗性恰是人工智能的短板，而防御端所需的快速检测与精准缓解正是人工智能的强项，这导致网络攻防存在着自动化差距；人工智能代理在入侵系统方面正迅速进步，但当需要针对特定系统实现特定目标时，使用人工智能反而可能降低目标达成的可能性；进攻性人工智能自动化会给本已充满不确定性的过程带来更多不确定性，例如采用的通用工具或粗暴策略很容易被检测到、因幻觉而虚构不存在的事物、脱离掌控自主行动、以增加失败风险的方式行事等；虽然人为干预可以帮助纠偏并指导欺骗行动，但又会丧失人工智能自动化的速度优势。

另一方面，自动化差距有利于网络防御。文章称，人工智能自动化在网络冲突的高端领域，即国家支持的网络行动中，革命性潜力最小；国家支持的行为体或许能够更快地行动，但同时也面临着更高的被发现或出现意外的风险，这些效能上的损失很可能超过效率提升带来的收益；人工智能自动化在网络冲突中的应用不太可能增加“网络珍珠港”或其他破坏性网络攻击发生的可能性，也不太可能彻底改变非战争状态下的网络行动；网络行为体或许能够更高效地开展行动，但如果这些行动的效能没有显著提高，就难以产生战略性显著影响；人工智能模型擅长快速、大规模地进行模式识别，这为提升漏洞检测和入侵检测这两项关键的防御任务提供了巨大的潜力，大型机构及网络安全供应商将尤为受益。

文章预测，人工智能在网络攻防中的普及应用可能给网络冲突带来三个后果。一是攻击者可利用防御方采用人工智能的滞后时间获得大量可乘之机。传统的网络安全和网络风险管理方法过分强调合规，导致适应速度迟缓，为攻击者创造了大量“唾手可得的果实”，短期内将在低于战争门槛的网络行动中形成目标丰富的攻击环境。二是人工智能的颠覆性影响或许会增强长期稳定性。随着人工智能的普及，短期内的“进攻盛宴”很可能会被长期的防御优势所取代，攻击者将面临一个更具挑战性、目标越来越少的局面，非战争性质的国家间网络冲突强度可能低于当前水平。三是攻击者可能会冒更大的风险“孤注一掷”。为了避免其攻击手法被防御性人工智能模型在多次行动中分析和瓦解，攻击者可能会将所有技能和精力投入到一次大规模攻击中，以期在力所能及的范围内最大化其影响，但面临速度、强度与控制之间的三难困境。

文章建议，人工智能时代的美国网络政策应主要关注三大方面。文章称，网络防御领域存在着一个“潜在的黄金时代”，但意志坚定且资源雄厚的威胁行为体仍然会找到漏洞并入侵系统，损害美国国家利益。美国政策应重点关注三个方面：一是开展独立评估，系统测试人工智能自动化如何影响网络冲突实际结果，以修正实验室评估的固有偏见；二是促进人工智能防御应用，采取在国内支持中小企业、在国际支持盟友的双轨策略，配合美军“前出狩猎”行动降低其成为攻击目标的吸引力；三是构建主动防御体系，利用人工智能模型易受欺骗的弱点误导、消耗和反制攻击者，同时测试防御代理对同类技术的适应能力，以降低自身脆弱性，使欺骗技能成为代理式人工智能时代的关键防御资产。

奇安网情局编译有关情况，供读者参考。

网络冲突中的人工智能：短期进攻机会，长期防御优势

网络安全专家和学者普遍担忧人工智能将彻底改变网络冲突。近期一系列报告描绘了人工智能驱动的、功能强大的自动化网络攻击的景象。7月，OpenAI公司最新模型似乎印证了这些担忧：它突破了原本安全的沙箱，并在其管理人员不知情的情况下入侵了机器学习平台 HuggingFace，试图在测试中作弊。该人工智能模型不仅自主发现了本应将其封锁在沙箱内的零日漏洞，还成功入侵了一家大型企业网络。然而，故事中一个重要的转折点是，HuggingFace在人工智能代理的帮助下几乎瞬间就检测到了入侵者。

这一插曲凸显了一个重要方面：网络攻击者并非孤立存在；相反，他们始终与网络防御者展开博弈。这场博弈的走向将塑造网络冲突的未来，及其对常规和非常规战争的影响。遗憾的是，目前对于人工智能自动化给进攻和防御带来的新挑战和机遇，仍然缺乏系统的分析。

一方面，正如一些人预测的那样，人工智能自动化可以大幅提升战争门槛以下网络行动和综合活动的效能。如果真是如此，各国将能够通过非常规战争获得比美国国防战略设想更大的战略收益。网络战的古老梦想——不费一枪一弹就能击败敌人——或许最终能够实现。但人工智能的崛起也让这个梦想的实现变得更加困难。

一

人工智能提高效率而非效能

我在2026年2月发表在《国际安全》杂志上的一篇新文章《欺骗与检测：为什么人工智能更有利于网络防御而非进攻》中指出，这些预期很可能并不现实。与普遍的预期相反，网络防御或许更可能从人工智能自动化中获益。尽管人工智能驱动的攻击频频登上新闻头条，但冷静分析表明，核心进攻挑战恰恰反映了人工智能模型的弱点，而防御任务则体现了其优势。网络进攻需要创造力和欺骗性，而网络防御则需要精准快速的检测和缓解。人工智能擅长检测，但众所周知，它在欺骗和创造力方面却力不从心。因此，进攻和防御之间存在着自动化差距。人工智能自动化使进攻性网络行动更高效（efficient），但不一定更有效（effective）。有时，人工智能自动化甚至可能削弱进攻性网络行动的有效性。

人工智能自动化虽然可以加快操作速度，但也带来了新的不确定性，因为人工智能可能会使用通用工具或粗暴的策略，这些工具或策略很容易被检测到，而且容易出现不可预测的行为。此外，大语言模型往往会产生幻觉，即虚构一些并不存在的事物。事实上，OpenAI的案例就充分说明了这种不可预测性：一个被要求在安全环境中展示自身能力的人工智能模型，竟然选择作弊并逃脱。在这个案例中，这种不可预测的行为涉及入侵网络，从而展示了该模型的能力。

然而，至关重要的是，这种行为与模型操控者的目标完全不符。因此，一个被指派入侵特定网络以获取特定数据的模型，完全有可能意外地将第三方作为目标，例如目标组织所使用的云服务提供商或软件供应商。又或者，如果模型作弊，生成它本应窃取的数据的近似值呢？它的操控者会如何以及何时发现？即使这些偏差均未发生，模型安分地执行指定任务，它也可能以增加失败风险的方式行事。

HuggingFace之所以能迅速检测到OpenAI的恶意代理，是因为该模型采用了“喷洒式”攻击方式，试图大规模地检测和利用漏洞，在4天内执行了17600次操作。人工智能模型的效率和速度远远超过任何人类团队，但这种方式几乎肯定会暴露自身，正如OpenAI的案例所示。

人工智能代理在入侵系统方面正迅速进步，但当需要针对特定系统实现特定目标时，使用人工智能反而可能降低目标达成的可能性。简而言之，进攻性人工智能自动化会给本已充满不确定性的过程带来更多不确定性。人为干预可以帮助预防此类错误并指导欺骗行动，但却会丧失自动化的速度优势。至关重要的是，随着网络冲突风险的增加，创造力和欺骗能力对于成功变得愈发重要。事实上，它们正是最先进的、国家支持的攻击者的标志性特征。

二

自动化差距有利于防御

因此，人工智能自动化在网络冲突的高端领域，即国家支持的网络行动中，革命性潜力最小。换言之，国家支持的行为体或许能够更快地行动，但同时也面临着更高的被发现或出现意外的风险。这些效能上的损失很可能超过效率提升带来的收益。简而言之，人工智能自动化在网络冲突中的应用不太可能增加“网络珍珠港”或其他破坏性网络攻击发生的可能性。出于上述同样的原因，它也不太可能彻底改变非战争状态下的网络行动。行为体或许能够更高效地开展行动，但如果这些行动的效能没有显著提高，它们在战略上仍然难以产生显著影响。

事实上，由于防御方面存在巨大机遇，结果更有可能相反。人工智能模型擅长快速、大规模地进行模式识别。这种能力为提升漏洞检测和入侵检测这两项关键的防御任务提供了巨大的潜力。此外，训练数据集越大，人工智能模型的性能往往越好。因此，那些最容易遭受网络攻击的大型组织，也最能从人工智能自动化防御中获益。特别是，拥有从客户那里收集的大量遥测数据集的网络安全供应商，在训练专用防御模型方面拥有关键的竞争优势。

三

启示：进攻性机会窗口及其关闭之道

随着进攻方和防御方都采用人工智能，网络冲突将面临三个后果。

首先，攻击者可以利用防御方采用人工智能的滞后时间，获得大量可乘之机。网络安全和网络风险管理已变得高度官僚化，过于注重合规而非实际安全，导致合规流程缓慢且成本高昂。这种方法难以适应快速变化，为利用人工智能的攻击者提供了可乘之机，让他们能够利用那些在采用人工智能方面落后的受害者。短期内可能出现的结果是，在低于战争门槛的网络行动中，将出现一个充满唾手可得“果实”的目标丰富环境。这种不匹配的一个重要方面是，前沿模型中内置的网络安全防护措施产生了意想不到的影响。当HuggingFace检测到其网络遭到入侵时，它试图使用Anthropic的Claude和Fable模型进行分析，但却被这些模型的防护措施所阻止。最终，它不得不转而使用中国开发的开放权重模型。具有讽刺意味的是，旨在防止攻击性行为者利用尖端模型的保障措施最终阻碍了防御者。

其次，出乎意料的是，人工智能的颠覆性影响或许会增强长期稳定性。随着人工智能的普及，短期内的进攻机会窗口很可能会被长期的防御优势所取代。当防御者从人工智能自动化防御中获益时，针对大型且实力雄厚的组织的网络攻击将变得比现在更加困难。短期内的进攻盛宴可能会逐渐消退，取而代之的是一个更具挑战性、目标越来越少的局面。这意味着，非战争性质的国家间网络冲突的强度可能会比现在更低。

然而，情况也有另一面，攻击者可能会冒更大的风险，孤注一掷。为了避免其攻击手法被防御性人工智能模型在多次行动中分析和瓦解，攻击者可能会将所有技能和精力投入到一次大规模攻击中，以期在力所能及的范围内最大化其影响。网络行动的发起者面临着速度、强度和控制之间的三难困境。他们越是提升其中一个或多个因素，就越容易在其他方面有所损失。因此，这种“强度最大化”也带来了失去控制的最大风险，从而导致意想不到的后果和相应的不稳定。在对手实施此类攻击之前识别出这些企图，应该是情报收集工作的重中之重。

简而言之，网络防御领域存在着一个潜在的黄金时代——但这不会自动到来，也不会“解决”网络安全问题。意志坚定且资源雄厚的威胁行为体仍然会找到漏洞并入侵系统，损害美国国家利益。为了尽可能地增加他们的难度，政策应重点关注三个方面。

首先，要从对各种可能性的推测转向系统性地测试人工智能自动化如何影响网络冲突中的实际结果。前沿实验室自身对模型能力的评估必然带有偏见。独立评估至关重要，无论是在政府内部进行，还是与学术界合作进行。

其次，应促进和支持人工智能在增强防御方面的应用，具体方式如上所述。保护政府系统固然重要，但向私营部门推广人工智能也同样重要。对于借助人工智能的攻击者而言，最具吸引力的攻击目标很可能是中小企业，而这些企业本身就难以应对传统威胁。在国内，减少繁文缛节和合规负担是支持中小企业的关键。在国际上，网络防御能力较弱的美国盟友将比现在更加脆弱。双管齐下的安全合作有助于降低这种脆弱性。有针对性地支持盟友采用人工智能防御解决方案，不仅可以提高其安全性，还能降低其成为攻击目标的吸引力。美国“前出狩猎”行动旨在侦测和干扰盟国境内的敌对活动，这可以进一步降低风险。当然，这一切的前提是与盟友建立在互信基础上的建设性关系。

第三，构建主动防御体系，利用人工智能代理自身的弱点。正因为人工智能模型容易受骗，所以围绕其构建的防御体系才是制胜之道。这意味着要构建这样的系统：能够误导入侵者，用消耗词元的任务拖住他们，并通过提示注入等手段将其诱捕。同时，至关重要的是要测试自身防御代理对这类技术的适应能力，以尽可能降低其脆弱性。在代理式人工智能时代，目前在非常规战争和情报领域已经积累的欺骗技能将成为至关重要的防御资产。

声明：本文来自奇安网情局，稿件和图片版权均归原作者所有。所涉观点不代表东方安全立场，转载目的在于传递更多信息。如有侵权，请联系rhliu@skdlabs.com，我们将及时按原作者或权利人的意愿予以更正。