
网络犯罪分子通过劫持企业的大模型访问权限,盗用高成本算力资源和AI服务。受害企业因此蒙受巨额损失,相关Token费用甚至高达数百万美元。

最近翻各家大厂的技术报告,很容易生出一种错觉:大模型好像已经把人类的网络安全防线打穿了。NYU CTF、Cybench、CyberGym 排行榜上,不管闭源大厂还是开源新秀,漏洞解决率动不动就 80% 往上。

英伟达最近口头要求全球云服务商,提供给中国企业的算力不能超过一半,至少51%要面向非中国企业,同时还要求部分云商说明这些算力最终由谁使用。在我看来,这可能是美国进一步收紧中国企业使用海外云算力的又一个信号。对云算力管制落地的预期,已经通过英伟达对先进GPU供应、客户准入和商业合同的影响力,先行落实到了云服务商的日常经营之中。

当大语言模型开始阅读网页、检索文档和调用外部工具时,它面对的输入便同时包含两类内容:用户希望它执行的可信指令,以及完成任务所需的不可信数据。提示注入攻击利用的正是二者之间的边界:攻击者把恶意指令藏进外部内容,诱导模型偏离用户原本的任务。

人工智能(AI)作为快速发展的新兴技术,正逐步进入信息处理、目标识别、决策支持和系统控制等环节。当前,主要国家持续推动人工智能在安全与高风险任务中的应用,国际冲突也成为观察其能力边界和安全风险的重要场景。

工信部近期印发《信息通信行业发展 “十五五” 规划》,为行业未来五年发展提供了明确指引。本文通过解读规划总体要求和主要特征,梳理重点推进方向、吃透政策要求、明晰风险底数,为把握“十五五”时期行业发展方向提供参考。

10 月23 日,OpenAI 公布前沿模型训练环境的安全改造细节,披露了这项红队实验。同时,公司明确,前沿模型训练已禁止访问真实互联网,模型改在离线网页环境中练习浏览和搜索。

企业实施技术改造淘汰老旧机床,单位开展设备升级置换一批工控主机,测绘企业处置闲置测量仪器……有的单位在处理废旧设备时,仅对存储介质进行简单格式化便当作废品变卖,或是通过二手平台折价转让,存在“硬件报废,数据即随之消失”的认识误区。

MITRE 上周发布了 ATT&CK 框架 v20,进一步扩展了对 AI 滥用、多因素身份验证(MFA)绕过,以及近期水务设施攻击活动的覆盖。

2026 年 6 月,Anthropic 在发布 Claude Fable 5 时,引入了一套特殊的安全机制:当系统检测到请求涉及高风险网络安全、生物学或模型能力提取等领域时,会限制用户继续访问旗舰模型,并将符合条件的请求切换到 Claude Opus 4.8 等能力相对较弱的模型。