Anthropic 的《支持地区政策》规定，只有列入支持名单的国家和地区才能使用其服务。

美国开发者平台独角兽WorkOS表示，一名安全研究人员在测试AI自主渗透测试工具时，其运行的AI黑客智能体意外逃离测试环境，入侵了WorkOS的内部销售应用，并访问了客户信息。

自主渗透智能体（PentestGPT、CAI、PentAGI、Strix 这一批）跑的是 Planning → Discovery → Attack → Reporting 的闭环。

当地时间11月6日，欧盟委员会发布公告，初步认定短视频平台TikTok的个性化内容推荐机制违反欧盟《数字服务法》（Digital Services Act，DSA）。公告称，TikTok“为你推荐”（For You）功能可能使用户持续接触同类负面内容，对心理健康造成不利影响，而平台未充分评估和有效降低相关风险。

据媒体报道，仅今年9月至10月中旬，日本获悉的信息泄露量已超1.15亿条，大型软件企业逾2200万条客户记录遭窃，知名餐饮品牌上千万条会员信息外泄，物流巨头系统亦未能幸免。

网络犯罪分子通过劫持企业的大模型访问权限，盗用高成本算力资源和AI服务。受害企业因此蒙受巨额损失，相关Token费用甚至高达数百万美元。

最近翻各家大厂的技术报告，很容易生出一种错觉：大模型好像已经把人类的网络安全防线打穿了。NYU CTF、Cybench、CyberGym 排行榜上，不管闭源大厂还是开源新秀，漏洞解决率动不动就 80% 往上。

英伟达最近口头要求全球云服务商，提供给中国企业的算力不能超过一半，至少51%要面向非中国企业，同时还要求部分云商说明这些算力最终由谁使用。在我看来，这可能是美国进一步收紧中国企业使用海外云算力的又一个信号。对云算力管制落地的预期，已经通过英伟达对先进GPU供应、客户准入和商业合同的影响力，先行落实到了云服务商的日常经营之中。

当大语言模型开始阅读网页、检索文档和调用外部工具时，它面对的输入便同时包含两类内容：用户希望它执行的可信指令，以及完成任务所需的不可信数据。提示注入攻击利用的正是二者之间的边界：攻击者把恶意指令藏进外部内容，诱导模型偏离用户原本的任务。

人工智能（AI）作为快速发展的新兴技术，正逐步进入信息处理、目标识别、决策支持和系统控制等环节。当前，主要国家持续推动人工智能在安全与高风险任务中的应用，国际冲突也成为观察其能力边界和安全风险的重要场景。