赛可达实验室发布《智能体安全产品9大能力框架》

随着大模型等新一代人工智能技术的迅猛发展,智能体(AI Agent)——即具备自主感知、记忆、决策、交互与执行能力的智能系统——正加速与网络空间、物理世界深度融合。然而,智能体在带来效率与创新的同时,也引入了提示注入攻击、恶意工具调用、数据投毒、隐私泄露、运行失控等新型安全风险。

在此背景下,智能体安全已成为人工智能产业健康发展的底线要求。保护智能体安全的产品,是确保智能体“安全、可靠、可信”落地应用的关键基石。

作为国际知名的第三方网络安全检测认证机构,赛可达实验室(SKD Labs) 基于对全球人工智能安全威胁的持续跟踪与深入研究,结合多年安全能力测评经验,正式推出 《智能体安全产品9大能力框架》。该框架旨在为智能体安全产品的研发、测试、选型及认证提供系统性技术参考。

近日,国家互联网信息办公室等部门出台的 《智能体规范应用与创新发展实施意见》 ,从政策层面对智能体安全提出了系统要求。本次赛可达实验室发布9大能力框架所涵盖的核心安全能力,与《实施意见》的相关要求高度一致,充分体现了该框架的专业性与政策符合性,可为行业提供切实可行的技术和评估参考。

能力框架的双重价值

对于行业用户而言,面对市场上快速涌现的各类智能体安全产品,如何甄别、选购真正具备实战能力的产品成为一大挑战。本能力框架提供了系统化的评估维度,帮助用户告别“盲选”,围绕资产发现、攻击防护、权限管控、行为控制等关键能力进行精准选型与能力缺口分析,构建有效的智能体安全防护体系。

对于安全厂商而言,智能体安全尚属新兴赛道,产品能力边界与研发方向尚待明晰。本能力框架为厂商提供了清晰的能力参考模型,助力其在产品规划与研发过程中找准定位、补齐短板,开发出更贴合市场需求与政策方向的智能体安全产品。

智能体安全产品9大能力框架

能力维度 核心能力说明 对应《实施意见》关键条款
1. 智能体资产可见性与发现能力 对智能体系统中的资产(智能体实例、模型、工具、数据源、API接口等)及其关联关系进行自动识别、持续发现、分类标记与可视化呈现。 第4条:探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务,支持……合规认证等信息查询和管理。
2. 提示注入攻击防护能力 识别并阻断攻击者通过构造恶意输入(提示词)操控智能体执行非授权行为、越权操作或泄露敏感信息等攻击活动。 第2条:发展对抗样本检测、行为异常检测等安全与治理工具,提升对智能体非合规行为的发现、干预、阻断、恢复能力。
第8条:防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。
3. 恶意Skill与工具调用防护能力 实时监控并阻断智能体对恶意技能、非法外部工具或越权API的调用行为,防止攻击者通过工具滥用实现权限提升或数据窃取。 第9条:加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。
4. 身份与权限防护能力 确保智能体及其调用者的身份真实可信,并严格控制智能体仅在其授权范围内执行操作,防止越权访问与权限滥用。 第6条:确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
5. 数据安全防护能力 对智能体全生命周期中的敏感数据进行分类、加密、脱敏与访问控制,防止敏感数据被非法访问、泄露或滥用。 第8条:研究智能体数据安全、个人信息保护、密码防护等安全技术,防范数据投毒、隐私泄露……等安全风险。
6. 智能体行为控制能力 防止智能体执行不安全、不合规或超出预设策略的行为,确保行为可控可预期。 第7条:发展规则内嵌、行为围栏等技术,确保智能体在公共……场所的行为合法合规。……建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。
7. 系统与接口防护能力 防护智能体与外部系统、上下游服务及通信接口交互过程中的安全,防范接口攻击、数据篡改与通信劫持。 第9条:加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。
8. 实时监控与响应能力 对智能体运行进行持续安全监控,实时检测异常行为、安全事件与风险态势,并具备自动化告警、阻断、恢复等响应能力。 第2条:提升对智能体非合规行为的发现、干预、阻断、恢复能力。

第10条:完善智能体常态化风险识别、预警及干预机制,强化人机协同审核、拦截阻断等风险处置能力,防范系统性安全风险。

9. 日志与审计能力 提供完整的智能体感知、决策、交互、执行等全流程日志,支持操作溯源、安全事件调查、合规审计及取证分析,满足监管与内控审计要求。 第7条:建立重要应用场景智能体行为可验证、可追溯机制。
第12条:开展智能体……合规等第三方评测服务。

结语

赛可达实验室发布的《智能体安全产品9大能力框架》,覆盖了从资产发现、攻击防护、权限管控、数据安全到行为控制、监控审计的全链条安全能力,率先在智能体安全产品赛道推出了首个从实战检测视角出发的能力评测模型及测评方案,以提升智能体安全产品在行业应用中的防护能力,并将持续与行业各方共同推进智能体安全产品的标准化、实战化进程,为智能体规范应用与创新发展筑牢安全底座。

上一篇:富士康多家工厂遭勒索攻击,8TB超千万份客户敏感文件疑被窃取

下一篇:多地加油站监测系统遭入侵后数据被篡改,美官员称无法溯源攻击者