近日， 启明星辰集团自主研发的端点 AI 智能 体安全 检测与响应系统（ AIDR ） 首批通过国家网络与信息系统安全产品质量检验检测中心（公安部第三研究所）的严格测试，斩获 网安行业 首个智能体安全管理系统认证证书。
随着AI智能体从辅助问答向任务执行加速演进，其自主对接大模型、调用工具、处理数据、执行本地任务的能力，已成为驱动企业数字化流程的新型生产力。然而，能力边界的拓展也放大了风险敞口。一旦遭遇提示词诱导、技能投毒、模型调用失控或运行环境异常等威胁，智能体便可能从效率工具沦为风险入口。
因此，AI智能体安全防护须深入会话交互、模型调用、工具使用、技能加载及执行链路等核心环节，覆盖全生命周期。
三大能力 构建 AI 智能 体安全 闭环
启明星辰集团AIDR面向智能体运行全流程，从“自身免疫安全、运行环境安全、系统安全”三个维度构建闭环防护体系，帮助企业实现智能体的可管理、可防护、可追溯，支撑其安全、稳定、规模化落地。
一是自身免疫安全。聚焦智能体自身可信度，围绕会话、模型调用、Skill技能、行为轨迹等关键对象，开展安全检测、审计与管控；通过大模型管控和模型白名单机制，规范智能体可连接、可调用的模型范围，降低非授权模型调用、敏感信息泄露、恶意插件引入等风险；
二是运行环境安全。关注智能体执行过程中的环境状态、行为边界与异常操作，及时识别并处置可能影响业务和数据安全的隐患，避免因误操作、诱导或环境异常引发安全后果；
三是系统安全。针对智能体所在终端、主机及相关系统环境，开展安全检测、风险识别与防护处置，降低基础系统风险，为智能体持续、稳定、安全运行提供底层保障。
安全实践 从设备防护到执行安全
在数智化转型进程中，某大型企业自主研发了企业级AI智能体，具备调用大模型、操作工具、处理数据和执行本地任务的全栈能力，广泛用于内部办公、研发协同和任务编排等核心场景。随着智能体从辅助问答深入任务执行，安全焦点从内容合规转向执行安全，一旦遭遇诱导攻击、技能投毒或越权执行，便可能引发数据外泄、流程误触发及关键操作无法追溯等严重后果。
针对上述挑战，启明星辰集团AIDR深度嵌入该智能体建设全生命周期，在会话交互、模型调用、工具执行、Skill使用及行为审计等关键环节，构建起细粒度的安全检测与响应机制，使安全能力从外围补丁升级为与智能体运行同步建设、深度融合的原生防线。
通过这一实践，启明星辰集团AIDR将端侧安全能力从传统设备保护延伸至智能体执行过程保护，在保障使用体验的同时，实现运行边界可管、行为过程可控、风险处置可查，为企业自研智能体的规模化推广提供了可复制、可落地的端侧安全建设范式。
当前，AI智能体正驱动新一轮生产力变革，重塑千行百业的生产方式，其安全防护也需与时俱进。启明星辰集团将持续深耕AI智能体安全能力建设，为智能体从连接到执行的全流程提供坚实支撑，助力用户筑牢安全边界，坚守可信运行底线。
免责声明：该文章系我网转载，旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议，仅供读者参考。
扫码下载
中文网微信