5月23日,以“共创智能未来”为主题的鲲鹏昇腾开发者大会2026在北京中关村国际创新中心盛大举行。作为大会核心环节之一的“Agent创新与应用专场峰会”同期召开,奇安信人工智能公司副总裁刘岩受邀出席,并发表了题为《让智能体可信可控——AI规模化应用的安全前提与底线》的主题演讲,面向数千名开发者和行业专家,首次系统阐释了针对AI智能体(Agent)行为的“四层防护体系”,直击当前企业AI规模化落地中的安全盲区。

直面“执行黑盒”:算力、模型、数据已纳管,但Agent行为不可控

  刘岩在演讲中指出,当前众多企业已投入巨大资源,构建了以昇腾芯片为底座、私有化部署为核心、数据不出域为原则的自主可控AI基础设施。然而一个严峻的事实正在被忽视:当AI从“生成内容”进化为“自主执行”的智能体时,算力、模型、数据虽已全面纳管,但在Agent触发工具调用、参数传递、环境交互的瞬间,系统却彻底沦为“黑盒”。

  “调用了什么外部工具?传递了哪些敏感参数?行为链路是否遭到提示注入或操纵劫持?——不可见,亦不可控。”刘岩强调,传统基于边界、流量、签名的安全体系,在面对动态生成、自主决策的AI智能体时“全面失效”。如果无法破解智能体执行阶段的不可知性,企业将不敢将任何关键业务交予Agent,AI规模化应用便无从谈起。

首提“四层防护”新范式:叠加现有架构,让智能体可信、可控、可审计

  针对上述痛点,刘岩在大会上正式发布奇安信提出的“看得见、拦得住、检得出、查得清”四层防护体系。该体系旨在不替代企业现有AI基础设施(昇腾算力平台、私有模型、数据环境)的前提下,以轻量级“叠加”方式植入安全能力,实现对每一个智能体行为生命周期的全链路守护:

  · 看得见:构建Agent行为感知层,实时解析工具调用链、参数内容、API交互序列,消除执行黑盒;

  · 拦得住:基于动态策略引擎,阻断越权工具调用、异常参数传递、高敏数据外传等危险动作;

  · 检得出:利用大模型安全检测模型与规则双擎,识别提示注入、思维链投毒、对抗性行为等新型攻击;

  · 查得清:提供全行为审计图谱,实现从“用户意图→Agent规划→工具执行→结果返回”的完整溯源与取证。

  “这四层能力可平滑嵌入任何基于昇腾等自主算力的AI应用环境,”刘岩总结道,“我们最终的目标,是让企业里的每一个智能体——无论开发框架或部署形态——做到行为可信、过程可控、结果可审计,为AI规模化应用划出清晰的安全底线。”

  本次奇安信在鲲鹏昇腾开发者大会上的精彩亮相及议题落地,由奇安信生态合作部统筹组织。奇安信愿意联合昇腾生态内的ISV、开发者、硬件伙伴及行业客户,推动安全能力与AI基础设施的深度融合。刘岩的演讲不仅代表了奇安信的技术前瞻性,更体现了“生态共筑可信AI底座”的协同价值——通过开放接口、联合适配、标准共建,让四层防护体系成为昇腾原生生态的安全标配,加速AI Agent从“可用”走向“可信可控”。

共建昇腾原生安全生态,加速AI Agent可信落地

  作为网络安全领军企业,奇安信长期投入AI安全前沿研究,并深度参与鲲鹏、昇腾生态建设。本次在开发者大会上提出的Agent安全新架构,已与多款昇腾AI硬件及开发工具链完成初步适配,并计划在后续向开发者社区开放安全组件,帮助广大开发者在构建智能体应用的同时,“原生”获得可信保障。

  刘岩最后表示:“让AI从‘会思考’走向‘会行动’,安全必须从辅助功能升级为前置底线。奇安信愿与华为及全体开发者一道,定义下一代可信智能体的安全标准。”

星空体育网站,贝博体育,

星空入口相关资讯:bb体育网址,