【vivo 助力】CCF NSS 2026:破局Agentic AI安全,vivo探索Agent系统底座安全管控

· 2026-09-04 18:00 · 5 阅读

vivo千镜 2026-09-04 18:00 广东

vivo AI安全专家王福维在大会上发表了题为《破局Agentic AI安全:Agent系统底座安全管控的实践与探索》的主题演讲。

大会速览:安全为基,智算未来

2026年8月22日至23日,第一届CCF网络与系统安全大会(CCF NSS 2026)在杭州举办。大会以"安全为基,智算未来"为主题,汇聚了来自全国高校、科研院所及企业的专家学者、研究人员与产业代表一千余人,围绕网络与系统安全、人工智能安全、密码安全、数据安全等前沿议题展开深入研讨。

本届大会由中国计算机学会(CCF)主办,CCF网络与系统安全专委会、浙江大学承办,设置2场主论坛、20场专题论坛及多项特色学术交流活动,覆盖生成式人工智能安全、智能系统底座安全、智能体安全技术及其应用、大模型安全治理与智能攻防等前沿方向。

作为大会合作单位之一,vivo深度参与其中。vivo AI安全专家王福维在大会“智能系统底座安全”论坛上发表了题为《破局Agentic AI安全:Agent系统底座安全管控的实践与探索》的主题演讲,分享了vivo在智能体底座安全管控领域的最新思考与工程实践。

cac136bb80184a6f8271935805c46bc3.jpg

vivo AI安全专家王福维发表主题演讲

议题回顾:从边界变化到底座实践

在智能体安全相关专题论坛上,王福维从边界变化、底座实践、研究展望三个层面展开分享。围绕"Agent系统底座安全管控"这一命题,他提出了vivo的破局思路:当Agent能够自主规划并调用系统能力,跳出“谁可以访问”的传统权限思维,转向判断“任务是否可以安全执行”,即依托任务授权、轨迹一致、沙箱边界三层联动机制,实现任务全流程安全可控。

01

边界变化:Agent正在改变移动端安全边界

王福维首先指出,传统移动安全模型以应用为主体——固定功能入口、明确应用权限、用户直接操作、单应用内闭环;而Agent时代的安全模型以任务为主体——自主任务规划、用户意图理解、多应用调度、长期上下文、系统功能调用、跨应用数据访问。安全控制的对象,发生了根本变化。

传统应用为主体的安全模型,难以直接约束以任务为主体的智能体。权限粒度与任务粒度不匹配、工具数据访问与操作范围缺少统一边界、长任务中的目标漂移,这些风险贯穿Agent执行的整个过程。

王福维由此提出一个关键判断:Agent安全范式革新:不再局限于传统的“我能否访问”身份校验,核心转向校验“任务能否安全执行”。

02

底座实践:权限、轨迹与沙箱的三层控制机制

围绕"任务能否执行",vivo构建了权限、轨迹与沙箱三层控制机制,共同构成Agent系统底座执行安全闭环。

权限控制面,以任务为中心的弹性授权。依据风险与作用后果,将权限做分类分级,将能力限制在最小必要范围;由模型结合策略透出权限和风险,授权仍由人类在环决策;随级别和调用上下文提供不同的授权记忆周期,授权可撤回、可管理。

以"日程冲突处理"为例:智能体理解用户"删除今晚聚餐日程"的意图后,任务规划、查询日程、检索记忆、确认目标、删除日程,每一步都按风险等级标注操作权限——低风险的只读操作快速放行,不可恢复的删除操作则需要用户确认。这正是"一次性规划完备、权限语义完备、授权动态可控"的弹性授权思路。

轨迹控制面,让执行始终与用户意图对齐。多步执行中的微小语义偏差,会累积为不可逆的真实后果:每一步局部看似合理,整体却已偏离原始意图。因此vivo建立事前、事中、事后的轨迹安全闭环——事前的规划与动作摘要、跨多步调用组合风险判定,事中的异常路径即时确认阻断,事后的多维度审计,让"实际执行是否仍与用户意图一致"可被持续校验。

沙箱控制面,即使判断失策,也不产生破坏性结果。Agent通过工具拼接与参数组合,可能探索出未显式开放的能力——工具可调用,不等于任意结果可接受。vivo从命令、资源和真实作用三个层面建立纵深管控:允许命令与参数模板、识别并拒绝危险参数、不可逆命令默认禁止;文件与目录、进程设备接口、网络目标与数据流向、运算资源分级隔离;默认拒绝、最小能力、临时环境、设计回滚能力,为高风险操作提供受控代理与人类确认机制。

三层机制互为补充,构成统一的执行安全公式:可执行能力 = 任务授权 ∩ 轨迹一致 ∩ 沙箱边界。任务授权回答"当前任务被允许做什么",轨迹一致回答"实际执行是否仍与用户意图一致",沙箱边界回答"即使判断失策,是否产生破坏性结果"。

03

研究展望:携手产学研,共建智能体安全生态

在演讲最后,王福维展望了vivo在Agent安全领域的下一步方向:携手CCF学会与高校,共建产学研协同创新生态,围绕安全底座能力开放、行业场景联合创新、标准与生态建设、全球化与产业赋能等方向持续推进,共同应对智能体时代仍未解决的开放问题。

作为持续深度参与学术交流的企业代表,vivo未来将继续深化产学研协作,推动安全机制从"基础隔离"走向"主动信任",与学术界、产业界共同探索Agent时代的可信安全新范式。

跳转微信打开