讲座题目

AI Security and Privacy: From Model to Agentic Systems

主办单位

计算机与数据科学学院

联合主办单位

讲座人

伍绍恩

讲座人
职称

正高

主持人

熊金波

讲座类型

自然科学

讲座对象

全校师生

时间

2026-10-20 16:00

地点

计算机与数据科学学院C4-308

讲
座
人
简
介

伍绍恩博士现任肯尼索州立大学信息技术系主任、正教授，同时担任 IEEE 多媒体通信技术委员会（MMTC）指导委员会主席。伍博士曾任伊利诺伊州立大学信息技术学院州立农场冠名讲席教授；在鲍尔州立大学期间，担任科研副教务长奖学金顾问委员会委员、院长教师顾问委员会委员、计算机科学系副主任；还曾任职于南密西西比大学计算学院助理教授、ADTRAN 公司科研科学家、朗讯科技贝尔实验室技术专员。他多次担任国际会议大会主席或程序委员会主席，包括 2021 年全球通信大会（Globecom 2021）大会专题主席。伍博士主持多项由美国联邦机构与企业资助的科研项目，项目经费总额达数百万美元。

讲座
主要内容

大语言模型正逐步进化为具备规划、记忆、工具调用以及多智能体协作能力的自主智能体。不同于传统大模型仅输出文本，这类智能体能够自主执行任务，一旦遭到入侵，将直接实施有害行为，而不只是生成有害文本。本次报告基于七项近期学术调研，围绕人工智能安全与隐私展开论述。报告从模型底层威胁切入，介绍越狱攻击、提示注入、数据泄露等经典风险，进一步拓展至智能体系统的跨层安全视角。在这一框架下，攻击不再局限于模型输入层面，还可经由外部工具与长期记忆模块侵入系统，劫持智能体的任务规划流程，链式触发各类有害操作。报告分析表明，当前攻击危害程度与防御成熟度之间的差距正在不断扩大。记忆投毒、工具供应链入侵、多智能体操控等新型攻击在已公开实验中的成功率高达 77%–90%，然而现阶段仍缺少能够在真实场景落地部署的有效防御方案。报告最后凝练出该领域亟待攻克的关键开放性研究问题，包括智能体记忆完整性保障、精细化权限管控机制、多智能体间信任构建、差分隐私框架以外的隐私保护新思路，以及面向智能体安全的统一评测体系，为后续相关研究指明方向。