2026年9月5日，应我院邀请，中山大学任文琦教授为我院师生作题为《生成式人工智能安全》的学术报告。报告由学院袁培燕院长主持，报告在学院223报告厅进行，学院部分师生代表出席本次学术活动。
报告中，任文琦教授聚焦生成式人工智能领域前沿研究成果，结合大模型落地应用现实需求展开剖析，指出低质输入干扰、恶意诱导越狱攻击、深度伪造内容传播三类典型安全风险，是制约可信生成式人工智能规模化落地的关键瓶颈。针对生成式人工智能应用过程中各类风险交织带来的输入可靠性差、对抗防御能力弱、伪造内容难甄别等现实难题，研究团队研发面向低质输入的图像可控复原技术、构建应对越狱攻击的多模态安全攻防策略、探索深度伪造检测的泛化鉴伪方法。在此基础上，通过整合算法层、数据层与评估层协同机制，搭建覆盖“感知—防御—检测”全链路的生成式人工智能安全防护体系，这些都为可信人工智能系统的部署落地提供系统性支撑。
在交流互动阶段，与会师生围绕多模态安全攻防、全链路安全防护体系构建等关键技术问题开展深入研讨，并就生成式人工智能在各行业应用场景中的安全落地路径进行了充分交流。
此次报告为我院师生开展生成式人工智能安全领域相关研究提供了新思路，对学院学科建设、科研创新及高层次人才培养具有重要参考意义。
（计算机与信息工程学院 周猛）