题目：基于形式化方法的神经网络修复技术

报告人：王震

时间：2026年05月08日(周五)，15：00-15：40

会议地点：31-904

报告摘要：

深度神经网络在自动驾驶、医疗诊断、金融风控等安全攸关场景的广泛应用，对其安全性和可靠性提出了严峻挑战。即使是训练良好的模型，仍可能遭受对抗攻击、后门攻击、自然扰动及公平性违规等安全威胁。如何在理论保障、修复效果与可扩展性之间取得平衡，成为当前AI 安全领域亟待解决的核心问题。本报告系统介绍我们团队在可证明神经网络修复方向的三项系统性工作：VeRe (ICSE 2024)、ProRepair (CCS 2025) 和 ProF (ASE 2025)。三项工作逐层递进：VeRe 提出验证引导的单神经元精确定位与修复方法；ProRepair 扩展至多神经元协同的区域修复框架，支持任意激活函数与高维空间；ProF 面向公平性专用场景，实现多敏感属性约束下的可证明修复。三者共同构成可证明神经网络修复的方法论体系，为安全攸关场景的 DNN 部署提供理论保障与技术支持。

报告人简介：

王震，博士/博士后、教授、博士生导师。杭州电子科技大学网络空间安全学院决策智能与安全团队负责人。入选浙江省高校领军人才培养计划高层次拔尖人才。主要研究方向为智能博弈对抗、人工智能安全、大模型智能体、计算社会科学、博弈论、多智能体系统、网络科学。主持或参与国家重点研发计划项目、国家自然科学基金联合基金重点项目、国家自然科学基金面上项目、浙江省尖兵研发攻关计划择优委托项目、浙江省重点研发计划项目。在国内外期刊与会议发表论文近百篇。