摘要：6月12日下午，由上海市计算机学会信息安全专委会主办、上海电力大学承办、华为可信领域科学家委员会协办的“大模型时代的AI安全：从理论到实践”技术论坛举行。上海电力大学党委副书记、纪委书记张艳林出席并致辞，计算机科学与技术学院党委副书记齐永晓、华为可信领域科学家

6月12日下午，由上海市计算机学会信息安全专委会主办、上海电力大学承办、华为可信领域科学家委员会协办的“大模型时代的AI安全：从理论到实践”技术论坛举行。上海电力大学党委副书记、纪委书记张艳林出席并致辞，计算机科学与技术学院党委副书记齐永晓、华为可信领域科学家委员会首席科学家金意儿，以及来自学术界、产业界的专家学者、上海电力大学教师及各学院学生共百余人参加论坛。本次论坛由计算机科学与技术学院院长温蜜主持。本次论坛汇聚了国内AI安全领域的顶尖专家学者，呈现了四场精彩纷呈的特邀报告。

张艳林在开幕式致辞中谈到，人工智能是国家“十四五”和“十五五”规划中科技创新体系的核心战略方向，作为能源电力特色鲜明的高等院校，学校始终紧扣国家需求，积极探索人工智能与能源电力深度融合，在智能电网、能源大数据、网络信息安全等方向取得了显著成果。面对大模型带来的机遇与挑战，特别是日益凸显的数据隐私、算法偏见、系统风险等安全问题，高校必须成为连接科技创新与产业发展的桥梁，通过深化“产教融合、科教融合”，推动教育链、人才链与产业链、创新链有机衔接，为AI技术的可持续发展和安全可控应用贡献力量。未来，学校将继续聚焦人工智能在能源系统中的应用场景与安全保障，强化跨学科协同，打造面向“双碳”目标的人工智能创新高地。

金意儿在致辞中表示，大模型技术在为诸多领域带来革命性赋能的同时，其伴生的数据隐私泄露、模型对抗攻击、内容生成滥用、算法偏见等问题已成为制约AI可持续发展的关键瓶颈。构建理论支撑与实践规范并重的安全体系，发展可信、可控、可解释的新一代人工智能，需要学术界、产业界和政策制定者的紧密协作。

在特邀报告环节，复旦大学张谧教授作题为《大模型安全风险与治理—复旦白泽助力负责任AI》的报告。报告深入剖析了通用人工智能（AGI）面临的安全伦理风险及多种攻击模式，并分享了其团队开发的“复旦白泽AI大模型安全评估与治理平台AADE”在推动大模型健康发展方面的作用，强调了在全球治理框架下建立安全风险攻关机制的重要性。

上海市数据科学重点实验室副主任、复旦大学熊贇教授以《领域大模型方法研究与安全挑战》为题，介绍了大模型在行业领域（如金融、医保、交通）的构建方法、应用案例及其展现的强大能力，同时着重指出了领域大模型在实际应用中面临的安全挑战。

杭州安恒信息技术股份有限公司智能检测与终端产品线总裁符春辉作《让智能更安全：大模型风险识别与防范》的报告，通过理论阐述与案例分析相结合的方式，全面揭示了大模型在数据、模型、内容等维度面临的安全风险，系统介绍了实用的风险识别方法与防范策略，并强调了技术创新与合规治理协同的必要性。

中国科学院信息工程研究所副研究员孟国柱博士带来了《保护AI系统：现实部署的风险与挑战》的报告，点出了在聚焦于AI模型在真实世界部署后遇到的、超越传统研究的软硬件新威胁，分析了当前保护措施的局限性、计算框架的缺陷以及大模型应用特有的安全风险，为实际应用中的安全保障提供了新视角。

专家们严谨的科研态度、丰硕的科研成果和精彩的演讲，引起了会议现场老师和同学们的极大兴趣和积极反响，师生们踊跃提问交流。

据介绍，本次论坛为学界与产业界搭建了高水平的交流平台，有效促进了AI安全领域前沿思想与实践经验的碰撞与融合。论坛聚焦的核心挑战与提出的应对思路，将为我国人工智能安全标准的制定、治理体系的完善以及在关键行业（尤其是能源电力领域）的安全落地应用提供重要的参考和推动力。上海电力大学也将继续发挥自身学科优势，携手各方合作伙伴，为构建安全、高效、绿色、智能的现代能源体系持续贡献智慧与力量。（通讯员：樊丽达）

来源：高校圈的那些事儿