摘要：AI语音变身让电话钓鱼诈骗升级，山西省忻州市AI换脸诈骗两万元……人工智能技术在推动经济社会高质量发展的同时，也可能成为不法分子手中的隐性利器。AI技术的滥用，不仅威胁个人合法权益，更对社会稳定、国家安全构成多重安全风险与挑战。如何促进人工智能安全、稳健、可持

（记者 林碧涓）AI语音变身让电话钓鱼诈骗升级，山西省忻州市AI换脸诈骗两万元……人工智能技术在推动经济社会高质量发展的同时，也可能成为不法分子手中的隐性利器。AI技术的滥用，不仅威胁个人合法权益，更对社会稳定、国家安全构成多重安全风险与挑战。如何促进人工智能安全、稳健、可持续发展，已成为产业界共同命题。

安全成数字时代核心命题

以DeepSeek为代表的开源平台大幅降低了人工智能技术门槛，催生出“千模千面”的差异化应用生态。然而，当AI技术从实验室走向千家万户，攻击面也呈几何级扩张，带来多维度安全隐患。

首先，开发层供应链安全危机。开源生态的开放性虽然促进技术创新，但也因缺乏安全验证机制，容易成为攻击者渗透的薄弱环节。其次，应用层对抗性攻击升级，模型应用阶段，提示注入、模型逆向工程等攻击手段层出不穷，攻击者通过精心设计的对抗性输入肆意干预模型输出，极大损害模型的预测精度与可信度。最后，数据收集与训练中的滥用风险。人工智能需要收集海量数据进行训练，在这一过程中存在未经同意收集、滥用数据的安全风险。一旦敏感数据被整合进训练集，其后续使用场景、二次传播都可能对用户产生不利影响。

据统计，全球大模型安全事件损失已从2023年的85亿美元，剧增至2024年的143亿美元，预计2025年损失将突破235亿美元。

近年来，我国出台《生成式人工智能服务管理暂行办法》等部门规章，发布《人工智能安全治理框架》等文件，在法治轨道上加强人工智能治理。

安全神器应用多领域，赋能成效显著

（图片来源：摄图网）

正如硬币的正方面，安全产业正迈入AI定义时代。中国电信全面拥抱AI，促进“云改数转智惠”战略升级，明确以网为基础，以云为核心，以人工智能为方向，以安全为底线，全力以赴攻坚人工智能核心技术，坚定践行“AI+”行动。同时，中国电信始终坚持“安全是发展的前提”，着力构建高水平AI安全保障体系，努力推动技术发展和安全治理协同演进。

目前，中国电信已初步构建起从算力底座安全到算法模型安全以及数据安全和应用安全一体化的AI安全智能架构。推出“阡陌数聚”高质量安全语料库，提升模型攻击的标识度；打造“星辰·见微”安全大模型，聚焦网络安全赋能，围绕数据、代码、运营、攻防等四大方向，构建“四位一体”技术框架，全面覆盖威胁研判、智能运营等核心应用场景。值得一提的是，在2025世界人工智能大会上，“见微”大模型基础护栏的提示注入攻击检测模块宣布正式开源，成为首个聚焦中文场景的提示注入攻击检测开源方案，该板块聚焦输入侧攻击防控，具备精准识别能力强、深度适配信创生态、深度适配信创生态三大技术亮点。

此外，中国电信还将AI技术融入服务中，筑牢民生安全。例如，“星小辰” 依托中国电信的通话业务打造AI通话助手，支持通话防诈、AI代接、通话摘要代办、智能字幕等功能，为用户提供全方位的通话安全保障。

生态合作，积极打造安全共同体

开放合作是人工智能安全发展的必然选择。人工智能是一个复杂的系统，对人工智能的监管与治理也是一个复杂的系统工程。对人工智能实行有效监管和治理，离不开政府、企业、行业组织、学术团体、社会公众等多元主体的共同参与。

中国电信联合高校成立安全实验室推进产学研协作，例如与哈尔滨工业大学（深圳）联合成立“网络空间对抗技术联合攻关研究实验室”，推动产学研深度融合，培养专业的安全人才队伍，筑牢AI时代安全防线。

在2025世界人工智能大会中，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室等四家核心机构联合发布《中国人工智能安全承诺框架》，在《框架》在AIIA《人工智能安全承诺》（2024年12月发布）的基础上，新增了加强人工智能安全治理国际合作、防范前沿人工智能安全风险等内容，旨在推出人工智能产业朝着有益、安全、公平方向健康有序发展。

人工智能的浪潮奔涌向前，安全始终是不可逾越的底线。随着人工智能技术的不断演进，安全挑战也将不断升级，需要产业各方持续秉持开放合作、创新突破的理念，汇聚各方力量共促人工智能产业发展。

来源：晓说通信