摘要：随着人工智能技术的快速发展，其在经济社会各领域的应用越来越多。人工智能在为人类生产生活带来便利的同时，其产生的安全问题也不容忽视。今年全国两会期间，代表委员高度关注人工智能相关议题，对于如何用好这把“双刃剑”，他们从人工智能安全防护、大模型数据安全、“幻觉”、
随着人工智能技术的快速发展，其在经济社会各领域的应用越来越多。人工智能在为人类生产生活带来便利的同时，其产生的安全问题也不容忽视。今年全国两会期间，代表委员高度关注人工智能相关议题，对于如何用好这把“双刃剑”，他们从人工智能安全防护、大模型数据安全、“幻觉”、监管立法等方面积极建言，为我国人工智能健康安全发展贡献智慧。
全国人大代表、鹏城实验室主任、中国工程院院士高文
大规模、高质量、多样化的数据集是大模型性能突破、落地应用的核心，对于人工智能技术的突破和应用起着关键作用。高文表示，应在关键重要领域通过产学研相结合的方式，推动科学数据和行业数据的高质量示范构建，完备数据治理能力，形成数据标准体系。在数据互联互通方面，高文认为，要全面构建安全可控、智能敏捷的新型共享治理体系，同时推进算力与数据资源深度融合，构建数算一体的计算架构，逐步实现数据跨部门、跨行业、跨区域的互联互通。
全国政协委员、360集团创始人周鸿祎
他认为，以DeepSeek为代表的大模型，不仅促进了大模型技术自主创新，也带动了上下游产业协同发展，让大模型加速走进百行千业，成为推动中国科技进步、经济增长和国家强盛的关键力量。但也要注意到，包括DeepSeek在内的大模型都存在“幻觉”，偶尔会生成看似不合理、与事实不符的结果。他认为，对于大模型的监管，不能因为过度追求准确而限制其创造力。对此，建议借鉴“避风港原则”这一成功经验，对大模型以及相关的产品和服务实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，避免直接关停下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争，争取让更多企业“复制”DeepSeek的成功。
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东
他建议，开展体系化的人工智能大模型安全防护，建立适配大模型的纵深防御体系，从技术层面全面排查加固人工智能大模型基础设施，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，重点打造大模型数据安全“双控机制”，一方面，对输入侧数据进行筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制，在政务大模型等关键领域大模型上线前开展深度测试，强化对潜在风险的预警和控制。
全国政协委员、安天集团创始人肖新光
人工智能大模型在推进产业变革和生活赋能的同时，也带来了新的安全风险；在带来安全风险的同时，又成为驱动网络安全技术创新升级的重要手段。肖新光表示，大模型既带来了风险因素，也带来了安全助力。不论是提升网络安全防御的自动化、智能化水平，还是在大型防御体系中更好地实现对数据和信息的判断整合、对深度伪造的识别，大模型都有其应用之道。
全国人大代表、小米集团创始人、董事长兼CEO雷军
“AI换脸拟声”不当滥用成为违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。他建议，加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
全国人大代表，TCL创始人、董事长李东生
随着生成式人工智能技术的发展，深度伪造技术也快速发展。他建议：一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善对深度合成内容服务提供商未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理，出台深度合成内容标识的技术标准，保证标识的有效性；对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成人工智能生成合成内容的有效监管。
全国人大代表、科大讯飞董事长刘庆峰
针对预防大模型生成“幻觉数据”充斥互联网带来的危害，刘庆峰建议：构建安全可信数据标签体系，提升内容可靠性，建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性；研发AIGC幻觉治理技术和平台，定期清理幻觉数据，研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由中央网信办、国家数据局等部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。
全国政协委员、清华大学教授李景虹
李景虹认为，随着人工智能技术的快速发展及其在经济社会各领域的广泛应用，人工智能已成为当前和未来影响深远的确定性趋势。中国作为人工智能综合实力较强的国家，应该制定人工智能促进法，凝聚共识，形成合力，推动人工智能向造福于民的方向发展。李景虹建议将该项立法提升至战略高度，立足于发展，结合最小化的包容性审慎监管规则，为社会各界提供最大程度的确定性和明确的预期。他认为立法应聚焦促进有效应用、普惠服务、技术创新、人才培养（包括尖端人才和复合型人才）、就业保障（包括扩大职业教育和全民通识教育）、国际合作等六个方面。
全国政协委员、中华全国律师协会监事长吕红兵
他认为，应明确规定将社会主义核心价值观贯穿生成式人工智能全生态，并由其统领。行政法规应对生成式人工智能的技术开发者、服务提供者、使用者、监管者以及社会公众，分门别类明确各自权利和义务、职能与责任。他建议，应明确统一的监管者，对网信、发展改革、教育、科技、工信、公安、广电等部门的相关职责合并同类项，组建统一的监管部门，提高监管的专业性与权威性。
全国政协委员、金杜律师事务所高级合伙人张毅
张毅提出，立法应当坚持以人民为中心，保障人的主体地位和权益，遵循“以人为本、智能向善、造福人类”的原则。同时，人工智能的发展应以促进产业健康发展和经济社会深度融合为目标，推动人工智能健康可持续发展。对于相关部门已经出台的政策法规和各地试点经验，立法时应予以吸纳，将成熟的政策和机制上升为法律条文。张毅建议将数据可信流通、算法备案、安全审查等有效条款纳入法律框架中。张毅指出，算法服务商应承担披露义务，确保用户对算法服务的选择权，并引入技术及合规专家参与监管。立法还应明确算力作为人工智能产业支柱的发展原则和目标，制定鼓励政策，覆盖芯片设计、开发、制造与流通等全环节。
来源：光明网
