“人工智能”成两会热词,代表委员热议安全治理

360影视 欧美动漫 2025-03-14 19:16 3

摘要:随着人工智能技术的快速发展,其在经济社会各领域的应用越来越多。人工智能在为人类生产生活带来便利的同时,其产生的安全问题也不容忽视。今年全国两会期间,代表委员高度关注人工智能相关议题,对于如何用好这把“双刃剑”,他们从人工智能安全防护、大模型数据安全、“幻觉”、

随着人工智能技术的快速发展,其在经济社会各领域的应用越来越多。人工智能在为人类生产生活带来便利的同时,其产生的安全问题也不容忽视。今年全国两会期间,代表委员高度关注人工智能相关议题,对于如何用好这把“双刃剑”,他们从人工智能安全防护、大模型数据安全、“幻觉”、监管立法等方面积极建言,为我国人工智能健康安全发展贡献智慧。

全国人大代表、鹏城实验室主任、中国工程院院士高文

大规模、高质量、多样化的数据集是大模型性能突破、落地应用的核心,对于人工智能技术的突破和应用起着关键作用。高文表示,应在关键重要领域通过产学研相结合的方式,推动科学数据和行业数据的高质量示范构建,完备数据治理能力,形成数据标准体系。在数据互联互通方面,高文认为,要全面构建安全可控、智能敏捷的新型共享治理体系,同时推进算力与数据资源深度融合,构建数算一体的计算架构,逐步实现数据跨部门、跨行业、跨区域的互联互通。

全国政协委员、360集团创始人周鸿祎

他认为,以DeepSeek为代表的大模型,不仅促进了大模型技术自主创新,也带动了上下游产业协同发展,让大模型加速走进百行千业,成为推动中国科技进步、经济增长和国家强盛的关键力量。但也要注意到,包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的结果。他认为,对于大模型的监管,不能因为过度追求准确而限制其创造力。对此,建议借鉴“避风港原则”这一成功经验,对大模型以及相关的产品和服务实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东

他建议,开展体系化的人工智能大模型安全防护,建立适配大模型的纵深防御体系,从技术层面全面排查加固人工智能大模型基础设施,形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时,重点打造大模型数据安全“双控机制”,一方面,对输入侧数据进行筛查和消杀,并实施严格的访问控制措施,做好从数据喂养到内容生成的全链路安全管控;另一方面,强化输出侧控制,有效防范“认知污染”,通过完善大模型安全“监管沙盒”机制,在政务大模型等关键领域大模型上线前开展深度测试,强化对潜在风险的预警和控制。

全国政协委员、安天集团创始人肖新光

人工智能大模型在推进产业变革和生活赋能的同时,也带来了新的安全风险;在带来安全风险的同时,又成为驱动网络安全技术创新升级的重要手段。肖新光表示,大模型既带来了风险因素,也带来了安全助力。不论是提升网络安全防御的自动化、智能化水平,还是在大型防御体系中更好地实现对数据和信息的判断整合、对深度伪造的识别,大模型都有其应用之道。

全国人大代表、小米集团创始人、董事长兼CEO雷军

“AI换脸拟声”不当滥用成为违法侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,不利于构建“以人为本、智能向善”的人工智能发展生态。他建议,加快单行法立法进程,在安全与发展并重的基础上提升立法位阶。强化行业自律共治,压实平台企业等各方的责任和义务。加大普法宣传的广度力度,增强民众的警惕性和鉴别力。

全国人大代表,TCL创始人、董事长李东生

随着生成式人工智能技术的发展,深度伪造技术也快速发展。他建议:一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度,完善对深度合成内容服务提供商未按要求进行标识的行为界定、分类细则,以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理,出台深度合成内容标识的技术标准,保证标识的有效性;对相关内容平台出台要求,用户在发布深度合成的视频、音频等内容时,有义务对其进行标识。四是加强国际合作,形成人工智能生成合成内容的有效监管。

全国人大代表、科大讯飞董事长刘庆峰

针对预防大模型生成“幻觉数据”充斥互联网带来的危害,刘庆峰建议:构建安全可信数据标签体系,提升内容可靠性,建立安全可信、动态更新的信源和数据知识库,对不同类型数据的可信度和危害程度建立标签体系,降低人工智能幻觉出现概率,提升生成内容可靠性;研发AIGC幻觉治理技术和平台,定期清理幻觉数据,研究幻觉自动分析的技术和软件平台,开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源,由中央网信办、国家数据局等部门定期清理幻觉数据,为公众提供AIGC幻觉信息检测工具与服务。

全国政协委员、清华大学教授李景虹

李景虹认为,随着人工智能技术的快速发展及其在经济社会各领域的广泛应用,人工智能已成为当前和未来影响深远的确定性趋势。中国作为人工智能综合实力较强的国家,应该制定人工智能促进法,凝聚共识,形成合力,推动人工智能向造福于民的方向发展。李景虹建议将该项立法提升至战略高度,立足于发展,结合最小化的包容性审慎监管规则,为社会各界提供最大程度的确定性和明确的预期。他认为立法应聚焦促进有效应用、普惠服务、技术创新、人才培养(包括尖端人才和复合型人才)、就业保障(包括扩大职业教育和全民通识教育)、国际合作等六个方面。

全国政协委员、中华全国律师协会监事长吕红兵

他认为,应明确规定将社会主义核心价值观贯穿生成式人工智能全生态,并由其统领。行政法规应对生成式人工智能的技术开发者、服务提供者、使用者、监管者以及社会公众,分门别类明确各自权利和义务、职能与责任。他建议,应明确统一的监管者,对网信、发展改革、教育、科技、工信、公安、广电等部门的相关职责合并同类项,组建统一的监管部门,提高监管的专业性与权威性。

全国政协委员、金杜律师事务所高级合伙人张毅

张毅提出,立法应当坚持以人民为中心,保障人的主体地位和权益,遵循“以人为本、智能向善、造福人类”的原则。同时,人工智能的发展应以促进产业健康发展和经济社会深度融合为目标,推动人工智能健康可持续发展。对于相关部门已经出台的政策法规和各地试点经验,立法时应予以吸纳,将成熟的政策和机制上升为法律条文。张毅建议将数据可信流通、算法备案、安全审查等有效条款纳入法律框架中。张毅指出,算法服务商应承担披露义务,确保用户对算法服务的选择权,并引入技术及合规专家参与监管。立法还应明确算力作为人工智能产业支柱的发展原则和目标,制定鼓励政策,覆盖芯片设计、开发、制造与流通等全环节。

来源:光明网

相关推荐