摘要：全球各地的专家呼吁对人工智能（AI）实施更严格的监管，以防止其超出人类控制。当前，全球领导人正齐聚巴黎，准备出席一场关于人工智能的高峰会议。

由法国和印度联合举办人工智能行动峰会将于2月10日至11日在巴黎召开。（法新社）

全球各地的专家呼吁对人工智能（AI）实施更严格的监管，以防止其超出人类控制。当前，全球领导人正齐聚巴黎，准备出席一场关于人工智能的高峰会议。

法新社报道，此次会议由法国和印度联合举办，于2月10日至11日举行。与2023年英国布莱切利公园及2024年韩国首尔的会议不同，法国此次将重点放在2025年人工智能的实际行动上，而非单纯关注安全问题。

法国提出的愿景是促使各国政府、企业及其他相关方支持人工智能的全球治理，并承诺推动可持续发展，而不是直接制定具有约束力的规则。

法国总统马克龙的AI特使布夫罗（Anne Bouverot）说：“我们不想把时间都花在讨论风险上，同时也有着非常现实的机遇方面需要关注。”

曾多次警示AI危险的美国生命未来研究所（Future of Life Institute）负责人、麻省理工学院物理学家泰格马克（Max Tegmark）则表明，法国不应错失这一引领全球行动的机会。

全球风险与人工智能安全准备平台GRASP的协调员侯德斯（Cyrus Hodes）说：“我们已经确定了约300种应对这些风险的工具和技术。”该调查结果将提交给经合组织以及人工智能全球伙伴关系（GPAI）成员。

专家警告：AI可能失控 呼吁加强监管

2月6日，由96位专家编写，并获得30个国家、联合国、欧盟及经济合作与发展组织（OECD）支持的《国际人工智能安全报告》正式发布。报告指出，人工智能（AI）技术的快速发展带来了从在线虚假信息到生物攻击和网络攻击等多种风险。

报告协调员、知名计算机科学家本吉奥（Yoshua Bengio）指出：“越来越多的证据表明额外的风险正在浮现，例如生物攻击或网络攻击。”他还对未来可能发生的“AI失控”问题表示担忧，指AI系统或出于“自身的生存意志”采取自主行动。

泰格马克则警告：“目前最大的问题是，许多掌握权力的人仍未意识到，我们距离实现通用人工智能（AGI）比找到控制它的方法更近。”

AGI是指在所有领域都能与人类相媲美甚至超越人类的人工智能。OpenAI首席执行长阿尔特曼曾预言，AGI或在几年内实现。

泰格马克指出：“最糟糕的情况是，这些美国或中国的公司失去对这一技术的控制，然后地球就由机器统治了。”

加州伯克利大学计算机科学教授拉塞尔（Stuart Russell）表示，他最担心的是由人工智能控制的武器系统能够自主决定攻击目标和时间。

编辑：原野

来源：杜利勇