摘要:今日,国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”(以下简称“工作组”)在北京宣布成立,该工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范,以应对智能体高速发展所带来的安全协作挑战,共建开放、合作、共赢的智能体生态。中国信通院、
速途网12月19日消息(报道:李楠)今日,国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”(以下简称“工作组”)在北京宣布成立,该工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范,以应对智能体高速发展所带来的安全协作挑战,共建开放、合作、共赢的智能体生态。中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等二十余家头部科技企业和单位成为工作组首批成员。
工作组由IIFAA互联网可信认证联盟发起成立。据了解,该联盟成立于2015年,致力于可信身份认证等工作,拥有300多家成员单位。
近年来,AI智能体生态搭建成为赛道内各玩家的重要战略布局,手机终端、大模型及APP厂商纷纷推出“AI管家”等智能体产品,用户可以与设备或APP进行自然语言交互,快速实现订票、点餐、打车、查询附近吃喝玩乐等操作。其中,典型代表包括以苹果、荣耀、vivo等为代表推出的手机厂商系统智能体,以蚂蚁集团推出的AI生活管家“支小宝”、智谱AI推出的AutoGLM等为代表的AI智能体产品。
通过共享感知数据和任务协调优化实现智能响应,多个智能体协同工作,可以为用户提供更丰富的功能体验。比如,用户通过手机上的语音助手说“我想听周杰伦的歌,顺便帮我点个附近的披萨外卖”,语音助手智能体识别用户指令后,立即调用音乐播放智能体和外卖智能体。
“对用户而言,一条指令,往往会涉及到多个app智能体产品,而智能体之间的打通很难,如何在端上实现多智能体间的可信互连,成为智能体发展中至关重要的问题。目前行业还在初期阶段,新技术在给用户带来便利的同时,也隐藏着安全风险。”信通院泰尔终端实验室信息安全部副主任傅山在成立现场表示。
IIFAA联盟秘书长郑亮指出,智能体之间的服务互联最终要完成用户指令,这中间涉及到意图数据的共享传递和复杂任务拆解等必经流程,这些流程在没有规范约束的情况下,就像开车没有红绿灯,非常容易滋生乱象。事实上,即使现在处于多智能体发展早期,已经出现了诸多问题。“黑灰产有时候对新技术的掌握速度比防御方更快。我们不能在问题出现之后再开始讨论秩序,这也是这个工作组存在的必要性。”郑亮认为,智能体之间需要开放协作,也需要共建安全互信的行业规范。这对行业长远的健康发展有至关重要的意义。
在此背景下,IIFAA互联网可信认证联盟正式成立“IIFAA智能体可信互连工作组”,希望通过制定跨智能体交互的相关标准等形式,为智能体行业的发展提供一个更加规范健康的协作环境。目前,工作组成员由手机终端厂商、硬件厂商、应用开发商以及相关监管机构等成员组成。
作为成员单位,智谱AI CEO张鹏提出,“作为专注AI的公司,智谱非常注重技术安全和治理的同步发展,成立智能体行业组织在当下很有必要,可有效避免由于缺乏统一标准而可能导致的恶意攻击、隐私侵犯等安全隐患,促进整个行业的健康发展。”
蚂蚁集团副总裁李俊奎则表示,“创新与开放是蚂蚁持续发展的基石,我们将会支持工作组推动智能体技术在各个应用场景中的广泛普及与信任建立,让AI更安全的服务于用户和行业。”
“接下来,工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向,建设智能体可信互连行业规范,推动行业安全、健康发展。”工作组技术总监张璇介绍。
来源:速途网一点号