摘要：这一研究成果让赵燕斌非常有价值感，因为这在保护人类创造力这一核心价值上具有重要意义。他说，创造力是人类区别于其他生物的本质特征，而艺术家、作家、音乐家等创意工作者正是这种创造力的重要代表。保护这些创意人才，就是在守护人类文明的源泉。即便这项技术只能帮助少数创作
作者：王聪彬生成式AI的发展呈现出一个有趣的悖论：它能够完美复现人类已有的智慧成果，却始终无法跨越训练数据的边界实现真正的创新突破。正是这一特征让AI与艺术创作者处在剑拔弩张的关系中。当AI在几秒钟内模仿艺术家毕生锤炼的独特风格时，一个紧迫的问题浮出水面：如果给全球AI开发者设定一个必须要遵守的一个防护准则会是什么？芝加哥大学计算机科学Neubauer教授赵燕斌（Ben Zhao）给出了一个发人深省的观点：在追求科研突破的同时，更需要深入思考技术可能带来的实际社会后果，这项责任落在每位科研工作者肩上。当AI正在经历"摩尔式"狂奔时，我们比以往任何时候都更应思考，如何确保技术进步不会侵蚀文艺创作这一人类文明的珍贵财富。这不仅关乎技术的未来，更关乎人类文化传承的根本。
从左至右：Karla Ortiz的原创作品；AI模型创作的抄袭作品；隐藏原始艺术作品后AI生成的图像 这一研究成果让赵燕斌非常有价值感，因为这在保护人类创造力这一核心价值上具有重要意义。他说，创造力是人类区别于其他生物的本质特征，而艺术家、作家、音乐家等创意工作者正是这种创造力的重要代表。保护这些创意人才，就是在守护人类文明的源泉。即便这项技术只能帮助少数创作者维护权益，就已经很有价值。若能扩大保护范围，其社会影响力将更为深远，因为这关系到人类文化生态的健康发展。创意是AI发展的“原力”对于创意产业，生成式AI的到来已经有了非常多的负面影响。只需几秒钟，生成式AI就能生成一本看似专业的书籍，或是搭建一个内容丰富的网站。但这些作品往往只是文字的堆砌，缺乏真正的思想和价值。如今，在亚马逊等平台上，已经涌现出大量由AI改写而成的"新书"，创作者只需对现有作品稍作修改，就能宣称是自己的原创。更令人担忧的是，这些AI生成的内容正充斥在网络中，让真实有价值的信息变得越来越难被“看见”。那些花费一辈子打磨个人风格的画家，可能在一夜之间自己的艺术特色就被AI完美复制，而且这些被窃取的艺术风格，任何人都可以随意使用。年轻的艺术学生们看到这样的情况，开始担心如果继续学习，未来是否能保证生机。艺术院校也因此受到严重冲击，40%-50%的学生看不到未来，转而学习其他技能，这导致一些拥有百年历史的艺术学院因此关闭。生成式AI已经打乱了他们的未来，他们甚至怀疑：在AI时代，投入毕生精力追求艺术梦想是否还有意义？赵燕斌的团队与全球的艺术家建立起交流渠道，几乎每天都会展开探讨。最初，赵燕斌也没有想到，他们的研究能产生这么大的关注和影响。大部分艺术家的需求其实只有一点，就是不希望人工智能干扰他们的正常生活，他们只希望继续创造作品，全情的投入在创作中。“在人工智能产出的作品越来越逼近人类作品时，真人的作品就更具价值。”赵燕斌认为，一张作品不仅需要好看，还需要有个人的意义和情感深埋其中，人工智能只能做到画面的颜色、结构等看起来是不是有美感。在中国，我也接触过一些AI艺术家，他们通过AI生成出自己的创意，并对生成的内容进行二次创作，最终产出作品。但是他们用AI辅助创作的作品也正在被拿来抄袭，这是一件非常有趣且值得深思的现象。生成式AI得模仿能力非常强，如果大家都互相模仿，未来我们看到的所有内容可能都是“千篇一律”的风格和感觉，从创新角度来说是灾难性的。大模型最需要的是能有更多新鲜的信息提供给它进行训练，如果这些创意者都不再产出新内容，那大模型未来的创意是否会停滞不前？当然，有人认为“风格模仿”也是艺术发展的一部分。在赵燕斌看来，这里存在一个关键差异：传统艺术学习与AI模仿的本质不同。人类学习另一位画家的风格是一个缓慢的渐进过程。当艺术家在街头看到一幅引人入胜的画作时，可能会从中获得灵感和启发，但绝不可能在五分钟内就完全掌握其风格精髓，更不用说批量产出上成千上万幅类似作品。艺术家们互相学习借鉴，但绝不会纯粹为了模仿而模仿，更不会刻意与原作艺术家形成直接竞争关系。给科研工作者的“启示”赵燕斌教授因在AI防护工具领域的贡献而广为人知，他是国际计算机学会（ACM）会士，并获得了美国国家科学基金会早期职业生涯发展奖（NSF CAREER Award）、互联网防御奖和《麻省理工科技评论》35岁以下科技创新35人奖（MIT Technology Review’s TR-35 Award）等多个荣誉。近期赵燕斌入选了2024年度全球人工智能百强榜单（TIME100 AI），他是其中少数入选的学术研究者。"这份榜单中企业界人士占绝大多数，来自学术界的教授仅有四五位。"赵燕斌表示，我们的基础研究能够产生如此广泛的实际影响，确实令人欣慰。“入选吸引了一些媒体对我们的研究成果进行传播报道，对于这一研究方向带来了积极的影响。”更值得一提的是，赵燕斌的团队有机会与更有影响力的机构和个人建立合作关系。尤其近期，赵燕斌与美国多个州政府展开交流，讨论人工智能技术的发展现状及其潜在风险。作为科研人员，他深刻认识到，除了通过技术手段直接帮助艺术家外，我们还需要为政策制定者提供专业的见解。如今，人工智能已成为全球科研界最热门的领域之一，无论是中国、欧洲还是美国，投入该领域的研究人员数量都远超其他学科。这种迅猛的发展态势也带来了隐忧，许多潜在的社会影响常常在技术推进的过程中被忽视。“正因如此，我们需要建立更加完善的科研体系。”赵燕斌说，只有当技术的发展能够确保为社会带来积极影响，同时有效规避负面效应时，才能实现真正健康可持续的AI进步。赵燕斌的团队目前正从多个维度推进人工智能安全研究。一方面，分析AI模型在各种条件下的行为特征，包括受到攻击时的反应。另一方面，致力于开发保护机制，前瞻性地思考未来可能出现的挑战，例如在艺术创作领域如何区分人类作品与AI生成内容。人工智能安全研究其实充满不确定性，很难准确预测每一项技术可能带来的所有后果。面对众多亟待解决的问题，赵燕斌的团队采取优先处理最具紧迫性的挑战，在实践中检验解决方案的有效性，并持续优化研究方向。未来人工智能的发展，赵燕斌觉得有一点必须值得注意，计算机科学长期以来存在一种惯性思维：技术可行性是唯一的研究准则，为科研而科研。然而，在人工智能领域，这种思维模式已经不再适用，伦理考量和潜在影响同样重要。他呼吁，年轻一代的AI学子尤其需要拓宽视野，在专注技术突破的同时，应当学习人文历史，培养社会洞察力。这种跨学科的素养能帮助他们判断：在何种情况下技术推进确实有益，何时又需要审慎考量潜在风险。归根结底，衡量科研价值的核心标准不应仅是论文数量或奖项荣誉，而是这项研究最终能为社会带来什么样的实际影响。这种责任意识的觉醒，或许是AI时代赋予科研工作者最重要的启示。 来源：小杨看科技
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!