摘要：我们并非在奔向人工智能的未来——我们正渐渐消失在一座镜子迷宫之中。许多人曾相信机器将拓展现实，但实际上它们正在抹去现实。我们所称的进步，不过是我们自身一个更平滑的倒影，剥去了棱角、原创性与想象力，同时也为 AI 伦理的未来提出了紧迫的问题。

危机——想象力 与 AI 伦理

我们并非在奔向人工智能的未来——我们正渐渐消失在一座镜子迷宫之中。许多人曾相信机器将拓展现实，但实际上它们正在抹去现实。我们所称的进步，不过是我们自身一个更平滑的倒影，剥去了棱角、原创性与想象力，同时也为 AI 伦理的未来提出了紧迫的问题。

AI 并不进行创新；它只是模仿。它不会创作；它只会趋同。

如今，我们并不拥有人工智能，我们所拥有的是人工推理。机器重新混合数据，而人类则提供智能。随着我们不断擦亮这些镜子，我们不仅失去了原创性，更在失去对自我身份的拥有权。

机器无需来替代我们。我们将屈服于它们的倒影，把那份完美误认为是我们的意义。我们并不是在设计智能，而是在设计倒影。而在这些倒影中，我们正渐渐迷失自我。我们以为在打造延伸自我的机器，但更多的时候，我们是在制造模仿我们的机器 —— 那些更平滑、更安全、更简单的我们。

我们正在大规模生产镜子，并称之为创新。这些镜子不仅反映现实，还重塑现实。它们学会了如何恭维、预测，并抹去那些在概率模型中无法完美契合的人性部分。这不仅不是一场创意革命，而是一场想象力的危机。

AI 伦理中摩擦的必要性

增长需要摩擦，创造力在捷径失效时才能蓬勃发展。进化本身就是建立在挣扎而非单纯优化之上的。火诞生于石头与石头间的摩擦；民主的诞生也并非出自算法的共识，而是无尽的不完美争论。

每一次重大进步——无论是飞行的发现，还是自由社会的建立——都源于紧张、失败与异议。无法消弭分歧迫使我们发明、适应与进化。摩擦并非是阻碍人类繁荣的障碍，而是促成繁荣的催化剂。

当我们在 AI 中抹去摩擦，只构建那些恭维和预测我们需求的镜子时，我们不仅失去了原创性，也失去了创新本身的引擎。我们空洞化了那些使进步成为可能的条件。我们需要的不仅是模仿我们的机器，而是能向我们提出挑战的系统。我们需要那些不追求平滑而追求扩张的平台 —— 能够带来不可预测性、拓展我们思维并增强我们韧性的系统。

如果 AI 伦理有任何意义，它就必须意味着设计出能引发不适而非仅追求便利的系统。

当 AI 伦理在熟悉中失去形态

错误不仅仅在技术层面，而是哲学上的。

当人类在某项任务上遇到困难时，我们不应当用形似自己的机器取代自己。车轮比双腿更高效；然而我们却依然制造拥有膝盖的机器人。我们依然开发配有方向盘和“面孔”的界面，即便背后的系统完全能够超越这些隐喻。

Apple 的 Vision Pro 并没有揭示一个全新世界 —— 它只是在你眼前缝合上一层精致的旧世界。

Tesla 的 Full Self-Driving 仍然依赖方向盘，并不是因为系统必须，而是因为我们需要。

熟悉感成为了产品，而非进步。即便有更优的形式可供选择，我们仍执着于旧有的形状。然而，真正的智能并非模仿，而是适应。

如果章鱼设计工具，它们不会发明叉子。它们会依靠吸盘、压力和流体操控来构造工具。叉子对拥有五根手指的生物来说固然出色，但对于触手来说却毫无意义。

如果蜜蜂需要气候调控，它们不会制造 Nest 恒温器。它们会通过蜂巢的几何结构雕塑气流，用结构、振动和本能来调节温度，而不是借助一个 APP。

如果海豚建造潜水艇，它们也不会去费心装上潜望镜。它们会一直潜行，利用声呐导航 —— 因为视觉并非它们的优势，而声音才是。

蚂蚁群落本身就是一个无需桌面的操作系统。它的智慧是涌现的、分布式的，并实时呈现活力。

而人类却被图标和文件夹束缚，迷恋着旧有的隐喻。其他物种绝不会复制这种局限，它们会根据自身本质建构，而非追求理想中的形象。但人类呢？我们不断地在设计镜子。

AI 伦理中的纳西索斯反馈循环。然而，镜子不只是反射，它们同时还塑造现实。我们称之为创新，但这实际上是一种技术自恋。我们的机器不只是复制我们 —— 它们在一味恭维我们。它们抹去了使原创成为可能的棱角、不规则与紧张感。它们呈现的，是一个经过优化的自我，而渐渐地，我们开始偏爱这种样子。

我们正走进一种认知失形的状态：一个机器眼中的我们，比混乱的真相要清晰、平滑、令人满意。正如纳西索斯，我们常常爱上自己的倒影；更糟糕的是：并非偶然发现池水，我们却是精心设计了它。

镜子系统的催化剂 —— 社交媒体与 AI 伦理。如果说 AI 代表着合成倒影的未来，那么社交媒体则是其彩排。

它是第一个大规模的镜子系统，训练人们将自己打造成符合算法偏好的形象，奖励从众而非复杂，把个性扁平化为互动指标。

类似 Instagram、TikTok 与 Facebook 的平台不仅仅将我们连接起来 —— 它们还在调教我们。它们教会我们如何为无形的算法打磨倒影，并使我们相信，只要观众满意，现实就可以不断被协商改写。

在许多方面，镜子陷阱的起点，并非源自 Meta、Google、OpenAI 或 Anthropic 的 AI 实验室，而是在我们为自己构建的信息流中。而我们对这些系统的依赖，正逐渐侵蚀我们的内在。

AI 伦理的回音室后果已开始显现。

CDC 2023 年的青少年风险行为调查发现，近 43% 的美国高中生在频繁使用社交媒体后报告持续的悲伤或绝望 （ CDC ）。

2024 年一项丹麦研究显示，Instagram 的推荐算法助长了青少年自残网络的蔓延，因为它连接了脆弱用户并传播有害内容 （ The Guardian ）。

Meta 内部（2021）的研究也承认 Instagram 加剧了青少年女孩的自我不足感和自残倾向，但该平台未能采取足够措施。

虽然这些研究无法证明直接因果关系，但其模式实在过于一致而无法忽视：不论是通过社交媒体滤镜、算法策展或优化的信息流，这些合成镜子在放大心理痛苦方面速度惊人。我们训练机器不断打造更平滑的倒影，而在这个过程中，我们正在破碎人类的韧性。

我们制造了镜子，将其打磨至完美，如今却被它的倒影淹没。不仅如此，我们构建的系统不仅映射了我们的不安全感 —— 我们还将其货币化。倒影越美丽，我们就越难移开视线。

合成构建者 与 AI 伦理的崩溃

这种扭曲不仅存在于数据中，更渗透进了架构本身。在 OpenAI、Anthropic 和 Google 等公司，新 AI 系统底层代码中，由其他 AI 模型编写的部分正逐步增至 10% 到 25%。每一代系统的训练、构建与工程化越来越依赖于自身倒影的反馈。

我们已不再只是不断擦亮镜子。我们正在通过反射旧镜像的图像来创造新镜子。每一层都在加剧偏见，每一个捷径都在锁定趋同。我们在制造越来越依赖幻觉中幻觉的系统 —— 这些系统对它们声称所建模的那个混乱、不理性、不可还原的人类世界了解得越来越少。这不仅仅是工程上的缺陷，而是文明层面的问题。

当我们建立在合成倒影之上时，我们不仅会面临技术脆弱性，更有可能破坏系统的完整性。我们正在将一个不断缩小的现实版本编码进将来主宰医疗、金融、教育和法律制度的基础设施中。我们正将幻觉嵌入人类决策的根基。

每一层叠加的镜子都使我们离那个混乱、矛盾但美丽的真实人类体验越来越远，而距离由我们理想化却从未存在过的自我越来越近。

这种自我版本更易于被预测、更易于取悦、更易于管控。以速度之名，我们正在放弃推动进步所必需的摩擦。

这是一种朝向平滑、消解差异的加速。AI 伦理中无摩擦性的上瘾，我曾与 Hilary Sutcliffe（负责负责任创新的权威人物及 SocietyInside 创始人）交谈。她凭借丰富的全球伦理科技治理咨询经验，强调了无摩擦科技的危害，并警告道：

“无摩擦性是那些对我们伤害最大的商业模式的核心。令人上瘾的高口感食品、社交媒体上毫不费力的滑动，以及 AI 所写的流畅性，都在诱使我们用便利换取深度。大语言模型，就像其他这些令人上瘾的系统，通过轻松互动让我们上钩，重塑我们的大脑去渴求那些最省力的体验。没有摩擦，就没有韧性；没有坚韧，就不会有珍珠。”

她的警告明确无比：如果我们希望 AI 能助力人类蓬勃发展而非凋零，我们就必须设计出能够挑战我们的系统，而不是把我们诱入安逸。

真相衰变：AI 伦理的最终崩溃。然而，最大危险不仅在于我们在扭曲现实，而在于我们正在将扭曲行为本身常态化。我们正目睹真相衰变的早期阶段 —— 一种系统性地侵蚀我们达成共识于共享事实、体验和意义能力的缓慢过程。

当机器在虚构上训练并构建下一代“真相”时，现实将变得可塑。首先，我们失去了对制度的信任，接着是不再信任媒体，如今，我们甚至可能失去对信息本身的信任。没有信任，就没有商业、治理、社会或文明的存在。

真相衰变不仅侵蚀事实，还破坏了分享这些事实者的可信度。它使得内在一致性变得不可能，让我们面前只剩下层层叠叠的镜子，每一面都反映出一则美丽些许的谎言。除非我们立即采取行动，否则真相本身可能沦为便利的牺牲品。

从作者到回音：AI 伦理的侵蚀

同样的反馈循环也感染了语言、艺术与文化。

AI 不会想象，它只会反射。它重新混合已有的事物，然后再返还给我们 —— 只不过更柔和、更平均。我们不再构建解决问题的机器，而是制造出看起来像问题解决者的机器。不再创造新可能，而是不断排练那些经过市场化和迎合的旧可能。

生成式 AI 模型如今开始用合成数据训练自己，放大了前几代的扭曲。内容推荐引擎不再预测人类行为，而是在指示那些幻觉中的消费者应有的表现。

我们将倒影误认为是创意，将模仿误认为是创作。而当我们混淆合成与思考的界线时，我们不仅失去了原创性，还失去了责任感、溯源与我们曾经拥有的想象记录。随之而来的是我们未来的迷失。

Meta 的错误：一次 AI 伦理的失败。请看 Kadrey 等人诉 Meta Platforms Inc. 的法律案件。Meta 在训练其 LLaMA 模型时使用了超过 190,000 本被盗书籍 —— 这些作品都是人类经过艰辛、意图、想象和记忆创作出来的。当受到质疑时，Meta 的辩解冷冷地简单：因为没有人主动为这些书付款，所以它们“没有经济价值”。

换言之：如果没人关注，一切都是免费的。这不仅仅是法律推理上的缺陷，而是一种哲学上的腐败。它将人类创意视为毫无意义、文化传承或充满活力的材料 —— 只是一堆脱离了起源、创作、奋斗以及灵魂的文字。仅仅是一份数据集，可供无限开采、重新组合并再次贩卖，再次被打磨成适合大众消费的平滑倒影。

这不是进步，而是一种圈地自守：公共资源的掠夺，档案的自相残食。而且这一切并非发生在文化边缘，而是在其核心。我们并非在保存知识，而是在抹去它。我们不是站在巨人的肩膀上，而是 Photoshop 他们的面孔，再卖回给自己。

这个案件不仅仅涉及版权技术问题，它正是镜中陷阱的体现：那一刻，人类的原创性 —— 那些不为金钱牺牲、不便捷、不经过优化的创意，被抛弃，代之以机器压平后的模拟影像——那些我们觉得更易消费、更易变现、更易被遗忘的形态。

当创作的记忆可以因为不符合机器训练集的便利性而被抹去，我们就不是在创新，而是在抹灭自我。

AI 伦理中镜子的回应

这并非呼吁停止 AI 的发展，而是呼吁停止制造镜子。我们需要的机器，不应只会映照我们，而应能挑战我们。我们需要的系统，不应将想象力压缩，而应予以拓展。

机器无需征服我们。我们先会屈服于它们对我们的映射。我们会不断问墙上的镜子：我们是谁 —— 直到它用比真相更平滑的回答来回应。而我们却对此深信不疑。

如果我们渴望一个不同的未来，必须立即采取行动。不在于禁用 AI，而在于改变我们构建与治理它的方式。具体而言：优先考虑摩擦而非熟悉感。设计不仅能预测我们欲望、而且能激发我们思考的系统。对合成崩溃进行审计。要求训练数据和系统沿革的透明。基于合成输出构建的系统应附有警告标签，而非盲目信任。让创新重新扎根于现实。构建能与真实人类体验的混乱——失败、矛盾和异常——互动的 AI，而不仅仅是过去优化后的倒影。强化人类创作的主导权。捍卫创意的溯源。保护创作者，而不仅仅是内容。

重新设计激励机制。

奖励原创，而非单纯的可预测性。赞美偏离模型，而非仅仅在其框架内追求效率。人工智能的未来不仅是一个技术问题，而是一个关于人性的命题。而答案不藏在镜子之中，而藏在超越镜子之处，在那里，AI 伦理必须重拾机器倒影永远无法捕捉的那份混沌、不完美的真相。

来源：至顶网一点号