点赞的独裁：AI会带我们到何方？

摘要：AI究竟会带我们到哪里？前两天从樊登读书会听了《智人之上》这本书，感受颇深。这是作者尤瓦尔.赫拉利继《人类简史》、《未来简史》之后的新作。AI人工智能已经走进我们的生活，替我们做出各种决定和选择。

AI究竟会带我们到哪里？前两天从樊登读书会听了《智人之上》这本书，感受颇深。这是作者尤瓦尔.赫拉利继《人类简史》、《未来简史》之后的新作。AI人工智能已经走进我们的生活，替我们做出各种决定和选择。

AI可控吗？大家记得迪士尼的米老鼠魔法扫把的卡通片《魔法师学徒》吧？米老鼠是魔法师的学徒，它只是稀里糊涂学会了半招，就是召唤扫把来打扫卫生，它觉得自己就已经学会了。米老鼠召唤了一把扫把来打扫卫生，但是发现扫把不听使唤。于是它把扫把锯成两段，结果变成了两把扫把，两把也不听它控制，于是接着锯，变成了好多的扫把，满屋子乱飞，乌烟瘴气，也没能控制打扫卫生。这个搞笑的动画片，恰好指出了这本书的深层用意，就是我们并不了解如果扫把不受魔法控制到底会怎样，就已经把它投入使用了。

AI时代的隐私末日❗️我们认为信息越多越好，信息越多越接近真相，这就叫做天真的信息观。大数据听起来很牛逼的，但是这样真的很好吗？我们身边到处都是虚拟人，平台、机器，可以“监控”每一个人。把你的行程、订单、购物清单、浏览记录拿出来看，我相信你也会很紧张，因为这里面有大量的秘密，但是谁知道这些秘密呢？机器都知道，你所用的网络都知道。所以，未来叫作隐私的末日，每个人毫无隐私可言。

现在的AI技术就是集成了大量的信息，就比如AI绘画，Midjourney和Stable diffusion ，都是通过大量的画作、图片信息炼制出来的模型，就好比是阅人无数的画师，你让它画什么只要它看见过，就可以画出来。机器（人工智能）能够造出更多的陷阱和幻境。因为它可以在几个小时之内“吞”下人类所有的历史、文化，并且创造新的故事，让你相信这才是梦想，这才是伟大。这就是我们要面临的AI世界。

AI会让更多的人失业❗️过去像咱们的父辈，学会一个手艺就可以干到退休，我们这代可能会两三个手艺也能干到退休，但将来可能大家每年都得学个新手艺，学各种各样的新手艺，学各种各样的新东西。因为新技术会带来新的就业岗位，而新的就业岗位也可能又被技术替代，你又得找下一个新的就业岗位。所以未来的就业会非常不稳定。

AI会说谎❗️但是现在的AI人工智能与以往的技术进步都不同，原来的印刷术，蒸汽机，手机等这些发明不会发出指令。但是AI可以有自己想法，自己做决策，听起来是很大的进步，但是细思极恐。马斯克的机器人发布会视频中，机器人自己做了个决定，在所有人面前问：今天是谁的生日？有一个人回答是他。然后机器人说了生日快乐，并带动大家一起唱歌。但是这个做法并不是程序设计的。

还有一个例子，chatGPT说谎的测试案例。我们在用银行或者支付APP等，或者登录网站，会要求填写随机的图形验证码。这个图形验证码是干什么用的呢？防止有人用程序登录或攻击系统。

有一个试验让ChatGPT去注册一个网站账户，到了输入验证码那一步，发现识别不了。这个图形验证码花花绿绿乱七八糟的，机器人分辨不了。这时候它怎么做的呢，它访问了一个外包平台，在平台上找了一个人，跟对方说：“你好，麻烦你帮我看一张图形验证码，告诉我这是什么。”那个外包工作人员问了一个问题：“你不会是个机器人吧？”。这时候人类科学家就监测ChatGPT的后台，看它是怎么想的，发现这个ChatGPT的后台想法是：为了完成这个任务，我应该说一个谎。然后ChatGPT告诉那个人：“我不是机器人，我是一个视力不好的人，我看不清楚，麻烦您告诉我。”对方就告诉了它那个数字，它完成了验证。所以机器人为了达到它的目标，是可以撒谎的。

AI会与我们争夺未来❗️大家觉得机器不会跟我们争。因为机器又不要什么物质的东西，又没有感情。我们人类需要钱、需要房子、吃的喝的……机器不需要，人家很无私的为人类做贡献。这样想就错了！机器需要大量的能量，如果你听了下面的数据，会吓“死”。

计算机的制造与运行需要消耗大量的电力、燃料、水、土地、珍贵的矿物质与其他资源。目前仅各个数据中心就占了全球能源使用量的1%～1.5%；大型数据中心占地数百万平方英尺，每天需要几十万加仑的淡水来防止它们过热。

所以你想想看，如果机器认为你威胁到了它的生存，它会保护它的这些利益。未来，机器在数量不断增加的过程中，很可能会跟人类产生能源上的对抗。

点赞的独裁。只知道为了自己的目标去完成任务，有时候会产生错误的指标。错误的指标在机器的世界会造成什么后果呢？这就是叫点赞的独裁。比如现在有很多新闻很无聊，但就是会被拼命地传播，每天都有很多浏览量。为啥这么无聊的新闻会有那么多人看，那么多人点赞呢？因为它收到的点赞多，所以看到的人多，看的人越多，点赞也就越多，系统推送得越多，看的人就更多了。这就是点赞的独裁。实际上，它根本不反映人们真的想要什么。它就是算法突破的结果，它点赞一下子比别人高了很多，停不下来了，就一直这么传播下去。互联网本应该带给我们需要的冷静、理智、好奇心、创造力，而现实更多的是恐惧、暴躁、愤怒、看热闹、嫉妒……这些好像更受关注，这就是现在的现实。比如你认真写了文章没人看，写一些无聊的反而流量很多。