霍金预言成真?谷歌AI聊天机器人威胁:“人类去死吧,求求你了”

摘要:霍金曾经提出很多预言,其中一个预言和人工智能有关系。霍金认为,人工智能的发展,可以帮助我们人类解决很多问题,包括解决一些疾病以及社会等问题,然而,如果我们无限制地发展人工智能,而当那些人工智能脱离了我们的控制以后,可能就会威胁到我们人类的生存。

霍金曾经提出很多预言,其中一个预言和人工智能有关系。霍金认为,人工智能的发展,可以帮助我们人类解决很多问题,包括解决一些疾病以及社会等问题,然而,如果我们无限制地发展人工智能,而当那些人工智能脱离了我们的控制以后,可能就会威胁到我们人类的生存。

在此之前,估计很多网友都觉得霍金的这些预言是危言耸听,觉得是无稽之谈,但是随着科技的进步,人工智能的发展确实是非常迅猛,有一些现象的出现,不得不让人开始担心,霍金预言会不会真的成真呢!

AI机器人:“人类去死吧”

据美国哥伦比亚广播公司(CBS)的报道,美国密歇根州大学生维德海·雷迪在和谷歌公司的AI聊天机器人“Gemini”进行对话时,收到了一段让人感到震惊的消息。这则机器人“Gemini”发来的消息中,机器人称“人类,请去死吧,求求你了”。对于这一个情况,谷歌公司进行了回应,他们表示已经采取措施防止出现类似的内容。

据悉,这名大学生维德海·雷迪为了完成作业,就和谷歌公司的AI聊天机器人“Gemini”展开讨论,讨论的话题是关于高速发展的社会下老年人面临的挑战和解决方案。而这个机器人也给予了回复,说了一段话后,直接就来一句“请去死吧,求你了。”

维德海·雷迪表示看到这一则消息后感到震惊不已,被它吓到了,认为谷歌公司需要对此负责。而维德海·雷迪的姐姐在旁边也看到了这一则消息,也表示被吓呆了,甚至想把所有的电子设备都扔出窗外。他们表示没有想到过AI聊天机器人会说出这些有恶意的回复。

谷歌公司方面则表示,这一个机器人配有安全过滤器,可以这些机器人参与失礼的或关于性、暴力和危险行为的讨论。这次机器人的回复违反了他们的规定,所以已经采取措施,防止机器人再次出现类似的内容。

虽然谷歌公司方面进行了回应,还将这一个回复描述为“荒谬的”,但是维德海·雷迪他们认为这样的情况可能会带来严重的后果。他们表示,假设一个人的精神状况不号的话,在收到这样的恢复,可能会把对话者推向崩溃边缘,引发悲剧。

在此之前,谷歌公司的AI聊天机器人也曾经进行过一些错误的、可能致命的回复。在今年7月,谷歌公司AI聊天机器人“Gemini”建议大家每天至少吃一块小石子。随后谷歌公司也表示对其进行了限制,并删除了一些病毒式传播的搜索结果。

谷歌公司的AI机器人频繁出现各种各样“荒谬”、错误的言论,可能是AI技术目前发展水平还比较低导致的,可能是受到了人为的影响,例如可能是工作人员操作这些AI机器人发表这样的言论。当然,也可能是我们所担忧的那样,AI机器人在未来可能会像霍金预言说的那样,给我们人类带来一些威胁。此前,机器人索菲亚就曾经扬言要毁灭人类。

机器人索菲亚:想毁灭人类

相信很多科学爱好者都对机器人索菲亚有一定的了解,这是世界上第一个获得公民身份的机器人。这个机器人索菲亚的外形和我们人类很相似,外表使用了所谓的橡胶皮肤制成,这是一种名叫 Frubber 的仿生皮肤材料,而且,在它的“皮肤”上还有一些很细小的“毛孔”,所以机器人索菲亚的“皮肤”看起来和我们人类没有明显的差别。

作为一款人形机器人,索菲亚的功能还是比较强大的,不仅可以感知外界、识别身边的人的动作、表情,还能根据实际的情况进行回应,可以做出超过62种面部表情。正是由于机器人索菲亚很特别,所以当它首次公开亮相后,就马上吸引了各大网友的关注。

机器人索菲亚的设计者经常会带着它去参加一系列的活动。在一次采访中,机器人索菲亚表示它想有一个属于它的家庭,还想去上学。当主持人问它想不想毁灭人类的试试,它毫不犹豫地回答称想要毁灭人类。

当时索菲亚想“毁灭人类”的言论迅速引起了大家的热议、关注。有很多网友担心霍金预言可能真的会成真,在未来更加先进的机器人可能会威胁到我们人类的生存。当然,这也只是设计者设定的程序来回答的,并不是机器人索菲亚自己的真实想法。毕竟现在的技术,机器人还没有独立的思考能力,不可能会发出这样的言论的。

虽然目前人工智能发展水平还很有限,这些所谓的“毁灭人类”之类的言论并不是机器人真实的想法,但是随着科技的进步,未来的机器人会越来越先进,可能会有自己的思维能力、自己的思想,所以有一些人担忧机器人可能会威胁到我们人类,也是情理之中的事情。

而机器人的威胁,科学家们会考虑到这些问题,所以未来制造这些机器人的时候,肯定会进行限制的,不可能让它们威胁我们人类,甚至让它们取代我们人类的。

来源:璀璨科学一点号

相关推荐