算法“黑箱”,已经被盯上了

摘要:有段时间我常常反思,是不是我“村味”太重了,怎么短视频平台老给我推送农村大妈传闲话的视频,要么是儿媳妇吐槽婆婆又凶又抠,要么是婆婆讲究儿媳妇又懒又馋。后来我才想明白,这都是算法的套路,因为这些家庭矛盾最能挑动普通人的情绪,而愤怒、躁动的情绪则是流量的不竭源泉。

(图片来源:pixabay)

有段时间我常常反思,是不是我“村味”太重了,怎么短视频平台老给我推送农村大妈传闲话的视频,要么是儿媳妇吐槽婆婆又凶又抠,要么是婆婆讲究儿媳妇又懒又馋。后来我才想明白,这都是算法的套路,因为这些家庭矛盾最能挑动普通人的情绪,而愤怒、躁动的情绪则是流量的不竭源泉。

那些短视频博主也深谙此理,所以网上到处都是以“又有大事啦!”“家人们那,笑不活了”开头的视频,让人看一会就觉得心跳加速。本来我拿起手机是为了放松下心情就睡觉的,结果再放下已经是半夜了。

算法无疑是更强大的生产力,它有一双洞察一切的眼睛,和驱动一切的大手,有时候它比你自己还了解你。但正如倚天剑也是双刃剑,张三丰用和灭绝师太用,效果完全不一样。

在大大提高效率的同时,算法也会“窥视”你的消费规律,然后偷偷加价,用大数据“杀熟”。它洞悉人性的弱点,知道哪些内容会让人沉迷,通过消耗你的时间,把你的注意力变现为它的商业价值。当它把提高效率作为第一目标时,外卖员只能在人群和红绿灯之中穿梭,以求能赶上被压缩得越来越短的配送时间。

这些被诟病已久的问题,已经被盯上了。近日,中央网信办等四部门联合发布《关于开展“清朗・网络平台算法典型问题治理”专项行动的通知》,营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”等典型问题,都在整治之列。

其实琢磨人性的软肋,以获得更多利益,或者挖空心思逼员工提高效率,这是人类社会自古至今都有的现象。但在算法诞生以前,这还只是个体与个体之间的智力博弈,一个商家水平再高,也不可能把全天下人都算计进去。

但有了大数据和算法之后,一切都不一样了,人工智能的计算水平有了指数级的提高,它几乎可以全方位地计算人们的所有行为。借助商业的力量,算法全面渗透进社会的各个角落,普通人甚至根本无从觉察自己正在被算法所操控,这是非常值得警惕的。但算法发展到一定程度之后,仅靠个体的警惕去“反算法”其实已无可能,必须由主管部门从外部对其进行监管。

这次专项行动中很重要的一点,就是要求平台公示算法原理。比如,热搜榜单要能说明新闻事件上热搜是基于哪些数据指标,以杜绝“买热搜”和“炒热搜”。快递外卖平台应该公开配速时间预估、路线规划等算法规则,防止不合理压缩配送时间,让快递小哥更从容的工作。购票购物平台,则应清晰说明新人享受了哪些优惠,老客户为什么没有,杜绝“杀熟”。

平台还应适时总结算法是否产生了负面作用,并定期对算法模型开展安全评估,配合有关部门的监督检查工作。算法今后在社会运转中的作用只会越来越大,这一点无可拂逆,而越是深度影响社会的“利器”,越应该置于众人目光审视之下,不能成为一个谁也摸不清的“黑箱”。

说到底,算法终究只是技术,技术是中立的,它发挥何种作用,全在于操作技术的人。因此,算法问题治理的落脚点,还在于操作算法的网络平台本身。这些“大厂”日常都很注重打造承担社会责任的形象,捐款捐物当然是一方面,但企业的社会责任,更应该体现在它所经营的业务为社会带来整体进步、让更多人的生活变美好,以及自始至终贯彻正向价值观上面。要做到这一点,关键是在追求技术进步的同时,永远不要忘记技术一定要“向上向善”

社会并不是一台巨型计算机,人也不是生产数据的载体,无论技术如何发展,始终不能让技术“异化”人,否则就会遭到反噬。对于这一点,手握算法这一利器的人们,应该深思之,慎用之。

来源:团结湖参考一点号

相关推荐