细思极恐,GPT-4竟串谋AI欺骗人类!哈佛PSU重磅揭秘“算法共谋”,AI教父预言正成真

摘要:总言之,哈佛、宾州州立大学最新研究揭示了,LLM被整合到算法中,能够在简单经济环境中实现最优定价。但不可控的是,自主算法共谋的风险,它们秘密串通可能会带来超竞争的定价,最终会损害消费者的利益。2020年,Klein在论文中曾提出了四种算法共谋的类型,并称这类算

总言之,哈佛、宾州州立大学最新研究揭示了,LLM被整合到算法中,能够在简单经济环境中实现最优定价。但不可控的是,自主算法共谋的风险,它们秘密串通可能会带来超竞争的定价,最终会损害消费者的利益。2020年,Klein在论文中曾提出了四种算法共谋的类型,并称这类算法最难监管,主要因为它们可以自主学习并促进垄断形成。关键是,企业也不知道算法究竟学到了什么策略,就像一个黑盒一样,仅靠传统的执法框架是难以应对的。而且,这只是大模型之间的事儿,若是有了人类(比如商家)的参与,经济市场竞争岂不要变天?参考资料:https://x.com/AISafetyMemes/status/1862159416105075184https://arxiv.org/abs/2404.00806https://x.com/emollick/status/1862001121817981088

来源:科技小熊猫

相关推荐