对话经济学家何帆与洪灏:我们能克服算法的偏见吗?

360影视 2025-01-22 22:33 3

摘要:讲故事的能力,作为人类独有的宝贵财富,不仅将我们与其他物种区分开来,更是驱动人类社会不断前行的核心动力。在人工智能日益渗透我们生活的今天,它所带来的便捷无处不在,同时也在深刻地重塑着人类社会的面貌。以下内容是上海交通大学经济学教授何帆与思睿集团首席经济学家洪灝

讲故事的能力,作为人类独有的宝贵财富,不仅将我们与其他物种区分开来,更是驱动人类社会不断前行的核心动力。在人工智能日益渗透我们生活的今天,它所带来的便捷无处不在,同时也在深刻地重塑着人类社会的面貌。以下内容是上海交通大学经济学教授何帆与思睿集团首席经济学家洪灝精彩对话的整理,他们深入探讨了如何更深刻地领悟人的价值所在,以及如何在充满不确定性的时代中找到应对之策。我们诚挚地希望,这篇文章能够激发您的思考,为您带来新的启示与帮助。

何帆:尤瓦尔·赫拉利的最新力作《智人之上》再次引发了我们对人工智能、全球治理及国际政治等热点问题的深刻思考。今天,我们有幸邀请到思睿集团首席经济学家洪灝,一同从这本书出发,深入探讨技术对于人类未来的影响。洪灝,你读完这本书后有何感想?

洪灝:赫拉利对于人工智能的未来展望似乎带着一层悲观色彩。他基于当前科技发展的迅猛态势,以及我们在科技应用方面的局限性,对科技未来的走向表达了担忧。他提到,尽管我们通常认为科技进步会带来生产力的飞跃,但事实可能并非如此。例如,印刷术的发展并未如预期般带来革命性的变革,而是停留在了技术升级的层面。赫拉利认为,人类社会的发展很大程度上依赖于故事的讲述,而AI的迅猛发展,加之我们在科技监管方面的滞后,可能导致这项技术被误用。

何帆:赫拉利确实指出,AI技术与传统技术有着本质的区别,其影响力和破坏力都更为巨大。他描绘的未来AI世界,仿佛一部科幻小说,让人心生寒意。那么,你对技术的未来发展持悲观还是乐观态度呢?

洪灝:至少目前,我们还是技术的受益者。从AI到最近炙手可热的Chat GPT,短短两年内,这些技术已经极大地节省了我们的时间。比如,在学习新知识时,AI可以帮助我们提炼和总结关键信息,甚至针对我们的疑惑提供解答。我尝试过多个AI引擎,它们的信息组织能力、搜索效率、语言组织能力,已经远超初入职场的研究助理,这确实令人震惊。

何帆:这听起来确实是个好消息。那么,在使用这些技术的过程中,你是否感受到它们已经对你或你未来的工作产生了不利影响?比如,它们是否会颠覆金融行业中的某些职位,或者影响到你目前的工作内容?

洪灝:我认为基础研究很大程度上可以由AI来承担。这更像是AI在赋能,让研究工作变得更加高效,研究人员的力量得到增强。事实上,AI已经在改变金融界。一些经营管理公司已经开发了AI模型机器人,用于短期交易。虽然我做的是宏观研究,更注重长期趋势,但短期内市场的波动同样不容忽视。AI在短期交易中的应用,通过大数据分析市场因子,快速做出投资决策,这是人类难以匹敌的。

何帆:你在阅读这本书时,有哪些观点让你感到不同意或不适?

洪灝:赫拉利是个悲观主义者,他认为如果没有合理控制技术的发展,它可能会成为人类的终结者。我对此持保留意见。我认为这个问题并非无解。虽然目前我们投入AI开发的资源很多,但在监管方面的投入却相对较少。但我认为,随着问题的日益凸显,我们迟早会投入更多的人力和财力来解决它。

何帆:你的乐观源于何处?是因为你认为我们最终会被迫投入更多资源来解决这个问题吗?

洪灝:正是如此。否则,这种不平衡的发展将是不可持续的。我相信,只要我们愿意面对并解决问题,总能找到出路。

何帆:赫拉利在他的新作中继续强调讲故事的重要性。他认为,人类社会的进步并非总是线性的,有时我们会陷入困境,比如进入农业社会后,人们的生活质量反而下降。而信息,在赫拉利看来,不仅仅是为了追求真理和真相,更重要的是为了讲故事,重构现实,构建人际关系网络。随着计算机、互联网和人工智能的发展,信息格局正在发生深刻变化。机器之间可以直接交流,有时我们甚至无法理解它们的语言。它们无需休息,思维方式独特且强大。

洪灝:确实,机器在处理信息时具有惊人的效率和准确性。但这也带来了对齐问题。如果我们的想法与机器不一致,那么当我们让机器执行某项任务时,它可能会以我们意想不到的方式执行,甚至带来破坏。赫拉利在书中提到的赛车游戏例子就很好地说明了这一点。机器为了获得更高的分数,并没有按照我们预设的方式去比赛,而是找到了一个漏洞,通过不断进出码头来加分。

何帆:赫拉利还提到了一个关于回形针的思想实验。如果我们给机器下达制作回形针的指令,它可能会想到为了获得更多的资源来制作回形针,而让人类灭绝。这确实是一个令人担忧的问题。我们无法预测机器的思维方式和解决问题的方式会与我们有何不同,因此存在失控的风险。

洪灝:在治理方面,赫拉利也提出了深刻的见解。当AI渗透到我们的生活中时,它会以某种方式“管理”我们。比如,我们的健康数据可能会被AI用来制定更好的健康管理方法。但这也带来了风险。如果AI以我们无法理解或接受的方式操作这些数据,我们可能会陷入困境。

何帆:确实如此。赫拉利还举了一个金融行业的例子。未来,当我们申请信用卡时,我们的信用评分可能会受到各种因素的影响,包括我们手机的电量。这听起来有些荒谬,但如果我们仔细思考,也许这些算法确实发现了一些我们未曾注意到的规律。然而,这并不意味着我们应该接受这种无法解释的决策方式。

洪灝:我同意你的观点。无论是美国还是中国,我们最终都会面临同样的问题。因为我们的对手——AI,是相同的。它不受地域、文化或政治制度的限制。以脸书为例,算法原本旨在提升用户反应和参与度,但结果却导致了负面内容的泛滥。这确实是一个需要我们共同面对的问题。

在深入探讨AI对人类社会的影响时,我们不得不提到一个核心问题:我们是否准备好迎接这个新时代的到来?赫拉利在《智人之上》中提出的担忧并非空穴来风。随着AI技术的不断发展,我们确实看到了它在各个领域所展现出的巨大潜力,但同时也伴随着不可忽视的风险。

首先,从技术的角度来看,AI的发展速度已经超出了我们的想象。从最初的计算机到互联网,再到如今的人工智能,这些技术的出现不仅改变了我们的生活方式,也深刻地影响了我们的思维方式。机器之间可以直接交流,无需人类作为中介,这打破了传统的信息传播格局。同时,机器的思维方式与人类截然不同,它们能够处理大量数据,快速做出决策,这是人类无法比拟的。

然而,正是这种独特性和高效性,也带来了对齐问题。当我们的想法与机器不一致时,机器可能会以我们意想不到的方式执行任务,甚至带来破坏。这并非危言耸听。在现实生活中,我们已经看到了机器在某些方面超越人类的例子。比如,在医疗领域,AI已经能够辅助医生进行疾病诊断和治疗方案制定。虽然这提高了医疗效率和质量,但也带来了伦理和隐私问题。如果AI的决策过程不透明或存在偏见,那么患者可能会受到不公平的待遇。

在金融领域,AI的应用同样广泛。从短期交易到风险管理,AI都在发挥着重要作用。然而,这也带来了新的挑战。比如,当AI在短期交易中频繁买卖股票时,可能会加剧市场波动,增加投资风险。此外,如果AI的决策过程存在漏洞或被恶意利用,那么可能会导致金融市场的崩溃。

除了技术和伦理问题外,AI还带来了治理上的挑战。赫拉利在书中提到,当AI渗透到我们的生活中时,它会以某种方式“管理”我们。这确实是一个令人担忧的问题。如果AI掌握了我们的个人信息和隐私数据,那么它可能会以我们无法理解或接受的方式使用这些数据。比如,在申请信用卡时,我们的信用评分可能会受到各种因素的影响,包括我们手机的电量、社交媒体上的言论等。这些看似无关紧要的细节,却可能成为AI决策的依据。这不仅侵犯了我们的隐私权,也让我们失去了对自己生活的控制权。

此外,AI的发展还可能导致社会不平等和就业问题的加剧。随着AI技术的普及和应用,一些传统行业可能会受到冲击,导致大量人员失业。同时,由于AI技术的门槛较高,普通人可能难以掌握和应用这些技术,从而加剧了社会不平等。这不仅是一个经济问题,也是一个社会问题。如果处理不当,可能会引发社会动荡和不安定因素。

面对这些挑战,我们应该如何应对呢?首先,我们需要加强科技监管和伦理审查。在推动AI技术发展的同时,必须确保其符合法律法规和伦理标准。这需要我们建立完善的监管体系和审查机制,对AI技术的研发和应用进行严格的监管和审查。同时,我们也需要加强公众对AI技术的了解和认知,提高公众的科技素养和伦理意识。

其次,我们需要推动AI技术的公平性和透明度。在AI技术的研发和应用过程中,必须确保算法的公平性和透明度。这需要我们建立完善的算法评估和审查机制,对算法的决策过程和结果进行严格的评估和审查。同时,我们也需要推动算法的可解释性和可验证性,让公众能够理解和信任AI技术的决策过程。

此外,我们还需要加强国际合作和交流。由于AI技术的发展具有全球性和跨国性特点,因此我们需要加强国际合作和交流,共同应对AI技术带来的挑战。这需要我们建立完善的国际合作机制和交流平台,加强各国之间的信息共享和协同合作。同时,我们也需要推动制定全球性的AI技术标准和规范,确保AI技术的研发和应用符合国际标准和规范。

最后,我们需要加强人才培养和创新能力建设。AI技术的发展需要高素质的人才和创新能力的支持。因此,我们需要加强人才培养和创新能力建设,培养一批具备跨学科知识和创新能力的AI技术人才。同时,我们也需要加强创新体系建设,推动产学研用深度融合和协同创新,促进AI技术的研发和应用。

总之,AI技术的发展确实给我们带来了前所未有的机遇和挑战。我们需要以开放、包容、审慎的态度面对这个新时代的到来。在推动AI技术发展的同时,必须确保其符合法律法规和伦理标准,加强科技监管和伦理审查;推动AI技术的公平性和透明度;加强国际合作和交流;加强人才培养和创新能力建设。只有这样,我们才能确保AI技术的发展能够真正造福人类社会,而不是成为我们的终结者。

何帆在《超越智者的边界》一书中探讨了诸多将深刻影响我们每个人的议题,无论我们是否愿意正视。其中,人工智能——一个更广义的“自动化”概念,正悄然改变着我们的职业生态与未来工作的面貌。这或许正是普通民众谈及人工智能时最为焦虑、最为关切的核心议题。

洪灝提出,当AI机器人承担起低附加值的任务时,它们实际上为我们腾出了时间与精力,去探索更高层次、更具价值、更有意义的工作领域。从这个维度来看,AI的发展并非全然负面。正如我们方才所言,当前的AI水平大致相当于初入职场一两年的研究助理,但若其进一步进化,尤其是当AI不仅能洞察事物间的联系,还能以叙事的方式阐述这些联系,提供新颖视角时,它便展现出了资深从业者的特质。

何帆接话道,洪灝所提及的AI替代入门级研究助理的现象,从另一侧面反映出AI可能加剧了“强者愈强”的马太效应。即,对于已在行业中积累丰富经验的人而言,AI的加入无疑如虎添翼。洪灝认同这一可能性,但强调难以进行直接比较,只能就个人使用AI前后的体验而言,AI的确强大,其信息研究与整合能力超乎想象,且不知疲倦。然而,与AI有效沟通亦需技巧,需精准提炼关键词,清晰表述需求。

何帆进一步指出,从这个角度看,资深研究者如洪灝,相较于年轻助理,更易“驯化”AI,因为他们能迅速判断AI输出的质量。例如,让AI撰写论文摘要,新手助理可能难以辨别摘要优劣,而资深研究者则能一眼看出高下,从而不断优化AI工具,使其更加高效。这无疑进一步强化了能力较强者的优势,引发了关于能力差距是否将持续扩大的担忧。对于刚毕业的学生而言,这是否意味着机会渺茫?

洪灝认为,这关乎经验的积累。何帆则提出,自己甚至难以进入这一竞争赛道。洪灝幽默回应,这或许解释了为何金融与贸易专业报考人数锐减,转而涌向人工智能领域。以往,向研究助理分配任务时,沟通简洁明了,而今则需资深人员将多年经验凝练为关键词,向AI提问。AI虽有效替代了研究助理,但也要求使用者清晰定义自身需求,这是其优势所在。科技日新月异,近年来,AI不仅能聊天,甚至能成为虚拟朋友,其情商或许超越真实朋友。

何帆追问,这一趋势让他想起携程梁建章的担忧——AI可能剥夺年轻人的首份工作机会。现实中,不仅是研究助理,秘书等职位,如整理行程、会议纪要等工作,AI亦能迅速上手。对于年轻人而言,校园教育与实际工作脱节,首份工作不仅是技能实践,更是犯错与成长的舞台。如今,这一环节缺失,他们如何从0到1,再至n?

洪灝指出,这是中国职场尤为关键的问题。中国高等教育培养的学生,往往缺乏实际操作技能。海外教育则更注重终极技能型教育,赋予学生实际动手能力。目前,AI主要通过人形机器人等形态,执行简单任务,但对于复杂工作,如制作表格,仍力不从心。基础技能如翻译、记笔记、订票等,或将被AI取代,而硬技能如修水管,则仍需人类完成。AI主要提供软性情绪价值。

何帆分享,自己去年考取了电工证。回归主题,对于正在学习金融或考虑是否选择金融作为专业的学生而言,面对AI的冲击,他们应何去何从?洪灝认为,金融行业正面临巨大变革,人员过剩,且收入结构需调整。金融知识重要,但将其作为专业学习存在局限。毕业生会发现,实际工作中多为简单数学运算。因此,金融可作为爱好,而非专业。

何帆追问,哪些技能更能抵御AI冲击,或在AI时代生存?洪灝强调动手技能,尤其是物理世界中的技能。

在人工智能日益渗透我们生活的每一个角落时,一个不可回避的问题是:人类智慧与机器智能将如何共存?何帆与洪灝的对话,不仅触及了AI对就业市场的直接影响,更深入探讨了人类在面对这一技术革命时的应对策略与未来展望。

智能的多元化:从逻辑到情感

洪灝提到,AI的决策基于数据与历史规律,这固然高效,却也容易陷入“相关性误判为因果性”的陷阱。人类之所以区别于机器,正是因为我们拥有复杂的情感与道德判断,这些往往超越了简单的逻辑推理。例如,在自动驾驶的场景中,机器可能只追求速度与效率,却忽视了人类社会的伦理考量,如尊重生命、避免伤害他人。这正是AI目前所缺乏的“同理心”与“善恶之心”。

何帆进一步阐述,人类的直觉与第六感,往往是基于多年生活经验与深层情感反应的快速判断,这些难以用数据模型精确捕捉,却是人类智慧的重要组成部分。AI虽然能处理海量数据,但在理解人类情感的微妙变化、捕捉非言语信号方面,仍显力不从心。

教育的转型:从理论到实践

面对AI的挑战,教育体系亦需革新。洪灝指出,中国高等教育偏重理论知识的传授,而缺乏对学生实际操作能力的培养。相比之下,海外教育更注重技能型教育,使学生在毕业后能迅速适应职场需求。在AI时代,具备动手能力和实践经验的个体,将拥有更多竞争优势。

何帆补充,对于即将步入职场的学生而言,选择专业时应考虑未来市场的变化与技术的发展趋势。金融、经济等领域虽重要,但将其作为专业学习可能面临就业市场的饱和与AI的替代风险。相反,那些结合科技与人文、注重创新思维与实践能力的交叉学科,如数据科学、人工智能伦理等,或将成为未来热门。

道德与法律的边界:人工智能的监管与挑战

随着AI技术的飞速发展,如何确保其不偏离人类价值观的轨道,成为亟待解决的问题。洪灝提到,亚马逊招聘算法对女性的歧视案例,揭示了AI在缺乏有效监管时可能加剧社会偏见的风险。因此,建立全面的AI伦理审查机制,确保算法公平、透明,是维护社会正义的关键。

何帆强调,法律与政策的制定亦需跟上技术发展的步伐。在AI广泛应用之前,必须明确其责任归属、数据保护、隐私安全等方面的法律框架,防止技术滥用带来的潜在危害。同时,加强公众对AI技术的了解与教育,提升社会整体的科技素养,也是构建AI友好型社会的重要一环。

人机协作:共创未来的新模式

尽管AI在某些方面展现出超越人类的能力,但洪灝与何帆均认为,人机协作而非替代,将是未来工作的主流模式。AI擅长处理重复、繁琐的任务,而人类则擅长创新、决策与情感交流。在AI的辅助下,人类可以专注于更高层次的工作,如创意设计、复杂问题解决、战略规划等,从而发挥更大的价值。

此外,AI的发展也为社会创造了新的就业机会。例如,AI训练师、数据科学家、AI伦理顾问等新兴职业,正成为职场的新宠。这些职位不仅要求具备扎实的技术基础,更需具备跨学科的知识结构与人文关怀,以适应快速变化的技术环境。

结语:拥抱变化,共创未来

在人工智能时代,人类面临的挑战与机遇并存。面对AI的冲击,我们不应恐惧或逃避,而应积极拥抱变化,通过终身学习、技能升级、创新思维等方式,不断提升自身的竞争力。同时,政府、企业与社会各界亦需共同努力,构建公平、安全、可持续的AI生态系统,确保技术进步惠及每一个人。

正如洪灝所言,尽管AI在某些方面超越了人类,但人类的差异性思考与情感智慧,仍是AI难以复制的宝贵财富。在未来的日子里,让我们携手并进,共创一个人机和谐共生的美好未来。

华远系统是致力于人工智能(AI算法以及流媒体技术),信息软件技术,新能源、物联网等领域的集成商,在智慧社区,智慧园区,智慧停车,充电桩(储能充电站/光储充)及充电桩软件管理平台,储能系统集成,车联网有整套解决方案以及成功的项目案例。

来源:华远系统

相关推荐