摘要：随着人工智能技术的飞速发展，算法已深刻嵌入社会发展的各个领域。快递小哥、外卖骑手、网约车司机等成为“困在算法”里的行业群体，引起了舆论关注。算法的迅速迭代和自主学习能力给监管带来了重大挑战。11月底，国家网信办等四部委启动“清朗·网络平台算法典型问题治理”专项
随着人工智能技术的飞速发展，算法已深刻嵌入社会发展的各个领域。快递小哥、外卖骑手、网约车司机等成为“困在算法”里的行业群体，引起了舆论关注。算法的迅速迭代和自主学习能力给监管带来了重大挑战。11月底，国家网信办等四部委启动“清朗·网络平台算法典型问题治理”专项行动，明确指出防范盲目追求利益侵害新就业形态劳动者权益。如何平衡算法技术的创新发展和有效监管，成为当前算法治理的关键问题。近日，我院副教授邓弘林接受了香港文汇报的采访，就算法治理的现状与挑战提出了独到见解。
建立统一伦理框架：
确保算法向善
邓弘林强调，算法设计与数据应用涉及伦理问题，应构建涵盖公平、公正、透明、无歧视等原则的统一伦理框架，促使开发者兼顾社会责任与人类福祉，避免仅追求商业利益，为算法的设计与应用设定清晰的道德底线。同时，鉴于数据对算法的关键作用，需制定严格的数据隐私保护法律，防止数据滥用和泄露，确保个人数据在合法、合规、安全的前提下为算法提供支持，保障算法朝着有益方向发展。
平衡商业利益与社会责任：
治理难题与前提
在算法治理的常态化进程中，一个亟待解决的关键问题是如何确保平台在追求商业利益的同时，切实履行其应有的社会责任，遵循伦理规范。邓弘林指出，许多平台算法在设计之初便以提高流量和用户黏性为首要目标，这种商业利益导向往往使得算法优化过程中忽视了潜在的诸多社会风险，如产生歧视、偏见或误导消费者等问题。因此，如何在商业需求与社会责任之间找到精准的平衡点，确保算法的公正性与透明度，成为算法治理中的一大核心难题。
此外，增强公众对算法治理的认同和信任是推动治理常态化的重要前提，否则可能阻碍相关政策实施。因此，建立透明、公正且可解释的算法治理机制，积极与公众进行沟通和互动，是增强公众信任的关键所在。
图为选手在工业大数据算法项目比赛中操作
监管体系应动态灵活：
适应行业差异
1.渐进式监管模式
邓弘林表示，采取渐进式分阶段监管模式，可以在推动技术创新与避免过度监管之间寻求最佳平衡。技术初期，给予创新空间支持研发实验；当技术逐步走向成熟并开始广泛应用于各个领域时，监管部门则需要通过对不同应用场景进行深入细致的评估，逐步建立起更加严格和完善的监管机制。
2.行业差异化监管
不同领域和应用场景下，算法所面临的风险和挑战具有显著差异，因此监管框架必须具备高度的灵活性和针对性的差异化设计。
在金融、医疗等对社会稳定和公众利益具有高度敏感性的行业中，算法应用的监管应当更为严格和细致，着重关注算法透明性、可解释性、数据隐私保护等因素；对于娱乐或社交平台的推荐算法，监管重点可放在防止信息误导、避免 “回音室效应” 和用户产生过度依赖等方面。
同时，应建立动态监管体系，要求企业定期评估算法风险，检查其在实际应用中的表现，并评估是否带来新的社会风险。法规和监管机制也需灵活调整，结合社会变革、技术发展和用户反馈，及时调整监管措施。通过这种灵活设计的监管框架，既能充分保障创新在不同行业中的自由发展空间，又能在关键领域有效管控潜在的社会风险，实现技术创新与社会稳定的协同共进。
3.行业自律作用
在算法治理的整体架构中，行业自律同样发挥着不可或缺的重要作用。邓弘林提倡，可以鼓励建立行业协会和技术联盟，通过行业内部的力量推动企业共同制定技术标准和伦理守则，从而形成一种自我约束机制。这种行业自律机制不仅能够弥补政府监管可能存在的滞后性和局限性，还能促使企业从行业整体利益和长远发展的角度出发，自觉规范自身的算法应用行为，提升整个行业的社会形象和公信力。
限制算法自主决策：
防范风险失控
随着算法技术的不断发展，其自我进化能力日益强大，也带来了潜在的风险。邓弘林认为，为有效避免算法在自我进化过程中出现不可预测的行为，导致算法行为失控并产生不良后果，在金融、医疗、公共安全等关键领域，必须对算法的学习过程施加适当的限制，确保其在人类可控框架内运行。而在高风险领域，可实施 “人机协作” 模式，在重要决策环节，采取人工审核或干预的方式，保障算法决策符合社会长远利益。
从国际视野来看，美国和欧盟等西方国家和地区已经在算法治理方面积极行动并积累了丰富的经验，出台多项措施提高算法透明度和问责性。这些国际经验都为我国的算法治理提供了有益的参考和借鉴，我国在构建自身算法治理体系时，可以充分吸收其中的合理成分，结合国情和行业特点，探索出一条具有中国特色的算法治理之路。
Professor Profile
邓弘林
TONGJI_SEM
同济经管管理高等研究院副教授，博士毕业于香港城市大学商学院信息系统系，长期从事信息系统和电子商务研究。入选广东省“海外青年人才引进”等计划。作为项目负责人主持国家自然科学基金面上、青年项目等多项研究。在国内外重要核心学术期刊，如MIS Quarterly、Information Systems Research、管理世界等发表多篇学术论文。
来源：澎湃新闻客户端一点号
