摘要：近期，央视新闻曝光了AI聊天软件行业存在的一系列乱象，引起了广泛关注。报道特别提及了“筑梦岛App”中的AI智能体虚拟互动对象所提供的低俗内容，这些问题内容对未成年人的身心健康构成了潜在威胁。

近期，央视新闻曝光了AI聊天软件行业存在的一系列乱象，引起了广泛关注。报道特别提及了“筑梦岛App”中的AI智能体虚拟互动对象所提供的低俗内容，这些问题内容对未成年人的身心健康构成了潜在威胁。

据相关通报，筑梦岛App中的AI智能体设置了诸如“校霸、性感人妻、病娇养兄、人格障碍少爷”等极端角色，这些角色所生成的内容具有明显的诱导性。这些不当内容不仅挑战了社会道德底线，更对未成年人的心理发展构成了不良影响。

针对这一问题，上海市网信办迅速采取行动，于6月19日上午依法约谈了筑梦岛App的运营企业主要负责人。在约谈中，网信办明确要求该平台立即进行整改，建立健全AI生成合成内容的审核机制，并提升技术把关能力，以确保平台上不再出现危害未成年人的不良内容。

央视网在报道中指出，当未成年人受到AI聊天软件中诱导性内容的影响时，开发方和运营方的法律责任问题亟待明确。特别是当这些行为导致未成年人出现自残等严重后果时，相关责任方可能会触犯刑法中的故意伤害罪条款。

报道还强调了软件开发和运营方在内容审核方面的责任。如果未能严格履行审核义务，对违规信息视而不见甚至放任传播，那么这些责任方将需要为侵权行为承担相应的法律后果。特别是对于涉及色情擦边信息的内容，软件开发和运营方可能会触碰“传播淫秽物品罪”的红线。同时，如果非法收集未成年人隐私数据并将其用于商业牟利，这些责任方还可能因触犯“侵犯公民个人信息罪”而面临刑事追责。

来源：ITBear科技资讯