摘要：文｜胡炜（新京报传媒研究院） 在当下，AI创作正是风口，不少媒体人担心有人利用AI生成（伪造）新闻现场照片甚至视频。果然，怕什么就来什么： 近日，在西藏日喀则市定日县发生的地震灾害牵动人心，就在大家为灾区揪心、全力救援之时，一些AI生成的虚假影像在社交平台上广
文｜胡炜（新京报传媒研究院） 在当下，AI创作正是风口，不少媒体人担心有人利用AI生成（伪造）新闻现场照片甚至视频。果然，怕什么就来什么： 近日，在西藏日喀则市定日县发生的地震灾害牵动人心，就在大家为灾区揪心、全力救援之时，一些AI生成的虚假影像在社交平台上广泛传播，引发误导。
01
AI虚假影像趁灾“作乱”
近日，一张“被压在废墟下的小男孩”的图片在网络疯传，图中小男孩的眼神中充满恐惧与无助，令网友看到后心疼不已，纷纷转发。
然而，后经核实，这竟是由AI生成的图片，其最初是由名为“AI小芭芘”的账号在2024年11月18日发布，并声明是AI创作。如今却被别有用心之人与此次日喀则地震关联，赚取流量与关注。
在信息传播中，影像具有独特的力量，它能够直观、生动地传达信息和情感，深刻影响观众的认知和情绪，其作用有时胜过千言万语。
尤其当画面聚焦在单一受害者时，非常容易调动人们的同情心，引发情感共鸣，像大家熟悉的普利策奖作品《战火中的女孩》，在那个年代就激起过无数年轻人的反战情绪；中国摄影师解海龙的《大眼女孩》照片，让希望工程深入人心。
曾经，人们相信“有图有真相”，然而随着AI图像生成工具的普及，即便是没有任何技术背景的普通用户，只需动动手指就能批量产出虚假影像，其在全球范围带来的负面影响越来越多，尤其是在新闻和信息传播领域，几乎全面入侵。
去年9月美国遭遇飓风灾害时，一张AI生成的“飓风中紧抱小狗的女孩”照片在社交媒体上被大量转发，引发轩然大波。
X网络截 图（来源：极客公园）
造假者深谙网络传播之道，抓住大众对灾难的同情心与好奇心，编造吸睛标题、文案，将虚假影像广泛散播，以骗取流量、博人眼球，隐患巨大。
扰乱救援布局这些AI虚假影像，如同团团迷雾，严重误导公众对灾情的认知。许多网友在不明真相的情况下纷纷转发，使得虚假信息呈病毒式扩散。救援部署、物资调配、医护服务等工作都可能因为这些虚假信息的误导发生错配，使真正需要救援的地区和人员得不到及时救助。
加剧心理创伤遭受家园损毁、亲人离散之痛的受灾群众，心灵极度哀痛和脆弱，而虚假影像的流传，让灾难成了博眼球的工具，这无异于在他们的伤口上撒盐。他们可能因此对救援、对社会的善意产生怀疑和抵触，对于后续的心理重建和恢复产生不利影响。
动摇社会信任虚假影像频繁出现，使得公众陷入信息真实性的迷茫。尤其在多次被虚假信息“愚弄”后，对各类信息的信任度直线下降，无论是新闻报道、社交媒体分享，还是公益求助信息，人们都会心存疑虑，不再敢轻易相信。长此以往，社会信任体系将逐渐崩塌，最终导致社会秩序紊乱。
02
识别AI造假有妙招
面对AI造假影像的肆虐，我们不能坐以待毙，练就一双“火眼金睛”至关重要。
其实，虽然AI虚假影像越来越逼真，但并非毫无缺陷。
首先可以观察人物表情 。AI生成的人物常表情僵硬、不自然，眼神空洞无神，缺乏真实情感流露；人物的面部边缘可能存在模糊、拼接痕迹，与周围环境过渡不自然等。
其次可以仔细观察人物的手指、牙齿、眼睛、头发等细节部位 。目前AI在处理手部等细节时最容易出错，如出现多指、少指或手指比例失调、形状怪异等现象，前文地震图片里小男孩的手指有6根，就是这类AI图片的典型缺陷。
另外，背景元素也能暴露问题，AI生成的背景往往拼凑痕迹明显，有时会出现重复图案、模糊虚化过度，或与前景主体光影、风格不搭等问题。
03
多管齐下守护信息真实
随着AI技术迭代，造假愈发逼真，单纯靠肉眼识别变得越来越困难，这就需要发挥各方力量，借助专业工具与技术，多管齐下，守护信息真实性。
平台责任扛起来社交媒体、短视频平台等作为信息传播的主阵地，必须肩负起内容审核的重任。
可以 利用先进的图像识别、文本分析技术，对用户上传信息进行精准筛查，一旦发现疑似AI生成内容，立即标记、核实。 对于故意传播虚假影像、误导公众的账号，绝不姑息，视情节轻重给予警告、限流、封禁等处罚，斩断虚假信息传播链。 同时，优化举报机制，简化流程，鼓励用户积极举报虚假信息，对查证属实的举报人给予奖励，激发公众参与打假热情，进行全民防控，让虚假影像无处遁形。
法律监管强起来法律是打击AI虚假影像的有力武器。
立法部门需加快完善相关法律法规，明确AI造假行为的法律界定、责任主体与惩处标准。对于编造、传播虚假灾情影像造成社会恐慌、阻碍救援等严重后果的，依法从重处罚，大幅提高违法成本，形成强大威慑。
相关部门在现有法律体系内对编造、传播虚假灾情信息者加大监管和处罚力度，如依据《治安管理处罚法》，对编造、传播虚假灾情信息者予以行政拘留、罚款；情节恶劣触犯《刑法》的，以编造、故意传播虚假信息罪论处，让不法分子为其行为付出沉重代价，守护信息传播净土。
公众意识提起来公众作为信息传播的“神经末梢”，在网络传播中起着至关重要的作用，要守护信息的真实性，那么提升公众的辨别力与媒介素养就至关重要。
日常通过科普宣传、案例剖析等形式，普及AI知识与造假识别技巧，让大家了解AI造假“套路”，提高对虚假信息和影像的辨别力，提升媒介素养，注意辨别信源的可靠性。面对海量信息，尤其是涉及灾情、疫情 等重大事件时，优先关注官方发布或权威媒体的内容，保持冷静理性，不盲目跟风转发，让虚假影像失去滋生土壤，共同营造清朗网络空间与真实信息环境。
在日喀则地震这场严峻考验中，AI虚假影像的出现，给救灾与社会稳定带来极大挑战。 抵制AI虚假影像，需全社会携手，平台、法律、公众各尽其责，用技术、规则、意识筑牢防线，让虚假影像无处遁形。
同时，我们不能因噎废食，已经广泛融入人类工作生活中的AI，也能为救灾助力，如智能灾情分析、救援路径规划等，我们应该用开放和理性包容的心态积极拥抱AI，一同努力，驯服这匹“烈马”，为社会治理、守护真相注入更多正向的力量，共同创造真实、温暖、可信的网络信息家园。
校对 | 李立军
主编推荐
来源：科技乔梦