摘要：当“AI水军”在夜深人静的时候便能批量制造一份份的煽动性言论，而那些伪造的“明星丑闻”的截图在极短的时间内就迅速的登上热搜并引发轩然大波，同时 “完美的诈骗话术”也精确的骗取了大多数公众的信任时，我们才真正的意识到AI的生成式的内容正在将舆情的战场推向了一个前

当“AI水军”在夜深人静的时候便能批量制造一份份的煽动性言论，而那些伪造的“明星丑闻”的截图在极短的时间内就迅速的登上热搜并引发轩然大波，同时 “完美的诈骗话术”也精确的骗取了大多数公众的信任时，我们才真正的意识到AI的生成式的内容正在将舆情的战场推向了一个前所未有的极其复杂的局面，就如同一个深邃莫测的漩涡一般。随着技术的不断催生，各种真假难辨的信息如同“幽灵”一般正以每秒数万条的速度编织着一道道的迷雾，极短的时间内便能迅速掀起一股强烈的舆论风暴。
随着“无硝烟的战争”的全面升温，监管者不再仅仅面对传统的信息的传播，而是要将一场以技术的突袭和对人脑的深度认知操控为特征的新型战役全方位的牵制在自己的手中。如同一台高精度的全息投影仪一样，它不仅能将以假乱真的文字内容一一“打造”出世，还能将带有特定的声纹特征的语音与带有微表情的视频“活生生”地合成出来。
可见AI生成的“文笔”在技术的攻防战中，尤以三方面的差距最为明显：一是对所依托的知识的把握能力不够；二是对所描述的内容的理解力不够；三是对所表达的意图的把握力不够。但我们却始终陷入了对“溯源”的源头艰难的追寻中，似乎越走越远，就如同在暴雨过后的那条宽阔的河床上去寻找最初落下的那一滴水，几乎是痴人说梦一样，要把那最初的那一滴雨找出来也的确不太可能。但现今的技术水平想要让我们追踪那些历经多重算法重构的信息源头，几乎如登天一般的困难了。
随着某社交平台的监测数据的不断披露，我们不得不面临这样一张令人咋舌的图表：近73%的由AI的所生成的谣言都已经完全的脱离了其原始的触发点，根本就无法通过任何的方式追溯其出处了。但这样一来就把信息的溯源工作彻底地打乱了，根本就找不出信息的来源了。
智能推荐系统与生成式AI联手，正把虚假信息的传播速度推向一个令人心惊的峰值。2023年全球网络应急演练的一幕极具警示性：一条模拟的“核电站泄漏”假消息，仅用15分钟，就横扫全球87个国家的社交网络。随着虚假信息的裂变式传播，其所造成的影响也在极短的时间内就能广泛地扩散，从而大大地增加了我们对其所造成的舆情的控制的难度。
人工审核团队在面对如今的AI如洪水般涌来的虚假信息时,也只能周而复始地做着看似无尽,且艰难的工作.。随着AI的不断发展，诞生的AI生成的虚假信息也日益庞大，对人工的审核团队来说，无疑就构成了巨大的挑战。
唯有打造一道坚如磐石的法治防线，才能真正的突围出这一困局。通过对“深度伪造”和对“生成内容的数字水印”的把握，平台自身就可以被武装起来，有效的防范和打击了网络的“深度伪造”行为。随着虚假信息的不断出现，必然也会随之被迅速的识别并彻底地揭露其真实的面目。我们也要从“平台的责任”和“公众的自我修养”两个方面都下工夫才行，平台要切实地承担起自己的主体责任，公众也就要不断地提高自己的信息素养。经常通过对求真’与‘辨伪’的训练，逐步地为社会构建起了强大的信息辨识的能力和社会的免疫力。
归根结底，舆情治理最坚实的防线，始终是清醒且坚韧的人性。说到底，技术的本身就没有善恶的区别，关键就看人心的引导往哪个方向了。但要真正的有效的监管AI的生成式的舆情，不仅仅是简单的围追堵截，甚至更应该在驾驭这场由技术所带来的浪潮的过程中，实现一种对的智慧的平衡。通过以更高的技术对抗着更高的技术,通过更完善的规则来引导和指导我们的事业的发展,最终靠着我们共同的力量和智慧的共治才能真正的将我们的事业凝聚起来。 （原创：逛遍临沂）

来源：逛遍临沂