随着人工智能技术的飞速发展,其在各个领域的应用日趋广泛。然而,这种技术进步也带来了不容忽视的问题——假新闻和谣言的泛滥。在AI的推动下,虚假信息的生成和传播效率显著提高,普通人面对这些信息时辨别难度加大,甚至陷入真假难辨的困境。
例如今年2月份出现的‘AI梅西’热搜事件,这是一个典型案例,充分说明普通人在面对真假难辨的内容时容易受误导。当时有很多人在网上发布分析的视频,分析的头头是道,最终得出的结论是梅西微博发布的视频是AI生成的。但这个视频确实是真的,但由于多次传输导致画质压缩,加之剪辑处理,最终引发了球迷的误解。本来是一个真实且非常有诚意的视频,最后被人误解成AI梅西,进一步破坏了路人球迷对梅西的好感,只能说运营梅西微博的这家公司非常的不靠谱。
现在的AI技术,尤其是生成式AI(如深度伪造、自然语言处理模型等),使得虚假信息的生产变得更快、更逼真。深度伪造技术可以用极高的精度生成真假难分的视频和音频,模仿名人、公众人物甚至普通人的形象或声音,从而制造出虚假的“证据”。
相信你平时肯定看过类似这样的短视频:一个球员采访的画面,加上一段话,再加一些剪辑的内容,最后再加上夸张的标题。
但这样的视频采访内容很有可能是假的,他们通过AI克隆一段虚假的球员采访音频对上球员采访说话的口型,普通人根本无法辨别真假,也没有精力去辨别真假。而现在的短视频平台就有很多这样的人(点开主页后属性非常明显)在通过这种方法在制造大量的假新闻抹黑梅西,甚至还有光明正大的拿球员采访视频配上错误的中文字幕误导路人的。
◾不过假新闻往往具备以下特点:
情绪化:煽动愤怒、恐惧或喜悦等强烈情绪,引发用户关注和转发。
碎片化:通过简短、直击重点的形式呈现信息,使用户快速接受并传播,而不深入求证。
伪装真实性:通过AI技术生成看似可信的内容,包括权威语气、真实场景和数据支持。
但部分虚假信息可能伪装得更高明,甚至让人误以为其真实性不值得怀疑。
比如这段视频,这是去年法国电信公司Orange联合阳狮集团旗下Marcel制作的一支女足世界杯的宣传片,短片中将比赛的女性球员替换成男性球员,以此强调“观看球技而非性别”的理念。这一技术的展示证明,现在的技术可以精确地替换足球比赛中的球员。如果这种技术被别有用心的人利用,制作假的比赛视频甚至传播虚假的“赛事真相”,欺骗大众将变得轻而易举。
不过这也引发了关于技术滥用可能性的担忧。例如,若用于伪造比赛场景,可能误导观众对赛事真实性的判断。也就是说如今技术的发展已经能够制造以假乱真的比赛视频,令观众看到的画面或听到的声音难以辨别真伪。
◾普通人面临的辨别困境
普通人在面对AI生成的假新闻时,往往感到无从下手。一方面,AI生成的内容技术门槛越来越低,制造出让人难以辨别的假新闻越来越容易,普通人更是缺乏专业工具和知识来鉴别;另一方面,信息爆炸时代,人们习惯于快速浏览新闻,缺少时间和精力去求证来源。
此外,假新闻的高传播性也让真相变得更加隐蔽。当虚假信息传播得越广,越多的人接受它为“事实”,从而导致“事实效应”。当真相出现时,人们可能因为先入为主的观念而对真相保持怀疑。
◾如何应对这一困局
技术手段:开发出更先进的AI工具来识别和标记虚假内容。
媒体素养教育:提高公众的媒介素养,教会人们如何质疑、验证信息,并学会甄别虚假信息的常见特征。
平台责任:社交媒体平台需承担更多社会责任,例如加强内容审核,限制假新闻的传播,并向用户提供可信信息的验证工具。
法律法规:政府应加快制定相关法律法规,打击恶意传播虚假信息的行为,同时规范AI技术的应用边界。
⚠AI技术的发展本质上是一把“双刃剑”。它在推动社会进步的同时,也带来了诸多挑战,假新闻和谣言的泛滥便是其中之一。普通人面对真假信息的困局,既需要技术的助力,也需要自身媒介素养的提升。在这个信息高度泛滥的时代,我们唯有谨慎对待每一条信息,理性思考、深入求证,才能共同维护真实可信的网络环境。