数字景观正在飞速发展，伴随着的是欺骗手段的日益复杂。一个令人不安的新趋势正在 TikTok 上获得关注，它利用人工智能的力量来创建令人信服的虚假视频。这些不仅仅是编造的叙事；它们是深度伪造，精心复制了真实内容创作者所说的确切言语，但通过完全人工的声音和图像来呈现。这种现象已得到 NPR 和许多其他新闻媒体的广泛报道，这代表了虚假信息传播的重大升级，并引发了关于在线信任和真实性的关键问题。制作这些视频的速度——据报道，只需几分钟，花费几美元——加上它们日益增长的真实性，对公共话语和个人声誉构成了严重威胁。
问题的核心在于人工智能技术的易于获取。像谷歌的 Veo 3 这样的工具能够制作出超逼真的视频，这些视频变得越来越难以与真实镜头区分开来。这种易于创建的情况因为内容本身并非完全捏造而变得更加复杂。深度伪造并没有创造新的声明；它们正在重新利用现有的声明，将它们从原始背景中剥离出来，并将它们放在其他人的嘴里——或者更确切地说，放在数字构建的脸上。这种策略使得欺骗尤其具有隐蔽性，因为它依赖于预先存在的材料，使得难以立即将其识别为虚假。最近的一个例子是报告中强调的一个视频，该视频错误地声称“他们在鳄鱼阿尔卡特拉斯安装焚烧炉”，这是对一个小众互联网阴谋论的引用。令人震惊的不是声明本身，而是视频中的话语直接取自真实创作者，从而营造了一种虚假的信任感。此外，这个问题不仅限于简单的虚假信息。骗子们正在积极利用这项技术，劫持老年创作者的视频，并使用人工智能来生成情感呼吁捐款，有效地利用了观众的同情心和信任。这突出了深度伪造技术一种特别残酷和操纵性的应用。
这一趋势的影响是深远的。政治操纵的潜力是巨大的，正如 NPR 的 TikTok 视频所展示的那样，该视频强调了深度伪造对即将到来的总统选举的影响。想象一下，一段虚构的视频，一个候选人发表有争议的声明，使用他们的实际言语，但在旨在损害其声誉的背景下呈现。这样的视频在 TikTok 等平台上的传播速度，加上在它获得关注之前对其进行揭穿的难度，可能会造成毁灭性的后果。除了政治之外，对在线内容的信任度下降也是一个令人担忧的问题。如果观众无法再确定他们所看到和听到的是否真实，那么进行知情的讨论和做出合理的判断将变得越来越困难。这种现象还触及了身份和同意的问题。个人在未经其知情或许可的情况下被数字冒充的实例，正如“假厨房唱歌”的趋势以及一名女性未经其同意被拍摄的案例所显示的那样，引发了严重的伦理和法律问题。令人信服地复制某人的肖像和声音的能力为潜在的骚扰、诽谤甚至金融欺诈敞开了大门。检测这些深度伪造的挑战也在增加。虽然法医媒体专家目前能够识别人工智能生成的内容，但这项技术正在迅速发展，真实与虚假之间的界限变得越来越模糊。为对抗这一威胁所做的努力包括开发人工智能驱动的检测工具，但这造成了一场军备竞赛，深度伪造的创作者们不断寻求规避检测的方法。
最终，这些人工智能生成的深度伪造在 TikTok 和其他平台上的激增需要多方面的应对措施。提高媒体素养至关重要，它使个人能够批判性地评估他们消费的内容，并识别操纵的迹象。像 TikTok 这样的平台有责任投资于强大的检测机制并迅速删除欺骗性内容。此外，需要更新法律框架，以解决深度伪造技术带来的独特挑战，保护个人免受伤害并追究肇事者的责任。这些视频的制作的容易程度、技术的复杂性以及造成广泛损害的可能性，都需要采取积极主动和协作的方法来维护数字世界的完整性。问题不再是*我们*是否会被一个假的人工智能视频愚弄，而是*何时*，以及我们准备好在这样一个看到——和听到——不再是相信的现实中航行。
发表回复