Deepfakes可用于入侵人类思维

作者:肖恩·休斯

“眼见为实"——或者过去看起来如此.在过去几年中，出现了一个被称为“深度学习"的人工智能 (AI) 分支，随之而来的是一项新技术，它可能会破坏我们对自己眼睛和耳朵的信任程度.深度学习允许将一个人的面部、声音或写作风格输入计算机算法并创建“Deepfake". Deepfake 是一个人的超现实数字副本，可以被操纵来做或说任何事情(点击此处查看奥巴马总统的 Deepfake).

虽然这项新技术有许多有益的用途，但它的滥用时机也已经成熟. Deepfakes 越来越多地被用来骚扰和恐吓政治活动家，并伤害商业、娱乐和政治领域的人.女性名人正在被深度伪装成高度逼真的色情场景，而人们越来越担心政客可能会“承认"贿赂或性侵犯.此类虚假信息显然可能会扭曲民主话语和选举结果.

虽然法律和技术无疑是检测和规范这项新技术所必需的，但它们并不能保证我们将完全免受在线恶意内容的影响.除了法律和技术之外，我们还需要更深入地了解 Deepfakes 如何影响我们的有意识和无意识思维.

Deepfakes 能否操纵我们的自动第一印象?

我们最近对数千名参与者进行了一系列实验，以开始回答这个问题.我们想知道一次短暂接触 Deepfake 是否足以让我们对其他人的第一印象产生偏见.

我们研究的参与者被要求导航到 YouTube 并观看他们第一次遇到的“克里斯"的短视频.我们操纵了他们遇到的视频内容，以便他们对克里斯形成正面或负面的印象.我们还对他们遇到的视频类型进行了处理，让一些人观看了 Chris 的真实视频，而另一些人则观看了他的 Deepfake.

在我们最初的研究中，Deepfakes 是使用“剪切和粘贴"方法创建的:我们从上下文 A 中提取(“剪切")Chris 的话语和动作，并将它们插入(“粘贴")到一个完全不同的视频中上下文 B 中的他.这使我们能够将话放到他的嘴里，让他“承认"他以前从未犯过的善行或恶意行为.

我们发现，通过有选择地让人们接触 Chris 的正面或负面 Deepfakes，我们可以控制公众对他的看法——一些人喜欢他，另一些人鄙视他. Deepfakes 还安装了自动和自我报告的态度，与真正的在线内容所建立的态度一样强烈.在另一组研究中，我们模拟了一个更真实的场景，并完全从头开始捏造虚假内容(即让 AI 算法让 Chris 说出他以前从未说过的话).第二种形式的 Deepfaking 也严重影响了人们的第一印象.

这些发现表明，Deepfaked 视频可以影响我们对他人的看法.我们还研究了另一个问题:仅暴露于一个人的声音的 Deepfake 是否足以影响听众的想法和感受?我们将 Chris 的声音输入到神经网络 (AI) 中，教它如何说话，然后让它创建一个 Deepfaked 声音:一个听起来与 Chris 相似的合成复制品，并且可以被操纵成说任何话.通过克隆克里斯的声音并操纵他“说"的话，我们再次控制了对他的看法.

在我们的最后一项研究中，我们着手回答最后一组问题:人们是否意识到 Deepfaking 是可能的，他们能否检测到他们何时接触到此类内容?不幸的是，似乎很多人都没有意识到 Deepfaking 是可能的；当他们接触到它时发现很难检测到；并且无论是意识还是检测都无法保护他们免受其影响(即，即使是那些意识到 Deepfaking 并发现他们接触过某个人的人的态度和意图也有偏见).

总的来说，我们的工作表明，Deepfakes 可以快速而有力地影响观众，即使他们意识到 Deepfaking 是可能的，并检测到他们正在接触它.不同类型的 Deepfaked 内容(视频和音频)和不同的 Deepfake 创建方法(“剪切和粘贴"与“从头开始制作")都能够影响我们对他人的看法.尽管政治家、记者、学者和智囊团都警告过这项新技术带来的危险，但我们的论文是最早为这些主张提供系统实证支持的论文之一.我们的研究结果强调了研究 Deepfakes 心理学的必要性，特别是这项新技术如何利用我们的认知偏见、脆弱性和适应不良目的的局限性.