导航菜单

新研究训练小老鼠充当分类器,识别Deepfake假声音,比计算机更靠谱

真钱捕鱼达人网络版

Yiming.com 2天前我想分享

我们还没有找到一个完美的解决方案来对抗'Deepfake'。听力鼠标的才能可能有助于我们走得更远,但仍然有很长的路要走。

生成大数据摘要

编:林淼,易玉玉

人们普遍认为狗是他们最好的朋友。但是,当需要区分录音的真假时,小老鼠是我们的好帮手。

本周,美国网络安全大会黑帽会议在拉斯维加斯举行。在会议上,研究人员提出,小动物,特别是小老鼠,在识别自然语音元素方面非常有才能。

这一结果可能会影响科技公司通过人工智能构建系统来检测计算机综合的声音。

“Deepfake”的发展令人担忧

“小弟在网上爱?我的萝莉声。”

在大量语音转换器和声音修复软件的潮流下,几乎只需要手动调整软件参数来改变Lolita,Yujie和Zhengyin的声音。对于游戏笔直的男人来说,游戏中甚至听到了可爱的女孩小麦的声音,想要打开个人主页的钩子却发现那是一个蹩脚男人的概率不低。

声音的变化本质上是有趣的。 Zad,Betta的热门游戏大师,有一个关键时期,也就是说,他变成了一个改变声音的角色,变成了一个可爱的女孩来聊天。柔软而顽皮的人们建立了无数的粉末。

但是,玩很有趣。随着“深度伪造”的发展,母亲可能听不到你的声音,一旦它被犯罪分子使用,就会造成很大的问题。

自1999年以来,从微软迈克到谷歌的Tacotron 2,声音的伪造已经存在,并且每一次开发迭代都变得更加人性化。

由于“Deepfake”的出现,我们再也不能相信“眼见为实”。

最近,专家们非常担心“Deepfake”产品的速度。通过“Deepfake”应用程序,计算机可以对数百张照片或录音进行采样和合成,伪造录音或人们尚未说过的照片。

不久前,美国众议院议长南希佩洛西的深度伪造视频出现在社交媒体上。该视频由特朗普总统分享,并在Facebook上获得超过250万的页面浏览量。早些时候,美国前总统巴拉克奥巴马的脸被“借来”攻击特朗普总统,该视频也在该网站上获得了480万页面浏览量。

特朗普总统本人无法逃脱。西雅图电视网播出了一部深刻的特朗普演讲视频,其中特朗普总统脸红了,不时发出一些有趣的表情。

视频地址:

由于深度伪造可以适用于任何官员,包括总统,美国的双方开始担心该技术将成为对美国和其他西方国家发动虚假信息战的最新武器;犯罪分子可能会利用这项技术模仿高级官员或候选人的言行,然后对他们进行网络攻击,从而影响各级选举。

用人类思维创造“虚假的声音”

在语言处理过程中,人们总是倾向于用标准化思维来表达它们并压缩语音。新的“Deepfake”机器学习技术充分利用了这一规则,这听起来非常人性化,实际上有不同来源的声音。

“在关键时刻,冒充首席执行官或政治家说些什么或做一些他们没有说过或做过的事情可能会造成某种灾难,例如扰乱全球金融市场的秩序。或引发民事或军事冲突,” GSI科技公司数据科学主任,小老鼠研究项目成员乔治威廉姆斯说。

该项目的其他研究人员包括金融信息公司Bloomberg LP的数据科学家Alex Comerford和俄勒冈大学的研究生Jonathan Saunders。

Jonathan Saunders认为,“如果你想进一步优化并形成'Deepfake'检测算法的通用版本,你需要深入了解语音和神经科学,以了解声音是什么以及大脑如何分析和处理声音。” 。

小鼠有一个类似于人类的听觉系统

研究人员训练小鼠区分不同的音素,例如与爆炸物P,B和T相关的声音。英语中的48个音素通常用于模拟语音研究,并产生了一些更具挑战性的研究结果。 “Deepfake”的早期尝试听起来像机器人。

就识别复杂声音的能力而言,鼠标具有类似于人类的听觉系统。因此,研究人员假设可以在合成声音数据集上测试小鼠,以区分哪些声音是真实的。

研究人员使用调节来训练小鼠加强。当您听到真正的音频片段时,它会跑到某个位置;当你听到合成的音频片段时,它会跑到另一个位置。如果你跑得好,你将获得奖励。随着时间的推移,老鼠学会了如何区分真假。

在测试中,鼠标检测到合成声音的正确率为75%。如果研究人员在实验中添加了一些意想不到的变量,例如新的声音或元音,那么鼠标的正确率就会下降。然而,小鼠仍然能够区分训练数据中的新的和复杂的语音模式。

一些研究团队正在使用人工智能来对抗“Deepfake”。但是,数据算法通常在训练集数据中运行,这意味着它们非常容易受到新技术或超出范围数据的影响。本文中描述的团队是用小鼠训练的,但可以适应这种新的变化。

Jonathan Saunders说:“在听觉研究领域,老鼠仍然是一张白纸。他们可以学习复杂的特征集,也可以学习新的分类问题。“

当然,这并不意味着Youtube需要喂一大堆老鼠来识别深度伪造的视频。但是通过弄清楚老鼠如何识别这种能力,我们可以更好地训练计算机并更好地对抗“Deepfake”。

我们是如何对抗'Deepfake'的?

在与“Deepfake”的斗争中,许多科技公司都在努力工作。

例如,DARPA在MediFor计划中花费了数年时间,汇集了世界顶级研究人员,开发自动评估图像或视频完整性的技术,并将这些技术端到端地集成。 MediFor平台将自动检测和分析媒体上的伪造并推断视觉媒体的完整性,以识别可疑图像或视频。然而,据项目参与者Farid称,该项目仍需要大量的人工分析和筛选。

阿姆斯特丹的Deeptrace通过深入学习很多虚假视频,为深度伪造识别系统提供信息。它不仅可以识别视频是否伪造,还可以揭示制作假视频的过程。通过跟踪算法的痕迹,Deeptrace能够获得有关生成伪造的算法的信息。例如,知道整个视频只是伪造面部信息或锻造整个视频。

当人们发现可以轻易伪造的异常(例如电话或视频)时,就像打开潘多拉魔盒一样。我们还没有找到一个完美的解决方案来对抗'Deepfake'。听力鼠标的才能可能有助于我们走得更远,但仍然有很长的路要走。

本文由Big Data Digest提交给Yiming。本文仅代表作者的个人观点。如果文章未经授权,请不要重印,

要提交给Yiming.com,请单击发布按钮。有关详细信息,请参阅《一鸣网投稿须知》。

收集报告投诉

我们还没有找到一个完美的解决方案来对抗'Deepfake'。听力鼠标的才能可能有助于我们走得更远,但仍然有很长的路要走。

生成大数据摘要

编:林淼,易玉玉

人们普遍认为狗是他们最好的朋友。但是,当需要区分录音的真假时,小老鼠是我们的好帮手。

本周,美国网络安全大会黑帽会议在拉斯维加斯举行。在会议上,研究人员提出,小动物,特别是小老鼠,在识别自然语音元素方面非常有才能。

这一结果可能会影响科技公司通过人工智能构建系统来检测计算机综合的声音。

“Deepfake”的发展令人担忧

“小弟在网上爱?我的萝莉声。”

在大量语音转换器和声音修复软件的潮流下,几乎只需要手动调整软件参数来改变Lolita,Yujie和Zhengyin的声音。对于游戏笔直的男人来说,游戏中甚至听到了可爱的女孩小麦的声音,想要打开个人主页的钩子却发现那是一个蹩脚男人的概率不低。

声音的变化本质上是有趣的。 Zad,Betta的热门游戏大师,有一个关键时期,也就是说,他变成了一个改变声音的角色,变成了一个可爱的女孩来聊天。柔软而顽皮的人们建立了无数的粉末。

但是,玩很有趣。随着“深度伪造”的发展,母亲可能听不到你的声音,一旦它被犯罪分子使用,就会造成很大的问题。

自1999年以来,从微软迈克到谷歌的Tacotron 2,声音的伪造已经存在,并且每一次开发迭代都变得更加人性化。

由于“Deepfake”的出现,我们再也不能相信“眼见为实”。

最近,专家们非常担心“Deepfake”产品的速度。通过“Deepfake”应用程序,计算机可以对数百张照片或录音进行采样和合成,伪造录音或人们尚未说过的照片。

不久前,美国众议院议长南希佩洛西的深度伪造视频出现在社交媒体上。该视频由特朗普总统分享,并在Facebook上获得超过250万的页面浏览量。早些时候,美国前总统巴拉克奥巴马的脸被“借来”攻击特朗普总统,该视频也在该网站上获得了480万页面浏览量。

特朗普总统本人无法逃脱。西雅图电视网播出了一部深刻的特朗普演讲视频,其中特朗普总统脸红了,不时发出一些有趣的表情。

视频地址:

由于深度伪造可以适用于任何官员,包括总统,美国的双方开始担心该技术将成为对美国和其他西方国家发动虚假信息战的最新武器;犯罪分子可能会利用这项技术模仿高级官员或候选人的言行,然后对他们进行网络攻击,从而影响各级选举。

用人类思维创造“虚假的声音”

在语言处理过程中,人们总是倾向于用标准化思维来表达它们并压缩语音。新的“Deepfake”机器学习技术充分利用了这一规则,这听起来非常人性化,实际上有不同来源的声音。

“在关键时刻,冒充首席执行官或政治家说出或做他们没有说或做的事情,可能会造成某种灾难,例如扰乱全球金融市场的秩序。或者引发民事或军事冲突,”乔治威廉姆斯说,他是GSI技术公司的数据科学主管,也是小老鼠研究项目的成员。

该项目的其他研究人员包括金融信息公司BloombergLP的数据科学家AlexComerford和俄勒冈大学的研究生Jonathan Saunders。

0×2522个

Jonathan Saunders认为,“如果你想进一步优化并形成‘deepfake’检测算法的通用版本,你需要深入研究语音和神经科学,以了解声音是什么,以及大脑如何分析和处理声音。”

老鼠的听觉系统与人类相似。

研究人员训练老鼠区分不同的音素,例如与P、B和T有关的声音。英语中的48个音素经常用于模拟语音研究,并产生了一些更具挑战性的研究结果。早期的“深蛋糕”尝试听起来像机器人。

就识别复杂声音的能力而言,老鼠的听觉系统与人类相似。因此,研究人员假设老鼠可以在合成声音数据集上进行测试,以区分哪些声音是真实的。

0×2523个

件反射来训练老鼠在听到真实音频片段时跑到一个位置,在听到合成音频片段时到另一个位置。如果你跑得好,你将获得奖励。随着时间的推移,老鼠学会了如何区分真假声音。

在测试中,75%的小鼠在检测合成声音方面是正确的。如果研究人员在实验中添加了意外的变量,例如新的声音或元音,那么小鼠的准确性会降低。然而,小鼠能够将新的和复杂的语音模式与训练数据区分开来。

一些研究小组正在使用人工智能来对抗'Deepfake'。但是,数据算法通常在训练集的数据范围内运行,这意味着它们非常容易受到新技术或超出数据范围的影响。这里描述的团队用老鼠训练,但适应了这种新的变化。

Jonathan Saunders说:“目前,在听觉研究领域,老鼠仍然是一张白纸。他们可以学习复杂的特征集,也可能学习新的分类问题。

当然,这并不意味着YouTube需要提供大量鼠标来识别深度伪造的视频。但是通过弄清楚老鼠如何识别,我们可以更好地训练计算机,然后更好地对抗Deepfake。

我们是如何对抗Deepfake的?

许多科技公司都在努力打击'Deepfake'。

例如,DARPA在MediFor计划中花费了数年时间,汇集了世界顶级研究人员,开发自动评估图像或视频完整性的技术,并将这些技术端到端地集成。 MediFor平台将自动检测和分析媒体上的伪造并推断视觉媒体的完整性,以识别可疑图像或视频。然而,据项目参与者Farid称,该项目仍需要大量的人工分析和筛选。

阿姆斯特丹的Deeptrace通过深入学习很多虚假视频,为深度伪造识别系统提供信息。它不仅可以识别视频是否伪造,还可以揭示制作假视频的过程。通过跟踪算法的痕迹,Deeptrace能够获得有关生成伪造的算法的信息。例如,知道整个视频只是伪造面部信息或锻造整个视频。

当人们发现可以轻易伪造的异常(例如电话或视频)时,就像打开潘多拉魔盒一样。我们还没有找到一个完美的解决方案来对抗'Deepfake'。听力鼠标的才能可能有助于我们走得更远,但仍然有很长的路要走。

本文由Big Data Digest提交给Yiming。本文仅代表作者的个人观点。如果文章未经授权,请不要重印,

要提交给Yiming.com,请单击发布按钮。有关详细信息,请参阅《一鸣网投稿须知》。