谷歌对Deepfake亮剑:打造鉴假新工具,帮助媒体识别AI造假

2020年02月08日 17:57 84 次阅读 来源: 量子位 作者: 路人甲
摘要 谷歌也开始针对 Deepfake 了。AI 造假技术一代更比一代强,假图片、假信息、假新闻甚至能影响真实社会事件的走向。且不说对于普通人,对于新闻工作者而言,判断一张图片是否真实,也并非易事。而这,就有可能造成虚假信息的进一步传播。于是,谷歌母公司 Alphabet 旗下的 Jigsaw 决定出手,以 AI 治 AI。他们联手 Google Research、马里兰大学、伯克利等多家研究机构,开发...

谷歌也开始针对 Deepfake 了。

AI 造假技术一代更比一代强,假图片、假信息、假新闻甚至能影响真实社会事件的走向。

且不说对于普通人,对于新闻工作者而言,判断一张图片是否真实,也并非易事。

而这,就有可能造成虚假信息的进一步传播。

于是,谷歌母公司 Alphabet 旗下的 Jigsaw 决定出手,以 AI 治 AI。

他们联手 Google Research、马里兰大学、伯克利等多家研究机构,开发了一个名为Assembler的实验平台,旨在帮助记者们通过简单的操作,快速识别 Deepfake。

Assembler

Assembler 是如何道高一丈的?

实际上,它是把多个图像检测器集成为一个工具,每个检测器都针对特定类型的图像处理。

比如,有的检测器能判断图像是否经历了复制粘贴,有的检测器能识别出图像亮度是否被修改过。

这些图像检测器包括:

颜色和噪点模式

来自马里兰大学。该机器学习模型结合了两种不同的方法,既能利用图像的颜色值来查找异常,也能检查图像的噪点模式是否存在不一致。

Dense-Field Copy-Move

来自那不勒斯费德里克第二大学。该算法在图像中查找外观相似的区块,以判断其中一个是否被复制粘贴到了另一个区域上,覆盖了先前存在的内容。

JPEG DIMPLES

来自 UC 伯克利。该算法能查找被编辑过的 JPEG 压缩图像区域。

自洽性拼接

同样来自 UC 伯克利。该模型通过查看图像的像素属性,来确定其是否在生成过程中使用了不同的 EXIF 预设。

SPLICEBUSTER

来自那不勒斯费德里克第二大学。该算法可以识别出噪点模式不一致的地方。

StyleGAN 检测器

Jigsaw 自研。该模型可以将人的真实照片和英伟达的 StyleGAN 生成的人像区分开来。


StyleGAN

这些检测器组合在一起,就使得 Assembler 能够对图片是否被“加了料”进行全面的评估。

除此之外,在测试过程中,Jigsaw 发现新闻工作者经常要处理的是低分辨率小图像,而这就给检测技术带来了新的挑战。

于是,他们在反向图片搜索提供商 TinEye 的技术支持下,在 Assembler 中加入了图像自动升级程序。

如此,在鉴别过程中,Assembler 会自动根据输入图像,查找尺寸更大、质量更好的版本,以确保得到最佳分析结果。

目前,法新社在内的多家新闻媒体已经开始使用 Assembler。

Jigsaw 首席执行官 Jared Cohen 表示,Jigsaw 将评估该工具在实际使用中的表现,并继续开发补充工具 Disinformation Data Visualizer,用以显示全球范围内的虚假信息宣传活动,以及其所采用的技术策略和受影响的国家。

One More Thing

Jigsaw 创立于 2010 年,是谷歌创建的技术孵化器,现作为谷歌母公司 Alphabet 的子公司运营。

其致力于解决虚假信息、网络攻击等全球性挑战,并应用技术解决方案保护信息获取。

2019 年 3 月份,Jigsaw 曾发布过一个具有评论过滤功能的 Chrome 插件 Perspective,能过滤辱骂性评论,净化信息浏览体验。

正在进行的项目还包括开源工具 Outline,其旨在为记者提供更安全互联网访问方式。

传送门

Assembler 官网:

https://jigsaw.google.com/assembler/

关注下方微信公众号“Java精选”(w_z90110),回复关键词领取资料:如Mysql、Hadoop、Dubbo、Spring Boot等,免费领取视频教程、资料文档和项目源码。

Java精选专注程序员推送一些Java开发知识,包括基础知识、各大流行框架(Mybatis、Spring、Spring Boot等)、大数据技术(Storm、Hadoop、MapReduce、Spark等)、数据库(Mysql、Oracle、NoSQL等)、算法与数据结构、面试专题、面试技巧经验、职业规划以及优质开源项目等。其中一部分由小编总结整理,另一部分来源于网络上优质资源,希望对大家的学习和工作有所帮助。
您可能感兴趣的资讯
还可以输入136 讨论区:
评 论