AI|Facebook持续致力于开发Deepfake逆向工程检测与溯源方法
在“美颜相机”已经让不少网友分辨不清真假的当下,Facebook 也在努力让通过 Deepfake 制作的内容“现出原形”,以便未来能够对相关内容展开追溯 。在持续资助的相关研究中,最新项目就是与密歇根州立大学(MSU)研究人员达成的一项合作 。可知这支联合团队打造了一套可对 Deepfake 伪造进行逆向工程的方法 。
文章图片
(图自:Facebook AI 官网)
具体说来是,这套逆向工具能够分析 AI 生成的图像,以揭示创建它的机器学习模型的识别特征 。
这项工作的实用性在于,它可以帮助 Facebook 追踪其在各种社交网络上传播 Deepfake 编造内容的不良行为者 。
此类内容可能包含虚假信息,或者已经相当泛滥、未经当事人同意的编造色情内容 —— 后者也是 Deepfake 技术在现阶段的一大争议点 。
文章图片
目前这项工作仍处于研究的早期阶段,且逆向工程团队也尚未做好相关部署准备工作 。不过该领域的此前研究,已经能够确定 Deepfake 内容是由哪套已知的 AI 模型来生成的 。
作为对比,由 Vishal Asnani 带领的 MSU 研究团队,将致力于更进一步地识别未知模型架构 。因为这些被称作“超参数”的特征,意味着每个机器学习模型都必须经历相应的调整过程(就像引擎中的零部件一样) 。
简而言之,Deepfake 处理过的内容,会在图像上留下一个独特的指纹,而调查者们可借此来追溯其来源 。
文章图片
Facebook 研究负责人 Tal Hassner 在接受外媒采访时称:“识别未知模型的特征很重要,因为 Deepfake 软件非常容易定制 。如果调查人员试图追踪相关活动,别有用心者也必须更加努力地掩盖其踪迹” 。
Hassner 还将这项工作与法医技术相比较,即通在结果图像中寻找特定的模式,以辨识源内容是通过哪款型号的相机来拍摄的 。生成的算法不仅可以识别生成模型的特征,还可知晓哪套已知模型与 Deepfake 内容有关 。
在标准的基准测试中,Facebook AI 研究团队已经得到了相当先进的检测结果,尽管这距离投入实际应用还有很长一段距离 。
【AI|Facebook持续致力于开发Deepfake逆向工程检测与溯源方法】比如在去年的 Deepfake 伪造检测竞赛上,最终获胜的算法,也仅能达到 65.18% 的检出率 。而且这样的“猫鼠游戏”,显然也会在未来很长一段时间内持续 。
推荐阅读
- 视点·观察|科技股连年上涨势头难以持续:或已透支未来涨幅
- 社交|Facebook被指试图在美政客中抹黑前雇员Frances Haugen声誉
- IT|Omicron影响持续蔓延 捷蓝航空拟取消约1280架次航班
- 集聚|向全球应用创新策源地持续迈进 上海“双千兆”应用体验中心正式揭牌
- Tesla|马斯克也要效仿谷歌Facebook 为特斯拉设立控股母公司?
- 生物化学|我国卓越科技论文总体产出持续增长
- 可持续性|人工智能将重塑健康管理,业内专家认为可持续性是最大挑战
- 警告!|河北一网约车司机持续偏离路线致女乘客跳车 当地警方介入调查
- 国际|2021国际大数据竞赛收官 百度持续加码AI人才培养
- 社交|Signal创始人:Telegram并不安全,甚至还不如Facebook