这是一篇名为RA-Bench Revaals Why Crisis-Video Deepfake Defers Fail Trouble Generators和社会媒体的研究论文的英文论文摘要。
如果你喜欢这些分析,你可以在AIModels.fyi上找到更多的AI和机器学习研究,或在Twitter上跟踪我们.
我们得到的危机 检测问题 错误的视频合成 已经到了一个漏洞点。
最近的发电机可以编织出战争、自然灾害、基础设施故障和公共紧急情况的现实描述,令人信服地欺骗了人们和目前的探测系统。
威胁已经不是假设了 制造出核电站爆炸,地震期间医院倒塌,或恐怖袭击的视频,可引发恐慌,军事反应,或数小时内严重经济混乱.
然而这里有令人不安的部分: 我们实际上不知道我们最好的检测工具 是否能够处理这些在野外的高吸积情况。
研究人员建立了令人印象深刻的深假探测器,对他们进行了标准基准的培训,并测量了他们的性能.
但是,这些基准测试检测器针对的是一般的合成视频,而不是实际重要的具体威胁:AI生成的危机镜头旨在欺骗人们真实发生的事情.
这就像训练边防警卫在实验室中发现有完美照明和放大玻璃的假护照,然后把他们送到繁忙的机场,他们必须在三秒内作出决定.
后卫的失败与他们的技能无关.
问题是测试环境完全脱离了真实情景. .
继续阅读关于AIModels.fyi的全文论文摘要