最近这个春节,风头都被DeepSeek抢走了,那今天我们要反击一下,推荐一篇针对MrDeepFake网站进行研究的安全论文——Characterizing the MrDeepFakes Sexual Deepfake Marketplace
先看看这个研究对象——MrDeepFake——是什么:
(注意,官方网站是https://www.mrdeepfakes.com/ 一定不要忘记加s,我们今天的推荐接下来就要被举报了。)
本文的作者深入调查了MrDeepFake网站的内容,特别关注了这个“生态系统”里面的买卖行为和背后的动机。具体到细节,作者除了研究MrDeepFake网站上的视频,还关注了论坛上涉及付费购买deepfake视频的帖子,以及关于如何生产deepfake的教程等。
本文有很多不便于介绍的内容,特别是论文的第四章,关于MrDeepFake网站上的视频特点的分析,建议大家不要阅读!!!不要阅读!!! 直接进入第五章以后的内容,多多关注deepfake视频的背后的买卖生态和血汗工厂。
作者首先调查了MrDeepFake网站上线之后,相关的deepfake搜索的活跃度的变化,发现这两者有一定的相关性,说明MrDeepFake网站很可能助长了deepfake视频的传播:
接下来,作者使用主题分析(Thematic Analysis,如果不清楚这个,可以去问AI解释下这个分析手段)调查了263个付费购买deepfake视频的请求(post),这背后反映的是MrDeepFake网站的运营模式——付费用户提需求,生产者按需生成fake视频。通过分析这些请求,作者调查了购买者的动机,这里面有点难以言说,我们只能跳过主要的部分,介绍那些比较奇怪的动机,比如说有一些买家会觉得自己是在推动“艺术创作”:
其他不多说,我们快进到论文对卖家也就是deepfake视频创作者的分析描述,在这部分,作者挖掘了这些创作者(甚至是创作团队)的特点:首先,卖家一般需要在MrDeepFake网站放一些自己的作品,作为给潜在的买家的广告,不同的团队还专注不同的风格(呃);然后,统计表明,在网站上,出售视频的平均标价是87.5美元,也有卖到100美元甚至200美元的。此外,还有人在社区评论说在这个领域,AI是真真实实干掉了人类:
前面的内容太多不能说的细节,论文到了第六章稍微会好点,因为作者调研了创作团队的技术特色,这部分主要关注的是所使用的数据、软件工具和硬件平台。
首先,创作deepfake视频需要收集高质量的人脸数据,即使对于一个单一的对象,一般需要3000-15000张人脸数据才能帮助生成栩栩如生的视频。其次,这个领域主要是两个开源工具(xx和xx,不说名字)在竞争,不过它们用起来都很复杂,因此社区里面也有大量的“技术分享”来教你怎么用,而且更有意思的是,社区会去研究主流的AI研究论文:在调查中,作者发现有43篇学术论文被很多帖子提到,其中不乏来自CVPR(最多引用)和ICCV、ECCV、NeurIPS、ICML、SIGGRAPH等会议的论文。(这年头,不好好读论文,在哪个领域都混不下去!)在使用硬件这方面,创作者们也面临经费限制的问题,很多人还处在买不起GPU的境地,还有人对7x24运行所产生的电费账单感到头疼,不少人还分享了如何去薅一些云服务(例如Google Colab)的羊毛的方法,当然相关讨论太多了,云服务厂商只要发现了就很快封了这些行为。
作者还发现,MrDeepFake网站社区其实是一个比较友好的社区,特别是对新人提问的态度很积极,作为一个只有61万会员的社区,问题的平均答复速度和拥有两千六百万用户的Stack Overflow社区差不多(稍稍慢一点),而且很多帖子(72%)在三天内都会有人回复。另外,MrDeepFake网站也积极倡导“好人一生平安”的友善、和谐的讨论氛围,这个和我们已知的一些论坛是很像的对不对?
总结一下,作为USENIX Security 2025的研究论文,来自Stanford和UCSD的研究人员把调查对象指向了互联网的特定群体,也增加了我们对他们的理解,这篇论文的G.O.S.S.I.P推荐指数为:
Weak Accept
论文:https://zakird.com/papers/mrdeepfakes.pdf