25美元的价格听起来像一个软件订阅。它能买到的是实时窃取他人面部并在世界任何地方使用的权限。
404 Media本周报道了中国开发的深度伪造软件，通过商业化供应链销售，能够在实时通话中生成逼真的伪造视频。这不是实验性技术。这是一个成品，面向诈骗者销售，配备支付处理、客户服务和分层定价——完整的批量犯罪基础设施。
深度伪造欺诈的技术壁垒已经崩塌。两年前，创建逼真的换脸需要专业知识和算力。如今，一台VPN和25美元就能获得在普通硬件上运行的工具。Joseph Cox花了超过一个月的时间获取并测试了该软件，记录了一个流畅的工作流程，非技术人员也能操作。该产品针对的是诈骗的大众市场——浪漫欺诈运营商、商业邮件入侵团伙、技术支持诈骗——需要速度和数量的运营商，而非技术 sophistication。
这项基础设施服务全球受害者。404 Media追踪了跨多个大洲的部署，该软件涉及有据可查的财务损失。受害者包括通过约会平台被瞄准的个人和被骗转账的企业财务团队。人口统计数据跨越年龄、职业和地理位置——真正的横向威胁。
中国当局面临竞争压力。全球执法机构已将深度伪造欺诈列为升级威胁，联邦调查局指出，中国国家关联的行为者代表最复杂的威胁行为者。但商业供应商模式使简单归因变得复杂。这些工具建立在全球分布的人工智能研究之上——其中大部分是公开发布或通过学术渠道获取的。中国开发角度解释的是起源，而非责任，并且过度简化了经常跨境的技术供应链。
供应商在法律灰色地带运营。加密货币支付掩盖了资金痕迹。服务器基础设施不断移动。而那些公司本身——在可识别的情况下——通常带有免责声明，免除其对滥用行为的责任。这不是流氓黑客工具；它是一个产品类别，源于推动合法人工智能发展的同一种民主化进程。这些工具在设计上具有双重用途。
检测落后于生成。404 Media的调查测试了深度伪造软件对抗常用检测工具的效果，发现失败率很高。开发对策的研究人员面临移动目标——对手更新模型的速度比防御工具部署更快。这种不对称有利于攻击者。
冲突是结构性的。国际执法部门缺乏对在其管辖范围之外运营的供应商的管辖权。科技平台缺乏对工具销售加密渠道的可见性。金融机构缺乏标记向已知供应商加密支付的工具。而在事前，受害者——在事实发生之前——缺乏任何可靠的方法来验证实时来电者的身份。
接下来发生的事情需要在两个框架之间做出选择。第一个框架将每次诈骗视为孤立犯罪，逐案追查，受害者教育作为主要防御。第二个框架将廉价、商业化的深度伪造工具视为有组织犯罪的关键基础设施——并将供应链本身作为目标。
404 Media的调查记录了一个耐人寻味的细节：供应商愿意为一位国际记者演示他们的产品。这种意愿表明，要么对司法管辖保护充满信心，要么对执法风险漠不关心。两种解读都指向相同的结论：基础设施已经建成，工具很便宜，受害者不断出现。