欧盟耗时数年打造的儿童保护应用，在安全研究人员面前只支撑了两分钟。这个监管野心与技术现实之间的鸿沟，揭示出一个危险模式：决策者正在用自己都未必理解的技术来规范人工智能系统。
这款应用依据欧盟修订后的视听媒体服务指令开发，要求成年内容平台进行年龄验证。官员们曾将其描述为"稳健"和"面向未来"。然而，荷兰网络安全公司Securify的研究人员用公开工具和标准浏览器就完全绕过了验证。没有零日漏洞，没有复杂硬件，只有两分钟的专业工作。
这一事件的深远影响远超一款失败的应用本身。欧盟目前正在起草《人工智能法案》的实施细则，其中涉及生物特征识别和内容审核系统规定。导致可破解年龄验证应用的同类方法论捷径，正在威胁这些更具影响力的监管条例。当政策制定者在未经对抗性测试的情况下强制规定具体技术解决方案时，他们创造的只是表面安全、实则脆弱的系统。
监管规定的支持者辩称，这只是第一版迭代，安全性会随着时间推移而提升。他们指向更广泛的框架——其中包括对平台实施"适当措施"的要求。然而，这种表述掩盖了一个更深层的问题：欧盟将这款应用确立为合规途径。实施该应用的公司虽然满足了法律义务，却可能将未成年人暴露在存在真实后果的验证绕过风险中。
安全研究界已就类似系统发出过反复警告。年龄验证技术在对抗条件下始终失效，因为它面对的是一个本质上不对称的问题——验证者必须每次都成功，而攻击者只需找到一个漏洞。将人工智能加入其中会放大这些脆弱性。设计用于从面部特征估算年龄的机器学习系统，可能被光线变化、妆容，或者只是上传到更年轻账户的旧照片所欺骗。
行业参与者在合规要求与技术不可能之间左右为难。没有年龄验证系统能达到完美准确率，但监管者要求数学无法保证的确定性。实施这些系统的公司承担着失败的责任，却得不到关于如何实现规定结果的技术指导。
《Wired AI》报道发布的同一天，欧盟正在敲定其人工智能治理方案。成员国正在就是否将年龄验证归类为"高风险"系统进行谈判。欧洲数据保护委员会对数据收集要求表示担忧，而儿童安全倡导者则推动更严格的强制性规定。在这些立场之间，技术现实不断穿透而过。
安全研究人员呼吁在任何人工智能法规生效前进行强制性对抗性测试。他们建议进行红队演练、漏洞赏金和公开披露要求，以模仿软件行业最佳实践。监管者反驳说，这些要求会减缓创新，并为恶意行为者提供路线图。两种立场都有道理，但只有一种反映了欧盟儿童保护应用是如何被击败的——被那些想要揭露问题而非利用它的人击败。