长期以来，AI实验室一直凭经验行事：合成数据有用——直到它变得有害，却没人知道那条界限究竟在哪里。苹果机器学习研究团队于3月30日发表了两篇论文，试图用数学取代这种不确定性。这两篇论文一篇研究强化学习中的熵衰减问题，一篇探讨合成数据与真实数据的权衡关系，共同构成了首个严格框架，用于计算模型在何时可以安全地基于自身输出进行训练。
第一篇论文聚焦于策略梯度算法中的根本问题。这类算法是现代推理系统的基石，但苹果研究人员记录了一个令人担忧的模式：熵——衡量探索多样性的指标——在训练过程中会自然下降。随着策略变得更加自信，模型采样的行动变得单一，最终限制了发现创意解法的能力。论文主张，熵必须在整个训练过程中被主动监测和控制，而非任由其衰减。
第二篇论文则用学习理论处理合成数据问题。当真实数据稀缺时，合成数据能改善泛化能力，但过度依赖会导致分布不匹配，从而降低性能。苹果的框架利用算法稳定性推导出泛化误差边界，刻画出最优合成数据与真实数据的比例。这一比例取决于真实分布与合成分布之间的Wasserstein距离——本质上是在数学空间中测量两个数据源相距多远。
"我们的框架能够实现更有原则的合成数据生成策略，"研究人员写道，"通过识别合成数据将最为有益的具体领域。"这一发现意义重大：实验室现在可以计算出哪些领域值得进行合成数据增强，而不必将其视为万能工具。
两篇论文相互咬合。熵衰减解释了为何简单的自训练会失败——在自身输出上递归训练的模型会丧失探索多样性，最终收敛到平庸解法。合成数据框架则提供了数学护栏：通过量化模型输出与真实数据之间的差异，研究人员可以确定安全使用自生成内容的剂量。
并非所有研究者都相信这一框架能完全化解张力。边界取决于能否准确估计Wasserstein距离，而当合成分布与真实分布显著偏离时，这仍然是个挑战。尽管如此，拥有一个原则性的数学结构标志着一大进步，告别了此前主导合成数据策略的经验试错。
苹果的贡献或许最大价值不在于给出最终答案，而在于提供了一套共同语言。"熵衰减"与"Wasserstein最优合成比例"这些术语让实验室能够量化推理曾经常常无法量化的难题。这些概念能否成为标准工具，还是停留在学术好奇，取决于该框架在大规模实证测试中能否站住脚。