每天一个AI知识-1202
NeurIPS 2025最佳论文：扩散模型为什么可以生成新颖样本？
扩散模型是当前生成式人工智能的主流模型。一个让人疑惑的问题是，为什么它可以生成创新性的样本，而不是记住那些训练数据？NeurIPS 2025的一篇论文对此进行了解密。作者通过大量实验和理论分析，得到了两个关键时间节点：在第一个关键点，模型学会了数据中的规律，展现出创新性；在第二个关键点，模型开始记住训练数据，创新性下降。关键是，这两个节点之间的距离和训练数据量成正比。因此，只要训练数据量足够大，模型就可以落在这两个关键点之间，从而保证足够的质量和创新性。
资料来源：https://openreview.net/pdf?id=BSZqpqgqM0
参考文献：Bonnaire T, Urfin R, Biroli G, et al. Why Diffusion Models Don't Memorize: The Role of Implicit Dynamical Regularization in Training[J]. NeurIPS 2025.