少步扩散模型也能持续进化:D-OPSD让图像生成实现“边采样边学习”

导语:D-OPSD让少步扩散模型告别“学新就忘旧”,实现在线自蒸馏式持续学习。

少步扩散模型已经成为图像生成领域的重要方向,但一个长期存在的难题始终没有被很好解决:当这类模型在后续训练中继续学习新概念、新风格或新领域时,常常会“学了新的,忘了原来的”,甚至连原本高效的少步生成能力也一起丢掉。阿里巴巴 Z-Image 团队联合香港科技大学、加州大学圣地亚哥分校、香港中文大学等机构提出的 D-OPSD(On-Policy Self-Distillation),正是为了解决这个问题而来。

D-OPSD 的核心价值在于:它把“在线策略自蒸馏”引入少步扩散模型训练中,不依赖奖励模型,也不需要成对偏好数据,只使用图像-文本对,就能让模型在保持少步采样能力的同时,持续学习新概念和新风格。这意味着,原本只能一次性蒸馏出高效采样能力的扩散模型,也能像大语言模型那样,进入一个“边跑边学”的持续优化阶段。

© 版权声明

相关文章

暂无评论

none
暂无评论...