训练一个文本生成图像的基础模型到底需要多少算力动辄几十万GPU小时的开销让不少团队望而却步。微软Lens团队用3.8B参数的Lens模型重新定义了训练效率。Lens仅用Z-Image约19.3%的训练算力就在多个基准测试中打平甚至超越了6B以上的模型。Lens在三个维度上精打细算压缩模型尺寸、提升每批数据的信息密度、加速训练收敛。再加上强化学习后训练、推理器优化和蒸馏加速这一套组合拳Lens在单张H100上3.15秒出图蒸馏版更快0.84秒4步生成。小模型也能打最近两年的T2I文本生成图像赛道模型参数量一直压不下来。Z-Image 6BLongCat-Image 6BFLUX.2 9BQwen-Image 20BHunyuan-Image-3.0甚至到了80BMoE混合专家架构。模型越大效果越好成了行业共识。Lens偏不走这条路。它把参数量压到3.8B直接砍掉了同行一半甚至更多的规模。参数少每一步训练的计算量就小推理也快。但参数少不等于效果差。在GenEval、OneIG、LongText、CVTG四个主流基准测试上Lens能和一众大模型正面硬碰硬结果如下表Lens在GenEval上拿到0.557比6B的Z-Image还高。在LongText英文测试中0.930的成绩直接刷新了开源模型的上限。在CVTG文字渲染测试中NED归一化编辑距离0.951和CLIP分数0.814也在开源模型里拔得头筹。算力账更直观。Lens用了192K A100 GPU小时Z-Image用了314K H800 GPU小时。把不同GPU的峰值算力换算到同一个基准Lens的训练算力只有Z-Image的19.3%。不到五分之一的算力打出同等甚至更好的效果靠的是对训练效率的系统性重新思考。信息密度才是关键模型小了每一步吃进去的数据就得更有营养。Lens团队把这个问题拆成两面文本信息密度和图像信息密度。文本这一侧传统做法是给图片配短描述比如一只猫的图片就标a photo of a cat。这种短标注信息量太低模型要从大量模糊信号里自己摸索语义训练效率自然上不去。Lens的做法是用GPT-4.1给每张图重新写密集描述dense caption平均每条标注109个词把画面里的物体、属性、空间关系、动作、背景全写清楚。整个Lens-800M数据集有8亿张图全部用这种方式重新标注。标注长不是目的信息密度高才是。Lens团队专门做了消融实验来验证。他们从8亿数据里抽1.3亿张分别用短标注、密集标注、混合标注三组训练同样的模型在GenEval上比较。密集标注组从训练初期就一路领先最终成绩明显优于短标注组和混合组。这说明一条密集标注比一条短标注能提供更强的训练信号。每一步优化模型都能从标注里学到更多东西收敛得更快。图像这一侧常规训练往往只用单一分辨率比如512的方图。Lens在持续训练阶段引入了混合分辨率和多宽高比策略每个训练批次里同时包含512、768、1024三种分辨率以及1:2到2:1之间的9种宽高比总共27个分辨率桶。这样做的好处是双重的。每一步训练模型能同时看到不同尺度、不同构图的图像学到从全局场景结构到局部纹理细节的多层次视觉内容图像侧的信息密度大幅提升。另外模型在推理时能泛化到训练中没见过的分辨率和宽高比比如5:4、6:7这些没训练过的比例甚至能一路推到1440分辨率尽管训练时的最高分辨率只有1024。高分辨率训练的计算量是平方级增长用低分辨率训练就能出高分辨率的图训练效率又省了一大截。数据清洗这块Lens团队也下了功夫。8亿张图进来先过9道关卡损坏文件剔除、分辨率过滤面积小于384的不要、NSFW内容过滤、美学评分过滤低于3分淘汰、水印检测、清晰度过滤、信息熵过滤、亮度过滤、以及用CLIP嵌入做近去重余弦相似度超过0.985的算重复。数据来源上Lens-800M混合了四类数据公开真实数据、公开合成数据、私有数据海报、幻灯片、平面设计等文字密集型内容以及文字合成数据把文字渲染到随机背景上加上模糊、颜色、字体、缩放、旋转等增强。其中真实数据4.558亿张占比57%合成数据3.444亿张占比43%。收敛速度有讲究训练效率的第三个维度是收敛速度。模型架构选对了同样的训练步数能达到更好的效果等效于省算力。Lens团队重点研究了两个架构选择VAE变分自编码器和语言编码器。VAE的选择上他们没有用常见的rFID或ImageNet类别条件生成这种代理指标来评判VAE的好坏。代理指标测的是VAE重建一张图的能力不是VAE的潜空间对生成式学习有多友好。他们直接把四种VAE放进同一个T2I流程里用1.3亿数据的子集训练Lens-Toy小模型看哪个VAE在GenEval上成绩最好。FLUX.2的语义VAE胜出。语义VAE编码出的潜空间更紧凑、语义更丰富文本和图像的对齐更容易学优化步数更少。下图是四种VAE的收敛曲线对比FLUX.2-VAE从训练初期就明显领先最终成绩也最优。语言编码器的选择更有意思。Lens团队比较了四种编码器GPT-OSSMoE架构20B参数3B激活、Qwen3-0.6B、Qwen3-1.7B和Qwen3-4B。结果有两层发现。在英文生成上更强的语言编码器不仅最终成绩更好收敛也更快。GPT-OSS组从训练一开始就建立优势一路领先到训练结束。更意外的发现在多语言这一侧。Lens的训练数据全是英文图文对没有一条中文、法文、日文或西班牙文的数据。但用了GPT-OSS作为语言编码器后模型推理时直接就能理解中文、法文、日文、西班牙文的提示词生成质量还不错。GPT-OSS在五语言平均成绩上远远甩开其他三个Qwen3编码器。一个语言能力足够强的编码器能让T2I模型跨语言泛化不用额外收集多语言训练数据。这对训练效率的提升不言而喻。基于这些消融实验Lens最终选择了FLUX.2的语义VAE和GPT-OSS语言编码器。两者配合既加速了收敛又解锁了多语言能力。整体架构上Lens采用MMDiT多模态扩散Transformer风格。图像潜变量由FLUX.2 VAE提取文本特征由GPT-OSS提供。为了利用多层语义信息Lens从GPT-OSS的第4、12、18、24层提取特征拼接到一起再通过线性适配器投影。去噪主干有48个MMDiT块每个块包含图像和文本两条分支各自做自注意力后再交互。图像分支用RoPE旋转位置编码做位置编码这也有助于模型对未见分辨率的泛化。后训练锦上添花预训练出来的Lens-Base已经能跟上用户指令生成多样化的图像但有些图会带瑕疵结构不对、细节糊、违反物理规律。Lens团队用强化学习做后训练来修复这些问题。强化学习的效果很大程度上取决于RL强化学习数据集的质量和覆盖度。Lens团队发现一个关键点RL提示词的分布必须尽可能覆盖预训练数据的生成场景不然模型会在某些类型的提示词上退化。为此他们构建了Lens-RL-8K数据集包含8406条提示词用分类法驱动构建。先把生成场景分成10个大类人物、物体、动物、植物、场景、食物、事件、虚构世界、文字、UI和图形设计。每个大类再拆几十个子类比如人物类下有种族、职业、性别等子类。每个子类再填入几百个具体条目。这样层层展开保证覆盖面够广。每个条目再从属性、空间关系、数量、交互、颜色这5个描述维度里随机抽1到4个用GPT-4.1生成具体的图像生成提示词。评估标准也精心设计。每条提示词配10条定制化的评估准则rubric由GPT-4.1生成再加一条全局准则验证整张图结构连贯且物理合理。这样每条提示词都有针对性的评估维度。优化方法用的是DiffusionNFT以GPT-4.1-mini作为奖励函数。每一步随机抽48对提示词和评估准则用当前策略模型生成24张不同分辨率的图GPT-4.1-mini根据准则打分DiffusionNFT据此优化。仅训练180步在64张A100上完成。RL数据覆盖度有多重要消融实验给出了答案。用1/4数据集训练GenEval得分0.916用1/2数据集0.920用全部8406条0.930。数据越完整效果越好。另一个消融实验测试了文字类提示词的影响。去掉文字相关提示词后模型在CVTG和OneIG英文文字渲染测试上都明显下降NED从0.951降到0.928CLIP从0.814降到0.795。文字场景不能丢丢了就退化。推理器Reasoner是Lens的另一个系统级优化。用户输入的提示词常常模糊或信息不足比如只写一只猫模型不知道该生成什么风格的猫。推理器把这种模糊输入扩写成详细且与训练分布对齐的提示词。默认用GPT-5.5作为推理器但可以替换成任何LLM大语言模型。用GPT-OSS的话因为它本身已经是文本编码器零额外显存开销。推理器的系统提示词也有优化空间。Lens团队设计了一种免训练的系统提示词搜索策略把上一版系统提示词和失败案例的文字摘要喂给GPT-5.5让它改写系统提示词反复迭代逐步提升推理器输出质量。这个方法不限于Lens其他T2I模型也能用。最后是蒸馏加速。Lens-RL通过蒸馏变成Lens-Turbo4步生成不需要CFG。蒸馏方案融合了DMD2、decoupled-DMD和SenseFlow的技术加上R1正则化稳定对抗训练。Lens-Turbo在保持图像质量和提示词跟随能力的同时把单张1024图的生成时间压到0.84秒。推理配置方面Lens默认20步去噪CFG设为5.0。支持1:2到2:1的任意宽高比最高1440分辨率支持中英法日西等多种语言的提示词输入。3.8B参数的小模型搭配一整套优化每一步都在为训练效率服务最终打造的模型推理更快质量更高。参考资料https://huggingface.co/microsoft/Lenshttps://github.com/microsoft/Lenshttps://arxiv.org/pdf/2605.21573