GroundingBooth - Adobe联合多所高校推出主题和文本到图像的定制框架

GroundingBooth是什么

GroundingBooth 是一个先进的文本到图像定制框架，由华盛顿大学圣路易斯分校、Adobe和普渡大学的研究团队共同推出。基于文本-图像对齐模块和遮罩交叉注意力层，实现对前景主体和背景对象的精确空间对齐。框架能生成在布局、身份保留和文本-图像连贯性方面都符合个性化需求的图像，支持多主题定制，在复杂场景中保持高准确性。GroundingBooth 是首个实现主题驱动的前景生成和文本驱动的背景生成联合接地的工作，为高度定制化的视觉内容创作提供了可能。

GroundingBooth的主要功能

• 单主题定制：根据用户提供的文本描述和单个主题图像生成与之匹配的定制图像。
• 多主题和文本实体联合定制：支持同时对多个主题和文本实体进行定制，生成包含多个对象和文本描述内容的复杂图像。
• 空间对齐：确保生成的图像中的对象在空间位置上与输入的布局信息一致。
• 身份保留：在图像生成过程中保留主题的身份特征。
• 文本-图像对齐：确保生成的图像内容与文本描述保持一致。

GroundingBooth的技术原理

• 特征提取：基于 CLIP 文本编码器和 DINOv2 图像编码器分别提取文本和图像的特征嵌入。
• 接地模块：通过位置编码将文本和图像特征与输入的布局信息相结合，生成接地标记。
• 遮罩交叉注意力层：在 U-Net 的每个 Transformer 块中使用遮罩交叉注意力层来控制前景和背景特征的结合，确保特征注入的准确性。
• 精确布局控制：通过训练和推理阶段的遮罩交叉注意力层，实现对生成图像中对象大小和位置的精确控制。
• 模型训练：在训练阶段，模型学习如何根据文本描述和参考对象生成准确的图像布局。
• 模型推理：在推理阶段，模型处理多个参考对象，通过复制的遮罩交叉注意力层实现多主题定制。
• 避免上下文混合：区分主题驱动的前景生成和文本驱动的背景生成，避免生成过程中的上下文混淆。

GroundingBooth的项目地址

• 项目官网：groundingbooth.github.io
• arXiv技术论文：https://arxiv.org/pdf/2409.08520v1

GroundingBooth的应用场景

• 个性化商品定制：用户根据自喜好生成定制化的商品图像，如定制T恤、杯子、手机壳等，上面印有特定的图案或文字。
• 艺术创作：艺术家和设计师用 GroundingBooth 生成具有特定风格和元素的艺术作品。
• 游戏设计：游戏开发者基于该框架快速生成游戏中的个性化角色、场景或物品。
• 广告和营销：营销人员创建与广告文案相匹配的定制图像，增强广告的吸引力。
• 社交媒体内容制作：用户在社交媒体上分享定制的图像，图像与特定的话题或活动相关。
• 教育和培训材料：教育者生成具有特定信息和布局的教学图像，提高学习材料的吸引力和有效性。