MeanFlow: AI图像生成的降维打击

何恺明团队最新力作,MeanFlow无需预训练、无需蒸馏,仅需一次函数评估 (1-NFE) 即可实现SOTA性能,为高效高质量图像生成开辟新道路。

MeanFlow的核心思想是引入“平均速度场”来直接建模数据点和噪声点之间的转换路径,摆脱了传统扩散模型和流匹配方法对多步迭代的依赖。这项研究在ImageNet 256x256数据集上取得了惊人的 FID 3.43 (1-NFE) 的成绩。核心概念解析

MeanFlow的创新根植于对生成过程基本原理的深刻洞察。它通过引入“平均速度场”和“MeanFlow恒等式”,为单步高效生成提供了坚实的理论基础,有效解决了传统方法的诸多痛点。平均速度场 (Mean Velocity Field)

传统流匹配 (Flow Matching) 方法依赖于建模瞬时速度场𝑣(𝑧𝑡,𝑡),即在特定时间点𝑡状态𝑧𝑡的变化速率。而MeanFlow首创性地引入了平均速度场𝑢(𝑧𝑡,𝑟,𝑡)的概念。

平均速度定义为在时间间隔[𝑟,𝑡]内的平均位移速率:𝑢(𝑧𝑡,𝑟,𝑡)=𝑧𝑡−𝑧𝑟𝑡−𝑟=1𝑡−𝑟∫𝑟𝑡𝑣(𝑧𝑠,𝑠)𝑑𝑠

这里的𝑧𝑠是在时间𝑠的状态。这个定义表明,平均速度不仅取决于当前状态和时间,还取决于一个参考的起始时间𝑟。通过直接建模平均速度,网络学会了预测整个时间段内的“平均路径”,而非瞬时方向。MeanFlow 恒等式

基于平均速度的定义,研究者推导出了一个连接平均速度𝑢和瞬时速度𝑣的核心数学关系——MeanFlow恒等式:𝑣(𝑧𝑡,𝑡)−𝑢(𝑧𝑡,𝑟,𝑡)=(𝑡−𝑟)(𝜕𝑢(𝑧𝑡,𝑟,𝑡)𝜕𝑡+∇𝑧𝑡𝑢(𝑧𝑡,𝑟,𝑡)𝑣(𝑧𝑡,𝑡))

这个恒等式为神经网络的训练提供了理论依据。通过设计损失函数,引导网络学习满足此内在关系,而无需引入额外的启发式方法。由于存在明确定义的目标速度场,理论上最优解与网络的具体结构无关,有助于训练过程更加稳健和稳定。一步生成如何实现?

通过训练神经网络𝑢𝜃直接建模平均速度𝑢,从初始噪声𝑧0(时间𝑡=0) 到目标图像𝑧1(时间𝑡=1) 的生成过程可以简化为单步操作:

𝑧1=𝑧0+𝑢𝜃(𝑧0,0,1)⋅(1−0)

这意味着在推理阶段无需显式计算时间积分,这是传统建模瞬时速度方法所必需的步骤。MeanFlow通过学习平均速度,有效地隐式处理了瞬时速度场可能存在的复杂非线性问题(“弯曲轨迹”),避免了多步ODE求解中累积离散化误差的风险。性能表现 SOTA

MeanFlow 在多个标准图像生成基准上均取得了当前最佳 (SOTA) 或极具竞争力的结果,尤其是在单步或少步生成设定下,其性能提升显著。ImageNet 256x256 (类别条件生成)

在ImageNet 256x256数据集上,MeanFlow展现了卓越的性能。仅需1次函数评估 (1-NFE),FID分数即达到3.43,较之前同类最佳方法有50%到70%的相对提升。在2-NFE设定下,FID进一步降至2.20,已可媲美许多多步方法。

下表详细对比了MeanFlow与其他模型在ImageNet 256x256上的表现 (数据源自论文表2):

MeanFlow (MF)13.43XL/2级骨干无
MeanFlow (MF)22.20XL/2级骨干无
Shortcut110.601.0B-
IMM2 (含引导)7.771.0B-
iCT1>10 (图示估计)1.0B-
代表性多步SOTA~250x2<2.20XL/2级通常有

CIFAR-10 (无条件生成)

在CIFAR-10 (32x32) 数据集上,MeanFlow同样表现出色。在1-NFE采样下,FID-50K分数为1.95。值得注意的是,MeanFlow在取得此成绩时并未使用任何预处理器,而其他对比方法均使用了EDM风格的预处理器。

下表详细对比了MeanFlow与其他模型在CIFAR-10上的表现 (数据源自论文表3):

MeanFlow (MF)1.95无U-Net
EDM2.01EDM风格U-Net
Consistency Models (CM)2.05EDM风格U-Net

创新的CFG集成

无分类器引导 (Classifier-Free Guidance, CFG) 是提升条件生成模型质量的关键技术,但传统应用方式常导致采样计算量翻倍。MeanFlow巧妙地解决了这一问题。作为真实速度场一部分的CFG

MeanFlow将CFG视为底层“真实速度场”的一部分属性进行建模,而非在采样阶段临时组合。研究者定义了一个新的、带引导的真实瞬时速度场𝑣𝑐𝑓𝑔:𝑣𝑐𝑓𝑔(𝑧𝑡,𝑐,𝑡)=𝑤⋅𝑣(𝑧𝑡,𝑐,𝑡)+(1−𝑤)⋅𝑣(𝑧𝑡,∅,𝑡)

其中𝑐是类别条件,𝑤是引导强度。神经网络𝑢𝑐𝑓𝑔,𝜃被训练来直接预测由这个𝑣𝑐𝑓𝑔所诱导出的平均速度场。保持1-NFE的高效引导

由于网络直接学习的是包含了引导信息的平均速度𝑢𝑐𝑓𝑔,因此在采样阶段,无需再进行额外的线性组合计算。只需一次网络调用即可完成带引导的单步生成。这使得MeanFlow在保留CFG效果的同时,依然维持了理想的1-NFE采样性能,真正做到了兼顾效率与质量。意义与价值

MeanFlow的提出不仅仅是一次技术迭代,它对整个生成式AI领域都可能产生深远的影响,有望引领新的研究方向和应用范式。性能飞跃,效率革新

MeanFlow显著缩小了一步与多步扩散/流模型之间的性能差距,证明了高效生成模型同样能达到顶尖质量。挑战传统,简化范式

其“从零开始”训练且无需预训练、蒸馏的特性,极大简化了高性能生成模型的开发流程,有望挑战多步模型的主导地位。降低门槛,普惠AI

更低的计算和开发成本,使得SOTA级别的生成技术能惠及更广泛的研究者和开发者,催生更多创新应用。启迪未来,重塑基础

MeanFlow的成功可能激励学界重新审视生成模型的基础理论,探索更根本、更高效的建模方法。关于本研究

这项名为 MeanFlow: Efficient Flow Matching with Mean Velocity Fields 的开创性研究由以下学者共同完成:

耿正阳 (Zhengyang Geng), 邓明阳 (Mingyang Deng), 白行健 (Xingjian Bai), J. Zico Kolter, 何恺明 (Kaiming He)

他们分别来自卡内基梅隆大学 (CMU) 和麻省理工学院 (MIT) 两所顶尖科研机构。

阅读完整论文 (arXiv:2405.13447)

发布者

立委

立委博士,多模态大模型应用咨询师。出门问问大模型团队前工程副总裁,聚焦大模型及其AIGC应用。Netbase前首席科学家10年,期间指挥研发了18种语言的理解和应用系统,鲁棒、线速,scale up to 社会媒体大数据,语义落地到舆情挖掘产品,成为美国NLP工业落地的领跑者。Cymfony前研发副总八年,曾荣获第一届问答系统第一名(TREC-8 QA Track),并赢得17个小企业创新研究的信息抽取项目(PI for 17 SBIRs)。

《MeanFlow: AI图像生成的降维打击》上有34条评论

  1. Искал варианты, как начать карьеру в digital, и решил попробовать себя в SEO — это перспективное направление для удалённой работы. Нашёл несколько школ seo, которые предлагают обучение с нуля. Мне понравилось, что есть как платные, так и бесплатные варианты для старта. По теме курсы seo https://kursy-seo-3.ru нашёл много полезной информации — там объясняют базовые принципы продвижения сайтов. Сейчас думаю записаться на seo базовый курс, чтобы систематизировать знания. Кто-нибудь уже проходил обучение продвижению сайтов? Посоветуйте, где лучше учиться seo онлайн — искал отзывы, но пока не могу определиться. Хочется найти что-то с практикой, чтобы сразу применять знания в работе.

  2. Курсы seo помогут вам освоить продвижение сайтов с нуля. Если времени мало, можно записаться на интенсив, где материал дают быстро и ёмко. Курсы по seo помогут вам разобраться в тонкостях поисковой оптимизации. Мой друг прошёл интенсив и теперь успешно работает в этой сфере. Если хотите учиться seo, выбирайте проверенные школы с хорошими отзывами.

  3. Расскажу, как я недавно продажи сайта — может быть, кому-то пригодится. Сначала даже не представлял, как подойти к этому вопросу, но потом разобрался. Главное — правильно оценить свой ресурс и выбрать подходящую площадку. Из проверенных могу посоветовать купить сайт, там действительно можно найти покупателей. Советую сначала изучить рынок и сделать аудит, собрана статистику, возможно, немного доработать дизайн. У меня так получилось продать свой проект за сумму, которая меня устроила. Теперь вот думаю взяться за новый проект. Кстати, кто-то пробовал аукцион сайтов для быстрой продажи?

  4. Для успешного продвижения сайта важно выбрать надежное seo агентство. Сегодня на рынке представлено множество вариантов, от локальных агентств до крупных игроков, таких как net seo или seo partners. Раскрутка сайта в Москве требует особого подхода, учитывая высокую конкуренцию. Многие компании предлагают услуги продвижения, но далеко не все могут гарантировать результат. Решил поискать информацию по теме усиление ссылок переходами, и нашел несколько действительно полезных ресурсов. Если вы только начинаете заниматься продвижением, советую обратить внимание на отзывы и рекомендации. Мой опыт показал, что важно не только продвижение, но и грамотная оптимизация.

  5. Решил заняться продвижением своего сайта и начал искать специалистов. Оказалось, что сейчас много компаний занимающихся продвижением сайтов, но выбрать не так просто. По совету друга обратился в seo агентство — они сразу предложили несколько вариантов, включая продвижение по трафику и оптимизацию контента. Пока изучаю их предложения, но уже вижу, что подход серьёзный. Кстати, когда искал информацию по теме поисковое продвижение сайта https://optimizaciya-i-seo-prodvizhenie-sajtov-moskva.ru, наткнулся на несколько полезных статей, которые помогли лучше разобраться в вопросе. Если кто-то уже работал с такими агентствами, поделитесь опытом — как выбрать надёжного партнёра и на что обратить внимание в первую очередь?

  6. Привет всем! Недавно искал статьи по продвижению сайтов и наткнулся полезный сайт с интересными материалами. Зацепило, что там объясняют популярные вопросы такие как блог про продвижение сайтов https://seo-blog9.ru — детально расписано. Советую ознакомиться если вы хотите продвигать сайт. Есть и практические кейсы по продвижению, которые очень полезно для развития проектов. В целом ресурс полезный, стоит посмотреть!

  7. Регуляторика в медицине — это сложная и важная тема. Нельзя забывать о ФЗ 61 об обращении лекарственных средств и регистрации медицинских изделий. Эти вопросы напрямую влияют на качество медицинских услуг. право на охрану здоровья и медицинскую помощь https://zonadom.ru Подробнее об этом можно прочитать в специализированных статьях.

  8. Как на практике применяете профстандарты в организации здравоохранения? Давайте обсудим — тема актуальная. управление персоналом медицинской организации система менеджмента качества в здравоохранении Современные подходы к организации здравоохранения требуют новых знаний. Как думаете, насколько это востребовано?

  9. Искал компании занимающиеся продвижением сайтов, и понял, что выбор действительно огромный. В Москве много специализированных агентств, которые предлагают оптимизацию и продвижение сайтов. Некоторые из них, например Net SEO или SEO Partners, уже давно на рынке и имеют хорошую репутацию. Если вам нужно качественное seo агентство, советую обратить внимание на их портфолио и отзывы. Я сам недавно начал изучать продвижение по трафику, и это оказалось довольно интересно. По теме продвижение сайта seo combinator https://poiskovoe-prodvizhenie-sajta-v-internete-moskva.ru нашёл много полезной информации, которая помогла разобраться в тонкостях. В итоге остановился на одном интернет агентстве продвижение сайтов сео, и пока всё идёт хорошо. Главное — не торопиться с выбором и изучить все предложения. Продвижение сайта — это процесс, который требует времени и внимания, но результат того стоит.

  10. Важно понимать, что медицина — это не только лечение, но и строгие правила. Врачебная тайна, информированное добровольное согласие на медицинское вмешательство и стандарты оказания медицинской помощи — это базовые принципы. предоставление сведений врачебной тайны медицинское право обучение Насколько, по вашему мнению, эффективно работает законодательство в этой сфере?

  11. Кто-нибудь сталкивался с проблемами из-за нарушения врачебной тайны? Знакомые врачи жалуются на сложности с лицензированием деятельности. стандарты оказания скорой медицинской помощи права пациента Интересно, как на практике применяют эти нормы права.

  12. Недавно столкнулся с ситуацией, когда на меня внезапно обрушился шквал клеветы и наговоров. Оказалось, что моё имя попало на какую-то скам-платформу, где публиковались лживые данные и грязные списки. Это настоящий произвол и беспредел, когда кто-то может безнаказанно подставлять людей, распространяя фейки и выдуманные санкции. Пытался разобраться, но столкнулся с полным отсутствием ответственности за такие действия. Если вам интересна эта тема, советую изучить Портят репутацию фирм — там подробно описано, как работают подобные клеветнические базы и чёрные списки. Это позор и грязь, с которыми нужно бороться, ведь травля и донос могут разрушить жизнь любого человека.

  13. أبحث عن طريقة لـ تنزيل وان اكس بت على هاتفي سمعت أن هذا التطبيق رائع للمراهنات. ما هي آرائكم في هذا التطبيق؟ أريد التأكد من أنني أحصل على النسخة الصحيحة. بعد البحث وجدت موضوعًا عن تحميل. 1xbet [url=http://aktivnoe.forum24.ru/?1-7-0-00021210-000-0-0-1793189801]http://aktivnoe.forum24.ru/?1-7-0-00021210-000-0-0-1793189801[/url] وكانت المعلومات مفيدة جدًا. هل تنصحون باستخدام هذا التطبيق؟ أنا متحمس لتجربته ولكن أريد التأكد أولًا.

  14. Бережливая поликлиника — это не просто модная тенденция, а необходимость. Как думаете, где можно пройти качественное обучение по менеджменту в здравоохранении? профсоюзная организация здравоохранения https://electrotechy.ru Профстандарт организации здравоохранения и общественного здоровья сейчас активно внедряется. Хотелось бы узнать опыт коллег.

  15. У друга жена через росбиотех ординатура прошла. Все жалуются на одно и то же. Аккредитация врачей — это то, с чем сталкивается каждый медик. Баллы в ординатуру — и не пропускать deadlines. Вся информация доступна здесь: медицинское образование медицинское образование И про портал НМО непрерывного медицинского образования для медсестёр. Главное — не запускать этот процесс.

  16. Племянник жены в ординатуру готовился. А на деле куча нюансов. Профессиональное образование врачей — это только начало пути. Первичная аккредитация медицинских работников — иногда приходится пересдавать. Баллы НМО — а не разовая формальность. Советую глянуть источник: минздрав ординатура минздрав ординатура И про фац аккредитация медицинских работников для среднего персонала. Чтобы потом не терять время впустую.

  17. Коллеги, кто уже проходил обучение по менеджменту в здравоохранении? Планирую внедрять принципы бережливой поликлиники. Как вы оцениваете современные подходы к управлению в этой сфере? закон об организации здравоохранения https://finangrow.ru Жду ваших мнений по этому вопросу.

  18. Свекор мой в госпитале работает. Собирались недавно за столом. Цифровое здравоохранение — раньше было проще. Электронный рецепт на лекарства — работать с этими сервисами. Советую глянуть источник: егисз шаблоны https://drivehaven.ru И про Искусственный интеллект в медицине для всех, кто в сфере здравоохранения. Система не будет ждать.

  19. إذا كنت تبحث عن تطبيق مراهنات موثوق به، أنصحك بتجربة 1xbet. التطبيق يوفر مجموعة واسعة من الأحداث الرياضية وفرص رهان ممتازة. من أفضل مميزات 1xbet هو دعمها للغة العربية بشكل كامل. لتحميل أحدث إصدار يمكنك تحميل ابلكيشن 1xbet حيث ستجد روابط مباشرة وآمنة. أنصح دائمًا بتحميل آخر إصدار لتحصل على أفضل تجربة استخدام. يمكنك تغيير لغة التطبيق إلى العربية بسهولة من الإعدادات. إذا واجهتك أي مشكلة في التنزيل أو التثبيت، لا تتردد في سؤالي.

  20. Некоторое время назад я всерьёз задумался о том, чтобы улучшить видимость своего сайта в поисковиках. Поиск подходящих специалистов оказался непростой задачей — на рынке много компаний, занимающихся продвижением сайтов, но не все предлагают действительно качественные услуги. В итоге я остановился на проверенном seo агентстве, которое уже несколько лет успешно работает в Москве. Их подход к продвижению по трафику и оптимизации сайтов меня приятно удивил — всё делалось профессионально и с учётом современных тенденций. Если вы ищете надёжное интернет агентство для раскрутки своего проекта, советую обратить внимание на контору, которую я выбрал — они действительно знают своё дело. Кстати, по теме поисковое продвижение сайта москва на их сайте есть отличная статья с подробным разбором всех этапов работы. В общем, я остался доволен результатом и теперь уверен, что мой сайт будет занимать достойные позиции в поисковой выдаче.

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理。