这项由浙江大学、新南威尔士大学（UNSW）、Data61/CSIRO和百度长入完成的商讨，以预印本现象发布于2026年6月9日，论文编号为arXiv:2606.10671，题为《FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion》。感兴致的读者可通过该编号在arXiv平台查阅完好意思论文。

若是你也曾用AI器具生成过一段视频，你好像会凝视到一个令东谈主握狂的问题：视频开始出现的那只猫，没过几秒钟就暗暗变了个口头，心理变了，耳朵现象变了，以至在某些片断里凯旋灭绝了。这不是AI在"阐扬创意"，而是一个深层的时候弱势——AI在生成后续画面时，仍是"健忘"了最运行画的那只猫长什么样。

这个问题在生成短视频时还对付不错接受，但当咱们想让AI生成一分钟乃至更长的视频时，这种"失忆症"就形成了可怜性的隐患。这恰是浙大团队试图措置的中枢问题，他们的措置决策叫作念FadeMem，一个让AI领有"分层回首"的机制，而这套机制的灵感来源，只怕和东谈主类大脑处理回首的方式惊东谈主地相似。

一、为什么AI生成长视频时会"失忆"

要领会这个问题，先来望望当代AI视频生成器是怎么责任的。咫尺起点进的视频生成AI并不是连气儿把整段视频齐"想好"再输出，而是像讲故事一样一段一段地生成，每生成一小段新内容时，齐要回头望望之前仍是生成了什么，以此保持连贯性。这种方式叫作念"自回首生成"，不错类比为一个东谈主在勉力写演义——每位接棒的作家齐要先读一读前边的章节，才能保证故事不跑偏。

在时候层面，这种"回头看"的操作是通过一个叫作念KV缓存的机制终了的。K代表Key（键），V代表Value（值），你不错把它领会成一册储存畴昔画面"印象提要"的记事本。每生成一帧新画面，AI齐会往这本记事本里翻一翻，阐发主角的脸型、场景的颜色、通顺的场所，然后再画下一帧。

问题在于，跟着视频越来越长，这本记事本会变得越来越厚。存储和查阅的资本呈线性增长，很快就会超出盘算推算机的处理才智。这就像让一个东谈主在写第100章演义时，将就他把前99章全部倒背如流——任何东谈主齐会崩溃。

现存的措置决策梗概分为三类。第一类是"滑动窗口"：只记取最近几帧，更远的全部丢弃，很是于那位接棒作家只读终末一页就运行写；第二类是"保留开始"：遥远保留最运行几帧动作"锚点"，禁锢主角举座跑偏；第三类是"压缩回首"：把辽阔的历史帧压缩成几个重要词式的提要情状，塞进缓存里。这些门径各有侧重，但齐存在一个根人性的局限：它们对回首的处理方式是固定的、机械的，不会把柄内容距离刻下时刻的遐迩来天真转念回首的精致进度。

二、东谈主类的淡忘弧线给了商讨者一个重要启发

在入部下手想象措置决策之前，浙大团队先作念了一件很有敬爱的事：他们系统分析了长视频中帧与帧之间的关系性是如何随时辰衰减的。

具体来说，他们把每一帧视频编码成一个抽象的数学暗意，然后把这个暗意分解成不同的"频率因素"。低频因素对应画面中大领域的举座信息，比如场景的举座布局、主角的轮廓现象、画面的举座颜色；高频因素则对应细节信息，比如毛发的纹理、衣裳上的褶皱、水面的细小摇荡。

分析间隔领会地揭示了一个规矩：帧与帧之间的关系性会随时辰距离增大而下跌，但下跌速率在不同频率因素之间存在显耀各异。高频细节衰减得极快，两帧之间只消隔了一段时辰，细节上的关系性就仍是聊胜于无；而低频的举座结构衰减得很慢，即即是相隔很远的帧，在场景布局和主角身份这类大轮廓信息上，仍然保有很是进度的关系性。

更有敬爱的是，商讨团队进一步分析了"踏实频率半径"随时辰距离的变化趋势——也就是说，在某个给定的时辰距离下，哪些频率因素仍然保持踏实关系。间隔发现，这个踏实频率半径随时辰距离增大而消弱，而且消弱的方式梗概恪守一个幂律关系，用公式暗意就是r*(t) ∝ t^(-b)，其中b是一个适度衰降速率的参数。

这个发现和东谈主类回首中有名的淡忘弧线一口同声。咱们对昨天发生的事情牢记很清晰，包括细节；对一年前某天发生的事情，细节仍是隐隐，但大事件的轮廓还在；对十年前的回首，大多只剩下重要节点和举座印象。不同的是，东谈主脑的淡忘是被迫发生的，而FadeMem要作念的是主动管制这种分层淡忘——把有限的回首空间，按照"越近越细、越远越粗"的原则合理分派。

由此得出的想象玄学很是直不雅：既然辽阔的历史帧只需要保留粗粒度的结构信息，那咱们就没必要为它们保留完好意思的精致纪录；而近处的历史帧对刻下生成至关蹙迫，需要保留尽可能丰富的细节。这个原则，就是FadeMem全部想象的起点。

三、FadeMem是如何组织这本"回首账本"的

FadeMem的中枢念念路不错用一个藏书楼的比方来领会。假定一个藏书楼的书架空间是固定的（对应固定的缓存预算M），澳洲幸运5中国官方网站需要存放束缚涌入的新书（对应每个时刻重生成的视频帧的KV数据）。对于刚入库的新书，管制员给每本书单独分派一个书架格子，保留完好意思内容；而对于入库已久的古书，管制员会把内容周边的几本书合并成一册精华提要，腾出版架空间给新书。通盘书架上的内容，从右侧（最近入库）到左侧（最早入库）呈现出从"精致"到"死板"的梯度变化。

在时候终了上，FadeMem把缓存中的每一条回首称为一个"条件"。每个条件不仅存储了KV数据自己，还佩带两个轻量级的元数据：一个是这个条件所代表的时辰位置（用μ暗意），另一个是这个条件系数粉饰了些许个生成单位（用s暗意）。新插入的条件s=1，意味着它代表一个精准的历史时刻；经过合并的条件s会增大，意味着它是对一段历史区间的综合提要。

每当AI生成了新的一帧或一组帧，FadeMem当先把对应的KV数据动作新条件追加进来。此时若是条件总额逾越了预设的上限M（论文默许使用12个历史条件），FadeMem就会触发一次合并操作，为下一轮生成腾出空间。

合并操作的继承战术是通盘机制的精髓所在：FadeMem不是立时合并，也不是轻便地丢弃最旧的阿谁，而是通过一个幂律变换来算计相邻条件之间的"感知距离"，然后合并感知距离最小的那一双相邻条件。

具体来说，对于每个条件，先盘算推算它离刻下生成时刻的履行时辰距离d，然后把这个距离作念一个幂律变换：u(d) = d^β，其中β是一个介于0到1之间的适度参数。这个变换把时辰轴"误会"了——在误会后的空间里，近处的条件之间显得间距很大（进攻易被合并），辽阔的条件之间显得间距很小（容易被合并）。算法继承在误会后空间里间距最小的那对相邻条件进行合并，天然则然地就终领会"优先合并辽阔的历史、保留近处历史的精致度"这一主义。

两个条件合并时，生成的新条件的时辰位置μ_new取两者时辰位置的跨度加权平均，新条件的KV数据也取两者KV数据的跨度加权平均。跨度s_new等于两者跨度之和，纪录这个提要条件粉饰的历史长度。通盘合并经由是在线进行的，每一步生成只需作念一次合并操作，盘算推算资本极低。

此外，FadeMem还诞生了两个界限保护章程：最重生成的条件不会被立即合并，确保最崭新的历史信息至少存活一个生成才能；最早生成的第一帧条件默许受到保护，动作"全局锚点"遥远留在缓存里，禁锢视频的举座身份和场景在漫长的生成经由中全齐漂移。这两条章程并不需要畸形的机制，轮盘游戏App(中国)官方下载它们齐在并吞个有序的回首结构里当然终了。

对于使用旋转位置编码（RoPE）的模子，FadeMem还作念了止境处理：存储时先去掉KV数据中已编码的位置信息，使用时再把柄条件的代表时辰位置重新编码。这么作念是因为若是把两个不同时期位置的KV数据凯旋平均，位置信息会彼此滋扰产生芜乱；解耦存储和位置编码则保证了合并后的条件在被模子使用时仍然具有正确的时序信息。

四、实验间隔：FadeMem的确让视频"记性更好"了吗

商讨团队在Wan2.1-T2V-1.3B这个视频生成模子上终领会FadeMem，并在LongLive自回首视频生成框架上进行评测。评测任务是生成60秒长度的视频，分辨率480×832，帧率16FPS，使用MovieGenBench基准测试伙同的128个教导词。评测目的接受VBench-Long体系，涵盖主体一致性、配景一致性、通顺畅通度、动态进度、好意思学质料和画质六个维度，并畸形使用谷歌Gemini 3.1-Pro大模子进行视觉踏实性的主不雅评分。

商讨团队说明了两个变体。FadeMem-TF是纯推理时版块，不需要对模子作念任何畸形考试，凯旋替换原有的缓存管制方式。FadeMem-FT则在FadeMem-TF的基础上进行了轻量级微调，让模子在考试阶段就习尚了分层回首的造访模式。

在系数基线门径中，Self Forcing的举座平平分为78.64，LongLive为80.55，MemFlow为80.59，Deep Forcing为79.44，MemRoPE为80.39。FadeMem-TF在不进行任何畸形考试的情况下达到了80.45的平平分，在主体一致性（97.74）、配景一致性（96.43）和通顺畅通度（98.93）三方式的上达到或比肩刻下最优水平。加入轻量微调后，FadeMem-FT的平平分进一步栽植至81.03，在主体一致性（97.77）、配景一致性（96.56）、画质（70.72）和总体平均四方式的上均居系数门径之首。

在Gemini 3.1-Pro的主不雅视觉踏实性评分上，FadeMem相通以4.84的得分高于MemRoPE的4.80、MemFlow的4.77、LongLive的4.74和Deep Forcing的4.51，获取系数门径中的最高踏实性分数。

定性对比的间隔也很是直不雅。商讨团队使用了一个专门想象的挑战性教导词："一齐闪电击中湖中央的一只乌龟，把它坐窝形成了一只鳄鱼。"这个教导词的难度在于，主体的外不雅在视频早期就发生了一次根人性的变化，后续漫长的生成经由需要一直记取"当今它是鳄鱼，不是乌龟"这个已建筑的事实。

在LongLive和MemFlow生成的视频中，跟着视频投入40秒、50秒阶段，乌龟的特征运行重新出当今主体身上，变身的遵循安详被"粉饰"。在Deep Forcing和MemRoPE生成的视频中，鳄鱼的举座身份得到保管，但细节安详隐隐。FadeMem生成的版块则在通盘60秒内不息保管了变死后的鳄鱼身份，同期在水面反光、风暴场景的举座氛围等细节上也保持了更高的一致性和简直感。

五、细节决定成败：三个想象继承的消融实验

为了考据FadeMem中每个想象继承的价值，商讨团队进行了系统性的消融实验，一一测试不同的幂律指数β、不同的合并算子以及是否保留第一帧全局锚点的遵循。

2026世界杯预选赛下单中国体彩官网

对于幂律指数β，商讨团队测试了从0.1到0.9五个取值。跟着β增大，动态进度和举座平平分有所栽植，但主体一致性和配景一致性有所下跌。β=0.9时举座加权平均最高（80.65），但在定性不雅察中发现视觉轨迹的踏实性和身份保留遵循更差，说明自动目的并未全齐捕捉到视频质料的系数维度。商讨团队综合考量后继承β=0.3动作默许值，因为它在主体一致性和配景踏实性上的发达最优，最合乎"生成长视频时保持身份和场景踏实"的中枢主义。

对于合并算子，商讨团队比拟了四种方式：继承距离最近的单个条件（Select Nearest，即丢弃另一个）、轻便等权平均（Average）、跨度加权平均（Weighted Average）以及逐元素最大值（Max Pooling）。Max Pooling的发达最差，动态进度仅有10.47，画质也严重下跌，说明对KV数据作念逐元素取最大值会严重龙套信号结构。Select Nearest在主体一致性上略占优，但动态进度和画质昭彰低于平均类门径，说明凯旋丢弃一个历史条件会亏空灵验的历史信息。轻便平均和加权平均发达接近，加权平均以隐微上风胜出，因此动作默许继承。

对于第一帧全局锚点，去掉它之后，主体一致性（98.01）和配景一致性（96.74）以及通顺畅通度（99.01）反而略有栽植，但动态进度从39.09骤降至28.88。这说明，莫得第一帧锚点时模子生成的视频在通顺上变得过于保守，动态变化减少——模子为了保管一致性，干脆减少了动态内容。保留第一帧锚点在提供全局参照的同期，也为模子提供了生成丰富通顺内容的"底气"，两者之间获取了更好的均衡。

说到底，FadeMem作念的事情其实不错用一句话详细：按照"越旧越详细，越新越精致"的原则，在固定大小的回首账本里，把有限的回首空间分派给最值得精致回首的内容。这个念念路既有严实的表面依据（视时时率关系性的幂律衰减），又有精真金不怕火的工程终了（单一有序的合并机制），不需要为"近期回首"和"远期回首"区分爱戴两套落寞的系统，也不需要修改模子架构。

这对宽泛用户而言意味着什么？当你用AI生成一分钟的视频，要求主角在开始作念出某个动作或外貌变化，并但愿这个变化在视频间隔仍然领会可辨时，FadeMem这类机制让这件事在盘算推算资源固定的条件下变得愈加可靠。虽然，这项商讨也坦诚地指出了自身的局限：FadeMem的回首分派战术是预设固定的，对于包含一忽儿场景切换或高速通顺的视频，固定的幂律分派可能并不是最优决策，改日不错探索内容自稳当的动态分派战术。此外，FadeMem处理的是缓存的组织方式，无法弥补底层生成模子自己在语义领会或物理知识上的先天不及。

归根结底，长视频生成的连贯性问题不仅仅"存些许历史"的问题，更是"如何存历史"的问题。FadeMem给出的这个谜底——用衰减式的分辨率梯度管制有限的回首空间——为这个场所提供了一个值得连续久了探索的念念路。有兴致久了商讨这一课题的读者，不错通过arXiv编号2606.10671查阅完好意思论文和时候细节。

Q&A

Q1：FadeMem和宽泛滑动窗口缓存有什么内容区别？

A：宽泛滑动窗口只保留最近几帧，更早的全部丢弃，很是于回首里只消昨天，前天以前一律抹去。FadeMem则是把辽阔的历史"压缩"而非"删除"，辽阔的帧会被合并成死板的提要条件，仍然占据缓存里的一个席位，仅仅精致进度裁减了。这么AI既能记取最近帧的细节，也能保留很早之前建筑的主体身份和场景信息，两者齐不全齐丢失。

Q2：FadeMem需要重新考试视频生成模子吗？

A：不需要重新考试也能使用。论文提供了两个版块，FadeMem-TF是纯推理时版块，凯旋替换原有的缓存管制战术，不作念任何模子考试；FadeMem-FT则是在此基础上作念了轻量级微调，让模子更好地稳当分层回首的造访模式，遵循略优于纯推理版块。对于已有的视频生成系统，只需替换缓存管制模块即可使用，无需修改模子架构。

Q3：幂律指数β诞生些许比拟合适，宽泛用户能我方调吗？

A：论文保举默许使用β=0.3轮盘游戏app(中国)官方下载，这个值在身份一致性和配景踏实性上发达最佳，最稳当需要耐久保持主体外不雅和场景连贯的运用场景。β越大，对辽阔历史的压缩越弱，动作风略有栽植但踏实性下跌；β越小，近处回首保留越密集，辽阔历史被更激进地合并。若是生成的视频场景变化多、动作幅度大，不错适当尝试更高的β值。