AI 每日进展速报 - 2026-07-28
新旧
正在统计...
来源
当前筛选条件下没有条目。
图像生成/编辑
arXiv
- MixDiffusion: Mixing Diffusion-based Uni-condition Text-to-Image Generation Models for Multi-condition Image Synthesis
- 赛道归属: 文生图(多条件可控生成 / 扩散模型推理框架)
- 核心创新点: 提出一种无需训练(training-free)的多条件扩散生成框架,通过在推理阶段对多个“单一条件控制”的T2I扩散模型进行可组合的混合(mixing),实现对任意数量、任意类型控制条件的统一支持;方法层面强调对不同条件分支的融合机制与理论可扩展性,使多条件约束在同一次采样过程中协同生效,而不依赖重新训练多条件ControlNet式模型。
- UniNDM: A Unified Noise-driven Detection and Mitigation Framework Against Sexual Content in Text-to-Image Generation
- 赛道归属: 文生图安全(NSFW检测与缓解 / 扩散模型安全对齐)
- 核心创新点: 提出统一的“噪声驱动”检测与缓解框架,将扩散模型生成过程中的噪声/去噪动态作为关键信号,用于识别隐式性暗示(implicit sexual prompts)而非仅依赖显式词表或生成后图像判别;并在同一框架内给出对应的生成期干预/抑制策略,实现从“意图检测”到“生成抑制”的闭环,针对隐式提示与对抗token导致的偏置触发提供更鲁棒的防护路径。
- CoBind: Stage-Aware Compositional Binding for Training-Free Text-to-Image Generation
- 赛道归属: 文生图(复杂提示组合生成 / 训练免提示遵循增强)
- 核心创新点: 提出训练免的阶段感知(stage-aware)组合绑定(compositional binding)机制,显式建模“属性-实体-关系”的归属与绑定,而不是仅做token级注意力增强;核心在于根据扩散去噪的不同阶段,分阶段施加不同约束(例如先布局/关系后细节属性),从而减少多实体场景中的漏物体、属性串绑、空间关系颠倒等典型失败,实现更稳定的复杂指令遵循。
- RubricRL: Simple Generalizable Rewards for Text-to-Image Generation
- 赛道归属: 文生图对齐优化(RLHF/偏好对齐)
- 核心创新点: 提出 RubricRL,用“可解释的评分量表(rubric)”来构造文本到图像生成的强化学习奖励信号:将对齐目标拆解为多个可读、可控的维度(而非固定权重的复合指标或单一黑盒标量奖励),并以统一、通用的奖励框架进行优化,从而提升奖励的可解释性、可调节性与跨任务/跨概念的泛化能力,降低对特定指标权重调参或偏好模型蒸馏的依赖。
- Mage-Flow: An Efficient Native-Resolution Foundation Model for Image Generation and Editing
- 赛道归属: 文生图 + 指令式图像编辑(高效基础模型/原生分辨率生成)
- 核心创新点: 提出 Mage-Flow,一个面向高效训练与部署的“原生分辨率”生成与编辑基础模型栈,通过两项协同设计实现性能/成本平衡:1)Mage-VAE 作为轻量高保真 latent tokenizer,采用一步扩散式编码/解码以降低重建开销并保持细节;2)在原生分辨率上训练的多模态 Diffusion Transformer,并用 rectified flow matching(流匹配范式)替代传统扩散训练以提升训练/采样效率。整体以紧凑 4B 规模同时覆盖文本生成与指令编辑,强调端到端效率与高分辨率细节保真。
- Cross-Branch Conflict as a Shield: Safeguarding Facial Identities in Unified Multimodal Image Editing
- 赛道归属: 图像编辑安全(人脸身份保护 / 多模态统一编辑模型防护)
- 核心创新点: 针对统一多模态图像编辑模型(UMMs)存在多视觉分支处理路径、导致传统对抗保护迁移失效的问题,提出以跨分支冲突(cross-branch conflict)为核心的身份防护思路:在特征层面刻意诱导不同视觉分支对人脸身份表征产生不一致,从而在编辑/生成链路中形成“盾牌”,降低未授权的人像篡改与身份保持编辑的成功率;方法重点在于面向UMM结构特性设计可迁移、可触发的防护扰动/机制,而非单一路径的对抗噪声。
- Decomposing Subject-Driven Image Generation via Intermediate Structural Prediction
- 赛道归属: 文生图(主体驱动/个性化生成、结构-外观解耦)
- 核心创新点: 提出两阶段的“结构先行”生成范式,将主体驱动生成从直接RGB生成中解耦出来:第一阶段先进行中间结构预测(以Canny边缘图作为显式结构表征),第二阶段在“源外观特征 + 预测结构”的双条件下进行渲染生成。该设计通过显式约束几何与轮廓,显著提升大幅编辑场景下的高频身份细节保持能力(如logo、纹理、文字等),并通过面向文本细节的专门处理机制增强文字/图案的可控与可读性,缓解传统端到端RGB生成在细节处易退化的问题。
- RS-RIE-Bench: Benchmarking Reasoning-Guided Remote Sensing Image Editing
- 赛道归属: 图像编辑(遥感图像编辑评测/基准)
- 核心创新点: 提出首个面向“推理引导的遥感图像编辑”的系统性基准RS-RIE-Bench,将遥感编辑从自然图像通用评测中剥离出来,围绕遥感场景特有的三类关键能力进行任务与指标设计:①地理规则与空间拓扑一致性(如区域/地物关系、尺度与布局约束);②区域级精细控制(对指定地块/地物的局部编辑与边界保持);③传感器观测一致性(成像特性、光谱/纹理统计与遥感外观合理性)。通过引入需要显式推理的指令与更贴近遥感应用的评测维度,使模型在“能改图”之外必须证明“改得符合地理与成像规律”,从而更准确暴露现有编辑方法在遥感领域的短板并推动面向遥感的编辑算法发展。
- One Rewrite to Fix Them All? Type-Aware Repair Allocation for Text-to-Image Prompt Optimization
- 赛道归属: 文生图(提示词优化/Prompt Optimization)
- 核心创新点: 提出“类型感知”的提示词修复分配框架(Type-Aware Repair Allocation),针对文生图中不同失败类型(计数错误、属性互换、关系歧义、文本不可读等)不应被同一种“统一扩写”策略粗暴处理的问题,将提示词优化建模为“按失败类型选择/分配修复语言”的优化过程:先对生成偏差进行类型化归因,再为不同类型调用差异化的改写策略与修复模板,实现“一次改写”中对多类错误的有针对性修补。该方法的突破在于把prompt rewriting从单一启发式扩写提升为结构化、可控的修复分配机制,在无需重训生成器的前提下,提高对齐度与可解释性,并减少无效冗余扩写带来的副作用。
- Dynamic Defense Profiling Enables Cognitive Jailbreak of Text-to-Image Models
- 赛道归属: 文生图安全(越狱攻击 / 红队评测与攻防)
- 核心创新点: 提出“动态防御画像(Dynamic Defense Profiling)”驱动的认知型越狱框架,不再把模型反馈简化为成功/失败二值信号,而是利用多种失败模式(如被拒、被过滤、内容被弱化等)所携带的细粒度防御状态信息来反推防护策略并自适应调整攻击;方法论突破在于将越狱过程建模为对防御机制的在线探测与策略更新,从而更高效地绕过NSFW安全护栏,揭示现有防御在“反馈可被利用”层面的系统性风险。
GitHub
- [2026-07-28] YouMind-OpenLab/awesome-nano-banana-pro-prompts ⭐12979
- [2026-07-28] Osmantic/ODS ⭐3764
- [2026-07-28] AceDataCloud/Nexior ⭐384
- [2026-07-28] yuji-hatakeyama/opencode-gpt-imagegen ⭐62 🆕NEW
- [2026-07-28] linux4life1/front-porch-AI ⭐52 🆕NEW
HuggingFace Models
HuggingFace Datasets
- [2026-07-25] unstonio/pixelgpt-24x24-20k 🆕NEW
视频生成/编辑
arXiv
- Moving Alphabet: A Controlled Study of Training Data for Text-to-Video Generation
- 赛道归属: 视频生成(文生视频)/ 数据工程与数据配方研究
- 核心创新点: 聚焦“训练数据”这一长期被低估的变量,构建可控实验环境(Moving Alphabet)以系统剥离真实数据采集/清洗/标注的混杂因素,从而定量研究两类关键数据维度对文生视频模型的因果影响:①训练数据分布(动作/外观/时序变化等分布偏置)如何改变模型的生成能力与泛化;②字幕质量(描述粒度、时序对齐、噪声与歧义)如何影响文本-视频映射学习与可控性。该工作的方法论突破在于用“可控合成数据基准”替代不可控的真实数据配方对比,使数据分布与标注质量的影响可复现实证、可诊断并可指导后续数据配方设计。
- Between Safe Boundaries: Exploiting Temporal Consistency for Jailbreaking Text-To-Video Generation Models
- 赛道归属: 视频生成安全/对抗攻防(Text-to-Video Jailbreak)
- 核心创新点: 针对T2V黑盒越狱中“沿用文生图攻击导致时序信息利用不足、且需要高查询优化成本”的痛点,提出利用视频生成固有的时间一致性作为攻击杠杆:通过在跨帧保持稳定的对抗提示/约束,使不安全语义在时间维度上被持续强化与传播,从而在更少查询、更贴近真实部署的黑盒条件下提升越狱成功率;方法论上把“时序一致性”从生成质量指标转化为可被利用的攻击面。
- When Physical Preferences Meet Semantic Constraints: Physical and Semantic Direct Preference Optimization for Text-to-Video Generation
- 赛道归属: 视频生成对齐/偏好优化(Text-to-Video Preference Optimization)
- 核心创新点: 识别并形式化“物理偏好 vs 语义一致性”的系统性冲突:传统物理偏好标注往往只比较两段视频的动力学优劣,却不判断其是否忠实于文本语义,导致优化会偏向物理合理但语义跑偏。提出物理-语义联合的直接偏好优化框架,在偏好学习目标中显式引入语义约束/过滤或联合判别机制,使物理改进只在满足文本语义的可行域内进行,从训练目标层面缓解两类偏好信号的梯度对冲与偏置。
- When Cultures Move: Measuring and Improving Multicultural Text-to-Video Generation
- 赛道归属: 视频生成评测与文化对齐(Multicultural Text-to-Video)
- 核心创新点: 面向“单提示多文化表达”这一未充分研究的能力,提出MAVEN多智能体提示精炼:将提示分解为人物(Person)、动作(Action)、地点(Location)等维度,由专门代理并行/串行地重写与约束提示,减少文化要素在生成中被稀释或误配;同时配套系统化评测设定以量化文化保真度与跨文化组合的失败模式。方法突破在于用可组合的结构化提示分解与代理协作,把文化对齐从单一提示工程提升为可控的流程化优化。
- Keyframe-Anchored Identity Preservation for Sequential-Action Video Generation
- 赛道归属: 身份保持视频生成/视频生成条件控制(Sequential-Action T2V)
- 核心创新点: 针对带时间戳动作序列的身份保持生成(同一主体跨多动作、跨时间保持可识别性)提出关键帧锚定的身份保持机制:以关键帧作为身份“锚点”在时序上提供强约束,并将后续帧的生成对齐到锚定身份表征,从而在动作切换、姿态变化和长时序条件下抑制身份漂移;方法论上把身份一致性从逐帧弱约束提升为“关键帧—序列传播”的结构化约束方式,更适配分段动作脚本输入。
- AgentHOI: Multi-Agent Reasoning for Human-Object-Interaction Video Generation via Implicit Representation Alignment 🆕NEW
- 赛道归属: 视频生成(人-物交互 HOI、文本驱动、扩散模型)
- 核心创新点: 提出“先推理、后生成”(thinking-before-generation) 的多智能体推理框架,将人、物体及其交互关系显式建模为可协同决策的多个 agent,在生成前先进行交互逻辑与时序行为的推演,从而把“交互合理性”从纯生成阶段前置为可控的规划问题;同时通过隐式表示对齐(implicit representation alignment) 将推理得到的交互意图/关系约束与视频扩散模型的潜空间表征对齐,减少对显式运动轨迹/关键点等强监督控制信号的依赖,提升对多样物体与复杂交互的可扩展性与泛化能力,并在保持文本可控性的同时增强 HOI 的细粒度一致性与连贯性。
- StreamHOI: Interaction-aware Temporal Memory Adaptation for Streaming HOI Video Generation
- 赛道归属: 视频生成(流式/长视频生成、HOI人-物交互视频生成)
- 核心创新点: 提出面向实时交互场景的低延迟流式HOI视频生成框架,通过“交互感知”的时间记忆自适应机制来组织与更新历史信息:不再将复杂离线强条件HOI管线硬改为流式,而是从图像到视频的流式生成器出发,研究如何在长时序生成中选择、压缩与调度历史记忆,使模型在持续生成时既能保持人-物交互的一致性与可控性,又能在流式推理约束下稳定扩展到长时长视频并降低延迟。
- Learning Explicit Physical Parameter Control and Benchmarking for Video Generation
- 赛道归属: 视频生成(图生视频)/ 物理可控生成与评测基准
- 核心创新点: 面向“物理因果可控”的视频生成,提出显式物理参数控制与系统化基准评测框架:一方面引入大规模、细粒度的物理参数化标注(将动力学因素以可显式输入/约束的参数形式提供),解决现有模型“看起来合理但不受物理原因支配”的问题;另一方面在模型设计上强调将物理参数与多物体交互解耦,降低实例级约束在交互场景中的泄漏与纠缠,从而实现更稳定的参数可控运动生成。整体贡献在于把“物理参数→运动结果”的控制链条做成可训练、可评测的闭环,而非仅凭主观观感判断物理一致性。
- DeforM: Reasoning-Guided Physics-Aware Video Generation via Spatial-Temporal Masking
- 赛道归属: 视频生成(图生视频)/ 物理感知生成(形变动力学)
- 核心创新点: 针对复杂形变(非刚体)动力学难以生成的问题,提出DeforM:通过“推理引导 + 时空掩码”的方式显式定位真正发生形变/运动的局部区域,避免无关背景区域稀释注意力导致的物理失败。方法上利用空间-时间联合masking在生成过程中强化对动态区域的建模与约束,并引入推理模块(或推理信号)指导mask聚焦于物理相关部位,从而提升形变视频的物理一致性与稳定性。关键突破在于把“物理推理的关注区域选择”显式化为可操作的时空结构约束,而不是依赖扩散模型隐式学习全局运动统计。
- ShotPlan: Cinematic Video Generation with Learnable Planning Token
- 赛道归属: 电影化多镜头视频生成/视频生成规划(Cinematic Multi-shot T2V)
- 核心创新点: 为解决多镜头叙事中缺乏显式镜头规划的问题,提出在视频扩散模型上引入可学习的规划token(planning token),用于编码镜头级的转场线索与构图/节奏意图,并在生成过程中作为可插拔条件注入,实现从“单镜头生成”到“多镜头有计划生成”的范式升级;关键突破在于用可学习的离散/连续token承载镜头计划,使规划与生成端到端协同优化,而非依赖外部脚本或手工规则。
GitHub
- [2026-07-27] Anil-matcha/Open-Generative-AI ⭐24996
- [2026-07-28] hao-ai-lab/FastVideo ⭐3888
- [2026-07-27] YouMind-OpenLab/awesome-seedance-2-prompts ⭐1660
- [2026-07-28] wordghost1234/agnes-ai-storyboard-studio ⭐154
- [2026-07-28] heygen-com/heygen-cli ⭐101
音频生成
arXiv
- Harness TTS: Towards Context-Aware Expressive Speech Synthesis with Harness Layer
- 赛道归属: 语音生成(TTS)/可控与情感表达语音合成
- 核心创新点: 提出一种可插拔的轻量级“Harness Layer”控制层,以“封闭集合的提示工具路由(prompt-tool routing)”重构TTS风格控制:离线构建带结构化元数据的风格提示工具注册表(style prompt tools registry),在线由LLM规划器根据显式指令与对话上下文选择并调用合适的风格工具,从而将表达性行为从TTS主模型中外置化、可治理化,实现更稳定、可解释且上下文感知的风格/情绪控制,而无需对底层TTS引擎进行大规模改造。
- StellarTTS: Sparse Temporal Embedding for Low-Latency and Robust Speech Synthesis
- 赛道归属: 语音生成(文本转语音TTS)/ 低延迟非自回归合成
- 核心创新点: 提出面向移动端的非自回归TTS框架,通过稀疏时间嵌入(Sparse Temporal Embedding)在时间轴上以更稀疏但信息更集中的方式建模对齐与时长,从而在不依赖严格、刚性的NAR对齐假设下,实现对音素时长、发音细节与韵律的细粒度可控;该策略旨在同时缓解传统AR的高延迟/误差累积与常见NAR的韵律僵硬问题,在鲁棒性与实时性之间取得更优折中。
- Staged Depth-Pruning Distillation of a Flow-Matching Text-to-Speech Teacher: A Compact Hindi Speech Synthesizer
- 赛道归属: 文本到语音生成(TTS)/ 模型压缩与蒸馏
- 核心创新点: 提出一种在极低数据预算(约17.6小时印地语语音)下构建小型TTS的可复现配方:以大规模Flow-Matching的DiT教师模型为起点,对学生进行“仅深度剪枝”的分阶段蒸馏。方法上刻意保持教师的宽度、文本嵌入维度、注意力头数以及mel/text输入输出接口不变,使除Transformer block外的张量可一对一拷贝,从而实现从教师到学生的稳定warm-start;再通过逐步减少网络深度(均匀保留block)完成容量压缩,避免小模型在小数据上从零训练直接崩溃,并在保持生成质量的同时显著降低参数量与推理成本。---
- FillGauss: Fine-Grained Filling-Aware Impact Sound Generation for 3D Gaussian Splatting
- 赛道归属: 视听生成(视觉到音频)/物理一致性冲击声生成(3D感知音频生成)
- 核心创新点: 针对3D高斯泼溅(3D Gaussian Splatting)场景下的冲击声合成,引入“细粒度填充状态(filling state)”这一以往3D音频生成忽略但显著影响共振与阻尼的关键物理因素,提出新任务“Fine-Grained Filling-Aware Impact Sound Generation”。方法层面从仅建模外表面几何扩展到对物体内部填充状态进行显式建模与条件化生成,使生成的冲击声在频谱共振、衰减特性等方面更符合真实物理规律,提升对同一几何但不同内部状态物体的可区分与可泛化能力。
- FreyaTTS: A Compact Tokenizer-Free Flow-Matching Transformer for Turkish-First Speech Synthesis
- 赛道归属: 语音生成(文本转语音TTS)/ 扩散-Flow Matching 非自回归建模
- 核心创新点: 提出紧凑、无Tokenizer(tokenizer-free)的Flow-Matching Diffusion Transformer,用条件流匹配(flow-matching)在连续潜空间直接学习“文本→语音潜变量”的映射;通过冻结的AudioVAE2将建模重心从波形/声码器细节转移到文本条件生成,并利用“16k编码、48k解码”的潜空间-重建分工继承高采样率音频质量;整体以较小参数量实现面向对话场景的高可靠、低复杂度非自回归合成范式。
- RobustSpeechFlow: Learning Robust Text-to-Speech Trajectories via Augmentation-based Contrastive Flow Matching
- 赛道归属: 文本到语音生成(TTS)/ Flow Matching 生成建模与对齐鲁棒性
- 核心创新点: 提出一种面向对齐错误的训练策略 RobustSpeechFlow,将对比式 Flow Matching 扩展为“增强驱动”的鲁棒学习:在潜变量轨迹上构造长度保持的 repeat/skip 增强,显式模拟真实 TTS 失败模式(跳读、重复)并在训练中进行对比惩罚,从而提升内容保真与对齐稳定性;方法不依赖外部强制对齐器或偏好数据,直接在生成轨迹学习层面增强对齐鲁棒性与零样本说话人相似度/自然度的兼容性。
- UtterTune: LoRA-Based Target-Language Pronunciation Edit and Control in Multilingual Text-to-Speech
- 赛道归属: 语音生成(多语种TTS)/ 参数高效微调与发音可控编辑
- 核心创新点: 提出基于LoRA的轻量适配方法,用于对LLM式多语种TTS进行目标语言发音(G2P/读音)编辑与控制:在不引入显式G2P模块、且尽量不破坏其他语言性能的约束下,通过低秩增量参数将“目标语言的发音规律与韵律偏好”定向注入模型,实现对目标语言读音错误的可控修正与稳定化,同时降低全量微调带来的跨语种遗忘与成本。
- AuEmoChat: Authentic Emotion Understanding and Rendering for Conversational Speech Synthesis
- 赛道归属: 对话式语音合成(Conversational Speech Synthesis, CSS)/ 情感语音生成与对话上下文建模
- 核心创新点: 提出 AuEmoChat 框架,针对 CSS 中“情感表达不真实”和“多轮上下文冗余干扰理解”两大瓶颈:一方面突破固定小规模情感标签空间的限制,强调更细粒度/更真实的情感理解与渲染机制以提升情感自然度与一致性;另一方面通过抑制/过滤多模态对话历史中的冗余 token来减少上下文噪声,增强对话语境建模能力,从而在多轮人机交互场景中实现更连贯、更可信的情感语音合成。
- CS-ETS: Chaos-Inspired Samba-Based EMG-To-Speech Synthesis with Nonlinear Chaotic Losses 🆕NEW
- 赛道归属: 生物信号到语音生成(EMG-to-Speech / Silent Speech Interface)
- 核心创新点: 提出CS-ETS架构,将Samba风格的编码器用于EMG到语音的表征建模,并引入两类“混沌启发”的非线性损失以增强时序动态刻画:①Lyapunov Exponent Regularization(LER)用李雅普诺夫指数思想约束模型对初始条件敏感的非线性波动,从训练目标层面显式建模复杂动态;②Multi-Scale Detrended Fluctuation Analysis(MSDFA)通过多尺度去趋势波动分析量化分形/长程相关的混沌特性,促使生成语音的时序统计更贴近真实信号的多尺度相关结构。整体突破点在于把混沌动力学的可计算统计量“落到损失函数”中,作为ETS训练的结构化先验,而非仅依赖网络容量拟合。
- Re-Sonance: A Dysarthric Asynchronous Real-Time Speech Conversion System Based on a Three-Stage Cascaded ASR-LLM-TTS Architecture 🆕NEW
- 赛道归属: 实时语音转换与辅助沟通(Speech Conversion / AAC,ASR-LLM-TTS级联生成)
- 核心创新点: 提出面向构音障碍人群的异步实时语音转换系统Re-Sonance,采用三阶段级联ASR→LLM→TTS的生成式流水线:先用ASR将不清晰语音转为文本,再由LLM进行语义层面的纠错、补全与表达优化,最后用TTS生成更自然、可用于专业场景的语音输出。方法论上的关键在于把“语音可懂度提升”从传统声学层面的直接转换,提升为“文本语义重写+再合成”的分层建模,并通过异步/流式的系统设计在保证实时性的同时降低延迟、改善输出自然度与可用性。
GitHub
- [2026-07-28] huggingface/diffusers ⭐34166
- [2026-07-27] SamurAIGPT/Generative-Media-Skills ⭐3918
- [2026-07-27] BinWang28/audio-ai-hub ⭐949
- [2026-07-26] TortoiseAdapter/elevenlabs ⭐188
- [2026-07-26] Anil-matcha/awesome-flux-3-api-prompts ⭐140
HuggingFace Models
HuggingFace Datasets
- [2026-07-18] Manusagents/GPT-5.5-Gemini-3.1-Pro-Grok-4-Claude-Fable-5-Mythos-5-Qwen-3.7-Max-and-more-Distillation-Dataset
语言大模型
arXiv
- Developing and Validating the Spanish Version of the Large Language Models Dependency Scale (LLM-D12-SP) 🆕NEW
- 赛道归属: LLM应用评测与心理测量(人机交互/安全治理)
- 核心创新点: 将“对LLM的心理依赖”从概念层面落到可量化的心理测量工具上,完成LLM依赖量表在西语人群中的跨文化适配与信效度验证;通过系统的心理计量学流程(条目筛选、结构效度/聚合与区分效度、信度与测量等价性等)构建可复用的评估框架,使组织/工作场景中LLM使用带来的依赖风险能够被标准化监测与比较,为后续干预与治理提供可操作的量化指标。
- Latency-Response Theory Model: Evaluating Large Language Models via Response Accuracy and Chain-of-Thought Length
- 赛道归属: 大模型评测与基准(自适应测试/推理能力评估)
- 核心创新点: 将传统基于准确率的IRT(Item Response Theory)评测扩展为“延迟-响应”联合建模框架,把Chain-of-Thought长度作为反映推理过程开销/复杂度的关键观测量,与回答正确性一起纳入同一统计模型中进行估计与对比;从而在评测中同时刻画“答对了没有”和“以多长推理链条答对”的能力差异,提升对推理能力与效率权衡的可解释性与区分度,并可与自适应测试流程结合以更高效地测量模型能力。
- RLearner-LLM: Balancing Logical Grounding and Fluency in Large Language Models via Hybrid Direct Preference Optimization
- 赛道归属: 大模型对齐(RLHF/DPO改进、偏好建模)
- 核心创新点: 针对DPO在知识密集生成中存在的“冗长/流畅性偏置”导致逻辑正确性被系统性低估的问题,提出Hybrid-DPO的自动化偏好构造管线:将基于自然语言推断/逻辑一致性的判别信号(如DeBERTa类NLI/grounding信号)与偏好学习目标融合,用“逻辑扎根(grounding) + 语言流畅度”双目标共同驱动偏好优化;从方法上缓解仅靠人类或LLM裁判偏好带来的奖励错配,缩小SFT到逻辑对齐之间的“logical alignment gap”。
- LLM-Guided Transportation Hub Capacity Planning with Textual Business Inputs
- 赛道归属: LLM智能体决策与运筹优化(自然语言驱动的规划/决策)
- 核心创新点: 提出一种将“定性商业语境”注入传统枢纽容量规划的LLM代理框架:通过链式思维协议把自然语言业务描述转写为结构化“决策表”,显式建立“语境条目→容量调整动作”的可追溯映射;并采用迭代式提案-修正流程,让LLM在每轮基于语境与当前方案生成可执行的容量决策,从而弥合仅能处理量化输入的经典优化模型与真实业务文本约束之间的鸿沟。
- Learning to Make Friends: Coaching LLM Agents toward Emergent Social Ties
- 赛道归属: 多智能体LLM仿真与社会行为建模(Agent学习/记忆机制)
- 核心创新点: 提出一个多智能体LLM在线互动仿真框架,使智能体在“反复互动—相互评价—行为调整”的闭环中形成可涌现的社会关系;关键方法是在纯in-context学习的基础上引入“教练信号(coaching)”加速行为更新,并配套设计面向人类社交动力学(如同质性、互惠、社会认同/验证)的行为规则与记忆/偏好表征,使社会纽带的形成可被机制化地诱导与分析,而非仅靠静态提示或一次性设定。
- Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science 🆕NEW
- 赛道归属: LLM安全与可信评测(部署配置/接口差异导致的立场与内容风险)
- 核心创新点: 提出并实证“非透明的认知中介(Opaque Epistemic Mediation)”视角:同一模型家族在不同部署配置(API vs Web、不同速度/默认版本)与不同时间快照下,对争议性/伪科学主张的判断会出现系统性漂移与不一致;通过跨模型家族、跨时间、跨接口的对照实验,揭示“产品化配置”本身成为影响知识验证与立场输出的关键变量,从而把评测对象从“模型参数”扩展到“模型+部署管线”,为安全评测与合规审计提出可复现的配置敏感性测试范式。
- Why Large Language Models and Humans Converge and Diverge in Evaluating Creativity 🆕NEW
- 赛道归属: LLM对齐与评测(创造力评价/人类偏好建模)
- 核心创新点: 从“评价标准”层面解释LLM与人类在创造力评估上何时一致、何时分歧:通过多研究、多模型对比,识别LLM在创造力判断中依赖的标准集合相对更窄,并分析这些标准差异如何传导到最终评分偏差与排序差异;将“对齐问题”从简单相关性比较推进到“评估准则可解释化+下游影响分析”的方法框架,为改进LLM作为评审/打分器的校准、提示策略或训练信号设计提供可操作的诊断维度。
- From Isolated Tasks to Structured Capabilities: A Multilayer Taxonomy for Large Language Models 🆕NEW
- 赛道归属: LLM能力评测与基准体系(能力本体/评测分类学)
- 核心创新点: 用“能力—子技能—层级结构”替代以任务为中心的碎片化评测组织方式,提出由认知科学启发的多层能力分类体系:覆盖14个能力域、91个子技能,并区分Primitive/Constructed/Integrative三层以刻画从基础到综合的能力组合关系;该框架使不同基准之间可进行能力映射与覆盖度分析,能够系统识别评测空白与任务对能力的混杂招募问题,从而为构建更可比、可诊断、可扩展的LLM评测矩阵提供统一“能力坐标系”。
- PyroDash: Cost-Efficient Token-Level Small-Large Language Model Collaborative Inference
- 赛道归属: 推理优化与降本(小模型-大模型协同推理/路由)
- 核心创新点: 提出PyroDash的token级协同推理机制:由SLM在生成过程中通过输出控制token动态决定是否“请求大模型接管/补全”,实现细粒度、按需调用;设计Collaborate Engine将当前query与部分推理轨迹一并发送给冻结LLM,以单次交互完成续写/纠错,避免频繁往返;整体以成本感知的路由策略在“难题可靠性”和“在线服务成本”之间做自适应权衡,相比句级/请求级路由更精细、更易控成本。
- Sound Probabilistic Safety Bounds for Large Language Models
- 赛道归属: LLM安全评估与形式化保障(有害输出概率界/安全性统计验证)
- 核心创新点: 构建可证明可靠的“有害输出概率上界”计算框架:将Clopper-Pearson置信区间用于LLM有害生成事件的PAC式概率界估计,提供严格的统计保证而非经验性指标;进一步提出利用潜在空间特征引导的搜索算法,在自回归生成树中优先探索更可能产生有害输出的分支,以更高样本效率逼近最坏风险并收紧安全界,从而把安全评估从“抽样观察”提升为“带置信保证的风险界定”。
GitHub
- [2026-07-28] sgl-project/sglang ⭐30809
- [2026-07-28] google-ai-edge/LiteRT-LM ⭐6037
- [2026-07-28] UKGovernmentBEIS/inspect_ai ⭐2420 🆕NEW
- [2026-07-28] openJiuwen-ai/jiuwenswarm ⭐1783
- [2026-07-28] huhusmang/Awesome-LLMs-for-Vulnerability-Detection ⭐1196
HuggingFace Models
HuggingFace Datasets
- [2026-07-24] HuggingFaceCode/stack-v3-train
- [2026-07-22] r0b0tlab/qwen3.8-max-distillation-50k
- [2026-06-29] Glint-Research/Fable-5-traces 🆕NEW
- [2026-07-28] greghavens/kimi-k3-coding-and-debugging-traces
- [2026-07-17] openbmb/UltraX-Preview
- [2026-07-16] ianncity/GLM-5.2-Conversation 🆕NEW
多模态大模型
arXiv
- One Modality to Forget Them All: Enhancing Cross-Modal Unlearning in Vision-Language Models
- 赛道归属: 多模态安全与机器遗忘(Vision-Language Models Unlearning)
- 核心创新点: 首次对VLM中的“跨模态遗忘迁移”进行系统、双向(文本→视觉、视觉→文本)研究,覆盖三类主流跨模态连接架构(MLP投影、Q-Former、门控交叉注意力),用统一实验框架量化“在一个模态执行unlearning是否会在另一模态同步生效”的程度与不对称性;进一步从架构耦合方式与表示共享机制角度揭示迁移失败/有限迁移的关键因素,为后续设计“单模态触发、跨模态一致清除”的unlearning策略提供了可操作的诊断基准与方法学依据。
- SkyVLaM: Multimodal Large Language Model for UAV Video Understanding in Remote Sensing
- 赛道归属: 遥感多模态理解(UAV视频理解/语言条件分割)
- 核心创新点: 面向无人机遥感视频中“小目标、外观歧义、视角动态变化”导致的细粒度理解难题,提出SkyVLaM这一UAV视频多模态大模型框架,将视频时序信息与语言条件分割能力进行模型级整合,以“语言驱动的目标级分割/定位”作为核心能力接口来提升对细粒度目标的可解释理解;通过针对UAV视频场景的建模与训练设计,强化模型在动态航拍视角下的时空一致目标理解与指令跟随分割表现。
- GAP-MLLM: Geometry-Aligned Pre-training for Activating 3D Spatial Perception in Multimodal Large Language Models
- 赛道归属: 多模态理解(3D空间感知增强/几何对齐预训练)
- 核心创新点: 提出GAP-MLLM的“几何对齐预训练”范式,针对MLLM在纯RGB输入下3D空间感知弱的问题,指出瓶颈并非缺少几何先验,而是训练范式错配(文本主导微调难以激活/对齐几何表征);通过在预训练阶段引入显式的几何对齐目标/约束,使视觉表征与3D几何关系在表示空间中可被语言推理有效调用,从而在不依赖显式3D输入的前提下显著提升空间关系理解、方位/深度等3D感知相关能力。
- GHR-VLM: Making Zero-Shot Transit Video Analytics Realizable with Grounded Hybrid Reasoning
- 赛道归属: 多模态理解 / 视频分析推理
- 核心创新点: 提出 GHR-VLM 框架,将视觉语言模型(VLM)与传统监督视觉模型相结合,通过"视觉接地混合推理"机制实现零样本公交视频分析。核心突破在于:无需任务特定标注数据,通过混合推理架构(Grounded Hybrid Reasoning)协同利用监督模型的精确感知能力与 VLM 的语义理解能力,将长视频分析分解为可靠的结构化子任务,有效解决了 VLM 直接处理长视频时存在的不稳定性和高成本问题,实现了对公交车载视频的零样本细粒度分析(如乘客行为统计等)。
- MV-Bench: Benchmarking Multimodal Large Language Models for Coordinated Multi-View Interface Construction
- 赛道归属: 多模态理解(评测基准/Benchmark,面向可视化界面生成与代码生成)
- 核心创新点: 提出面向“协调多视图(coordinated multi-view)可视化界面构建”的专用评测基准 MV-Bench,将评测从传统单图表生成扩展到更贴近真实可视化开发流程的多视图联动场景;评测重点覆盖多视图之间的数据语义一致性、视图间协调关系(如共享筛选/联动高亮等)以及交互逻辑的联合推理与代码生成能力,从而系统性暴露现有 MLLM 在复杂可视化界面构建任务中的能力缺口与失败模式。---
- Continual Video-MLLM Adaptation over Evolving Domains
- 赛道归属: 多模态理解(视频理解)/ 持续学习与域自适应
- 核心创新点: 面向“视频数据按时间持续流入且域分布不断演化”的真实部署场景,聚焦Video-MLLM在顺序多域适配中的灾难性遗忘与跨域干扰问题;相较于以往依赖共享适配空间(易导致不同域更新相互污染)的做法,该工作提出更适合“域持续扩展”的适配范式,通过降低跨域参数耦合/干扰来实现新域知识增量吸收,同时尽量保持旧域视频理解能力稳定,从方法层面强化了Video-MLLM的持续适配能力。
- MissingBench-Verified: Probing Vision-Language Models' Inability to Detect Missing Object Parts
- 赛道归属: 多模态理解(视觉-语言模型评测)/ 鲁棒性与幻觉诊断
- 核心创新点: 提出专门针对“缺失关键部件的物体”这一细粒度失败模式的评测基准MissingBench-Verified,用以系统性探测VLM在部件缺失检测上的能力缺口;该基准将问题从泛化的幻觉评测细化为“应当识别缺失但模型倾向于基于常识补全”的可验证场景,并通过验证机制提升标注与结论可靠性,从而更精准地区分模型的真实视觉证据利用能力与由先验知识偏置导致的错误补全,为后续针对性数据构造与训练/对齐提供可操作的诊断工具。
- Efficient Frame Selection for Long Videos at Test Time with Attention-Based MLLM Selectors
- 赛道归属: 多模态理解(长视频理解/测试时推理优化)
- 核心创新点: 利用MLLM内部跨模态注意力在特定“验证集选定的抽取层”中已包含与文本查询相关的帧级证据这一现象,提出一种无需自回归生成即可完成长视频关键帧筛选的测试时方法(DAFS)。该方法通过读取/聚合注意力信号来对成千上万候选帧进行高效打分与选择,从而打破“先理解视频才能选帧”的循环依赖,在不显著增加推理开销的前提下实现更紧凑且更相关的帧子集抽取。
- Ask Twice, Look Twice: Prompt Echoing Resolves the Question-First Paradox in Vision-Language Models
- 赛道归属: 多模态理解(VLM提示工程/推理机制分析与改进)
- 核心创新点: 针对VQA中“问题放在图像前反而更差”的question-first悖论,提出Prompt Echoing(问两次、看两次)策略:在提示中对问题进行回声式重复/重申,使模型在不同计算阶段都能显式对齐问题语义与视觉证据。论文通过logit-lens与注意力探针定位到悖论源于VLM内部两个阶段的目标冲突(早期视觉编码/对齐与后期语言解码/回答),并用“问题回声”在不改模型参数的情况下缓解阶段错配,提升问题条件化的视觉检索与最终回答一致性。
- SLAPBench: Benchmarking Multimodal Large Language Models for Four-Finger SLAP Fingerprint Verification
- 赛道归属: 多模态理解(生物特征识别评测/指纹验证)
- 核心创新点: 构建首个面向MLLM的四指SLAP指纹身份验证基准SLAPBench:基于NIST SD302b整理7,832对样本(含少量同一人mated与大量非同一人non-mated),将传统指纹“比对/验证”任务以多模态对话/判别形式标准化,提供可复现的评测设置以系统检验MLLM在细粒度纹理判别、跨指组合证据整合与低误报约束下的能力边界,从而填补“MLLM能否做指纹验证”的空白评测缺口。
GitHub
- [2026-07-27] Blaizzy/mlx-vlm ⭐5261
- [2026-07-28] NVIDIA-AI-Blueprints/video-search-and-summarization ⭐1753
- [2026-07-27] EvolvingLMMs-Lab/NEO ⭐878
- [2026-07-26] BAAI-DCAI/SpatialBot ⭐349
- [2026-07-27] tim-learn/Awesome-LabelFree-VLMs ⭐91 🆕NEW
强化学习
arXiv
- Interpret Policies in Deep Reinforcement Learning using SILVER with RL-Guided Labeling: A Model-level Approach to High-dimensional and Multi-action Environments
- 赛道归属: 强化学习可解释性(策略解释/归因分析)
- 核心创新点: 在SILVER的Shapley回归式策略解释框架上,引入“RL-guided labeling”机制,将策略自身的多动作输出纳入标注/约束生成过程,从而把原本受限于低维、二元动作的解释方法扩展到高维观测与多动作空间;通过利用策略行为来引导解释模型的样本构造与边界设定,提升在复杂环境下的可解释性适用范围与稳定性。
- MADA-RL: Multi-Agent Debate-Aware Reinforcement Learning for Parameter-Efficient Reasoning in Compact Models
- 赛道归属: 强化学习用于大模型推理后训练(参数高效RL/多智能体辩论)
- 核心创新点: 提出MADA-RL后训练框架,将紧凑模型拆分为生成器与评论家两种角色,并用“辩论感知”的学习信号进行强化学习式优化;核心方法突破在于构造反事实(counterfactual)辩论/评估信号来降低训练噪声、强化可归因的改进方向,同时仅通过LoRA适配器微调少量参数,实现低预算下对小模型推理能力的有效专门化。
- RL-Struct: A Lightweight Reinforcement Learning Framework for Reliable Structured Output in LLMs
- 赛道归属: 大语言模型对齐与结构化输出(RLHF/GRPO、可靠生成)
- 核心创新点: 提出 RL-Struct,用无critic的GRPO(Gradient Regularized Policy Optimization)替代PPO式actor-critic以降低训练与显存开销,并设计分层奖励函数将“结构满足(schema/语法)”与“内容质量/字段有效性”等目标解耦、分级约束,从而直接缩小LLM概率生成与确定性schema需求之间的“结构鸿沟”。在复杂JSON生成上以更轻量的训练代价显著提升结构准确率与有效性,并通过去除critic实现更低峰值VRAM占用。
- Enough is as good as a feast: A Comprehensive Analysis of How Reinforcement Learning Mitigates Task Conflicts in LLMs 🆕NEW
- 赛道归属: 大语言模型对齐与强化学习(RLHF/RLAIF)、模型合并(Model Merging)分析
- 核心创新点: 系统性研究并量化对比不同训练范式(如SFT与RL)对模型合并效果的影响,聚焦“多任务/多能力合并时的任务冲突”这一关键瓶颈;通过全面实验与分析揭示RL在缓解合并后任务冲突、提升能力兼容性方面的作用机制与适用边界,为后续设计更可合并(merge-friendly)的对齐训练流程与合并策略提供可操作的经验规律与诊断框架
- The Mechanism Matters: When Knowledge Graphs Help Reinforcement Learning
- 赛道归属: 强化学习 + 知识图谱注入机制评测(结构化先验/奖励塑形/动作约束)
- 核心创新点: 提出一个“机制-任务-图谱质量”三维可控的系统性研究框架,分别独立控制RL任务类型、KG注入方式(状态特征增强、动作mask、基于势函数的奖励塑形)以及KG质量,从而将以往“单任务+正结果”的经验性结论拆解为可验证的因果因素;通过合成且完全可控的实验环境,定量刻画KG结构在何种条件下带来增益、何时中性、何时反而伤害学习,强调“注入机制本身”与“图谱噪声/偏差”对训练稳定性与策略最优性的关键影响,为后续KG+RL方法提供可复现实证边界与设计准则。
- REGEN: Replay-recycling for Expert-to-Generalist distillation with Offline Reinforcement Learning
- 赛道归属: 离线强化学习 + 蒸馏(专家到通才)/LLM对齐与训练管线优化
- 核心创新点: 提出REGEN的“Replay-recycling(回放复用/回收)”范式,将多阶段、多领域训练过程中产生的历史交互数据(replay)系统化再利用,用离线RL把分散在不同阶段/不同任务的专家能力蒸馏到单一通才策略中;核心突破在于把原本一次性的昂贵在线RL视为可持续积累的数据资产,通过离线优化在不新增或少新增在线采样成本的前提下实现跨域能力迁移与整合,缓解大规模在线RL在算力、基础设施与成本上的瓶颈,并使“持续训练—蒸馏—泛化”形成闭环。
- Leveraging Offline Supervision for Efficient and Generalizable Reinforcement Learning in Large-Scale Vision-Language-Action Models
- 赛道归属: 视觉-语言-动作(VLA)具身智能 + 强化学习泛化/OOD鲁棒性 + 离线监督融合
- 核心创新点: 针对“在线RL显著优于纯离线模仿、尤其在OOD泛化上更强”的现象,提出利用离线监督信号来提升在线RL的效率与可泛化性:将离线数据中的监督信息(如示范/标注/行为先验)以训练目标或正则化的形式注入到RL优化过程中,在保持RL带来OOD优势的同时降低在线探索与样本需求;方法论重点在于构建一种可扩展的“离线监督 + 在线RL”联合训练配方,使VLA策略既能继承离线学习的高效率,又能获得RL带来的分布外鲁棒性与策略改进能力,从而在大规模VLA训练中实现更好的成本-性能权衡。
- S3: Stable Subgoal Selection by Constraining Uncertainty of Coarse Dynamics in Hierarchical Reinforcement Learning
- 赛道归属: 分层强化学习(Hierarchical RL)/ 长时序任务规划
- 核心创新点: 提出一种面向高层策略的稳定子目标选择机制(S3),核心在于约束“粗粒度动力学(coarse dynamics)”的不确定性来指导子目标生成/选择:通过显式建模或估计高层状态转移在低层可达性与执行误差下的预测不确定度,并在高层决策时对高不确定子目标施加约束/惩罚,从而降低高层在稀疏延迟回报与低层能力变化耦合下的训练不稳定性;本质上把“子目标是否可靠可实现”转化为可优化的风险控制信号,提升长视野HRL的收敛稳定性与策略鲁棒性。
- Beyond Score Prediction: LLM-Based Essay Scoring and Feedback Generation via Reinforcement Learning with Rubric Rewards
- 赛道归属: 教育AI(自动作文评分与反馈生成)+ 强化学习后训练(RLHF/RL with rubric)
- 核心创新点: 提出RLAES统一框架,将“作文打分(AES)”与“反馈生成(AFG)”在同一策略中通过强化学习联合优化;核心突破在于把评分量表(rubric)显式转化为可计算的奖励信号(rubric rewards),从而让“反馈质量”可度量、可优化,而不仅停留在prompt或SFT;同时构建面向反馈的自动化评估/训练闭环,使模型在满足量表约束的同时提升反馈的针对性与可执行性。
- Conservative Query and Adaptive Regularization for Offline RL Under Uncertainty Estimation
- 赛道归属: 离线强化学习(Offline RL)/ 人类反馈与偏好查询(Preference Query)
- 核心创新点: 在“离线数据覆盖不足导致的分布外不确定性”背景下,提出保守式查询(Conservative Query)+ 自适应正则(Adaptive Regularization)的联合框架:一方面利用不确定性估计来选择更“信息量大且风险可控”的偏好查询(避免在高不确定区域盲目提问或被噪声反馈误导),另一方面根据不确定性水平对策略/价值学习施加强度可变的正则化(在分布外区域更保守、在可信区域更积极利用反馈),从而更有效地把少量专家偏好转化为稳定的离线策略改进,缓解“问什么”和“怎么用反馈”两类关键瓶颈。
GitHub
- [2026-07-27] huggingface/trl ⭐18947
- [2026-07-27] lucidrains/PaLM-rlhf-pytorch ⭐7866 🆕NEW
- [2026-07-27] PufferAI/PufferLib ⭐6196
- [2026-07-27] natolambert/rlhf-book ⭐2214
- [2026-07-28] radixark/miles ⭐1800
HuggingFace Datasets
- [2026-07-21] SupraLabs/reasoning-corpus-4K-5M-v1
世界动作模型
GitHub
- [2026-07-23] OpenMOSS/Awesome-WAM ⭐1181
- [2026-07-24] serene-sivy/AHA-WAM ⭐78
由 Research Daily 自动生成 生成时间: 2026-07-28 01:45:45