news 2026/5/14 17:59:24

第12篇:多模态大模型论文VISIONTRIM: UNIFIED VISION TOKEN COMPRESSIONFOR TRAINING-FREE MLLM ACCELERATION

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
第12篇:多模态大模型论文VISIONTRIM: UNIFIED VISION TOKEN COMPRESSIONFOR TRAINING-FREE MLLM ACCELERATION

第一部分:基本信息

  • 论文标题:VISIONTRIM: UNIFIED VISION TOKEN COMPRESSION FOR TRAINING-FREE MLLM ACCELERATION
  • 投稿会议:ICLR 2026(正处于双盲评审阶段)
  • 核心目标:解决 MLLM 因视觉令牌过多导致的高计算成本问题,实现无额外训练的推理加速,同时保持甚至提升任务性能。

第二部分:解决的问题

(1)问题背景

  • 多模态大模型(MLLM)里,视觉 token 特别多,尤其是高分辨率图像和视频,多到:

    • 计算复杂度高(注意力是 O(n2)O(n^2)O(n2))

    • KV cache 巨大、推理很慢

  • 以 LLaVA 系列、Video-LLaVA 为代

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!