Eagle 2.5 – 英伟达推出的视觉语言模型

Eagle 2.5是什么

Eagle 2.5是英伟达推出的视觉语言模型，专注于长上下文多模态学习的 AI 模型，参数规模仅为 8B。参数量较小，但在处理高分辨率图像和长视频序列方面表现出色，性能媲美参数量更大的 Qwen 2.5-VL-72B 和 InternVL2.5-78B。Eagle 2.5 采用创新训练策略：信息优先采样和渐进式后训练。信息优先采样通过图像区域保留和自动降级采样技术，确保了图像的完整性和视觉细节的优化。渐进式后训练则通过逐步扩展上下文窗口，让模型在不同输入长度下保持稳定性能。

Eagle 2.5的主要功能

• 长视频和高分辨率图像理解：Eagle 2.5 能处理大规模视频和高分辨率图像，擅长处理长视频序列（如 512 帧输入），在 Video-MME 基准测试中得分高达 72.4%，媲美更大规模的模型。
• 多样化任务支持：在视频和图像理解任务中表现出色，例如在 MVBench、MLVU 和 LongVideoBench 等视频基准测试中得分分别为 74.8%、77.6% 和 66.4%，在图像理解任务如 DocVQA、ChartQA 和 InfoVQA 中得分分别为 94.1%、87.5% 和 80.4%。
• 灵活性与泛化能力：结合 SigLIP 视觉编码和 MLP 投影层，Eagle 2.5 在多样化任务中展现出强大的灵活性和泛化能力。

Eagle 2.5的技术原理

• 息优先采样（Information-First Sampling）：Eagle 2.5 采用图像区域保留（IAP）技术，保留超过 60% 的原始图像区域，同时减少宽高比失真。自动降级采样（ADS）技术能根据上下文长度动态平衡视觉和文本输入，确保文本的完整性和视觉细节的优化。
• 渐进式后训练（Progressive Post-Training）：策略通过逐步扩展模型的上下文窗口，从 32K 到 128K token，使模型在不同输入长度下保持稳定性能，避免过拟合单一上下文范围。确保了模型在多样化任务中的灵活性。
• 定制化数据集：Eagle 2.5 使用了专为长视频理解设计的定制数据集 Eagle-Video-110K。数据集采用双重标注方式，自上而下的方法结合故事级分割和人类标注的章节元数据，自下而上的方法则利用 GPT-4o 为短片段生成问答对。通过余弦相似度筛选，数据集强调多样性而非冗余，确保了叙事连贯性和细粒度标注。
• 视觉编码与投影层：Eagle 2.5 结合了 SigLIP 视觉编码和 MLP 投影层，用于对齐视觉嵌入与语言模型表示空间。增强了模型在多样化任务中的灵活性和适应性。

Eagle 2.5的项目地址

• 项目官网：https://nvlabs.github.io/EAGLE/
• arXiv技术论文：https://arxiv.org/pdf/2504.15271

Eagle 2.5的应用场景

• 智能视频分析：Eagle 2.5 擅长处理长视频序列，能理解和生成与视频内容相关的文本描述。在监控系统中，可以实时分析视频流，检测异常行为并生成警报信息。
• 高分辨率图像处理：Eagle 2.5 在处理高分辨率图像时表现出色，能进行图像分类、目标检测以及图像描述生成。
• 内容创作与营销：Eagle 2.5 可以生成高质量的图像描述和视频脚本，适用于广告、社交媒体内容创作等领域。
• 教育与培训：在教育领域，Eagle 2.5 可以生成与教学视频或图像相关的解释性文本，帮助学生更好地理解复杂概念。
• 自动驾驶与机器人：Eagle 2.5 的多模态理解能力能处理来自摄像头的视觉数据，结合文本指令进行决策。