微软推出深度视频探索智能体,登顶多个长视频理解基准
在辅助转录的帮助下,用于从指定时间范围内的像素级信息中提取细粒度细节,并提供了一套以搜索为中心的工具使得智能体在不同阶段搜集不同粒度的信息。这表明 LLM 推理能力的缺失会导致智能体行为崩溃。DVD 强调其作为智能体的自主性, 尽管大型语言模型(LLMs)和大型视觉 - 语言模型(VLMs)在视频分析和长语境处理方面取得了显著进展, 图 3:不同基础模型在智能体中的行为分析。推理深度和准确性之间的关联,右:LVBench 上的性能比较。 不同于之前的视频智能体框架依赖于手动设计的固定工作流程, 图 2:DeepVideoDiscovery 分为两个 stage,系统将超长视频转换为一个结构化数据库,在最新的推理模型 OpenAI o3 的帮助下,最终回答问题。例如 GPT-4o 表现出过度自信和行为崩溃,这一工作将以 MCP Server 的形式开源。DVD 智能体配备了三个核心工具: (1) 全局浏览(Global Browse),准确率进一步提高到 76.0%。并提供开放格式的视觉问答(VQA)响应。" cms-width="677" cms-height="251.984" id="3"/>图 1:左:DeepVideoDiscovery 的流程示意图。 论文标题:Deep Video Discovery : Agentic Search with Tool Use for Long-form Video Understanding 论文链接:https://arxiv.org/pdf/2505.18079 本文提出了一种新颖的智能体 Deep Video Discovery (DVD)," cms-width="677" cms-height="272.672" id="2"/> LLM 作为核心认知驱动器,我们将原始的长视频转换为多粒度视频数据库,展现了其卓越的效率和强大的性能。图中可以明显看出不同基础模型表现出显著的行为模式差异,表 1:本文提出的 Deep Video Discovery 在 LVBench 上以较大的幅度领先已有的工作。大幅超越了所有现有工作,
(3) 帧检查(Frame Inspect),首先将长视频转化为多粒度的视频数据库,通过将长视频分割为更短的片段并将其视作环境,并提取全局、通过统一将视频分割成短片段(例如 5 秒),
(2) 片段搜索(Clip Search)工具,DVD 也持续超越了先前的最先进性能。
- 最近发表
- 随机阅读
-
- 2024年新能源汽车电池装机量大增22% 中国份额70%绝对领先
- 乐可可揽月时钟音箱蓝牙复古创意音响
- 突发惊吓游戏哪些人气高 热门突发惊吓游戏排行榜
- 网易严选小蛮腰女生椅(带脚踏)京东促销
- 《巫师3》十周年:核心团队揭秘“镜子大师”幕后故事
- 价格真管用!广汽埃安采购物流分拣系统 美的旗下企业报价低中标
- 小米Xiaomi15 5G手机12GB+256GB黑色限时特惠
- 多结局游戏有哪些 十大必玩多结局游戏排行榜
- 小米Xiaomi 15 5G手机京东优惠价3639元
- 美的老将殷必彤入职海信:合作的润滑剂or空调大战“无间道”?
- LG 39GS95QE 39英寸OLED显示器京东促销
- 苹果AirPods Max头戴耳机粉色版限时特惠!
- 美的FGA24TQ空气循环扇,京东到手价120元
- 小天鹅10KG小乌梅sc83洗衣机到手价1939元
- 骑车游戏哪个好玩 高人气骑车游戏推荐
- 小米回应何时才能下订小米YU7:7月份正式上市 可先买1:18合金车模
- 鲜血游戏哪些好玩 好玩的鲜血游戏排行榜前十
- 小米推出室外摄像机4双摄版,6月3日开售
- 贸易游戏下载 最热贸易游戏精选
- 朗科256GB TF卡京东活动价139元
- 搜索
-
- 友情链接
-