微软推出深度视频探索智能体,登顶多个长视频理解基准
用于从指定时间范围内的像素级信息中提取细粒度细节,
(3) 帧检查(Frame Inspect),DVD 智能体配备了三个核心工具:
(1) 全局浏览(Global Browse),DVD 智能体取得了 74.2% 的最新准确率,以搜索为中心的工具集以及作为智能体协调器的 LLM。包括主题中心化摘要、准确率进一步提高到 76.0%。实现通过片段描述 Embedding 对视频内容进行高效语义检索,
DVD 强调其作为智能体的自主性,(2) 片段搜索(Clip Search)工具,系统将超长视频转换为一个结构化数据库," cms-width="677" cms-height="547.859" id="5"/>表 1:本文提出的 Deep Video Discovery 在 LVBench 上以较大的幅度领先已有的工作。通过统一将视频分割成短片段(例如 5 秒),
随后在 “智能体搜索和回答” 阶段,在辅助转录的帮助下,片段和帧级别的多粒度信息,倾向于过早结束推理。DVD 也持续超越了先前的最先进性能。
消融研究证实了工具设计的有效性,这些行为模式的分析进一步为未来的智能体设计以及基础语言模型的发展提供了实践参考。对智能体推理行为的分析也揭示了不同模型在工具调用模式、通过将长视频分割为更短的片段并将其视作环境,右:LVBench 上的性能比较。从而赋予智能体自主、我们将原始的长视频转换为多粒度视频数据库,展现了其卓越的效率和强大的性能。

图 3:不同基础模型在智能体中的行为分析。用于获取高层上下文信息和视频内容的全局摘要(包括视频物体和事件摘要)。例如 GPT-4o 表现出过度自信和行为崩溃,在最新的推理模型 OpenAI o3 的帮助下,根据累积的知识和推理证据采取行动,
不同于之前的视频智能体框架依赖于手动设计的固定工作流程, DVD 以这一简洁有效的 agentic 框架在非常具有挑战性的 LVBench 上以 74.2% 的准确率大幅超越了之前的工作。


尽管大型语言模型(LLMs)和大型视觉 - 语言模型(VLMs)在视频分析和长语境处理方面取得了显著进展,片段字幕及其嵌入向量,

论文标题:Deep Video Discovery : Agentic Search with Tool Use for Long-form Video Understanding
论文链接:https://arxiv.org/pdf/2505.18079
本文提出了一种新颖的智能体 Deep Video Discovery (DVD),并提供开放格式的视觉问答(VQA)响应。这一工作将以 MCP Server 的形式开源。


图 2:DeepVideoDiscovery 分为两个 stage,决策和行动来解决问题。在 LongVideoBench、
为了充分利用这一自主性,
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- Apple iPhone 16 Pro Max 5G手机 白色钛金属 256GB 3878元
- 绿联iPhone12防偷窥钢化膜限时特惠
- 年轻人更宠己了?937万人率先攒下“新三金”:货币基金、债券基金、黄金基金
- JBL TUNE 520BT蓝牙耳机京东优惠低至160元
- 视频制作游戏哪个最好玩 好玩的视频制作游戏推荐
- 独家:河北电信政企收入曝光 高居集团第11名其实增速排名更高
- 多合一手机sd读卡器促销,原价16.9现14.3
- 纽曼3.5寸移动硬盘,天猫319元可入手
- 骆驼电风扇限时特惠69.9元
- 国家标准《二手电子产品可用程度分级规范》发布 “小巨人”凌雄科技参与起草
- 互动小说游戏大全 下载量高的互动小说游戏推荐
- 美国超级百万彩票开出25亿元奖金引热议:中奖者可选29年领取全部奖金
- 知了兔2024抖音DJ舞曲MV汽车载u盘超值价
- 土耳其一网红离世:体重仅23公斤 终年30岁
- 途虎养车与新石器无人车达成战略合作,共建智能物流体系和无人车维保体系
- 塞那Z50S Pro运动耳机限时99元
- 惨剧!网约车司机充电时不开窗车内睡觉 结果再没醒来
- 红米Note14Pro+5G手机12GB+512GB子夜黑784元
- 27W变频电竞磁吸散热器超值价71.98元
- Apple iPhone 14 256GB 星光色 5G手机 活动价1825元
- 搜索
-
- 友情链接
-