超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

大模型之家讯 今天,商汤科技正式发布并全面开源日日新 SenseNova-Vision理解生成统一视觉大模型,这是商汤日日新大模型体系的重要视觉能力升级。

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

行业以往的 "统一视觉" 多是把检测、分割、深度预测等多个专家模型打包封装,本质还是割裂的。SenseNova-Vision 的核心变革是:让视觉成为通用基础模型的原生能力,彻底融入大模型体系。所有经典视觉任务如目标检测、图像分割、深度预测、3D重建等,由此都实现了原生统一。

这种 "原生融入" 带来了双向增益:

数据反哺:视觉领域几十年的高质量数据直接提升大模型底座的视觉理解能力。

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

思维赋能:大语言模型的推理能力反过来让视觉任务融会贯通,甚至能用语言直接定义新视觉任务。

在视觉 AI 领域,商汤已连续十年蝉联中国视觉AI市场份额第一,并在2025年首次登顶视频分析赛道全球市场份额第一,及亚太地区市场份额第一。SenseNova-Vision将这种行业领先的视觉能力,融入统一多模态大模型体系,代表了视觉 AI 能力的跨越式演进。依托原生统一的技术路线,模型实现了从“执行工具”向“世界理解模型”的本质蜕变,不仅真正看懂物理世界的逻辑,更为AI在物理世界的广泛应用与深度交互构建全新的通用底座。

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

商汤日日新SenseNova-Vision能够原生统一地实现结构化视觉理解、稠密几何预测、图像分割以及多视角视觉几何等多项核心任务能力。

复杂场景实测:自由指令下的“视觉读心术”

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

传统的视觉模型往往只能“各司其职”,而且遇到复杂、有干扰的场景就会“抓瞎”。得益于原生通用底座带来的智能涌现,SenseNova-Vision在面对人类视觉都容易犯错的极端场景时,展现出了惊人的泛化能力:

1、零样本泛化:未知游戏“一秒读懂”。

面对训练集中从未出现过的游戏画面,模型展现出了强悍的跨域适应力。在语言推理与原生视觉能力的交织下,它无需任何针对性重训,就能在一瞬间同时对画面中的表面法向、实例分割以及角色关键点检测进行无缝且精细化的处理。影视、游戏和数字内容创作者可以直接将其投入工作流。

以游戏《黑神话:悟空》的一张场景图为例,模型能对法向、分割、关键点等进行较好的处理

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

2、超稠密物体分割:重叠鱼群各显其形

面对密密麻麻、高度重叠的鱼群、羊群,或是货架商品、俯拍车辆等极度稠密的场景,模型能够像外科手术般精准地将每个独立个体剥离出来。即使颜色极度相近、边缘深度交织,也能准确区分。这为工业计数、智慧仓储等场景提供了全新的解法。

以颜色重叠的鱼群、货架上东倒西歪的商品为例,模型能进行清晰、准确的分割

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

3、看穿镜面反射:正确还原空间几何

在包含镜子、玻璃的复杂室内环境中,传统视觉模型极易被镜中的倒影误导。而SenseNova-Vision能够自动过滤反射影像的迷局,准确估计出镜中物体的真实空间方向与深度关系。它不被虚拟的反射所欺骗,展现出对三维空间几何本质的深刻理解。

以镜面为例,模型能准确估计镜子里人的方向和深度

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

4、突破视觉错觉:不看表象,洞察空间本质

在充斥着视觉错觉干扰的图像中(例如经典的借位摄影),模型不仅能准确抠出被遮挡物体的完整轮廓,还能输出完全正确的表面法向估计。它不被图案和借位欺骗,正是语言模型的推理能力与稠密几何预测完美融合、看懂物理世界的具象体现。

模型能正确判断纹理形成的视觉欺骗

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

模型对于透视成像的近大远小现象领悟的非常透彻,完全没有被误导

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

前景棉花人物和后景云朵成功分离

核心任务领跑:多项指标比肩专用专家模型

当视觉任务融入通用多模态生成后,不仅没有削弱专项能力,反而通过跨任务知识互补实现了性能飞跃。在多项权威评测中,SenseNova-Vision以“单模型”在四大核心视觉领域大范围领跑,比肩甚至超越了各领域的专用“专家模型”:

结构化视觉理解:在目标检测、指代检测(Referring)、OCR、关键点定位等任务上全面领先同类型通用模型。在稠密小目标检测、长尾类别识别等复杂场景下表现尤为突出。

稠密几何预测:深度估计、表面法向(Surface Normal)估计精度达到几何专用模型水准,在室内外多场景下均能保持极高的稳定性。

分割能力:涵盖通用分割、推理分割、交互式分割等。得益于强大的多模态理解力,其在推理分割(Reasoning Segmentation)与对话式分割(GCG Segmentation)表现上惊艳。

多视角3D几何:仅通过单模型即可高质量完成多视角点云重建与相机位姿估计,性能在通用视觉路线中处于领先位置。

核心指标评测:SenseNova-Vision(深紫色柱状)在各项视觉任务中均处于领跑地位

超越 Vision Banana,商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

横向相比优势显著:

对比语义导向模型(如Youtu-VL等):SenseNova-Vision在检测、分割、深度等对细节要求极高的视觉任务上实现全面领先。

对比生成导向模型(如Vision Banana等):展现出全面的代际优势。

核心指标超越: 在各项权威评测的硬核对决中,SenseNova-Vision 在绝大多数指标上均实现了对 Vision Banana 的超越与领跑。

任务能力倍增,且全面开源: 展现出更强的多任务泛化实力。如 Vision Banana 仅能应对四大核心板块中的“两类”问题,而 SenseNova-Vision 却能同时将结构化理解、稠密几何、全景分割、多视角 3D 等全任务一网打尽。在此基础上SenseNova-Vision还做到模型、数据全面开源。

重构底层逻辑:从拼接到原生统一

长期以来,视觉AI沿着“一个任务对应一个模型”的路径演进,各个任务是彼此割裂的孤岛。SenseNova-Vision彻底打破了这种结构性瓶颈,首次将全部视觉任务,统一表述为通用基础模型可理解的多模态生成问题。它不需要为不同任务设计专属预测头,而是直接在同一个共享的表征空间内,对文本、像素、语义信息和几何特征进行统一建模。

这种“大一统”的设计,带来了颠覆性的变化:

跨任务知识互补,实现1+1>2。模型联合训练,激活了不同任务间的内在互补。深度估计的知识能强化语义分割的空间理解,分割能力又能辅助检测任务的边界判断,从而获得了单任务模型难以企及的抽象推理能力,从容应对未见过的任务与场景。

从“工具执行者”升级为“通用理解者”。统一范式重新定义了视觉智能的形态。模型不再是只能执行特定指令的工具,而是作为大模型的原生能力,成长为对视觉世界拥有通用、深刻认知的基础多模态底座。

商汤SenseNova-Vision的发布和开源,成功验证了“统一多模态生成”这一全新技术路线的巨大潜能。它显著降低了视觉AI的应用门槛,开发者无需再为不同任务维护多套模型体系,单个模型即可覆盖高频视觉需求,从而大幅缩短研发周期、降低部署成本,尤其适合复杂图像、开放场景下的视觉应用开发。

同时,商汤也同步开源了包含5000万条高质量样本的视觉指令语料库 SenseNova-Vision Corpus-50M,为全球AI生态注入强劲动力。

未来,商汤将把SenseNova-Vision的核心技术全面融入日日新U系列大模型中,持续探索构建更加强大的统一多模态基座模型,迈向能够更深刻感知、推理和交互物理世界的通用人工智能(AGI)与世界模型。

模型开源地址

Hugging Face: https://huggingface.co/collections/sensenova/sensenova-vision

GitHub: https://github.com/OpenSenseNova/SenseNova-Vision

魔搭社区 : https://modelscope.cn/models/SenseNova/SenseNova-Vision-7B-MoT

作为人工智能软件公司,商汤科技以“坚持原创,让AI引领人类进步”为使命,旨在持续引领人工智能前沿研究,持续打造更具拓展性更普惠的人工智能软件平台,推动经济、社会和人类的发展,并持续吸引及培养顶尖人才,共同塑造未来。

商汤科技拥有深厚的学术积累,并长期投入于原创技术研究,不断增强行业领先的多模态、多任务通用人工智能能力,涵盖感知智能、自然语言处理、决策智能、智能内容生成等关键技术领域,同时包含AI芯片、AI传感器及AI算力基础设施在内的关键能力。

商汤科技业务涵盖生成式AI、视觉AI和创新业务,以高效率、低成本、规模化的AI创新和落地,打通商业价值闭环,引领人工智能进入工业化发展阶段。商汤前瞻性打造新型人工智能基础设施——商汤AI大装置SenseCore,打通算力、算法和平台,并在此基础上建立“商汤日日新SenseNova”大模型及研发体系,以低成本解锁通用人工智能任务的能力。此外,商汤科技持续领跑计算机视觉市场,商汤方舟 SenseFoundry以多年积累计算机视觉能力,辅以前沿多模态大模型,为国内外各行业提供更加稳定高效的视觉Al支撑。

商汤倡导“发展”的人工智能伦理观,并积极参与有关数据安全、隐私保护、人工智能伦理道德和可持续人工智能的行业、国家及国际标准的制订,与多个国内及多边机构就人工智能的可持续及伦理发展开展了密切合作。商汤《AI可持续发展道德准则》被联合国人工智能战略资源指南选录,并于2021年6月发表,是亚洲唯一获此殊荣的人工智能公司。

目前,商汤科技已于香港交易所主板挂牌上市。商汤在香港、上海、北京、深圳、成都、杭州、西安、新加坡、曼谷、吉隆坡、利雅得、阿布扎比、迪拜、首尔等地设立办公室。另外,商汤科技在德国、泰国、印度尼西亚、菲律宾等国家均有业务。更多信息,请访问商汤科技网站、微信、微博和领英。

商汤科技

邮箱:pr@sensetime.com

原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/17002

(0)
上一篇 3小时前
下一篇 2小时前

相关推荐

发表回复

登录后才能评论