小米开源 MiDashengLM-Spatial:让模型不只是听懂声音,还知道声音在哪儿
小米开源了 Dasheng 家族的新成员 MiDashengLM-Spatial。权重和推理代码全部公开,Apache 2.0 许可,研究和商用都行。
它做的事用一句话说:不只告诉你这是什么声音,还告诉你声音从哪来、离多远、往哪动。
语义和空间分开抽,再融合
模型以 MiDashengLM-7B 为基座,加了一个叫 Spatial-Dasheng 的空间音频编码器。技术报告里描述的结构是分层语义—空间条件模块:一路抽语义信息,一路抽空间信息,各自处理完再合并。
结果是单个端到端模型可以同时完成三件事——描述语音、环境声和音乐的内容;推理声源的方向;判断空间分布。参数量约 80 亿,在 Hugging Face 上以 mispeech/midashenglm-spatial 发布。
小米称这是业界首个开源的端到端空间音频理解大模型。论文里的措辞加了个限定,「据我们所知」。这个说法来自小米和研究者本人,还没有第三方评估。
一条容易被忽略的前提
方向信息来自多通道输入。模型卡片写得很清楚:训练用的是双耳(binaural)双声道音频;单声道输入虽然能跑,但不携带任何方向信息。
这条限制很实在。它意味着落地时设备至少得有两个麦克风,而且麦克风之间的距离和位置会影响精度。想做「哪个房间的水壶在响」这类判断,硬件得先配合。
落地路径在场景里,不在榜单里
过去两年,小米开源过声音基座模型 Xiaomi Dasheng,然后是声音理解大模型 MiDashengLM-7B。官方说这条技术线已经在智能家居和汽车座舱落地超过 30 项应用,覆盖语音、环境声和音乐的统一感知——注意,这个数字指的是现有系列,不包括新模型。
新模型会陆续进智能家居和座舱场景,但没给时间表,也没点名具体产品。
想想这些场景里空间听觉意味着什么:音箱知道是厨房的水壶在响,还是客厅有人在喊你;车机能分辨副驾在说话而不是后排;扫地机听到障碍物碰撞声能判断方位。这些能力对模型来说不难,对只有单麦克风的设备来说做不到。
国内开源最安静的一条线
在大模型的开源节奏里,音频一直是最不热闹的方向。视觉和语言天天上头条,音频的进展往往埋在技术报告里。
小米两年三次开源,节奏是「听见—听懂—知道在哪」。走的是场景驱动而不是榜单驱动。这类项目不性感,但落地密度高:它直接决定一个智能家居系统能不能少问你一遍「你刚才说什么」。
对开发者来说,Apache 2.0 加完整权重是个低门槛的起点。想做空间音频的应用,现在有了一个不用自己从零训的基座。和 MiniCPM-V 4.7这类端侧多模态的做法类似,国内团队在「小参数、真落地」这条线上已经形成了一套自己的节奏。
