微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

MIRA团队 投稿

在大模型(LLM)与计算机视觉(CV)争相重塑医疗行业的今天,我们似乎已经拥有了功能强大的数字助手:它们能够像放射科医生一样精准解读CT影像,也能像内科医生一样撰写病历摘要。

医疗AI世界中,仍有一块关键拼图缺失——那就是理解“生命动态演变”的能力。

微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

图1.不同模态的医疗数据

正如图1所示,如果将患者的生命历程比作一部电影,现有的AI往往只能捕捉到零散的帧画:

影像(Image)是“快照”:定格的仅仅是某一瞬间的解剖结构;

文本(Text)是“叙述”:往往只是对既往病情的主观回顾;

唯有时间序列(Time Series),才忠实记录了生命体征的连续轨迹。

然而,读懂这条“曲线”远比处理静态图像复杂。为此,微软亚洲研究院推出了专为医疗时序数据设计的通用基座模型——MIRA。

该模型基于4540亿个医疗数据点进行大规模预训练,通过两大核心技术突破了传统模型对规则采样的依赖,旨在解决真实世界医疗数据“不规则、异构性”的难题。

实验表明,MIRA在关键预测任务上的表现超越了现有SOTA模型,并展现出卓越的零样本(Zero-shot)迁移能力。

真实医疗数据:大模型的“噩梦”

长期以来,医疗时序模型的通用化进程面临诸多挑战,其核心问题在于“理想假设”与“现实数据”的错位

通用深度学习模型通常基于“规则采样”的理想化假设,即数据是整齐划一、均匀分布的。

然而,在真实医疗场景中,尤其是重症监护室(ICU),生命体征的记录往往呈现出“时疏时密”的特点:心跳以秒为单位波动,血压可能以小时为单位记录,而血液检测指标可能需要一天甚至更长时间才能更新一次。

这种多时间尺度交织、采样频率不规则的特性,构成了医疗时序数据最显著的挑战,也是大模型在医疗领域落地应用的核心障碍。

微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

图2.医疗时间序列数据典型样例

图2医学时间序列数据具有以下特点:①时间间隔不规则,②采样率异质,③由于临床工作流程不标准或仪器按照不到位造成的数据缺失。

传统方法为了让模型处理这些数据,往往不得不采用插值(Imputation)等手段强行对齐。这种做法不仅容易引入人为的“噪声”,还可能丢失原本的时间动力学信息,属于典型的“削足适履”。

而MIRA的提出,正是为了解决这一难题。它不再局限于单一场景训练,而是从海量医疗数据中学习跨场景、跨模态的生理动态模式,成为一个具备卓越迁移能力的通用医疗基座模型。

两大核心技术:读懂不规则律动

面对医疗数据“杂乱无章”的特性,MIRA设计了两大核心技术模块,分别解决了“历史”与“未来”的建模难题。

微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

图3.MIRA的架构

MIRA的架构如下:①接收不规则时间序列和时间戳作为输入,并应用CT-RoPE进行连续时间编码。②混合专家层根据频率路由到不同的Expert。③Neural ODE模块将潜在状态演化到任意目标时间戳,从而实现灵活的时间感知预测

1.CT-RoPE:给“历史”一把弹性标尺

传统模型处理时间序列习惯用离散的整数索引(1,2,3…)来标记顺序,默认每一步距离相等,忽略了医疗数据中“时疏时密”的真实间隔。

MIRA创新性地提出了连续时间旋转位置编码(CT-RoPE)。它摒弃了离散索引,直接将真实的连续时间戳代入旋转矩阵计算。

这意味着,模型能够精准感知历史记录中任意时间间隔的变化,而不是机械地记录采样次数。

2. Neural ODE:描绘“未来”的连续曲线

人体状态是连续流动的,而非离散跳变。为了精准推演病情走向,MIRA引入了神经常微分方程(Neural ODE)模块。

如果说CT-RoPE是为了读懂过去零散的点,那么Neural ODE就是为了画出未来连续的线。它模拟生物体内部的动力学变化,能基于离散数据推导出连续时间下的潜在状态演化轨迹

这意味着,即使未来的采样时间点不确定,模型也能依循生理规律,给出符合动力学逻辑的合理预测。

实验验证:零样本与高鲁棒性

研究团队在MIMIC-III、MIMIC-IV等多个权威数据集上对MIRA进行了评估。

1. 零样本(Zero-shot)预测突破

最值得关注的是MIRA的迁移能力。在未经过任何特定目标数据集训练的情况下,MIRA直接被部署到全新的医疗场景中。

数据显示,其在分布外(OOD)测试集上的表现,甚至超越了部分专门训练的全监督模型。这说明MIRA学到了生理信号变化的“通用规律”,而不仅仅是拟合了某家医院的数据分布。

微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

图4.与baseline相比,MIRA out-of-distribution表现

2.极度稀疏数据的“高鲁棒性”

面对缺失值,传统模型往往依赖插值预处理。这种做法不仅引入人为噪声,还可能破坏数据的原始分布特性。

而MIRA得益于Neural ODE,无需任何插值操作即可原生适配。通过建模时间序列的连续动力学特性,MIRA能够直接处理数据中的缺失值,无需额外的预处理步骤。

实验表明,即便在数据极度稀疏(例如仅保留30%观测点)的条件下,MIRA的性能依然保持稳健,并未像传统预测模型那样出现性能的显著下滑。这种对真实世界“脏数据”的适应能力,证明了其在复杂临床环境下的高鲁棒性。

微软MIRA:基于4540亿医疗时序数据的通用基座模型,突破不规则采样难题

开启医疗AI的“通用基座”时代

MIRA的提出可谓是医疗时序预测向“通用基座”时代迈进的重要探索。通过解决不规则采样和异构数据难题,MIRA为医疗AI摆脱“烟囱式”开发模式提供了可能。

未来,医院或可利用MIRA作为底座,配合少量本地数据微调,快速获得高精度的定制化模型。这为构建更智能的ICU早期预警、慢病管理以及通用AI助手奠定了坚实基础。

论文链接:https://arxiv.org/abs/2506.07584
项目链接:https://github.com/microsoft/MIRA


关注“鲸栖”小程序,掌握最新AI资讯

本文来自网络搜集,不代表鲸林向海立场,如有侵权,联系删除。转载请注明出处:http://www.itsolotime.com/archives/18843

(0)
上一篇 2026年1月24日 下午12:52
下一篇 2026年1月24日 下午2:40

相关推荐

  • 循环语言模型Ouro:在预训练中构建推理能力的新范式

    在人工智能领域,大型语言模型(LLM)的发展正面临一个关键瓶颈:传统的训练范式通常将复杂的推理能力留待微调阶段培养,而未能充分利用预训练数据中的潜在逻辑结构。这种分离不仅限制了模型在基础阶段的认知深度,也增加了后期优化的成本和不确定性。近日,字节Seed团队联合多家研究机构推出的Ouro(循环语言模型,LoopLM),通过创新的架构设计和训练策略,成功将推理…

    2025年11月4日
    17000
  • 破折号成瘾:AI写作风格如何暴露大模型训练数据的历史断层

    在人工智能写作领域,一个看似微不足道的标点符号——破折号——正成为揭示大模型训练数据来源与时代局限性的关键线索。用户普遍观察到,以ChatGPT为代表的AI产品在生成文本时频繁使用破折号,这种现象已从偶然特征演变为AI写作的标志性风格。OpenAI甚至将“减少破折号使用”作为产品改进功能单独发布,反映出用户对此现象的普遍关注。这一现象背后,隐藏着大模型训练数…

    2025年11月29日
    14300
  • MiniMax-M2.5震撼上线:国产AI模型春节档激战,网页制作与编程能力全面升级

    一句话做“黄金矿工”游戏、生成精美公司网站。 智东西2月12日消息,春节将至,国产AI大模型之战愈发火爆。短短1天多时间,DeepSeek、智谱、字节等多家厂商模型密集更新,MiniMax-M2.5正式上线,其重点提升了Agent和编程能力。 ▲MiniMax-M2.5已可选 MiniMax AI相关负责人在X平台上发文称,他想尽快发布M2.5,已经迫不及待…

    2026年2月12日
    6600
  • 国产AI实现空间智能突破:SenseNova-SI超越国际顶尖模型,揭示AI技术范式变革

    空间智能领域迎来里程碑:SenseNova-SI实现全面超越 在空间智能这一前沿研究领域,一项重要进展近日引发行业关注。商汤科技发布的开源模型SenseNova-SI,在多项关键能力评估中超越了李飞飞团队研发的Cambrian-S模型,标志着国产AI技术在该领域取得突破性进展。 从空间感知能力的综合评估数据来看,SenseNova-SI在多个维度上的表现均优…

    2025年12月19日
    17300
  • AI驱动精准农业革命:Bindwell如何用蛋白质AI模型重塑农药研发范式

    在全球粮食安全面临严峻挑战的背景下,农药使用量在过去三十年间翻倍增长,却仍有高达40%的农作物因病虫害损失。这一矛盾凸显了传统农药研发模式的根本性缺陷:依赖化学试错法、靶点特异性不足、研发周期漫长且成本高昂。两位年轻创始人Tyler Rose和Navvye Anand创立的Bindwell,正通过将AI驱动的药物发现技术迁移至农业领域,试图彻底改变这一现状。…

    2025年12月4日
    15200