Phi-4-reasoning-vision:训练多模态推理模型的经验与启示

微软发布 150 亿参数的开源权重多模态推理模型 Phi-4-reasoning-vision-15B,仅用 2000 亿词元的多模态数据训练,便在数学与科学推理、屏幕界面理解等任务上逼近需要十倍以上算力的大模型表现。文章分享了其中的关键经验:中融合架构与动态分辨率视觉编码器的选择、严格的数据清洗与配比实验,以及推理与非推理数据混合的训练策略。