27B工程模型Micius-Flash开源:硬件编码均分64.2%,比同尺寸基线高15分
核心概要
Micius-Flash是一个27B参数、支持原生多模态输入与256K上下文窗口的工程模型,以半导体工程为主要专精与评测领域,并以开源模型形式发布。它用知识树驱动的数据飞轮组织半导体知识、合成数据并做质量校验,再以多教师在线策略蒸馏把知识推理、硬件编码、多模态理解与智能体四类专家能力合并进一个学生模型。在12个硬件编码基准上均分64.2%,比同尺寸通用基线高15.0分;在半导体专用智能体基准上得62.4%,高出同尺寸基线17.2分。
深度剖析
一个27B参数的工程模型现在把半导体知识问答、硬件代码生成、电路图与波形理解、工具调用四类能力放进同一个模型,并以开源模型形式发布。 此前的领域适配模型通常只针对单一任务训练,而通用模型在硬件生成、电路理解和真实设计任务上存在明显短板;把互补能力合并进一个模型时,容易出现相互干扰或通用能力退化。 在超过20个基准、约1.5万条记录上评测:12个硬件编码基准均分64.2%,比同尺寸通用基线高15.0分;半导体专用智能体基准得62.4%,比同尺寸基线高17.2分。
模型的能力来自一套按知识结构组织的数据生产流程,而不是单纯扩大通用语料。 半导体知识分散且通用训练数据覆盖不足,因此数据需要按知识层级系统收集、合成并校验。 知识树从权威标准与规范文档出发,由智能体做检索、概念抽取与递归扩展,并补充跨分支依赖形成知识图谱;合成样本按知识节点或局部子图生成,代码样本须通过编译与仿真,图像样本须是纯文本模型无法回答的。
四类专家模型的能力通过多教师在线策略蒸馏合并到一个学生模型中。 先独立微调知识推理、编码、多模态和智能体四个教师,再让学生模型在自身生成的轨迹上接受教师逐token的分布监督。 蒸馏采用前向KL目标,保留教师概率最高的32个token,其余概率质量归入一个尾部类别;每条轨迹只由对应任务类别的教师监督,学生策略演化时轨迹在线重新生成。
启示与展望
评测覆盖超过20个基准、约1.5万条记录,涉及半导体知识、硬件编码、多模态理解、科学推理与智能体任务;案例研究在芯片设计、工业软件开发、模拟实验、PCB工程、游戏开发和GPU内核优化等场景中展示了模型使用工具反馈迭代的能力。作者表示后续将探索更完整的工业场景,并把Micius扩展到更大参数规模。
作者自述模型在不同任务上的相对表现存在差异,在三个智能体工程基准上均排名第二,落后于GPT-5.6 Sol;在SemiBench上得49.70%,低于多个对比模型。案例研究为代表性示例,作者未给出跨场景的统计性结论。
