# 神经架构搜索

分块蒸馏式架构搜索把每个替换块的单独得分相加来挑选子网络，这一加法假设此前很少被直接检验。在DeiT-S与DeiT-B上，延迟预算从60%降到55%时，加法整数线性规划微调后的精度开始明显落后于建模块间交互的成对整数二次规划，ImageNet-100上差距为3.3–16.6个点。误差可拆成只由得分非线性带来的度量项和真正的功能交互项，前者在DeiT-S上占多数、后者在DeiT-B上占多数；一种用单块logit预测排序、只实测少量候选的混合搜索无需专门测量块对，在ImageNet-1k的14个设置中有13个显著优于成对搜索。

分块蒸馏式架构搜索把每个替换块的单独得分相加来挑选子网络，这一加法假设此前很少被直接检验。在DeiT-S与DeiT-B上，延迟预算从60%降到55%时，加法整数线性规划微调后的精度开始明显落后于建模块间交互的成对整数二次规划，ImageNet-100上差距为3.3–16.6个点。误差可拆成只由得分非线性带来的度量项和真正的功能交互项，前者在DeiT-S上占多数、后者在DeiT-B上占多数；一种用单块logit预测排序、只实测少量候选的混合搜索无需专门测量块对，在ImageNet-1k的14个设置中有13个显著优于成对搜索。

图神经网络能从原子与键构成的图里学到结构—性质关系，但这些关系留在隐空间里，难以读成科学规则。图符号蒸馏（GSD）先用受约束的消息传递架构搜索确定信息如何逐层传递与聚合，再把每一层学到的变换逐层拟合为稀疏符号表达式，并保留图连接与聚合操作。在卤化物钙钛矿带隙、分子水合自由能和过渡金属表面多齿吸附三个案例中，它从基本节点与边特征出发重建出专家描述符，并给出可检验的局部几何、极性—尺寸与电子—连接性关系。

图神经网络能从原子与键构成的图里学到结构—性质关系，但这些关系留在隐空间里，难以读成科学规则。图符号蒸馏（GSD）先用受约束的消息传递架构搜索确定信息如何逐层传递与聚合，再把每一层学到的变换逐层拟合为稀疏符号表达式，并保留图连接与聚合操作。在卤化物钙钛矿带隙、分子水合自由能和过渡金属表面多齿吸附三个案例中，它从基本节点与边特征出发重建出专家描述符，并给出可检验的局部几何、极性—尺寸与电子—连接性关系。

该工作用在线反馈控制（自适应共形推断及其免调参、局部自适应、分组条件变体）替换一次性分位数估计，以应对强化学习搜索过程中候选分布非可交换的问题，在三种网络架构族、单步与序列搜索（三个随机种子）中把覆盖率跟踪到请求水平约10^-3以内，同时剪枝25-50%的评估且未测得精度损失，而静态校准失去覆盖率控制、高斯过程基线始终保守。

该工作用在线反馈控制（自适应共形推断及其免调参、局部自适应、分组条件变体）替换一次性分位数估计，以应对强化学习搜索过程中候选分布非可交换的问题，在三种网络架构族、单步与序列搜索（三个随机种子）中把覆盖率跟踪到请求水平约10^-3以内，同时剪枝25-50%的评估且未测得精度损失，而静态校准失去覆盖率控制、高斯过程基线始终保守。

EvoCast是一个全自主研究智能体系统，用于迭代式时间序列预测架构演化：它先建立并诊断任务专属基线，再依据数据集特征、诊断结果、历史轮次与失败记录生成有证据支撑的研究方向，由LLM智能体负责假设生成与代码实现，由确定性程序权威控制源码编辑边界、规范评估与模型晋升；在30个仓库级实现任务上成功率达96.7%，并在空气质量、墨尔本行人T33与钢铁工业三个真实预测案例中取得最低MSE，同时相比R&D-Agent降低token与API成本。

EvoCast是一个全自主研究智能体系统，用于迭代式时间序列预测架构演化：它先建立并诊断任务专属基线，再依据数据集特征、诊断结果、历史轮次与失败记录生成有证据支撑的研究方向，由LLM智能体负责假设生成与代码实现，由确定性程序权威控制源码编辑边界、规范评估与模型晋升；在30个仓库级实现任务上成功率达96.7%，并在空气质量、墨尔本行人T33与钢铁工业三个真实预测案例中取得最低MSE，同时相比R&D-Agent降低token与API成本。