可微因果发现有了有限样本保证:GLM-DAG 在逻辑与泊松模型上给出误差率
核心概要
基于可微无环约束的因果结构学习长期缺少非线性模型下的有限样本理论。这项工作把每个节点的条件分布设为广义线性模型,用单一连续目标同时搜索所有拓扑序,并证明全局极小解在总体层面选出边数最少的表示、在样本层面达到对数因子内的估计误差率。实验在逻辑、泊松与高斯 DAG 上考察结构恢复精度与运行时间。
深度剖析
可微因果结构学习现在有了针对非线性条件分布的有限样本统计保证,覆盖逻辑模型和泊松模型这类常用的广义线性模型。 此前有限样本性质主要建立在线性高斯、线性非高斯以及若干非可微方法上,而基于连续优化的可微方法虽因易实现被广泛使用,其显式有限样本理论相对有限,尤其超出线性高斯模型之后。 总体可识别性结果表明,在最小信号与局部曲率条件下,全局目标选出边数最少的 GLM-DAG 表示;有限样本结果进一步给出每个经验全局极小解的高概率界。
做法是把结构学习写成一个在所有拓扑序上定义的单一连续目标,由节点级负对数似然、精确无环约束和稀疏惩罚三部分组成。 稀疏惩罚采用 quasi-MCP,一种非凸惩罚,比凸的 L1 替代更接近直接计数有向边,同时仍能与端到端可微优化兼容。 无环约束用矩阵指数构造的平滑函数实现,迹为零当且仅当图无环;求解沿用 DAGMA 的增罚与热启动流程,在逻辑、泊松和高斯 DAG 上与 PC、FGES、MICODAG-CD 及负对照比较。
启示与展望
结论针对条件分布属于规范链接广义线性族、且满足所述协方差与 Fisher 信息正则条件的 DAG 模型;实验在合成数据上生成 Erdős–Rényi 与无标度图,用 CPDAG 层面的结构汉明距离衡量恢复精度。
有限样本界在高概率意义下成立,并依赖调参常数与最小信号条件;无界情形的结果带有额外的对数因子。泊松设定下均值可能变大带来数值困难,因此实验集中在较小的图规模。
