跳到主要内容
返回时间线
arXiv来源发表:

事件编码阈值不再靠试错:正常工况波动定出信息充分边界,事件密度降约7.6倍仍保精度

核心概要

事件驱动学习把连续信号变成稀疏事件,但触发阈值长期靠经验试错。该工作把带符号阈值编码对应到离散化学习系统,用正常工况信号增量的标准差与阈值之比给出信息充分边界,再以保留峰值判别信息的规定比例为准则选出最稀疏阈值。在电力系统故障分类中,保留75%峰值信息时事件密度相对该边界下降约7.6倍,总体分类精度为94.14%。

Source-provided article image: Information-Theoretic Threshold Design for Sparse Event Encoding in Learning Systems
arXiv

深度剖析

事件编码的阈值选择从反复试错变成一条可计算的设计规则:先由正常工况数据定出信息充分边界,再在边界之上按保留信息比例挑最稀疏的阈值。 此前阈值多靠经验搜索或手工调节,需要对候选阈值反复评估学习模型,且得到的指导难以跨模型、跨数据集迁移。 在含11类故障与正常工况、每类80个实例共960个实例的电力系统暂态数据上,该规则选出的阈值使事件密度降到2.87%,相对信息充分边界下降7.59倍,总体分类精度为94.14%。

做法是把带符号的阈值编码看成对信号时间梯度的一次三区间离散化,于是阈值相当于分辨率,正常工况波动相当于噪声尺度。 离散化学习系统已有信息极限结论,其行为由噪声与分辨率之比决定,而事件编码此前没有被放到这一比值框架下分析。 该对应关系不要求对信号增量分布作假设;在电力系统实验中正常工况梯度标准差给出归一化边界,候选阈值以该标准差的倍数表示。

阈值不是取在边界上,而是取在仍保留规定比例峰值判别信息的最大阈值处,判别信息用类别标签与事件表示之间的互信息估计。 边界本身只说明信息充分区的起点,若直接用作工作点,按高斯近似在边界处仍有约三成正常工况样本会触发事件。 在电力系统数据上互信息在阈值2.0倍标准差处达到峰值0.987 nats,保留75%峰值信息时选出5.0倍标准差;该阈值处的互信息数值在原文两处表述不一致,一处给出0.767 nats(峰值的77.7%),另一处表格在5.0倍标准差处列出0.899 nats、在8.0倍标准差处列出0.767 nats。

启示与展望

演示范围是事件相机的物理编码示例,以及一个含11类故障与正常工况、每类80个实例共960个实例的电力系统暂态数据集,下游任务为基于脉冲神经网络的卷积变分自编码器故障分类器。阈值设计阶段不训练也不评估分类器,分类器架构与训练在各阈值间保持不变,不做基于分类器的阈值重调。

信息充分边界按高斯近似在边界处仍会有约三成正常工况样本触发事件,因此边界不等于推荐工作点。互信息由12位活动模式这一紧凑表示估计,活动截断从0.25%变到10%时峰值互信息阈值在2.0到3.0倍标准差之间移动,所选稀疏阈值随表示而变;截断增大到15%至20%时只剩一两个候选阈值可用于估计。所选阈值处的互信息数值在原文中不一致:正文给出0.767 nats(峰值的77.7%),表格在5.0倍标准差处列出0.899 nats、在8.0倍标准差处列出0.767 nats。分类器使用完整时间事件序列而互信息来自紧凑表示,分类表现不必随估计互信息单调变化。闭式解需要对类条件梯度分布作解析刻画,尚待后续工作。