跳到主要内容
返回时间线
arXiv来源发表:

手术技能评分不再绑定固定量表:PRA按文字描述打分,宏F1比Video Swin-T高0.113

核心概要

手术视频的技能评分长期依赖固定量表,换一套措辞相近的评估条目就要重新训练。Predictive Rubric Alignment(PRA)改为预测评分者对各级别文字描述嵌入的加权组合,再把预测向量投影到相邻描述连成的路径上读出分数。在AIxSuture缝合视频上,使用学习条目查询的PRA-item取得0.848的准确率和0.829的宏F1,宏F1比Video Swin-T高0.113;只用两个条目训练的PRA-cond还能对JIGSAWS未见过条目给出正相关评分。

Source-provided article image: Toward Cross-Rubric Surgical Skill Assessment via Joint Embedding Prediction
arXiv

深度剖析

手术视频的自动技能评分现在可以按自然语言写出的评分标准来打分,而不必把输出锁死在训练时那一套等级或数值上。 此前的自动方法通常预测预定义技能等级,或回归与固定量表绑定的数值分数,一旦评估条目的措辞改变就难以迁移。 在AIxSuture的314段五分钟缝合视频上,PRA-item取得0.848准确率和0.829宏F1,宏F1比Video Swin-T高0.113、比I3D高0.137,并在准确率、宏F1和每个类别的F1上都居首。

提升最集中在中间水平这一类,也就是条目分数大多落在已描述等级之间的受训者。 中间类此前是三类中最难判的一类,Video Swin-T的中间类F1为0.538,I3D为0.403。 PRA-item的中间类F1为0.703;不带条目专属参数的PRA-cond相对同样无专属参数的BCE路径读出,宏F1高0.042、中间类F1高0.060。

评分不再通过比较相似度得到,而是直接预测一个位于描述嵌入空间中的点。 对比式方法把余弦相似度经softmax或sigmoid转成等级概率,其中温度参数的取值会影响学习和下游表现。 PRA把评分者对相邻等级描述的权重做线性插值,混合成目标向量,用平方距离监督视频模型去预测它,推理时取描述路径上最近点的分数,因此没有温度需要调;重设温度后,CE-8在任一温度下的最好种子仍低于PRA-item最差种子。

按条目名称生成查询的PRA-cond可以把新量表当作文本输入,无需再训练。 PRA-item为每个条目学习一个查询向量,因而绑定在训练用过的条目上。 PRA-cond只用AIxSuture的器械操作和特定手术知识两个条目训练,就在JIGSAWS六个未见过条目上给出正相关评分,其Grad-CAM与器械和缝线的重叠高于描述匹配基线。

启示与展望

评估覆盖AIxSuture的314段开放缝合视频和JIGSAWS的台面da Vinci缝合与打结任务,评分对象是OSATS及其改良条目;作者指出受数据集规模和量表多样性限制,后续将把训练与评估扩展到更多手术任务和量表。

零样本迁移中PRA-cond并非最准确的模型,其平均相关低于BCE概率读出且跨种子波动更大,所有模型的相关性都低于试验时长基线;作者把Grad-CAM重叠更高解释为预测式目标保留了更强稠密特征这一可能原因。