跳到主要内容
检索

# LeJEPA架构

3 篇关联报道

订阅更新
  1. arXiv

    两个编码器不再挤进同一空间:DuoJEPA用一层翻译层,胸片零样本AUC从60.0升到86.6

    多模态配对数据通常被用来把两个编码器拉到同一个嵌入空间里。DuoJEPA反过来保留每个模态各自的LeJEPA自监督空间,只在每个编码器后加一层无残差的transformer翻译层,把嵌入译到对方空间,并用完全在目标空间内计算的对比损失训练。在CheXpert Plus胸片与报告上,它的零样本AUC为86.6、跨模态检索分数为78.5,而相同编码器和数据下重实现的LeVLJEPA为60.0和64.2,同时配对余弦检验未检出两个自有空间直接对齐。

  2. researchsquare.com

    成人隐匿性异物吸入不再只给一个概率:自监督把气道压成高斯流形,敏感性从18.8%升到56.3%

    成人放射性透明异物吸入在CT上与软组织、黏液密度接近,此前只能靠逐层人工阅片,容易漏诊。AI-PACS改用自监督异常检测:先在804例无标注CT上学习“非异物”气道的标准高斯流形,再把偏离该流形的区域判为异常,并映射到支气管S1–S10分段。在35例人机对照子集中,敏感性由放射科医师的18.8%升至56.3%,阴性排除的平均阅片时间减少约75%。

  3. arXiv

    DSReg 无需重建即可证明式恢复单个世界潜变量,并在合成、像素编码器与外部渲染器上提升稀疏控制与编辑

    该工作提出 DSReg(依赖稀疏正则化),在 LeJEPA 提供的线性可辨识前提下,仅凭“结构多样性”这一依赖足迹条件,证明无需重建、无需解码器、无需标签即可把每个世界潜变量恢复到符号置换;方法可事后作用于任意线性可辨识表示并复用已训练检查点,在合成体系、世界模型探针、像素训练编码器与外部渲染器上保持稠密预测不变,同时改善单潜变量恢复与稀疏控制、编辑、少样本读出等下游使用。

已读完全部报道