arXiv 2026年5月14日该工作提出 GPart（Global Partition fine-tuning），一种高参数效率的微调方法，它通过稀疏、等距的分区矩阵将 d 维可训练向量直接映射到完整权重空间，保留固定的全局参数共享先验并去除 LoRA 类方法额外的低秩重构，从而获得单一主超参数 d、精确的端到端等距性以及仅由可训练向量和随机种子组成的最小检查点表示，并在自然语言理解、计算机视觉和数学推理基准上于超低参数预算下匹配或超过现有 PEFT 方法。该工作提出 GPart（Global Partition fine-tuning），一种高参数效率的微调方法，它通过稀疏、等距的分区矩阵将 d 维可训练向量直接映射到完整权重空间，保留固定的全局参数共享先验并去除 LoRA 类方法额外的低秩重构，从而获得单一主超参数 d、精确的端到端等距性以及仅由可训练向量和随机种子组成的最小检查点表示，并在自然语言理解、计算机视觉和数学推理基准上于超低参数预算下匹配或超过现有 PEFT 方法。GPart 用稀疏等距分区矩阵把 d 维可训练向量直接映射到全权重空间，在超低参数预算下匹配或超过现有 PEFT 方法该工作提出 GPart（Global Partition fine-tuning），一种高参数效率的微调方法，它通过稀疏、等距的分区矩阵将 d 维可训练向量直接映射到完整权重空间，保留固定的全局参数共享先验并去除 LoRA 类方法额外的低秩重构，从而获得单一主超参数 d、精确的端到端等距性以及仅由可训练向量和随机种子组成的最小检查点表示，并在自然语言理解、计算机视觉和数学推理基准上于超低参数预算下匹配或超过现有 PEFT 方法。该工作提出 GPart（Global Partition fine-tuning），一种高参数效率的微调方法，它通过稀疏、等距的分区矩阵将 d 维可训练向量直接映射到完整权重空间，保留固定的全局参数共享先验并去除 LoRA 类方法额外的低秩重构，从而获得单一主超参数 d、精确的端到端等距性以及仅由可训练向量和随机种子组成的最小检查点表示，并在自然语言理解、计算机视觉和数学推理基准上于超低参数预算下匹配或超过现有 PEFT 方法。