# 网络剪枝

开源权重模型的安全对齐高度稀疏，剪掉少量安全关键神经元或消融单个拒绝方向就能让模型输出有害内容。ABS-Align在偏好微调过程中逐步剪除这些已识别的安全关键神经元，迫使拒绝行为由网络其他部分重新建立，微调结束后再恢复被剪神经元。在Gemma-2-2B-IT、Llama-3-8B-Instruct、Llama-3.2-3B-Instruct和Qwen-3-4B四个模型上，该方法对TwinBreak、NeuroStrike、拒绝方向消融及十种SORRY-Bench黑盒攻击的成功率普遍下降，部分攻击降幅约90%，同时TruthfulQA提升而通用能力变化很小。

开源权重模型的安全对齐高度稀疏，剪掉少量安全关键神经元或消融单个拒绝方向就能让模型输出有害内容。ABS-Align在偏好微调过程中逐步剪除这些已识别的安全关键神经元，迫使拒绝行为由网络其他部分重新建立，微调结束后再恢复被剪神经元。在Gemma-2-2B-IT、Llama-3-8B-Instruct、Llama-3.2-3B-Instruct和Qwen-3-4B四个模型上，该方法对TwinBreak、NeuroStrike、拒绝方向消融及十种SORRY-Bench黑盒攻击的成功率普遍下降，部分攻击降幅约90%，同时TruthfulQA提升而通用能力变化很小。

LLM剪枝的校准激活改从稠密模型自回归解码步收集并丢弃预填充，使剪枝目标对齐生成时的激活分布，在WritingBench与ClassEval上稳定优于固定文本校准，并在A100上取得最高1.48倍端到端解码加速。

LLM剪枝的校准激活改从稠密模型自回归解码步收集并丢弃预填充，使剪枝目标对齐生成时的激活分布，在WritingBench与ClassEval上稳定优于固定文本校准，并在A100上取得最高1.48倍端到端解码加速。

该工作提出 SHarP，把智能体 harness 中的工具、指令与支撑机制视为可单独禁用的模块，用单模块消融估计每个模块对任务性能与 token 成本的显著性，再按效率导向或性能导向规则剪枝；在 OpenHands/GAIA、PaperQA2/LitQA2、LIFE-harness 的 airline 与 retail、JIT agentfold/DeepPlanning-Shopping 五个设置上，剪枝后多数配置保持相近性能，四个 harness 均实现至少 10% 的 token 成本下降，其中两个在降本同时提升任务表现。

该工作提出 SHarP，把智能体 harness 中的工具、指令与支撑机制视为可单独禁用的模块，用单模块消融估计每个模块对任务性能与 token 成本的显著性，再按效率导向或性能导向规则剪枝；在 OpenHands/GAIA、PaperQA2/LitQA2、LIFE-harness 的 airline 与 retail、JIT agentfold/DeepPlanning-Shopping 五个设置上，剪枝后多数配置保持相近性能，四个 harness 均实现至少 10% 的 token 成本下降，其中两个在降本同时提升任务表现。