D-SLR 以三倍 SVD 代价实现不劣于截断 SVD 的矩阵压缩,并在 LLM 嵌入表上把预测改变量减少约十倍
作者提出 D-SLR 分解,要求每行要么原样存储、要么由共享低秩基拟合而绝不重叠;在平方误差下该限制不损失最优性,算法以三次 SVD 的闭式代价扫描全部秩与存储行数组合,并给出无需数据假设的事后误差下界证书;在合成矩阵与 LLM 嵌入表等实验中,D-SLR 在同等参数下不劣于截断 SVD,在保留一半参数时改变的模型预测数约为截断 SVD 的十分之一。
2 篇关联报道
作者提出 D-SLR 分解,要求每行要么原样存储、要么由共享低秩基拟合而绝不重叠;在平方误差下该限制不损失最优性,算法以三次 SVD 的闭式代价扫描全部秩与存储行数组合,并给出无需数据假设的事后误差下界证书;在合成矩阵与 LLM 嵌入表等实验中,D-SLR 在同等参数下不劣于截断 SVD,在保留一半参数时改变的模型预测数约为截断 SVD 的十分之一。
作者提出多模态人工智能模型 TRIDENT-2,在覆盖 82,775 种化学品、6,793 个物种和多种暴露情景的 560,780 条毒性测定数据上训练,用于预测进化上多样化的真核生物的化学毒性,报告的平均中位绝对误差为 1.76 至 3.80,并在较大的化学与分类学距离上保持准确,从而可为现有实验证据之外的物种和化学品提供毒性评估。
已读完全部报道