Zhiyu Liu

临床预测模型常以文件形式交付、训练数据不随之公开，审计者需要判断它究竟算出了什么。研究者在模拟的蛛网膜下腔出血队列上训练 105 至 38,401 权重的 tanh 网络，并植入已知关系或标签偏差，让 GPT-6 Astra 在无工具、白盒计算工具和仅给预测的黑盒工具三种条件下作答。无工具时 Astra 在 353 权重网络上找回植入关系，到 3,457 权重便不可靠；接入只做计算的工具后，它在全部 29 次含植入关系的运行中找回关系，15 次零网络运行未报假警，黑盒与白盒表现相当。

临床预测模型常以文件形式交付、训练数据不随之公开，审计者需要判断它究竟算出了什么。研究者在模拟的蛛网膜下腔出血队列上训练 105 至 38,401 权重的 tanh 网络，并植入已知关系或标签偏差，让 GPT-6 Astra 在无工具、白盒计算工具和仅给预测的黑盒工具三种条件下作答。无工具时 Astra 在 353 权重网络上找回植入关系，到 3,457 权重便不可靠；接入只做计算的工具后，它在全部 29 次含植入关系的运行中找回关系，15 次零网络运行未报假警，黑盒与白盒表现相当。