# 大语言模型

105 篇关联报道

订阅更新

arXiv 2026年11月11日
语义先验该在因果发现哪一步介入：方向判断有增益，查询位置与准入证书尚未站住
观测数据常留下无法定向或不稳定的因果边，大语言模型可凭变量名与描述给出方向建议。研究把语义信息的使用拆成查询分配、建议准入与图保留三步，在Asia、Sachs、Child、Insurance、Alarm五个基准网络上分别检验。语义定向优于随机抛硬币式定向，但按不稳定边挑选查询目标相对等量随机分配没有确立优势；所测准入证书在现有校准任务数下只能完全弃权，学习到的参考图在80个计划任务中仅3个包含真实DAG。
观测数据常留下无法定向或不稳定的因果边，大语言模型可凭变量名与描述给出方向建议。研究把语义信息的使用拆成查询分配、建议准入与图保留三步，在Asia、Sachs、Child、Insurance、Alarm五个基准网络上分别检验。语义定向优于随机抛硬币式定向，但按不稳定边挑选查询目标相对等量随机分配没有确立优势；所测准入证书在现有校准任务数下只能完全弃权，学习到的参考图在80个计划任务中仅3个包含真实DAG。
Stanford University University of Virginia
Muhammad Ahmed Mohsin（第一作者）
因果发现大语言模型校准
arXiv 2026年11月12日
AI 证明有自己的风格：重证《几何原本》465 条命题，引用相似度 0.68 远高于人机之间的 0.37
三个大语言模型独立重证欧几里得《几何原本》全部 465 条命题，其引用选择与希思的人类证明基线系统不同。三次 Claude Opus 4.6 运行之间的平均成对 Jaccard 相似度为 0.68，而 AI 与人类证明之间仅 0.37，说明这种差异稳定可复现。差异的具体特征是 AI 约 40% 的引用指向定义、公理和公设等基础元素，人类证明中这一比例只有 13%。
三个大语言模型独立重证欧几里得《几何原本》全部 465 条命题，其引用选择与希思的人类证明基线系统不同。三次 Claude Opus 4.6 运行之间的平均成对 Jaccard 相似度为 0.68，而 AI 与人类证明之间仅 0.37，说明这种差异稳定可复现。差异的具体特征是 AI 约 40% 的引用指向定义、公理和公设等基础元素，人类证明中这一比例只有 13%。
Xiaokai Li（第一作者）
面向数学的人工智能数学推理引用网络分析大语言模型
arXiv 2026年11月12日
Claude 写 Dafny 证明不再逐条硬推：37 个算法机器校验通过，三连通性测试也在其中
埃因霍温理工大学团队把大语言模型辅助的 Dafny 形式验证组织成十步工作流，由 Claude Code 担任验证构建智能体，在人工监督下完成规格、实现、不变式与证明。该流程在 37 个图论、标记迁移系统和计算几何算法上得到机器校验的 Dafny 实现，其中包括 Hopcroft–Tarjan 三连通性测试；作者称许多验证在数小时到数天内完成，但未与人工主导的验证做对照。
埃因霍温理工大学团队把大语言模型辅助的 Dafny 形式验证组织成十步工作流，由 Claude Code 担任验证构建智能体，在人工监督下完成规格、实现、不变式与证明。该流程在 37 个图论、标记迁移系统和计算几何算法上得到机器校验的 Dafny 实现，其中包括 Hopcroft–Tarjan 三连通性测试；作者称许多验证在数小时到数天内完成，但未与人工主导的验证做对照。
Eindhoven University of Technology
Wieger Wesselink（第一作者）
形式化验证 Dafny验证系统大语言模型 Claude Code
lyogavin/airllm 2026年10月12日
AirLLM 让 2.8T 的 Kimi K3 跑在单卡 3.72GB 显存上，靠逐层流式加载而非量化
AirLLM 把大模型推理的显存占用压到单卡几 GB 量级：Kimi K3（2.8T）在单张 RTX 6000 Ada 上实测端到端占用 3.72GB 显存，Qwen3.8-Flash-Next（125B）在单张 RTX 4090 上为 5.95GB，DeepSeek-V3（671B）约 12GB。它不依赖量化、蒸馏或剪枝，而是把权重按层流式加载，MoE 模型只加载每个 token 实际路由到的专家。项目还扩展到训练：冻结权重逐层流入，适配器留在 GPU 上，125B 模型可在 6GB 显存下训练。
AirLLM 把大模型推理的显存占用压到单卡几 GB 量级：Kimi K3（2.8T）在单张 RTX 6000 Ada 上实测端到端占用 3.72GB 显存，Qwen3.8-Flash-Next（125B）在单张 RTX 4090 上为 5.95GB，DeepSeek-V3（671B）约 12GB。它不依赖量化、蒸馏或剪枝，而是把权重按层流式加载，MoE 模型只加载每个 token 实际路由到的专家。项目还扩展到训练：冻结权重逐层流入，适配器留在 GPU 上，125B 模型可在 6GB 显存下训练。
AirLLM 大语言模型 FP8 浮点格式
arXiv 2026年11月5日
审计临床预测网络不必看权重：GPT-6 Astra 接入计算工具后，在 38,401 权重网络上全部找回植入关系
临床预测模型常以文件形式交付、训练数据不随之公开，审计者需要判断它究竟算出了什么。研究者在模拟的蛛网膜下腔出血队列上训练 105 至 38,401 权重的 tanh 网络，并植入已知关系或标签偏差，让 GPT-6 Astra 在无工具、白盒计算工具和仅给预测的黑盒工具三种条件下作答。无工具时 Astra 在 353 权重网络上找回植入关系，到 3,457 权重便不可靠；接入只做计算的工具后，它在全部 29 次含植入关系的运行中找回关系，15 次零网络运行未报假警，黑盒与白盒表现相当。
临床预测模型常以文件形式交付、训练数据不随之公开，审计者需要判断它究竟算出了什么。研究者在模拟的蛛网膜下腔出血队列上训练 105 至 38,401 权重的 tanh 网络，并植入已知关系或标签偏差，让 GPT-6 Astra 在无工具、白盒计算工具和仅给预测的黑盒工具三种条件下作答。无工具时 Astra 在 353 权重网络上找回植入关系，到 3,457 权重便不可靠；接入只做计算的工具后，它在全部 29 次含植入关系的运行中找回关系，15 次零网络运行未报假警，黑盒与白盒表现相当。
Tianjin Medical University General Hospital Tianjin Medical University
Zhiyu Liu（第一作者）
权重空间编程 GPT-6 Astra 临床预测大语言模型
Preferred Networks News 2026年11月5日
PFN把翻译模型PLaMo 3 Translate开放权重：0.8B小模型可离线跑53种语言
Preferred Networks 将原本只服务自家 PLaMo Translate 服务的翻译专用大模型 PLaMo 3 Translate 以开放权重形式发布到 Hugging Face，提供 0.8B、2B、8B、31B 四种规模，可在智能手机、笔记本或企业内部服务器上完全离线运行，覆盖含英语和日语在内的 53 种语言。按 PLaMo 社区许可，最近财年营收不超过 10 亿日元的个人与企业可免费下载并用于商业或非商业用途，超过该门槛则需与 PFN 签订商业许可。PFN 称其对比评估中最小 0.8B 版本优于 Google 的 TranslateGemma 和腾讯的 Hy-MT2 等同类翻译专用模型。
Preferred Networks 将原本只服务自家 PLaMo Translate 服务的翻译专用大模型 PLaMo 3 Translate 以开放权重形式发布到 Hugging Face，提供 0.8B、2B、8B、31B 四种规模，可在智能手机、笔记本或企业内部服务器上完全离线运行，覆盖含英语和日语在内的 53 种语言。按 PLaMo 社区许可，最近财年营收不超过 10 亿日元的个人与企业可免费下载并用于商业或非商业用途，超过该门槛则需与 PFN 签订商业许可。PFN 称其对比评估中最小 0.8B 版本优于 Google 的 TranslateGemma 和腾讯的 Hy-MT2 等同类翻译专用模型。
Preferred Networks
PLaMo 3 Translate 大语言模型机器翻译
medRxiv 2026年9月25日
三项大模型在ESC 2026前锁定预测：仅凭注册设计，区分阳性与阴性试验的AUC最高0.80
在2026年欧洲心脏病学会年会开幕前，三项大语言模型仅凭试验注册时公开的设计信息，对50项Late-Breaking试验的主要终点是否达成给出锁定预测。48项可评分试验中28项为阳性，Claude、GPT与Gemini区分阳性与阴性试验的AUC分别为0.80、0.79和0.74，均高于随机水平；在效应量按锁定口径报告的26项试验中，方向判断正确率为88%，比值型效应的中位乘性误差约15%。
在2026年欧洲心脏病学会年会开幕前，三项大语言模型仅凭试验注册时公开的设计信息，对50项Late-Breaking试验的主要终点是否达成给出锁定预测。48项可评分试验中28项为阳性，Claude、GPT与Gemini区分阳性与阴性试验的AUC分别为0.80、0.79和0.74，均高于随机水平；在效应量按锁定口径报告的26项试验中，方向判断正确率为88%，比值型效应的中位乘性误差约15%。
Seoul National University
Ki‐Hyun Jeon（第一作者、通讯作者）
大语言模型临床试验结果预测 2026年ESC大会最新科学试验
arXiv 2026年10月31日
故事生成不再只求通顺：先预测读者悬念与幽默走向，轨迹贴合度提升12%–35%且连贯性大体保留
大语言模型写故事常被指缺少起伏，读者体验难以随情节自然变化。一种新框架先从高质量人类故事中学习悬念或幽默这类读者反应的演变轨迹，再用一个小模型预测下一段应达到的读者反应，并以此引导现成写作模型逐段续写。在悬念与幽默两个领域、GPT-5.5与Qwen3.5-27B两个写作模型上，生成故事对人工故事读者轨迹的贴合度提升12%–35%，同时大体保持故事连贯性。
大语言模型写故事常被指缺少起伏，读者体验难以随情节自然变化。一种新框架先从高质量人类故事中学习悬念或幽默这类读者反应的演变轨迹，再用一个小模型预测下一段应达到的读者反应，并以此引导现成写作模型逐段续写。在悬念与幽默两个领域、GPT-5.5与Qwen3.5-27B两个写作模型上，生成故事对人工故事读者轨迹的贴合度提升12%–35%，同时大体保持故事连贯性。
Netflix (United States)Rutgers, The State University of New Jersey
Danrui Li（第一作者）
读者动态引导故事生成大语言模型轨迹预测
medRxiv 2026年10月26日
心理治疗也能做“硅内实验”：高共情提示让模拟会谈的动机式访谈完整性全面升高
心理治疗研究长期受制于试验成本高、临床特征难以随机操控。一项预注册概念验证研究用本地部署的 Llama-3.3-70B-Instruct 搭建治疗师与来访者两类智能体，自动生成 512 场动机式访谈会谈，仅通过治疗师提示词操控共情、肯定与联盟建立等共同治疗因素的高低。在纳入分析的 480 场会谈中，高共同因素条件下的动机式访谈治疗完整性四项全局评分均高于低条件，调整后均值差为 0.54 至 0.95 分。
心理治疗研究长期受制于试验成本高、临床特征难以随机操控。一项预注册概念验证研究用本地部署的 Llama-3.3-70B-Instruct 搭建治疗师与来访者两类智能体，自动生成 512 场动机式访谈会谈，仅通过治疗师提示词操控共情、肯定与联盟建立等共同治疗因素的高低。在纳入分析的 480 场会谈中，高共同因素条件下的动机式访谈治疗完整性四项全局评分均高于低条件，调整后均值差为 0.54 至 0.95 分。
University Hospital Zurich German Research Centre for Artificial Intelligence Universität Trier University of Zurich University of Haifa University of Basel University Hospital of Basel RWTH Aachen University
Katalin Horvath（第一作者）Gunther Pascal Meinlschmidt（通讯作者）
在 silico 心理治疗研究（LLM模拟心理治疗）动机式访谈模拟大语言模型共同治疗因子
aclanthology.org 2026年10月31日
自回归训练不再只按从左到右预测：Max(MI(S;t))按互信息重排目标，算术平均准确率94.96%
自回归语言模型通常按固定的从左到右顺序做下一词预测，Max(MI(S;t))改为在训练前按目标词与输入及已选目标的互信息排序，把信息量大的目标提前。在GPT式模型上，它在算术任务的平均准确率为94.96%，高于下一词预测的74.84%和逆序的86.29%，接近穷举24种顺序得到的97.33%上界；在WikiText-2上把平均困惑度从13.58降到10.77。方法只改训练目标的组织方式，模型结构与自回归解码不变。
自回归语言模型通常按固定的从左到右顺序做下一词预测，Max(MI(S;t))改为在训练前按目标词与输入及已选目标的互信息排序，把信息量大的目标提前。在GPT式模型上，它在算术任务的平均准确率为94.96%，高于下一词预测的74.84%和逆序的86.29%，接近穷举24种顺序得到的97.33%上界；在WikiText-2上把平均困惑度从13.58降到10.77。方法只改训练目标的组织方式，模型结构与自回归解码不变。
National Taiwan University
Max(MI(S;t)) 互信息目标排序下一词元预测多标签分类文本生成大语言模型