Palette让20B开放权重模型按你的设计语言做幻灯片:三领域均分59.7,仅差NotebookLM 1.1分
核心概要
Palette把做幻灯片拆成“设计师写结构化简报、编码器逐页写绘图代码”两个角色,用同一个LoRA适配器承载,训练数据由大模型合成并经过渲染检查修复。这个20B开放权重模型在PresentBench的经济学和教育两个领域排名第一,三领域均分59.7,落后NotebookLM 1.1分而领先其余系统;在叙事驱动的Talk领域排第三。
深度剖析
一个可自托管的20B开放权重模型现在能按指定设计语言产出幻灯片,而不必依赖前沿模型的默认风格。 前沿模型能做出好看的幻灯片,但十份放在一起会趋同于同一套默认风格,提示词难以把它拉回自家模板;而真正能自托管的小开放模型此前做出的幻灯片常出现标题融进背景、文字溢出、形状互相堆叠。 在PresentBench上,Palette在经济与教育两个领域排名第一,Talk领域第三,三领域均分59.7,落后NotebookLM(60.8)1.1分,领先其余系统。
做法是把一次生成拆成编辑判断与几何摆放两类决策,分别交给设计师和编码器。 单次生成要在10到20页里同时决定每页说什么、怎么展示,以及把元素精确放到哪个坐标和字号,小模型很难兼顾。 设计师先写出结构化JSON简报,包含配色、字体系统以及每页的布局、内容和简短设计理由;编码器据此为单页写pptxgenjs的JavaScript绘图代码。因为每页上下文在写代码前已固定,编码器调用可并行,编码阶段约快6到7倍。
训练数据由大开放教师模型合成,并带上了做选择时的反事实推理。 公开语料里只有成品幻灯片,没有设计取舍的理由,也没有生成它们的代码。 数据从设定体裁、长度、布局和用户指令的配方出发,生成约1000份幻灯片、约1万页;每例附带权衡过替代方案并说明为何被否的推理,坏页由与推理时相同的检查器发现后修复并重写理由。
推理时每份幻灯片都先过一道检查与修复流程,改写只有在检查器确认变好时才保留。 即便训练充分,模型偶尔仍会产出标题与背景同色或两个框叠在一起的坏页。 先用规则修已知错误,再渲染测量每页,几何检查器标出重叠、被裁切或溢出的文字,交给单独的编辑模型重写该页代码;在131份PresentBench幻灯片上,该流程平均提升3.5分。
启示与展望
评测在PresentBench上进行,该基准按基础、视觉设计、完整性、正确性和忠实度五项打分,并提供源文档而非计划,因此这些运行中由另一个前沿模型先从文档起草计划,Palette再据此建幻灯片;报告覆盖经济学、教育、Talk三个领域,基线数字取自PresentBench论文。作者表示尚不清楚有哪个基准衡量幻灯片是否遵循特定设计语言。
作者称最难的忠实度问题——幻灯片出现输入中没有的事实——无法靠提示规则阻止,最终靠固定参考幻灯片改变教师模型输出;Talk这类叙事与演讲驱动的领域上,两个闭源系统得分更高,Palette排第三。作者还表示希望缩小图表密集幻灯片的差距,并探索用一两份现有.pptx文件重换外观而无需重训。
