提示词写得越细,模型未必越好:四个大模型生成安全帽分类器,最详细的一档让两个模型准确率跌到0.58
核心概要
让ChatGPT、Claude、Gemini和Grok按三档由粗到细的提示词生成PyTorch安全帽佩戴分类训练脚本,在972张平衡图像上各跑20次:十二个配置中十个收敛到0.957至0.967的准确率平台,但最详细的第三档让Gemini和Grok跌到约0.58,脚本仍能运行却不收敛。对照消融显示,从零训练的多尺度卷积结构在两种学习率调度下都失败,而预训练ResNet18骨干在两种调度下都收敛。
深度剖析
安全帽佩戴合规分类器的训练脚本可以由大语言模型直接生成,四个前沿模型在最少约束下都给出了可运行且准确率高的PyTorch流程。 此前这类个人防护装备视觉监测的卷积网络训练流程依赖人工架构决策和大量超参数搜索,耗时且依赖专家。 在972张平衡图像、494张留出测试集上,第一档提示词下四个模型的准确率为0.957至0.967,AUC为0.991至0.993,与人工编写的ResNet50、EfficientNet-B0和YOLOv8-nano分类基线处于同一平台。
提示词越具体并不稳定地带来更好结果,最详细的一档反而让两个模型生成的流程失去判别能力。 结构化程度提高本应改善生成代码的正确性和下游性能,但可执行率在三档都保持100%的同时,收敛成功率从第一、二档的100%降到第三档的50%。 Gemini和Grok在第三档的准确率分别为0.576和0.591,接近平衡二分类的0.5随机水平,AUC降至0.651和0.663,相对第一档参考准确率0.9613的性能增益为负0.3854和负0.3705。
失败来自被逐字执行的从零训练多尺度结构,而不是提示词长度或学习率调度本身。 收敛的ChatGPT和Claude在第三档悄悄换用了预训练ResNet18骨干,而失败的Gemini和Grok照规格搭建了从零训练的32到64到128到256通道并行3乘3与5乘5卷积网络。 交叉骨干与调度的2乘2消融中,预训练骨干在CosineAnnealingLR和ReduceLROnPlateau下准确率为0.945和0.947,从零多尺度结构在两种调度下为0.533和0.570。
启示与展望
结论建立在单主体、图像级的安全帽与无安全帽二分类上,数据为972张平衡图像,训练与推理全部在Apple M3的CPU上完成,未使用GPU加速。所比较的基线是作者手写的浅层CNN、ResNet50、EfficientNet-B0和YOLOv8-nano分类头,全部在同一494张测试集上评估。作者明确指出,这些结果不构成经过验证的工业监测系统,真实部署涉及多工人、遮挡以及光照、视角和安全帽样式变化,需要现场验证。
每个模型与提示词档位的组合只对应一份生成的脚本,20次重复捕捉的是训练随机性,因此关于模型与档位交互的结论指向本次收集窗口内得到的具体脚本,而非各厂商的稳定属性。提示词清晰度是三名评估者的人工评分,特异性分数是显式技术约束的未加权计数。三档固定设置没有覆盖可能触发失败的中间规格,972张图像也可能掩盖更复杂视觉条件下的档位差异。
