Aditi Khandelwal

一项覆盖文本、视觉、音频三种模态的混合专家预训练研究，用268次实验拟合出数据配比规律，并给出可操作的分配结论：音频更该把算力花在参数上，视觉和音频数据重复超过两遍收益很小，视觉对音频的干扰最强。

一项覆盖文本、视觉、音频三种模态的混合专家预训练研究，用268次实验拟合出数据配比规律，并给出可操作的分配结论：音频更该把算力花在参数上，视觉和音频数据重复超过两遍收益很小，视觉对音频的干扰最强。