简短回答： 多语言文本数据在四个不同阶段进入LLM,每个阶段都需要不同的数据:每个语言符号层以上的预训需求量,标语符需要脚本多样性,教学调音需要提示和本地语者写的答案,以及用语言构建的评价需求测试集. 最近的研究也推翻了旧的假设,即添加语言必然会耗费性能. 惩罚来自细微的符号计数和低质量的corpora,而不是语言计数——这把建模权衡变成了数据操作问题.
将“多种语言数据”作为一个采购项目处理是这项工作中最常见的规划错误。 它导致团队在最便宜的阶段投资过多,在决定模型是否实际可用某种语言的两种情况下投资不足。
这篇作品将四个阶段分开,然后通过2025年的研究所讲到的关于象征楼层,质量过滤以及为什么指示数据仍然必须由人来写来进行.
核心要点
- 多语种文本数据为LLM培训的四个不同阶段服务——预训,标语构建,指令/首选调制和评价——每个阶段都奖励数据的不同属性.
- 2025年的一项研究培训在25至400种语言上进行了1.1B和3B参数模型的测试,发现一旦每种语言都清除了足够的符号计数,添加语言并不一定会损害性能.
- 质量过滤与基线基准分数相符,在多语种预训中使用的培训标志不到15%。
- 教学和偏好数据必须由讲母语的人编写,因为它教授的是文化上特有的行为,而不仅仅是语言;Aya项目对齐了。 513 百万个翻译实例 204,000 人文写对,而不是只依靠翻译.
- 应在由该语言的讲者编写的测试集上对每种语言的多种语言模型进行评价,因为平均分数和翻译基准都掩盖了重要的故障。
多语种文本数据实际是在哪里输入 LLM 训练的?
多语种文本数据通过四个不同阶段进入模型培训,每个阶段都需要不同的数据.
该 预训课程 即原始文本的巨大量,大多是无标签文本,模型从中学习一种语言的形状;其货币是每个语言的符号,并且可以批量地来源. 助推器培训 通常从同一个本体中抽取一个样本,这里的样本中的脚本和语言多样性关系过大,尽管样本也可以是批量来源的. 指令和偏好数据 ——教导一种模式有用、遵循指示和采用适当登记册的提示和反应——不能大量来源;其货币是作者质量。 评价集,它揭示前三个阶段是否有效,取决于是否独立于培训组,同样也不能大量提供。
| 阶段 | 是什么来着? | 货币是什么 | 能批量输入吗? |
|---|---|---|---|
| 培训前文书 | 大量原始文本,大多是无标签文本,模型学习语言形状 | 每种语言的托肯数 | 是 |
| 助推器培训 | 通常从预训书中抽取的样本 | 样本中的脚本和语言多样性 | 是的,但组成关系特别大 |
| 指令和偏好数据 | 提示和反应,教导模型有用,遵循指示,并采用适当的登记册 | 作者质量 | 否 |
| 评价集 | 显示前三个项目是否有效的测试数据 | 脱离培训 | 否 |
要求从不同方向拉动,预训奖励尺度,指示调整奖励作者,评价奖励独立性,一个将所有内容都视为"用这些语言获得更多文字"的方案,将花费大部分预算在最便宜的舞台上.
标语化的决定值得单独关注,因为它是小的,廉价的和永久的。 建立在英语主语样本上的标语化器为模型的生命效率低,显示为成本、耐用性和减少每个语言的有效上下文。 比较这些阶段在培训方案中如何比较的更广义的看法,见《培训与培训》,第3段。 水平对垂直 LLM 培训数据.
多语种的诅咒是真实的吗?
其可衡量,但最近的工作表明,它被广泛误判。
该 咒骂多语种 答案是,在2020年首次描述的,在固定模式能力下,增加语言首先帮助——特别是资源匮乏的语言——然后开始伤害单一语言和跨语言的性能。多年来,它被理解为硬性权衡:覆盖或质量,选择一个。
2025年的一项研究在适当规模上重新审视了这一问题,对1.1B和3B参数模型进行了关于公司参数模型的培训,范围从 25至400种语言其调查结果使旧事变得相当复杂:
- 合并英文和多语文数据 不一定降低任一组的性能,但每种语言在文书中都有足够数量的符号。
- 以英语为主 关键语言 语言家庭都产生了各种好处——与预期相反,从语言家庭内部选择一个支柱并不一定更好。
- 作者将诅咒归咎于模型的有限能力和数据分布,这些分布扩大了以质量差的数据为代表的语言的影响, 而不是添加语言本身.
这是一种有意义的不同问题。“语言竞相争取能力”意味着切换语言。“Thin, 低质的Corpora拖动在一切上”意味着修复Corpora,而这是一个数据操作问题,可以溶解。 权衡哪些语言优先,这些团队首先可以看到权衡在实际中如何发挥作用。 AI培训的高资源与低资源语言.
一种语言需要多少文本?
足够清理一层楼层,地板比份额更重要。 下面,一种语言会发出噪音;在它之上,它会产生能力。
实际含义是: 每个语言符号音量是需要观看的变量,而不是列表中语言的数量。一个400种语言的模型,其中多数语言的符号数微不足道,但并不是400种语言的模型,而是400种标签和少数功能语言的模型。
这也是自然网络分布比例抽样失败的原因。 与网上文本数量成比例的抽样语言和英语的抽样语言大约一半,而尾巴几乎得不到任何信息 — — 完全复制了抽样本来要纠正的不平衡现象。标准反制是: 温度取样,它通过提高小语言的重量来平稳分布,但推得太远,导致资源低的数据被重复,直到模型超量使用.
制定多语种比例法的工作,通过得出最佳抽样比率,将不同语言之间的总损失降到最低,使这项工作更加容易进行。 85M参数 被发现可以概括到几个更大的数量级模型中——这样一队就可以廉价地寻找合适的混合物,并大规模应用.
对资源匮乏的语言来说,令人不快的结论是,清理地板往往需要在线上尚不存在的文本。 如何将语言覆盖范围扩大到地方.
数据质量是否比数据数量高?
决定性地,在多语种环境中,这是最近多语种预培训研究中最令人鼓舞的成果。
有关基于模型的数据选择的工作应用了不同语言家族和脚本的质量过滤,然后训练了1B参数模型来进行比较. 过滤的数据与基准分数相符,使用的培训标志只有15%。
第二个发现更引人注目。 当将多语种模式与接受同样数量相关语言培训的单一语言模式进行比较时,多语种模式接受了有关语言的培训。 过滤 数据效果超过了其单一语言等效。 未过滤 同样的结构、同样的预算、相反的结果——完全由实体质量决定。
对于计划多语言方案的人来说,这重新定义了预算问题。本能是问能够获取多少文本。 更好的问题是,现有文本中有多少值得培训,哪些经核实的语文材料可以取代其他文本。 过滤和整理不是收藏品的间接费用;在多语种培训中,它们就是大部分表演的起源地,这就是为什么 多语种 LLM 培训数据质量 值得作为自己的工作流程来对待
为什么指令数据必须被人们写?
因为它教行为而不是语言,行为在文化上是具体的.
指令调谐 是一个训练阶段, 教预训模式遵循提示并持有一个适合对话的注册, 不同于预训, 它只教它语言的形状。 为何这一阶段抵制自动化, 最清楚的证据来自 Aya 项目, 仍然是多语教学调用的参考点 。 它产生了两件非常不同的东西:
| Aya 数据集 | 亚亚收藏 | |
|---|---|---|
| 大小 | ~204,000 即时和完成对 | ~513 百万例 |
| 语言 | 65 | 114 |
| 如何建造 | 由流利的演讲者撰写和审查;~3,000 合作者 119 国家 | 大量微调和机器翻译现有英文数据集 |
| 所交付的 | 行为:登记、适当性、参与 | 面包 |
翻译和调试都十分必要,因为人的努力无法以这种代价相匹配。 但研究人员直接谈到为什么较小的、由人书写的一套程序很重要:从人类注释员那里获得的开放式指示数据很难,而且费用昂贵,正是这种数据使得模型参与对话而并非仅仅正确,而是一种区分,在下文中作了进一步阐述。 翻译以外的问题:原因 AI 需要文化相关数据.
下面有一个结构问题。Pretraining教它语言的模型。教它如何用语言来行为,每一种文化都不同,这都意味着礼貌的拒绝、适当的直接程度、文化上明智的榜样。 翻译本身不能产生。
你怎么知道多语种数据起作用了?
只能通过对每种语言的评价,在使用该语言的人所制作的测试集上。三种失败模式重复出现。
- 横跨语言. 单一多语种的分数以集中的高资源语言为主,一个模型可以整体看起来很固,同时在三分之一的支持语言中无法使用.
- 转换基准。 翻译一套英文测试集,可以对英文而不是语言进行翻译测试,奖励用英文思考和在翻译中回答的模型——评价的用意是抓住的确切行为。
- 测试一下什么是容易衡量的。 准确性是直截了当的。 注册、语气、文化适宜性和拒绝行为都不是,而使用者实际上注意到的是它们。
亚亚的工作也在这里很有启发性:除了模型之外,团队还建造了涵盖近百种语言的评价套房,包括人的评价而不是单靠自动评分。 如何为地方政府管理课程建立多语种评价集.
Lifewood如何接近多语言文本数据?
Lifewood 由受过训练的讲土著语者制作而不是翻译的语文教学、偏好和评价数据。
提示、回应、优先排序和评价集是用语言编写的,这是行为层获得翻译无法携带的注册簿和文化框架的唯一途径。 95%+ 准确率 SLA,并按语言而不是汇总报告,因为平均数字以集中最大的语言为主,并隐藏需要注意的语言——上面描述的用于评价的同样陷阱.
对于清除象征楼层意味着收集不存在在线文本的语言,制约在于位于正确位置的人,而不是工具化. 100+ 语言 包括代表性不足的方言, 40+ 跨省服务中心 30+ 国家 和 56,000+ 登记缴款人 需要这种规模的从头到尾的方案可以看到如何通过下列方式安排行动: 管理多语种数据收集 和 企业 LLM 培训数据.