跳至主要内容
AI 数据

你能用机器翻译的数据训练 AI,而不去做母语采集吗?

Lifewood 团队12 分钟阅读

简短回答: 部分可以。机器翻译的数据在预训练、分类与抽取,以及在数据稀缺语言上起步做第一个指令微调检查点时,作为规模补充是有效的。它在开放式生成上较弱,在本地知识上按构造就是缺失的。它绝不应用于评测:一个跨 31 种语言构建的基准发现,同一批问题的本地撰写版本与英译版本之间,表现最好的模型差异超过 20 分。为广度做翻译,为行为做母语采集,测试集永远走母语来源。

核心要点

  • 机器翻译的训练数据是正当的补充,而不是替代:适合预训练规模、分类和起步,对开放式生成较弱,在本地知识上按构造就是缺失的。
  • 翻译数据带着三个各自独立的缺陷——会被模型学去并复现的翻译腔、翻译无法本地化的英语中心化内容,以及变成训练监督信号的机器翻译错误。
  • 母语与翻译数据微调的直接对照研究发现,差异出现在母语与生成类基准上,而正则化有助于结构化任务,对生成类任务无助。
  • 在本地撰写与翻译的测试集之间,表现最好的模型差异可超过 20 分,因此一份翻译的评测集可能为一个母语用户觉得坏掉的模型发合格证。
  • 翻译质量会可测量地向下传导:在一项针对机器翻译基准的诊断研究中,COMET 分数较低的数据集在片段级上出现更高比例的准确性与误译错误。
  • 多语 AI 里最便宜的保险,是一套母语采集的评测集。它只占数据预算的一小部分,却是整个技术栈里唯一能告诉你其余部分真相的环节。

快速对比

在你的技术栈中的角色翻译数据为什么
预训练规模(数据稀缺语言)可接受的补充广度比自然度更重要;仍需要筛选
分类与抽取类微调往往可行标签比风格更容易在翻译中存活
指令微调,首次起步可行,但缓解手段有限正则化有助于结构化任务;生成差距仍在
开放式生成、对话、风格较差的替代翻译腔与内容错配主导输出
本地知识类任务按构造就会失败原始数据从未包含目标市场的知识
评测集不要使用在一个 31 语种基准里,本地撰写与翻译的测试相差超过 20 分

为什么这是每一次多语项目界定会上的第一个问题?

因为这笔账看起来太划算了。把数据机器翻译成十几种语言,成本只是在十几个市场招募母语说话人、写手和审校的一小部分。如果翻译数据等同于母语数据,母语采集就是浪费,所以每个团队都会问能不能跳过它。

你手上有一份成熟的英文数据集,内容是指令、对话或带标签的样本,而这个问题值得一个直截了当的答案,而不是任一方向上的供应商条件反射。两个极端立场都是错的。“翻译就是免费的多语数据”会让你交付出在市场上出丑的产品。“只有母语数据算数”则会把较小的语言彻底挤出覆盖范围,也忽视了确有研究显示翻译数据在正确角色上能真正出力。多语模型在训练中本就已经大规模接触翻译文本,因为对多数语言而言,规模化的母语数据并不存在。

有两个术语框定了这个决定。 机器翻译的训练数据,是用自动翻译系统把既有数据(通常是英文)译入目标语言而得到的文本。 母语数据采集,是直接向目标语言的说话人获取文本、语音或标签,从一开始就用该语言书写或录制。

本文要给的是决定,不是口号:翻译保住了什么、毁掉了什么,以及你的数据栈哪些部分能容忍这个差别。它是我们那篇讲本地知识为何重要的文章的生产方法篇, 超越翻译:为什么 AI 需要有文化相关性的数据,它覆盖同一分界的内容面。

翻译的训练数据到底会出什么问题?

三个各自独立的缺陷:翻译腔、英语中心化的内容,以及被注入的翻译错误。把它们分开看是值得的,因为它们对应不同的修法,而且各自对不同任务的打击程度不同。

翻译腔,是被翻译文本与母语书写文本之间可测量的差别,包括源语言的句式结构、不自然的搭配,以及被压平的文体。 它在人工翻译和机器翻译中同样出现,而且不是换个更好的引擎就能消除的质量缺陷;它是翻译本身的属性,已有数十年语料研究记载。用它训练的模型会学到它。关于大语言模型是否带有英语“口音”的研究直接测量了相关的失败:多语模型产出的非英语文本带有 词汇与语法上的英语中心化模式,这正是母语用户所听到的:即便每个词都对,产品在他们自己的语言里听起来仍像外来货。

英语中心化的内容是第二个缺陷。翻译搬动了词,却留下了原来的世界。一份被翻译的指令集问的仍是美国节假日、英语世界的机构、英制单位和英语文化典故,只是换成了流畅的泰语或斯瓦希里语。你的市场真正会问的知识——本地实体、本地流程、本地默认假设——干脆是缺失的,而翻译这一步无法添上原文从未包含的东西。

第三个是规模化的错误注入。机器翻译会出错,且按语言对和领域分布不均,而在训练流程里,这些错误会变成监督信号。对此最清楚的测量来自对被翻译基准的质量保证工作:一项针对 EU20 基准套件的诊断研究发现 COMET 分数较低的数据集在片段级上出现更高比例的准确性与误译错误,且这一趋势在整个套件中保持一致。会毁掉评测集的东西,也会以同样机制毁掉训练集,只是不那么显眼。

三个缺陷按任务叠加的方式不同。分类标签能很好地活过翻译腔;开放式生成任务则一次吸收全部三个。

关于用翻译数据训练,研究怎么说?

比两边阵营承认的都更微妙,这也是值得去读真实对照实验的原因。在某些任务类型上,翻译数据可以接近母语数据;而在生成任务上、以及在任何本身是母语的测试上,差距就拉开了。

最直接的研究是 《这是适合多语指令微调的好数据,还是只是糟糕的多语评测?》 由 Pinzhen Chen、Simon Yu、Zhicheng Guo 与 Barry Haddow 撰写。它在母语与机器翻译的指令数据上分别微调模型,并用两种方式评测,其发现画出了一张可用的地图:

  • 差异真实存在,但依任务而定。 母语或生成类基准显示出母语指令数据与翻译指令数据之间的明显差异。在其他任务类型上差距不大,这也是翻译在起步阶段仍有一席之地的原因。
  • 你选的基准决定了你能看到什么。 这项研究的提法——是好数据,还是只是糟糕的评测?——本身就是警告:翻译的测试集是回答这个问题的错误仪器,因为它与翻译训练数据共享同样的伪影。
  • 缓解手段比人们期望的更窄。 该论文报告称,正则化有利于弥合结构化任务上的差距,但对生成类任务无效。它没有为生成这一情形给出修复办法。
  • 回译构造是一种诊断,不是补救。 它对回译与单程翻译的对照,指向的是母语资源中知识的重要性,而不是某种可以替代它的翻译技巧。

把视野放大到预训练,图景是允许的但有条件。翻译文本能在语料稀薄的语言上增加体量,这是真实的用途。但多语网络数据审计一直是对“未经筛选的规模能买到什么”的警告:一项对 205 个网络爬取语言语料库的人工审计发现,有整个数据集根本没有可用文本,这一结果我们在以下文章中展开 更多数据会让 AI 变差吗? 翻译会把你喂给它的质量成倍放大,两个方向都是。

为什么翻译的评测数据是另一个、更糟的问题?

因为用翻译数据训练让你损失质量,而用它测试则让你失去看见质量损失的能力。一台会讨好被测对象的测量仪器,比没有仪器更糟。

评测集是一组保留出来、用于衡量模型表现的样本,与训练数据分开存放。 这里的证据很难反驳。MultiLoKo 是一个跨 31 种语言构建的本地知识基准,其问题同时具备本地撰写与英译两个版本,报告称 表现最好的模型差异超过 20 分 之间。因此翻译基准不是真实测试的带噪版本;它是另一个测试,衡量的是被翻译塑形过的能力。

A WMT 2025 实证分析 关于用机器翻译扩展多语基准的研究,从数据集设计一侧给出互补结论:多语数据集当前的语言选择倾向于高估大语言模型在低资源语言上的表现。它发表于第十届机器翻译大会论文集,是一个否则只会以口耳相传形式流通的论断的同行评审依据——即模型卡上的多语数字,恰恰在你最需要它们诚实的那些语言上偏乐观。

实践规则由此直接得出,而且它的绝对性强于训练侧的规则:无论你对翻译训练数据作何决定,你的评测集必须来自母语来源。它们是技术栈里最小的数据集,也是翻译的经济账从来就不吸引人的那一处。我们的指南 为 LLM 构建多语评测集 从采购方一侧得出同样结论:一套用英语搭起来的评测栈套用到其他语言上,分数好看只是因为它从来没有真正测过它们。

“翻译还是采集”的这条线实际划在哪里?

它取决于任务角色与市场重要性,而不是预算条目。为了规模、分类和起步可以用翻译;生成、对话、本地知识、受监管领域,以及永远包括评测,都要做母语采集。

该做翻译的情形: 你需要在语料稀薄的语言上获得预训练规模的体量;你正在起步做第一个指令微调检查点,好有个东西可以迭代;任务是分类或抽取,产品是标签而不是行文;或者该语言属于较晚的上线批次,而翻译数据能在母语采集进行期间买到一个可用的过渡。要应用真正有证据支持的缓解手段:用翻译质量分数对输出做筛选,因为错误率会可测量地跟随这些分数;并记录哪些数据是翻译的,以便日后降权或退役。

该做母语采集的情形: 任务是开放式生成、对话或任何会被用户当成“声音”来读的东西;领域受监管或与安全相邻,流畅的错误就是昂贵的失败;内容需要英文原文从未具备的本地知识;该语言是战略核心而非长尾覆盖;或者——永远且无例外——数据集是用于评测的。语音几乎完全属于母语采集:口音、声学与语码转换无法被翻译,这也是语音项目从一开始就以采集方式运行的原因,其托管流程形态见 语音数据收集程序如何实际运行.

规划上要让比例随时间变化。健康的多语项目通常以翻译为主来取得广度,并随着每种语言证明其市场价值而转向以母语为主,因此语言优先级与“翻译转母语”的时间表应当一起决定。翻译数据是脚手架。错不在用脚手架,错在忘了把楼盖起来。

Lifewood 在客户项目里把这条线划在哪里?

Lifewood 处在这个市场的母语采集一侧,因此在这个决定里诚实的用法,是把它用在研究说母语数据不可让渡的那几个环节:先是评测集,然后是面向生成的微调数据,再然后是语音。

Lifewood Data Technology 提供 覆盖 100+ 种语言的多语数据采集 ,由母语贡献者通过托管交付中心完成。实践中,项目界定对话常常会缩小客户带来的母语采集需求。当一种语言属于长尾覆盖、任务又是分类时,翻译数据加上一套母语采集的评测集,就是站得住的配置,因为母语采集的评测集会精确地显示出翻译训练数据何时不再够用。那个测量对合作关系的价值,高于一张更大的发票。采购方在此基础上比较供应商时,可以用我们的指南 挑选多语数据采集合作方.

这一分界的翻译一侧有自己成熟的供给:机器翻译供应商与语言服务行业在规模上承接翻译数据的生产,而本文引用的学术团队提供任何一侧的供应商都不该自己打分的独立证据。无论你向谁采购,要坚持的配置是同一个——翻译数据在你的流程中被清楚标为翻译数据,而一套母语评测集站在它之外,手里拿着尺子。

如果预算只够做翻译,你该怎么做?

先保住评测集,然后对翻译数据做筛选、打标,并排期替换。预算受限改变的是花钱的顺序,而不是“测试必须是母语”这条原则。

  • 无论如何先保住评测集。 它通常只占数据总量的一小部分。即便其余全部是翻译的,也要用母语采集它;这是省钱项目和盲目项目之间的差别。
  • 对输出做质量筛选 ,配合自动化的翻译质量估计和母语说话人抽检,并丢掉最低那一档,而不是拿它去训练。错误分布与质量分数的吻合程度,足以作为行动依据。
  • 在流程中为翻译数据打标 ,这样它就能按语言被降权或替换,而不必做考古。
  • 把第一笔母语采集的钱花在方差最大的任务上 ——开放式生成与对话——而不是平摊使用。
  • 不要指望靠精巧的翻译流程去弥合生成差距。 证据指向的是母语资源,而不是某种翻译技巧,因此把精巧的回译当作把母语种子数据用好的办法,而不是没有母语种子时的替代品。
  • 每次模型更新后都在母语评测集上重测。 翻译训练差距会随模型代际变化;去测量它,而不是预设它。
  • 为“毕业”排期。 在路线图里写明哪些语言在什么触发条件下从翻译数据转为母语数据——使用量阈值、收入、错误率——这样脚手架才不会默认变成结构。

常见问题

在错误率上更安全,在结构性问题上并不。翻译腔在人工翻译中同样出现,而英语中心化的内容能活过任何译者。人工翻译把质量差距收窄,其成本却常常接近母语创作;到那个点上,母语创作通常胜出,因为它还带来本地知识。

译后编辑能去掉错误、也能缓和最严重的翻译腔,是一个合理的中间档。它无法添上原文缺失的本地知识,而大规模的重度译后编辑成本之高,足以让你在选定任一路线之前,老实地把母语创作拿来比价。

那是一笔风险不同的交易,包括“用 AI-生成的数据训练 AI 模型安全吗?”一文所讲的递归训练退化。直接用目标语言生成可以避开翻译腔,这也是一些团队在指令数据上更偏好它的原因,但它仍然需要母语人工审核。

对随机样本做母语说话人审核是可靠的方法。研究中存在基于分类器的检测,但往往过拟合其训练数据。如果审核者一致地把文本描述为“正确但听起来像外来的”,答案就有了,而你应当在流程中把那批数据标为翻译数据。

翻译后的文本可以用来写语音采集的提示语,但音频本身必须由母语者录制,因为口音、声学与语码转换就是产品本身。用翻译脚本做文本转语音会把两个问题同时放大,产出的音频既不自然,也不代表真实说话人。

钱上不多,优先级上固定。母语评测集是小数据集,对多数项目而言只占数据预算的很低比例。在训练数据如何分配还没开始争论之前,就先把它的预算定下来,因为它是整个技术栈里唯一能衡量其余部分的环节。

Lifewood Data Technology 成立于 2004 年,通过托管交付中心、由母语贡献者完成覆盖 100+ 种语言的多语数据采集,涵盖文本、语音与标注。其项目界定做法是先保住母语评测集,然后是面向生成的微调数据,再然后是语音。

资料来源与延伸阅读

  1. 《这是适合多语指令微调的好数据,还是只是糟糕的多语评测?》(arXiv:2406.12822) ——Chen、Yu、Guo 与 Haddow 对母语数据与翻译数据微调的系统性对照:母语与生成类基准显示出明显差异,正则化有助于结构化任务但无助于生成类任务,而回译对照则指向母语资源中知识的重要性
  2. 《MultiLoKo:跨 31 种语言的多语本地知识基准》(arXiv:2504.10356) ——Hupkes 与 Bogoychev 的报告:在本地撰写与英译测试数据之间,表现最好的模型差异超过 20 分
  3. 《机器翻译用于扩展多语基准的实证分析》(WMT 2025) ——Rajaee、Choenni、Shutova 与 Monz,发表于第十届机器翻译大会论文集:多语数据集当前的语言选择倾向于高估模型在低资源语言上的表现
  4. 《大语言模型有英语“口音”吗?评估并改进多语 LLM 的自然度》(arXiv:2410.15956) ——Guo 等人关于多语模型非英语输出在词汇与语法上的英语中心化模式
  5. 《诊断被翻译的基准:对 EU20 基准套件的自动化质量保证研究》(arXiv:2604.01957) ——Thellmann、Stadler 与 Färber 发现,COMET 分数较低的数据集在片段级上出现更高比例的准确性与误译错误

有 AI 或品牌可见度项目计划吗?

从AI评估和人与人间搜索到GEO和AEO战略,我们的团队可以自信地帮助你们部署,并在AI搜索时代被发现.

联系我们的团队