简短回答： 一个模式仅以它真正学到的语言可靠地运作,大部分关于英语的培训在其他地方产生了四个可衡量的惩罚:准确度较低、象征性通货膨胀造成的运行成本较高、安全防护装置较弱、文化错误没有基准渔获量。 将不安全的提示转换成低资源语言,比如Zulu,在布朗大学的研究中,大约80%的时间从GPT-4中产生了有害的反应。 任何语言都失败的守护者都是任何人都可以使用免费翻译工具绕行的守护者。
核心要点
- 多语言培训数据在一个模型内部改变三件事:标致器效率,将存储的知识转换成特定语言的内部层,以及模型只短暂看到的语言的概括.
- 比较标语分析发现,一些语言,如阿拉伯语,需要的同文本的标语远多于英语,这提高了成本,缩小了可用上下文,并增加了潜移性——一种模式研究者称之为"托肯税".
- 布朗大学的研究人员绕过GPT-4的安全拒绝时间大约80%,将不安全的英语提示翻译为Zulu等低资源语言,因为安全校对是每一种语言训练,而不是在它们之间继承.
- 翻译将单词移动但不会注册,本地参考点,或将假设烘烤成原始文本,因此它起到连接语言覆盖的桥梁的作用,但不能替代本地语数据.
- 多语言培训也日益提高英语的性能:非英语推理数据强化学习产生了精度增益,通过监督微调的方式,跨语言的精度转移并没有实现.
为什么一个在英语中成绩优异的模型在国外仍然失败?
基准分数衡量模型所训练的语言,而不是客户使用的语言,能力不会自动跨越语言边界。
考虑一个支持助理,在测试中处理无瑕疵的退赔纠纷,然后将船交给客户,用印度尼西亚语写作。它回答一个分期付款计划的问题,好像它是一种贷款违约。它回答礼貌的正式措辞,用粗鲁的语气读来读来读去粗鲁。它偶尔会毫无理由地用英语回答。 发射清单中没有任何预言,因为清单是用英文写的,并以英文通过。
对多语种推理的研究反复发现同样的模式:模型在以英语提出任务时处理得很好,在以资源较少的语言表达相同任务时则退化. 知识经常存在. 所缺少的是能够通过另一种语言可靠地达到它,因为概念和文字之间的路径几乎完全建立在英语的例子上。这是买方越来越多地要求的原因之一。 多种语文的AI数据收集服务包括什么 签署培训数据合同之前
在一个模型中,多语言数据实际上有什么变化?
多语种数据在三个不同深度下会改变三件事:文本是如何压缩成符的,存储的知识是如何转换成特定语言的,模型对语言的概括性如何,只短暂地看出来.
托基纳 将文本拆解成符号的组件,然后一个模型才能处理它. 托肯尼泽效率. 文本被一个象征性的器件打破,它学会压缩训练期间所见到的任何东西。喂食一个英语的饮食,学习英语的紧凑表述,并将其他一切当作不熟悉的碎片。多种语言的数据改变了象征性的器件所认为的普通 — — 而这个决定是固定在模型的生命中的。
转法界. 模型如何处理跨语言的事实的研究显示,知识存储在基本上属于语言不可知的内部空间中,而错误往往出现在最后一步,当内部代表被转换回特定语言时。 多语言培训数据恰恰加强了这种转换,利用了与语言相同的基础过程。 管理多语种数据收集——这是知道某事的模型和可以正确用越南语表达的模型之间的区别.
超出训练清单的通用化。 由于相关语言共享结构,接触许多语言有助于模型在只短暂看到的语言中做出更好的猜测。 即使是对于计划从未出现的语言来说,面包也很重要。 语言的应用也更能满足人们的期待。
为什么用另一种语言运行AI产品更贵?.
模型充电和思考在符号上,同一句话在符号符号上变得远不止于符号,而代号器并不是围绕这些符号而建的,这提高了成本,缩小了上下文,增加了潜伏度,而根本思想没有改变.
业者称此为 代扣税:额外的代币,因此额外的成本,耐用性和上下文消耗,以表示同一种表示器所要语言的同义性,没有优化. 关于标致器公平性的研究发现,译成不同语言的同一文本可以产生极其不同的标致数——不同语言之间有数倍的差异,其基本内容相同。
| 后果 | 为什么? |
|---|---|
| 费用增加 | 双向每个符号的 API 账单 |
| 上下文缩水 | 适合英文的文件可能会在泰卢固语或日语中溢出相同的上下文窗口 |
| 时间长了 | 还有很多事情要做 |
令人不快的是谁支付。 研究许多语言的象征性化的研究发现,在低收入地区,惩罚往往最重地落在语言上,这意味着最没有能力承担成本的市场对同样的情报收费最多。 更好的多语种培训数据是少数结构性修正之一,因为一个经过了真正多样化文本编码培训的标语器从一开始就能更有效地编码文本。 AI培训的高资源与低资源语言.
为什么其他语言的安全护栏会削弱?
安全校准是经过训练的,而不是继承的,因此,护栏只存在于其所教的语言中,而且一个模式可以严格使用英语,同时允许使用资源少的语言。
布朗大学的研究人员显示,使用不安全的英语提示,用免费翻译工具将其翻译成Zulu等低资源语言,然后送到GPT-4,在大约80%的时间里产生了有害的反应,而这个模式拒绝英语中的同样要求,不需要任何技术技能。
有关多语言越狱的后续研究发现,这一画面正在继续演变:随着实验室补齐最直接的翻译攻击,分散在几个对话回合的提示仍然以低资源语言比英语高有意义的速度成功。 战略要点是被忽略的。 这不仅是这些语言的使用者的问题。 任何语言的故障都是一种用翻译工具和30秒的翻译工具可以绕行的护卫。 多语言安全数据是一种安全控制,而不是一种多样化姿态,它也是后面的纪律。 如何为LLM红色团队建设安全和越狱数据集.
翻译能做工作吗?
翻译会移动词。 它不会移动意义、 上下文、 注册或意图, 它继承了每一个被烤成原始英语的假设。 它作为桥梁确实有用, 错误是把它当作替代品。
三件事都打破了。注册和礼貌得到平淡化——许多语言在语法中编码形式,资历和社会距离,因此翻译后的回复在技术上可以正确,在社会上是错误的,在顾客面前的产品中读起来是粗鲁的. 地方参考点消失——价格,法律术语,文件名称,支付方法,节假日和单位都带有地方含义,一个翻译的英文答案悄悄地会出错. 原始框架还存在, 所以基于英语假设的模式 银行、医疗或家庭结构如何维持这些假设 并用新语言表达这些假设。
还有一个复合效果。 当翻译文本用于训练或评价时,翻译错误会成为训练信号,模型学习的语言会略微扭曲,然后对使用同一翻译工具的人来说是正确的。土著演说者会打破这个循环,其他的都一样。
多语种数据是否也使英语模式更好?
越来越多的人同意,因为两个独立的原因:使用一种以上语言的培训似乎将一种模式推向通俗化的战略,而现在,未使用的非英文文本的供应量比未使用英文文本的供应量大。
跨语通论. 在2025年的一项研究中,一个在非英语推理数据方面加强学习的模型不仅在英语方面得到了改进,在其他几种语言的评价方面也得到了很大改进——远远超过了监督对同样数据进行的微调。 其他工作发现,与实际记忆不同的是,各种语文之间的推理技巧转让非常好。
供给. Epoch AI关于数据缩放项目的研究,在目前的趋势下,前沿培训将在2026年至2032年的某个地方完全消耗现有的优质公共人类文本,英语是开采速度最快,因此首先耗尽的部分. 同时,世界上大多数语言产出从未数字化——它坐落在语言、地方平台、信息传递和无证方言中。
把这些数据集中起来,多语种数据不再看起来像一个成本中心,而同时是人类产生的培训数据中尚未开发的最大储备,也是提高一般能力的途径。
团队建筑AI实际上应该做什么?
团队应在培训开始前有意选择语文覆盖面,自行评价每种语文,而不是汇总分数,让讲本地语的人保持循环,而不是只依靠翻译或自动检查。
- 故意挑语言,早点挑 语言覆盖影响标语设计和数据组合,两者都痛苦地在后来改变. 发射后对一种语言的改造成本远不止于将它纳入计划.
- 评估每种语言,从不汇总。 单一平均得分完全掩盖了重要的失败。 准确性、拒绝行为、语气和安全性应当按照发言者编写的基准而不是翻译成其语言来衡量,具体做法详见: 如何为地方政府管理课程建立多语种评价集.
- 红队用你每一种语言 鉴于护栏的退化 仅用英语进行的安全评估 几乎不告诉你实际的暴露
- 以译为桥,不以基. 这是一种合理的覆盖方式,当准确性、安全性或品牌语气处于线上时,它不能取代语言数据。
- 将语言的扬声器保持循环. 自动检查确认格式和完整性。 他们不能告诉你该模型是低级的, 使用错误的长者登记册, 或者发明了一个在该国不存在的法律术语 。
怎么样 Lifewood 采用多语种数据收集方法?
Lifewood的多语种作品处于无法替代作者的阶段:由本地人而不是翻译来进行收集,注释,评价和红色团队化.
人间lo. 本地语言的人审查并正确机器输出而不是自动接受。 实际结果是,一个模型在某一语言中的行为是由说出它的人来判断的,而不是由十几种语言的平均分数来判断的。 这是一个交付网络问题,而不是一个工具问题: 100+ 语言 包括代表性不足的方言,以及 40+ 跨省服务中心 30+ 国家而在某一节目中,每个节目的红色团队和每个语言的评价在它们重要的时候——在启动之前,而不是在安全事件之后——是实际可行的。 56,000+ 登记缴款人以及单独地,Lifewood的孟加拉国劳动力 单独记录了 414,120 培训时间 2025年,参加全国人民代表大会.
质量在人行走模式下,与客户核准的黄金组合进行核查,地点为 95%+ 准确率 SLA,以每种语文报告,而不是以汇总数字。 10家全球前十大多语种AI数据收集公司.