簡短回答： 一個模式僅以它真正學到的語言可靠地運作,大部分關於英語的培訓在其他地方產生了四個可衡量的懲罰:準確度較低、象徵性通貨膨脹造成的運行成本較高、安全防護裝置較弱、文化錯誤沒有基準漁獲量。 將不安全的提示轉換成低資源語言,比如Zulu,在布朗大學的研究中,大約80%的時間從GPT-4中產生了有害的反應。 任何語言都失敗的守護者都是任何人都可以使用免費翻譯工具繞行的守護者。
核心重點
- 多語言培訓數據在一個模型內部改變三件事:標緻器效率,將存儲的知識轉換成特定語言的內部層,以及模型只短暫看到的語言的概括.
- 比較標語分析發現,一些語言,如阿拉伯語,需要的同文本的標語遠多於英語,這提高了成本,縮小了可用上下文,並增加了潛移性——一種模式研究者稱之爲"託肯稅".
- 布朗大學的研究人員繞過GPT-4的安全拒絕時間大約80%,將不安全的英語提示翻譯爲Zulu等低資源語言,因爲安全校對是每一種語言訓練,而不是在它們之間繼承.
- 翻譯將單詞移動但不會註冊,本地參考點,或將假設烘烤成原始文本,因此它起到連接語言覆蓋的橋樑的作用,但不能替代本地語數據.
- 多語言培訓也日益提高英語的性能:非英語推理數據強化學習產生了精度增益,通過監督微調的方式,跨語言的精度轉移並沒有實現.
爲什麼一個在英語中成績優異的模型在國外仍然失敗?
基準分數衡量模型所訓練的語言,而不是客戶使用的語言,能力不會自動跨越語言邊界。
考慮一個支持助理,在測試中處理無瑕疵的退賠糾紛,然後將船交給客戶,用印度尼西亞語寫作。它回答一個分期付款計劃的問題,好像它是一種貸款違約。它回答禮貌的正式措辭,用粗魯的語氣讀來讀來讀去粗魯。它偶爾會毫無理由地用英語回答。 發射清單中沒有任何預言,因爲清單是用英文寫的,並以英文通過。
對多語種推理的研究反覆發現同樣的模式:模型在以英語提出任務時處理得很好,在以資源較少的語言表達相同任務時則退化. 知識經常存在. 所缺少的是能夠通過另一種語言可靠地達到它,因爲概念和文字之間的路徑幾乎完全建立在英語的例子上。這是買方越來越多地要求的原因之一。 多種語文的AI數據收集服務包括什麼 簽署培訓數據合同之前
在一個模型中,多語言數據實際上有什麼變化?
多語種數據在三個不同深度下會改變三件事:文本是如何壓縮成符的,存儲的知識是如何轉換成特定語言的,模型對語言的概括性如何,只短暫地看出來.
託基納 將文本拆解成符號的組件,然後一個模型才能處理它. 託肯尼澤效率. 文本被一個象徵性的器件打破,它學會壓縮訓練期間所見到的任何東西。餵食一個英語的飲食,學習英語的緊湊表述,並將其他一切當作不熟悉的碎片。多種語言的數據改變了象徵性的器件所認爲的普通 — — 而這個決定是固定在模型的生命中的。
轉法界. 模型如何處理跨語言的事實的研究顯示,知識存儲在基本上屬於語言不可知的內部空間中,而錯誤往往出現在最後一步,當內部代表被轉換回特定語言時。 多語言培訓數據恰恰加強了這種轉換,利用了與語言相同的基礎過程。 管理多語種數據收集——這是知道某事的模型和可以正確用越南語表達的模型之間的區別.
超出訓練清單的通用化。 由於相關語言共享結構,接觸許多語言有助於模型在只短暫看到的語言中做出更好的猜測。 即使是對於計劃從未出現的語言來說,麪包也很重要。 語言的應用也更能滿足人們的期待。
爲什麼用另一種語言運行AI產品更貴?.
模型充電和思考在符號上,同一句話在符號符號上變得遠不止於符號,而代號器並不是圍繞這些符號而建的,這提高了成本,縮小了上下文,增加了潛伏度,而根本思想沒有改變.
業者稱此爲 代扣稅:額外的代幣,因此額外的成本,耐用性和上下文消耗,以表示同一種表示器所要語言的同義性,沒有優化. 關於標緻器公平性的研究發現,譯成不同語言的同一文本可以產生極其不同的標緻數——不同語言之間有數倍的差異,其基本內容相同。
| 後果 | 爲什麼? |
|---|---|
| 費用增加 | 雙向每個符號的 API 賬單 |
| 上下文縮水 | 適合英文的文件可能會在泰盧固語或日語中溢出相同的上下文窗口 |
| 時間長了 | 還有很多事情要做 |
令人不快的是誰支付。 研究許多語言的象徵性化的研究發現,在低收入地區,懲罰往往最重地落在語言上,這意味着最沒有能力承擔成本的市場對同樣的情報收費最多。 更好的多語種培訓數據是少數結構性修正之一,因爲一個經過了真正多樣化文本編碼培訓的標語器從一開始就能更有效地編碼文本。 AI培訓的高資源與低資源語言.
爲什麼其他語言的安全護欄會削弱?
安全校準是經過訓練的,而不是繼承的,因此,護欄只存在於其所教的語言中,而且一個模式可以嚴格使用英語,同時允許使用資源少的語言。
布朗大學的研究人員顯示,使用不安全的英語提示,用免費翻譯工具將其翻譯成Zulu等低資源語言,然後送到GPT-4,在大約80%的時間裏產生了有害的反應,而這個模式拒絕英語中的同樣要求,不需要任何技術技能。
有關多語言越獄的後續研究發現,這一畫面正在繼續演變:隨着實驗室補齊最直接的翻譯攻擊,分散在幾個對話回合的提示仍然以低資源語言比英語高有意義的速度成功。 戰略要點是被忽略的。 這不僅是這些語言的使用者的問題。 任何語言的故障都是一種用翻譯工具和30秒的翻譯工具可以繞行的護衛。 多語言安全數據是一種安全控制,而不是一種多樣化姿態,它也是後面的紀律。 如何爲LLM紅色團隊建設安全和越獄數據集.
翻譯能做工作嗎?
翻譯會移動詞。 它不會移動意義、 上下文、 註冊或意圖, 它繼承了每一個被烤成原始英語的假設。 它作爲橋樑確實有用, 錯誤是把它當作替代品。
三件事都打破了。註冊和禮貌得到平淡化——許多語言在語法中編碼形式,資歷和社會距離,因此翻譯後的回覆在技術上可以正確,在社會上是錯誤的,在顧客面前的產品中讀起來是粗魯的. 地方參考點消失——價格,法律術語,文件名稱,支付方法,節假日和單位都帶有地方含義,一個翻譯的英文答案悄悄地會出錯. 原始框架還存在, 所以基於英語假設的模式 銀行、醫療或家庭結構如何維持這些假設 並用新語言表達這些假設。
還有一個複合效果。 當翻譯文本用於訓練或評價時,翻譯錯誤會成爲訓練信號,模型學習的語言會略微扭曲,然後對使用同一翻譯工具的人來說是正確的。土著演說者會打破這個循環,其他的都一樣。
多語種數據是否也使英語模式更好?
越來越多的人同意,因爲兩個獨立的原因:使用一種以上語言的培訓似乎將一種模式推向通俗化的戰略,而現在,未使用的非英文文本的供應量比未使用英文文本的供應量大。
跨語通論. 在2025年的一項研究中,一個在非英語推理數據方面加強學習的模型不僅在英語方面得到了改進,在其他幾種語言的評價方面也得到了很大改進——遠遠超過了監督對同樣數據進行的微調。 其他工作發現,與實際記憶不同的是,各種語文之間的推理技巧轉讓非常好。
供給. Epoch AI關於數據縮放項目的研究,在目前的趨勢下,前沿培訓將在2026年至2032年的某個地方完全消耗現有的優質公共人類文本,英語是開採速度最快,因此首先耗盡的部分. 同時,世界上大多數語言產出從未數字化——它坐落在語言、地方平臺、信息傳遞和無證方言中。
把這些數據集中起來,多語種數據不再看起來像一個成本中心,而同時是人類產生的培訓數據中尚未開發的最大儲備,也是提高一般能力的途徑。
團隊建築AI實際上應該做什麼?
團隊應在培訓開始前有意選擇語文覆蓋面,自行評價每種語文,而不是彙總分數,讓講本地語的人保持循環,而不是隻依靠翻譯或自動檢查。
- 故意挑語言,早點挑 語言覆蓋影響標語設計和數據組合,兩者都痛苦地在後來改變. 發射後對一種語言的改造成本遠不止於將它納入計劃.
- 評估每種語言,從不彙總。 單一平均得分完全掩蓋了重要的失敗。 準確性、拒絕行爲、語氣和安全性應當按照發言者編寫的基準而不是翻譯成其語言來衡量,具體做法詳見: 如何爲地方政府管理課程建立多語種評價集.
- 紅隊用你每一種語言 鑑於護欄的退化 僅用英語進行的安全評估 幾乎不告訴你實際的暴露
- 以譯爲橋,不以基. 這是一種合理的覆蓋方式,當準確性、安全性或品牌語氣處於線上時,它不能取代語言數據。
- 將語言的揚聲器保持循環. 自動檢查確認格式和完整性。 他們不能告訴你該模型是低級的, 使用錯誤的長者登記冊, 或者發明了一個在該國不存在的法律術語 。
怎麼樣 Lifewood 採用多語種數據收集方法?
Lifewood的多語種作品處於無法替代作者的階段:由本地人而不是翻譯來進行收集,註釋,評價和紅色團隊化.
人間lo. 本地語言的人審查並正確機器輸出而不是自動接受。 實際結果是,一個模型在某一語言中的行爲是由說出它的人來判斷的,而不是由十幾種語言的平均分數來判斷的。 這是一個交付網絡問題,而不是一個工具問題: 100+ 語言 包括代表性不足的方言,以及 40+ 跨省服務中心 30+ 國家而在某一節目中,每個節目的紅色團隊和每個語言的評價在它們重要的時候——在啓動之前,而不是在安全事件之後——是實際可行的。 56,000+ 登記繳款人以及單獨地,Lifewood的孟加拉國勞動力 單獨記錄了 414,120 培訓時間 2025年,參加全國人民代表大會.
質量在人行走模式下,與客戶覈准的黃金組合進行覈查,地點爲 95%+ 準確率 SLA,以每種語文報告,而不是以彙總數字。 10家全球前十大多語種AI數據收集公司.