簡短回答： 橫向LLM培訓數據建立一般能力:廣泛涵蓋許多領域、語言和任務類型,以規模化並按廣度和一致性進行判斷. 縱向LLM培訓數據建立域能力:一個領域由專家制作的材料,由有資格瞭解的人根據正確性判斷. 企業幾乎總是需要兩者兼有,最昂貴的錯誤是在模型的故障是垂直時購買水平量.
核心重點
- 橫向LLM培訓數據由通論者大規模製作,並固定流利度,格式,一般推理和語言覆蓋範圍;縱向LLM培訓數據由經覈實的專家制作,並固定術語,程序,邊緣案例和監管細節.
- 生產行驅動其他一切:通用生產規模,專業生產不,每件物品的垂直成本由專門知識的市場率確定,而不是由註釋率確定.
- 一個在域特異性上流利和錯誤的模型有一個垂直的缺口,沒有量的一般數據會關閉它.
- 將實際失敗歸爲水平或垂直的結構化錯誤審查需要幾天,並按數量順序例行調整培訓數據預算。
- 重垂直微調可以降低一般能力,因此需要針對一般和域性能的單獨評價集來檢測干擾.
水平LLM培訓數據與垂直LLM培訓數據有何區別?.
橫向LLM培訓數據是用許多領域、語言和任務類型的廣泛一般材料彙編的,縱向LLM培訓數據是由一個領域的合格專家編寫的,兩者在來源、製作者、每件物品的成本和質量衡量方面各不相同。
兩個產品,一個標籤,把它們當作一個購買,是大多數企業方案都是錯誤的。
| 標準 | 水平 | 垂直 |
|---|---|---|
| 目標 | 總體能力、廣度、穩健性 | 領域權限和正確性 |
| 覆蓋範圍 | 許多域、語言、任務類型 | 一個領域,深度 |
| 製作人 | 規模化的普世論家和作家 | 合格領域專家 |
| 音量 | 高 高 高 高 高 | 相對水平低 |
| 每個項目的費用 | 下調 | 高得多的 高得多的 高得多的 高得多的 高得多的 高得多的 |
| 質量計量方式 | 一致性、對照分層計劃覆蓋、機會調整的協議 | 專家審評;事實正確性;實踐貨幣 |
| 主要風險 | 向最容易找到的東西方向滑 | 過於狹窄; 一個小領域的模型專家 和它的弱點 |
| 修補 | 流利、格式、一般推理行爲、語言覆蓋 | 術語、程序、邊緣案例、規章細節 |
生產排是驅動其他一切的排。 通用生產規模;專業生產沒有,其成本由專門知識的市場率而不是註釋率決定。 公佈的證據也指出了同樣的方式: 放大指令調試任務的多樣性可以提高一般的被擱置性能,一種水平效應,而BloombergGPT的域名結果來自於在一般數據中添加一個被整理的域內元件. RLHF, SFT 和蒸餾 包括每個實體提供哪些培訓方法。
一個模型何時需要橫向培訓數據?
當模型的弱點是一般性而非具體的時,它需要橫向培訓數據:遵循的教學不善、格式不一致、在所有主題上推理不強、或者能力在最強語言之外退化。 補救措施是規模化的覆蓋。
水平差距的簽名 :
- 模型一般都很薄弱 而不是一個主題。
- 語言覆蓋是差距。 一個用英語工作,在你們其他市場退化的模型需要用這些語言製作的寬度。
- 你正在訓練或大幅度改造一個基模 而不是調整一個強的。
- 強健是申訴. 模型處理預期的詞組,掉在尷尬的變體上.
本文的質量涉及報道設計和一致性,而不是深度。 重複的失敗是一個龐大和扭曲的集合:過度代表了任何容易來源的東西,通常是新聞、百科全書和論壇文本,以及少代表域和語言的尾部,而現有材料最少。 故意實施限制,並報告每個階層的最小覆蓋率,而不是平均覆蓋率。 多語種LLM培訓數據.
模型何時需要垂直培訓數據?
當模型產生自信、有良好結構的輸出時,需要縱向培訓數據,其中包含一個從業者會立即趕上的錯誤。 這就是垂直差距的診斷特徵,而且它不會在任何量上通過一般數據來改進。
垂直缺口的簽名 :
- 流利而錯誤錯誤會立刻被醫生髮現
- 術語漂移。 使用術語在一般意義上是正確的,在你的字段含義上是錯誤的.
- 程序漏洞。 知某過程名爲何,而非令或例外.
- 監管和貨幣問題。 標出一條真實的規則,或者在不同的法域中是真實的。
- 僅由從業人員承認的邊緣情況 也一樣重要
質量是合格人員判斷的正確性,這徹底改變了來源問題。
- 鑑定的專業知識. 資格檢查,而不是自封。 演示是上限: 無法生產專家質量輸出的寫手會生成數據, 將模型教導爲非專家。 Name
- 貨幣 實地行動。反映五年前做法的一套文書將訓練一個模式,使其自信過時,對時間敏感材料應有一個審查的考量。
- 管轄權和市場特點。 受監管領域因市場而異,"金融"不是一個領域,而是每個監管制度的一個領域.
指導指南中涵蓋了對專家作家的篩選和篩選。 域專家 SFT 數據集.
如何判斷一個模型需要水平數據還是垂直數據?
在購買任何物品之前對實際失敗進行結構化錯誤審查,將每次失敗歸類爲水平或垂直差距,並計算特定域的錯誤份額。如果該份額很高,一般量將不會移動它;如果它低,昂貴的專家寫是錯誤的購買。
實例 真實失敗和分類 :
| 症狀 | 可能存在差距 |
|---|---|
| 格式錯誤, 忽略了指令, 亂編 | 水平( 行爲) |
| 英語正確,另一種語言差 | 水平(語言覆蓋) |
| 跨步驟問題一般因故中斷 | 水平( 能力) |
| 流利輸出,特定域的事實錯誤 | 垂直 |
| 右一般名詞, 錯誤的字段特定含義 | 垂直 |
| 正確,一個轄區,錯誤的你 | 垂直( 市場特性) |
| 僅稀有輸入失敗,否則罰款 | 任意; 在購買深度前檢查覆蓋 |
Vertical share of errors = Domain-specific errors ÷ Total errors reviewed
檢查花費幾天時間,並且按數量順序例行調整預算。在診斷之前購買數量是浪費資金的最常見方式。如果樣本來自生產流量,則指南將指導人們如何在診斷之前購買數量。 將生產日誌轉化爲培訓數據 包括無偏見的取樣。
橫向和縱向培訓數據如何合併在一個方案中?
它們依次比同時更經常地結合:一般行爲首先與水平數據建立起來,縱向深度在之後的狹小程度上增加,兩者都單獨評價,因爲每種行爲都可能倒退,而無需注意對方的基準.
- 橫向建立行爲。 格式,指令跟隨和語言覆蓋,因爲垂直數據不能固定一個不會遵循指令的模型.
- 插入垂直深度狹義,針對審查發現的特定錯誤類別。
- 爲兩者建立評價套件,單獨。一般基準將無法檢測域迴歸,而域基準將無法檢測一般基準。
- 複試攝入干擾. 重力垂直微調可以降低一般能力;持續微調過程中的災難性遺忘在研究文獻中被記錄下來,而一個在你的領域變得優秀,在其它領域變得更糟的模型,是一個已知的可以避免的結果。 只有一套一般評價纔會揭示出來。
有用的預算編制彈性: 垂直數據在判斷時會購買正確性, 水平數據會購買使模型完全可用的能力。 跳過水平層的程序會產生一個專家的和無法使用的模型; 跳過垂直層的程序會產生一個令人愉快和錯誤的模型。 設計配對評價集在指南中涵蓋 企業評價基準.
你該問一個培訓數據供應商什麼?
問供應商是否在內部生產一般規模和專家數據,如何驗證域域內專門知識,如何劃分橫向覆蓋範圍,如何保持縱向內容流暢,以及是否對兩者進行不同的質量衡量。 不能單獨回答的供應商很可能與同一人同時產生。
談話清單:
- 你實際上在內部生產哪些產品:一般生產,專家生產,還是兩者兼而有之?
- 如何覈查縱向工作的域專長?
- 你橫向覆蓋的分層計劃是什麼? 每個層的最低覆蓋是多少?
- 如何保持垂直內容流暢, 以及是什麼節奏?
- 對於多語種作品,縱向內容是市場生產的還是翻譯的?
- 如何對兩者的質量進行不同的衡量,我能否看到這兩個數字?
- 保鏢是誰的,我們能全部出口嗎?
紅旗:兩者的混合價格,通常意味着專家工作由通論者製作;專才被描述爲自述;橫向的體格,沒有分層計劃;非英語市場中通過翻譯英語源材料而製作的垂直內容,它與語言一起導入錯誤的管轄範圍. 排名列表 LLM 培訓數據公司 比較供應商的規模、語言和專家深度。
Lifewood如何處理橫向和縱向LLM培訓數據?
Lifewood 提供水平和垂直 LLM 培訓數據作爲不同的服務,而不是一種混合服務,因爲這些是不同的生產問題:橫向 LLM 數據是垂直的覆蓋操作 LLM 數據是一種專家資源業務,同樣的定價意味着其中之一是由錯誤的人生產的。
多語種層面貫穿於兩者,是交付模式最爲重要的地方。 100+ 語言, 40+ 跨省服務中心 30+ 國家 56,000+ 註冊貢獻者可以上市而不是翻譯,對於不是質量偏好而是正確要求的縱向內容,因爲一個翻譯過的域名會輸入源市場的監管假設。 Lifewood的,因爲 企業 LLM 培訓數據 範圍擴大到 RLHF, SFT數據蒸餾和反應評價,以及橫向層的市場生產 多種語文數據收集 操作。 Lifewood 創建於 2004 並且曾經在 AI 數據20多年。
兩種提供方式分別作爲服務頁,B型水平LLM數據和C型垂直LLM數據發佈,同時提供A型數據服務,以下資料來源列出.