简短回答： 横向LLM培训数据建立一般能力:广泛涵盖许多领域、语言和任务类型,以规模化并按广度和一致性进行判断. 纵向LLM培训数据建立域能力:一个领域由专家制作的材料,由有资格了解的人根据正确性判断. 企业几乎总是需要两者兼有,最昂贵的错误是在模型的故障是垂直时购买水平量.
核心要点
- 横向LLM培训数据由通论者大规模制作,并固定流利度,格式,一般推理和语言覆盖范围;纵向LLM培训数据由经核实的专家制作,并固定术语,程序,边缘案例和监管细节.
- 生产行驱动其他一切:通用生产规模,专业生产不,每件物品的垂直成本由专门知识的市场率确定,而不是由注释率确定.
- 一个在域特异性上流利和错误的模型有一个垂直的缺口,没有量的一般数据会关闭它.
- 将实际失败归为水平或垂直的结构化错误审查需要几天,并按数量顺序例行调整培训数据预算。
- 重垂直微调可以降低一般能力,因此需要针对一般和域性能的单独评价集来检测干扰.
水平LLM培训数据与垂直LLM培训数据有何区别?.
横向LLM培训数据是用许多领域、语言和任务类型的广泛一般材料汇编的,纵向LLM培训数据是由一个领域的合格专家编写的,两者在来源、制作者、每件物品的成本和质量衡量方面各不相同。
两个产品,一个标签,把它们当作一个购买,是大多数企业方案都是错误的。
| 标准 | 水平 | 垂直 |
|---|---|---|
| 目标 | 总体能力、广度、稳健性 | 领域权限和正确性 |
| 覆盖范围 | 许多域、语言、任务类型 | 一个领域,深度 |
| 制作人 | 规模化的普世论家和作家 | 合格领域专家 |
| 音量 | 高 高 高 高 高 | 相对水平低 |
| 每个项目的费用 | 下调 | 高得多的 高得多的 高得多的 高得多的 高得多的 高得多的 |
| 质量计量方式 | 一致性、对照分层计划覆盖、机会调整的协议 | 专家审评;事实正确性;实践货币 |
| 主要风险 | 向最容易找到的东西方向滑 | 过于狭窄; 一个小领域的模型专家 和它的弱点 |
| 修补 | 流利、格式、一般推理行为、语言覆盖 | 术语、程序、边缘案例、规章细节 |
生产排是驱动其他一切的排。 通用生产规模;专业生产没有,其成本由专门知识的市场率而不是注释率决定。 公布的证据也指出了同样的方式: 放大指令调试任务的多样性可以提高一般的被搁置性能,一种水平效应,而BloombergGPT的域名结果来自于在一般数据中添加一个被整理的域内元件. RLHF, SFT 和蒸馏 包括每个实体提供哪些培训方法。
一个模型何时需要横向培训数据?
当模型的弱点是一般性而非具体的时,它需要横向培训数据:遵循的教学不善、格式不一致、在所有主题上推理不强、或者能力在最强语言之外退化。 补救措施是规模化的覆盖。
水平差距的签名 :
- 模型一般都很薄弱 而不是一个主题。
- 语言覆盖是差距。 一个用英语工作,在你们其他市场退化的模型需要用这些语言制作的宽度。
- 你正在训练或大幅度改造一个基模 而不是调整一个强的。
- 强健是申诉. 模型处理预期的词组,掉在尴尬的变体上.
本文的质量涉及报道设计和一致性,而不是深度。 重复的失败是一个庞大和扭曲的集合:过度代表了任何容易来源的东西,通常是新闻、百科全书和论坛文本,以及少代表域和语言的尾部,而现有材料最少。 故意实施限制,并报告每个阶层的最小覆盖率,而不是平均覆盖率。 多语种LLM培训数据.
模型何时需要垂直培训数据?
当模型产生自信、有良好结构的输出时,需要纵向培训数据,其中包含一个从业者会立即赶上的错误。 这就是垂直差距的诊断特征,而且它不会在任何量上通过一般数据来改进。
垂直缺口的签名 :
- 流利而错误错误会立刻被医生发现
- 术语漂移。 使用术语在一般意义上是正确的,在你的字段含义上是错误的.
- 程序漏洞。 知某过程名为何,而非令或例外.
- 监管和货币问题。 标出一条真实的规则,或者在不同的法域中是真实的。
- 仅由从业人员承认的边缘情况 也一样重要
质量是合格人员判断的正确性,这彻底改变了来源问题。
- 鉴定的专业知识. 资格检查,而不是自封。 演示是上限: 无法生产专家质量输出的写手会生成数据, 将模型教导为非专家。 Name
- 货币 实地行动。反映五年前做法的一套文书将训练一个模式,使其自信过时,对时间敏感材料应有一个审查的考量。
- 管辖权和市场特点。 受监管领域因市场而异,"金融"不是一个领域,而是每个监管制度的一个领域.
指导指南中涵盖了对专家作家的筛选和筛选。 域专家 SFT 数据集.
如何判断一个模型需要水平数据还是垂直数据?
在购买任何物品之前对实际失败进行结构化错误审查,将每次失败归类为水平或垂直差距,并计算特定域的错误份额。如果该份额很高,一般量将不会移动它;如果它低,昂贵的专家写是错误的购买。
实例 真实失败和分类 :
| 症状 | 可能存在差距 |
|---|---|
| 格式错误, 忽略了指令, 乱编 | 水平( 行为) |
| 英语正确,另一种语言差 | 水平(语言覆盖) |
| 跨步骤问题一般因故中断 | 水平( 能力) |
| 流利输出,特定域的事实错误 | 垂直 |
| 右一般名词, 错误的字段特定含义 | 垂直 |
| 正确,一个辖区,错误的你 | 垂直( 市场特性) |
| 仅稀有输入失败,否则罚款 | 任意; 在购买深度前检查覆盖 |
Vertical share of errors = Domain-specific errors ÷ Total errors reviewed
检查花费几天时间,并且按数量顺序例行调整预算。在诊断之前购买数量是浪费资金的最常见方式。如果样本来自生产流量,则指南将指导人们如何在诊断之前购买数量。 将生产日志转化为培训数据 包括无偏见的取样。
横向和纵向培训数据如何合并在一个方案中?
它们依次比同时更经常地结合:一般行为首先与水平数据建立起来,纵向深度在之后的狭小程度上增加,两者都单独评价,因为每种行为都可能倒退,而无需注意对方的基准.
- 横向建立行为。 格式,指令跟随和语言覆盖,因为垂直数据不能固定一个不会遵循指令的模型.
- 插入垂直深度狭义,针对审查发现的特定错误类别。
- 为两者建立评价套件,单独。一般基准将无法检测域回归,而域基准将无法检测一般基准。
- 复试摄入干扰. 重力垂直微调可以降低一般能力;持续微调过程中的灾难性遗忘在研究文献中被记录下来,而一个在你的领域变得优秀,在其它领域变得更糟的模型,是一个已知的可以避免的结果。 只有一套一般评价才会揭示出来。
有用的预算编制弹性: 垂直数据在判断时会购买正确性, 水平数据会购买使模型完全可用的能力。 跳过水平层的程序会产生一个专家的和无法使用的模型; 跳过垂直层的程序会产生一个令人愉快和错误的模型。 设计配对评价集在指南中涵盖 企业评价基准.
你该问一个培训数据供应商什么?
问供应商是否在内部生产一般规模和专家数据,如何验证域域内专门知识,如何划分横向覆盖范围,如何保持纵向内容流畅,以及是否对两者进行不同的质量衡量。 不能单独回答的供应商很可能与同一人同时产生。
谈话清单:
- 你实际上在内部生产哪些产品:一般生产,专家生产,还是两者兼而有之?
- 如何核查纵向工作的域专长?
- 你横向覆盖的分层计划是什么? 每个层的最低覆盖是多少?
- 如何保持垂直内容流畅, 以及是什么节奏?
- 对于多语种作品,纵向内容是市场生产的还是翻译的?
- 如何对两者的质量进行不同的衡量,我能否看到这两个数字?
- 保镖是谁的,我们能全部出口吗?
红旗:两者的混合价格,通常意味着专家工作由通论者制作;专才被描述为自述;横向的体格,没有分层计划;非英语市场中通过翻译英语源材料而制作的垂直内容,它与语言一起导入错误的管辖范围. 排名列表 LLM 培训数据公司 比较供应商的规模、语言和专家深度。
Lifewood如何处理横向和纵向LLM培训数据?
Lifewood 提供水平和垂直 LLM 培训数据作为不同的服务,而不是一种混合服务,因为这些是不同的生产问题:横向 LLM 数据是垂直的覆盖操作 LLM 数据是一种专家资源业务,同样的定价意味着其中之一是由错误的人生产的。
多语种层面贯穿于两者,是交付模式最为重要的地方。 100+ 语言, 40+ 跨省服务中心 30+ 国家 56,000+ 注册贡献者可以上市而不是翻译,对于不是质量偏好而是正确要求的纵向内容,因为一个翻译过的域名会输入源市场的监管假设。 Lifewood的,因为 企业 LLM 培训数据 范围扩大到 RLHF, SFT数据蒸馏和反应评价,以及横向层的市场生产 多种语文数据收集 操作。 Lifewood 创建于 2004 并且曾经在 AI 数据20多年。
两种提供方式分别作为服务页,B型水平LLM数据和C型垂直LLM数据发布,同时提供A型数据服务,以下资料来源列出.