“如何获得首批SFT精调数据?”的版本间的差异
(创建页面,内容为“{{4}} '''如何获得首批SFT精调数据?'''<br> '''高质量训练数据要求:'''<br> √场景一致:训练样本分布要与真实业务场景相吻…”) |
(没有差异)
|
2024年12月9日 (一) 05:15的版本
如何获得首批SFT精调数据?
高质量训练数据要求:
√场景一致:训练样本分布要与真实业务场景相吻合,并覆盖边界场景
□单轮/多轮分布、业务场景分布(用户Query意图/标签/...)
√语义清晰:Prompt意图清晰、语义独立,描述简洁易懂
√指令遵循:Response严格遵循Prompt,指令均被满足
□字数、主题、人设、关键词.…
□若含Markdown/JSON格式,需严格遵循相应语法
√语法规范:符合中文用语规范、标点符号规整
□正确使用句号、分号、列表、换行等标点
□剔除无意义的特殊字符
√价值观对齐:确保客观事实准确、数据脱敏、安全无害
训练数据构建常见难点:
√没数据:没有历史业务积累,难以找到符合业务场景的数据
√格式乱:数据格式混杂,不符合SFT精调数据格式
√质量低:数据中语法错误,问答不匹配,需要依赖人工改写