上云无忧 > 文档中心 > 百度智能云飞桨EasyDL零门槛AI开发平台文本创作 - 数据集去重策略说明
飞桨EasyDL零门槛AI开发平台
百度智能云飞桨EasyDL零门槛AI开发平台文本创作 - 数据集去重策略说明

文档简介:
重复样本的定义: 一个样本包括文本内容和标签。重复样本的定义,是指您上传的数据中,存在两个样本的文本内容完全一致。则被判定为两个样本是重复样本。例如:
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

重复样本的定义

一个样本包括文本内容和标签。重复样本的定义,是指您上传的数据中,存在两个样本的文本内容完全一致。则被判定为两个样本是重复样本。例如:

模型输入内容 模型输出内容
歌名:晴天;歌词: 故事的小黄花 从出生那年就飘着 童年的荡秋千
歌名:晴天;歌词: 故事的小黄花
歌名:晴;歌词: 故事的小黄花 从出生那年就飘着 童年的荡秋千

上表三个样本均为重复样本,前两个样本虽然标签不一,但文本内容一致,也为重复样本。

Tips: “如何利用好重复样本”,如果您在模型训练过程中,需要通过增加某个类别标签的预测权重,可以通过增加此标签的重复样本来达到此目标。

平台去重策略

平台提供了可去重的数据集,即对您上传的数据进行重复样本的去重。注意:当您确定了数据集为去重或非去重的属性后,便不可修改。

当您创建了一个去重的数据集时,在后续上传数据的过程中,平台可通过检验您当前上传的样本与已上传到此数据集下的样本是否相同,如果相同,则会使用新的样本替代旧的样本。此时分为几种情况,如下:

数据集中有未标注样本,上传重复的已标注样本,此时未标注样本将被覆盖

数据集中有已标注样本,上传重复的未标注样本,此时已标注样本将被覆盖

数据集中有已标注样本,上传不同标注的已标注样本,此时已有的标注样本将被覆盖

相似文档
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部