上云无忧 > 文档中心 > 百度智能云文本审核的功能
文本审核
百度智能云文本审核的功能

文档简介:
自定义数据集: 如果您还不了解内容审核平台是做什么的,或者您还不知道应该怎样去创建一个审核策略,请先阅读接口简介和配置文本审核策略 我们深知简单的策略配置可能无法满足您业务的审核需求,您可能已经有属于自己的图片黑库、文本黑库,以及在业务中您可能需要快速地对某些人物进行过滤,因此我们提供了自定义数据集功能,方便用户自定义额外需要拦截的人物、自定义图像、文本的黑/白名单。 【百度智能云】文本内容安全
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

自定义数据集

如果您还不了解内容审核平台是做什么的,或者您还不知道应该怎样去创建一个审核策略,请先阅读接口简介和配置文本审核策略
我们深知简单的策略配置可能无法满足您业务的审核需求,您可能已经有属于自己的图片黑库、文本黑库,以及在业务中您可能需要快速地对某些人物进行过滤,因此我们提供了自定义数据集功能,方便用户自定义额外需要拦截的人物、自定义图像、文本的黑/白名单。 所有自定义数据集的功能都在内容审核平台顶部的‘数据集中心'标签页中进行管理,完成添加后,您需要在对应策略的图像、文本黑/白名单的审核维度中添加对应数据集,从而对数据集中的内容进行拦截

自定义文本黑/白名单

点击自定义文本黑名单后点击[+自定义文本黑名单],输入数据集名称后点击上传文本黑名单,完成后点击保存,即可完成数据集创建。 后续需要添加词语时,可以直接在黑名单数据集列表中点击编辑进行txt文档上传或逐个增加词语。 文本白名单的使用方式和此流程一致。 请注意:单次词库上传仅支持扩展名为:.txt且文件大小不超过1M的文档

场景切换

为适配不同行业场景的审核标准,提供了严格/宽松两种场景供您选择使用。目前支持文本色情、敏感内容、低俗辱骂三个维度的场景切换功能。可根据您的实际业务需求来选择使用,合适的策略配置将有效提升内容审核的召回率和精确率。
切换方法:在策略管理中选择需要编辑的策略,点击相应审核维度的“展开”按钮,选择严格或宽松场景(注:系统默认为严格场景)。如下图所示:

严格/宽松场景应用范围介绍
(1)文本色情
严格场景:适合教育、金融等行业,对于色情违规内容要求严格的场景
宽松场景:适合私聊社交等,对于色情违规内容要求较宽松的场景
(2)敏感内容
严格场景:识别客观描述、正向或负向描述在内的敏感内容,适合游戏、金融等要求严格的场景
宽松场景:识别负向内容为主,适合新闻资讯等包含较多合规敏感内容的场景
(3)低俗辱骂
严格场景:适合社区论坛等,对于低俗辱骂违规内容要求严格的场景
宽松场景:适合私聊社交等,对于低俗辱骂违规内容要求较宽松的场景

多策略自动调度切换

我们深知单条策略无法满足用户日新月异的审核需求,比如在一些敏感时期、电商促销活动期,用户的审核规则都会有所调整,用户希望这个调整可以是自动的、平滑切换的,因此我们推出了单应用下多策略自动调度切换功能,用户可以为未来某个时间指定单独的审核策略,在预定的时间自动生效替换现有策略,并邮件通知相关人员,运筹帷幄,轻松掌控。 1.为未来某个时期创建单独的审核策略:在您正在使用的应用下点击[+创建策略],并对其中的图像、文本部分设置符合该时期需求的审核配置。 2.让该策略到期自动生效、失效:启用该策略,并且将该策略的生效、失效时间按需求进行调整,然后拖动该策略到最高优先级。这样操作不会影响目前生效的审核策略,因为新的策略还没有到达您设定的启用时间。 效果:当到达预定启用的时间,因为该策略为已启用的状态,并且优先级高于原有策略的优先级,则会自动替换原有策略,成为正在生效的策略,超过生效时间后,该策略会自动下线,审核策略自动切换回原有策略。两次切换的过程都会有邮件通知到您在创建策略时留下的邮箱地址。 正确的配置示例如下图:

相似文档
  • 调用审核接口: 如果您是第一次使用百度AI服务,请先参照新手指南完成账号创建、应用创建、获取密钥 如果您对内容审核平台的功能、如何配置策略等还不了解,请先查阅接口简介。 【百度智能云】文本内容安全
  • 响应参数: error_code Long N 错误提示码,失败才返回,成功不返回。 error_msg String N 错误提示信息,失败才返回,成功不返回。 【百度智能云】文本内容安全
  • TextMind智能文档分析平台以机器学习、深度学习技术为核心,针对文档数据分析场景为企业客户提供智能化的文档解析、文档审查、文档比对等解决方案。
  • 文档格式解析: 对文档内容及布局进行分析,识别页眉、页脚、分栏、表格等版式。解析结果将用于模型的训练及预测流程。 文档内容抽取: 对非结构化文档中的关键信息进行抽取,支持文档的各种模态,包括段落文本、表格、图片等。
  • OCR识别: 基于企业海量非结构化文档数据,助力企业对文档的文字识别。 NLP语义理解: 基于企业海量非结构化文档数据,助力企业对文档文字与语义的深度学习与理解。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部