上云无忧 > 文档中心 > 百度智能云内容审核平台入门教程
内容审核平台
百度智能云内容审核平台入门教程

文档简介:
机器审核图文开发案例: 作为公司内容安全负责人的小宋管理着近200人的人工审核团队,这给小宋带来了较大的压力:压力一方面来自审核人员流动大、培训成本高,并且公司每年为这200人的团队薪酬投入近3000万;一方面来自于审核人员水平参差不齐,不是每个人都能按照审核标准严格执行。
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

机器审核图文开发案例

作为公司内容安全负责人的小宋管理着近200人的人工审核团队,这给小宋带来了较大的压力:压力一方面来自审核人员流动大、培训成本高,并且公司每年为这200人的团队薪酬投入近3000万;一方面来自于审核人员水平参差不齐,不是每个人都能按照审核标准严格执行。 小宋认为只有通过机器+人工的审核方式才能提高人员效率,提升审核质量,同时可以把一部分审核人员转去做其他更有价值的工作,通过将市面上多家厂商的能力互相比较,小宋选择了百度的内容审核服务,切实提升了审核质量和效率,降低了公司的运营成本,下面让我们一起来和小宋看一下如何接入百度内容审核服务吧。 下面看看如何基于百度AI开发平台的内容审核平台实现对图片和文本内容审核

实现步骤

只需三步1小时内即可完成内容审核接口的调用。 先点击此处注册百度账户进入 如下图 的页面快速的建立一个百度账号吧。

Step1:成为百度AI开放平台的开发者

要调用百度AI开放平台的内容审核能力先要成为百度AI开放平台的开发者,首先让我们花5分钟来注册百度AI开放平台的开发者,并新建一个内容审核应用。

先点击此处注册百度账户进入 如下图 的页面快速的建立一个百度账号吧。

我们有账号之后登录,并且点击此处创建一个应用,如下图

然后就能看到创建完的应用和 API KEY 以及 Secret KEY

有定制审核需求的话,可以进入内容审核平台创建自定义策略

Step2:准备数据

内容审核主要针对的是用户的图片以及文本进行审核,让我们准备几张图片以及一些文本,看看通过内容审核平台是否能够代替人工做图片和文本的审核:

合规图片:

不合规图片(包含广告):

合规文本:

我们要热爱祖国热爱党

不合规文本(低俗):

我要爆粗口啦,百度AI真他妈好用

Step3: 编写一个示例程序

第一步API KEY 以及 Secret KEY,以及第二步的数据,我们就可以写一个示例代码调用百度AI开放平台的内容审核能力

准备开发环境

我们选择用python来快速搭建一个原型,关于如何安装python。可以参考下表列出的不同操作系统的安装方法进行安装。

Python的官方下载地址:下载python

Windows 快速测试包

Windows平台的用户如果对上述的python安装感到困难,可以下载我们的一键测试包,下载地址:Windows测试包。

解压zip文件后,双击run.bat即可测试。

编写代码

新建一个 main.py

粘贴以下内容,不要忘记替换你的 API_KEY 以及 SECRET_KEY

# coding=utf-8

import sys
import json
import base64


# 保证兼容python2以及python3
IS_PY3 = sys.version_info.major == 3
if IS_PY3:
    from urllib.request import urlopen
    from urllib.request import Request
    from urllib.error import URLError
    from urllib.parse import urlencode
    from urllib.parse import quote_plus
else:
    import urllib2
    from urllib import quote_plus
    from urllib2 import urlopen
    from urllib2 import Request
    from urllib2 import URLError
    from urllib import urlencode

# 防止https证书校验不正确
import ssl
ssl._create_default_https_context = ssl._create_unverified_context

API_KEY = 'eQnGqPdFTTctqkjHvdUEzmrC'

SECRET_KEY = 'HDBuwWT4pfSBGyLkTEAYhwoQkoDGrWU2'


IMAGE_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/img_censor/v2/user_defined"

TEXT_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/text_censor/v2/user_defined";

"""  TOKEN start """
TOKEN_URL = 'https://aip.baidubce.com/oauth/2.0/token'


"""
    获取token
"""
def fetch_token():
    params = {'grant_type': 'client_credentials',
              'client_id': API_KEY,
              'client_secret': SECRET_KEY}
    post_data = urlencode(params)
    if (IS_PY3):
        post_data = post_data.encode('utf-8')
    req = Request(TOKEN_URL, post_data)
    try:
        f = urlopen(req, timeout=5)
        result_str = f.read()
    except URLError as err:
        print(err)
    if (IS_PY3):
        result_str = result_str.decode()


    result = json.loads(result_str)

    if ('access_token' in result.keys() and 'scope' in result.keys()):
        if not 'brain_all_scope' in result['scope'].split(' '):
            print ('please ensure has check the  ability')
            exit()
        return result['access_token']
    else:
        print ('please overwrite the correct API_KEY and SECRET_KEY')
        exit()

"""
    读取文件
"""
def read_file(image_path):
    f = None
    try:
        f = open(image_path, 'rb')
        return f.read()
    except:
        print('read image file fail')
        return None
    finally:
        if f:
            f.close()


"""
    调用远程服务
"""
def request(url, data):
    req = Request(url, data.encode('utf-8'))
    has_error = False
    try:
        f = urlopen(req)
        result_str = f.read()
        if (IS_PY3):
            result_str = result_str.decode()
        return result_str
    except  URLError as err:
        print(err)

if __name__ == '__main__':

    # 获取access token
    token = fetch_token()

    # 拼接图像审核url
    image_url = IMAGE_CENSOR + "?access_token=" + token

    # 拼接文本审核url
    text_url = TEXT_CENSOR + "?access_token=" + token


    file_content = read_file('./image_normal.jpg')
    result = request(image_url, urlencode({'image': base64.b64encode(file_content)}))
    print("----- 正常图调用结果 -----")
    print(result)

    file_content = read_file('./image_advertise.jpeg')
    result = request(image_url, urlencode({'image': base64.b64encode(file_content)}))
    print("----- 广告图调用结果 -----")
    print(result)

    text = "我们要热爱祖国热爱党"
    result = request(text_url, urlencode({'text': text}))
    print("----- 正常文本调用结果 -----")
    print(result)

    text = "我要爆粗口啦:百度AI真他妈好用"
    result = request(text_url, urlencode({'text': text}))
    print("----- 粗俗文本调用结果 -----")
    print(result)

运行代码

在命令行中运行python main.py

结果

若代码正确运行,命令行界面上会显示出运行结果:

----- 正常图调用结果 -----
{"conclusion":"合规","log_id":15589290206915234,"conclusionType":1}
----- 广告图调用结果 -----
{"conclusion":"不合规","log_id":15589290221307686,"data":[{"msg":"存在水印码内容","
probability":0.86516607,"type":5}],"conclusionType":2}
----- 正常文本调用结果 -----
{"conclusion":"合规","log_id":15589290234750607,"conclusionType":1}
----- 粗俗文本调用结果 -----
{"conclusion":"疑似","log_id":15589290237990632,"data":[{"msg":"疑似存在文本色情不合规","conclusion":"疑似",
"hits":[{"probability":0.802,"datasetName":"百度默认文本反作弊库","words":[]}],"subType":2,"conclusionType"
:3,"type":12}],"conclusionType":3}

可以看到结果中返回了内容审核服务对于图片以及文本的审核结果,包括了概率以及不合规的类型,具体字段的含义都在内容审核REST API文档 中有这详细的释义。

总结

小宋带领团队使用了百度内容审核平台实现对所有图片的全量初步审核,配合人工复审对疑似图片和违规图片进行二次确认,又高效又准确,降低了平台违规的风险

了解更多

示例源代码

您可以在我们的官方github上下载示例源码

https://github.com/Baidu-AIP/QuickStart/tree/master/CONTENT_CENSOR

产品特色

● 百万量级公众人物库

依托于百度百科海量优质数据,公众人物库升级至百万量级,支持国内外各种歌星、影星、体育明星等,全方位提升审核效率,规避业务风险。

● 更全面精细的审核能力

提供色情、辱骂、广告、恶心、图文审核等多个维度的审核能力,各审核维度下标签丰富,色情识别包含18类细分标签,包括一般色情、卡通色情、SM、亲密行为、卡通正常、儿童裸露、自然男性裸露、艺术品色情等;广告支持水印、二维码、条形码识别;图文审核支持6类文本违禁类型。一站式满足用户所有审核需求。

● 更灵活自由的审核配置

审核平台支持用户上传自定义图片、文本黑白库自助入库等功能;同时用户可以自由选择审核维度和审核细粒度标签,并可以自行调整审核模型的松紧度,实现贴合业务需求的审核能力。

更多参考

参见内容审核REST API文档

相似文档
  • 内容审核文本API接口的使用方法。 关于内容审核文本API接口的使用方法。 内容审核图像API接口的使用方法。 关于内容审核图像API接口的使用方法。 关于内容审核图像可视化操作台的操作方法。
  • 内容审核私有化部署服务,将审核模型和审核平台部署至本地服务器或私有云环境,为企业提供 高隐私性 和 强实时性 的内网 审核服务,可供局域网内的设备进行调用,尤其适用于政务、金融、运营商、媒体等业务场景。
  • 一、免费测试资源&计费相关 1.如何领取免费测试资源? 您好,点击链接,直接选择所需产品/接口即可领取。 2.免费测试资源有多少? 您好,点击查看,即可了解各个产品的免费测试资源。 3.如何在线购买内容审核产品? 您好,在线购买可直接点击查看详细操作方法。
  • 成为开发者: 三步完成账号的基本注册与认证: STEP1:点击进入控制台,选择需要使用的AI服务项。若为未登录状态,将跳转至登录界面,请您使用百度账号登录。如还未持有百度账户,可以点击此处注册百度账号。 【百度智能云】文本翻译 【百度智能云】文档翻译 【百度智能云】图片翻译 【百度智能云】语音翻译
  • 接口描述: 文本翻译是百度翻译依托领先的自然语言处理技术推出的在线文本翻译服务,可支持中、英、日、韩等200+语言互译,100+语种自动检测。 请求说明: 请求示例: HTTP 方法:POST 请求 URL:https://aip.baidubce.com/rpc/2.0/mt/texttrans/v1
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部