天翼云Web应用防火墙(边缘云版)设置Bot防护策略
文档简介:
本文将为您介绍边缘云WAF提供的Bot防护策略,精准命中爬虫流量,拦截各类恶意爬虫,帮助网站业务安全。
功能介绍:
边缘云WAF提供的Bot防护策略支持Cookie挑战、跳转挑战、人机挑战等一系列反爬能力,帮助客户及时且精准地拦截爬虫流量,保障网站业务安全。
功能介绍
边缘云WAF提供的Bot防护策略支持Cookie挑战、跳转挑战、人机挑战等一系列反爬能力,帮助客户及时且精准地拦截爬虫流量,保障网站业务安全
注意:目前控制台尚未开放Bot防护策略功能,如有防护需求请通过提交工单给天翼云客服,由其人工操作开启。
前提条件
- 已开通Web应用防火墙(边缘云版)
- 已新增域名并成功接入WAF,具体操作请见WAF接入
- 开通Web应用防火墙(边缘云版)扩展服务-Bot管理,支持使用Bot防护策略,具体请见Bot管理计费
Bot防护策略说明
Cookie基础检测
客户端标识检测:客户端标识检测是Bot防护第一检测策略,校验下发的cookie个数和完整性,无客户端标识、客户端标识缺失、客户端标识解析失败都需要配置。
-
无客户端标识。即针对请求没有cookie的情况进行处理;
-
处理动作:拦截/告警/跳转/放行
- 拦截:拦截请求
- 告警:仅记录请求
- 跳转:GET请求启动302跳转策略,POST请求启动307跳转策略
- 放行:不对该异常做处理,另外不会再校验其他的BOT防护规则
- 统计粒度:静态cookie/IP+UA/IP
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
-
处理动作:拦截/告警/跳转/放行
- 客户端标识缺失。即针对请求带回cookie个数小于下发的个数(最多会下发四个)进行处理;
- 客户端标识解析失败。即针对失败解析cookie的情况下进行处理
其他字段:
客户端标识过期时间:默认15天,单位天,最大值365天;
白名单:即例外条件,符合条件的请求不进行功能检测
跳转挑战
功能介绍:跳转挑战通过302、307跳转去防护无法正常执行跳转的爬虫,还能通过图片验证和一些JS挑战检验用户交互行为。
配置介绍:对触发防护策略的请求进行跳转处理,并提供多次验证机会,不放过恶意爬虫请求,也避免误拦截正常请求
- 跳转方式:对于GET请求执行302跳转,对于POST请求执行307跳转,后续将支持图片验证码挑战、JS跳转等多种跳转方式;
- 首次失败机会时间:对于跳转失败的请求提供再次验证,即机会时间内,跳转失败次数不通过后面的条件计数;
- 处理动作:支持对触发防护策略的请求执行拦截、计数告警、跳转、放行的处理动作。处理动作为跳转、放行则无需配置触发条件;
- 统计粒度:静态cookie/IP+UA/IP;
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
静态cookie特性检测
功能介绍:主要针对盗用cookie的请求进行处理,即通过对cookie内容和请求内容的对比可以从不同维度进行爬虫检测,主要包括IP、UA、以及过期时间等
配置介绍
-
超时异常。静态cookie中包含了时间信息,若攻击者盗用cookie,则可能会使用已过期的cookie请求;
- 初次验证阶段:对于超时的请求提供初次验证阶段。首次超时请求的【】时间后,达到第【】个超时请求将进入再次验证;
- 处理动作:支持对触发再次验证防护策略的请求执行拦截、计数告警、跳转、放行的处理动作。处理动作为跳转、放行则无需配置触发条件;
- 统计粒度:静态cookie/IP+UA/IP;
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
- IP异常防护。静态cookie中包含了上次访问下发的ip信息,若攻击者盗用cookie,请求中获取到的ip会与cookie中记录的不同。配置说明同超时异常。
- UA异常防护。静态cookie中包含了上次访问下发的UA信息,若攻击者盗用cookie,请求中获取到的UA会与cookie中记录的不同。配置说明同超时异常。
人机识别
功能介绍:针对无法正常加载js、或者模拟交互行为(例如移动鼠标等)的爬虫进行人机挑战。
配置介绍
-
超时异常。针对人机识别挑战成功但超过验证有效期的请求
- 验证有效期:人机挑战成功,在验证有效期内的请求不做处理;
- 处理动作:支持对触发防护策略的请求执行拦截、告警、跳转、放行的处理动作。处理动作为跳转、放行则无需配置触发条件;
- 统计粒度:静态cookie/IP+UA/IP;
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
-
记录异常。针对人机识别挑战失败的请求
- 处理动作:支持对触发防护策略的请求执行拦截、告警、跳转、放行的处理动作。处理动作为跳转、放行则无需配置触发条件;
- 统计粒度:静态cookie/IP+UA/IP;
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
阈值限制
功能介绍:防止攻击者盗用合法cookie进行大量请求,限制不同粒度的访问速率。
配置介绍
- 处理动作:支持拦截、告警、关闭;
- 统计粒度:IP/跳转cookie/静态cookie;
- 触发条件:达到触发条件的请求将对其执行处理动作,并支持配置处理动作持续时长(触发规则后的惩罚时间)
爬虫陷阱
功能介绍:即在页面里面嵌入不可见链接,正常浏览器不可见;当访问到达设定的拦截深度时,认为是爬虫行为并支持设置防护策略。
配置介绍(支持最多配置5个条件,多个条件为或关系)
- 防护开关:支持拦截、告警、关闭;
- 处理动作持续时间:即触发规则后的惩罚时间
- 统计粒度:IP/IP+UA/静态cookie;
- 防护范围:支持配置您要防护的请求范围,支持匹配字段为PATH、REQUEST_URI、URI
相关操作
- 设置Bot策略白名单
- 设置爬虫情报规则
- 设置IP情报规则