上云无忧 > 文档中心 > 腾讯云云函数实战教程 - SCF + CLS 实现日志数据 ETL
云函数 SCF
腾讯云云函数实战教程 - SCF + CLS 实现日志数据 ETL

文档简介:
操作场景: 本文为您介绍使用 云函数 SCF 对 CLS 日志进行加工处理。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力。
*此产品及展示信息均由腾讯云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

操作场景

本文为您介绍使用 云函数 SCF 对 CLS 日志进行加工处理。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力。 数据流程如下:

操作步骤

创建日志集和主题

1. 登录 日志服务控制台,选择左侧导航栏中的日志主题
2. 进入日志集管理页面,在页面上方选择日志集的地域。
3. 单击创建日志主题,在弹出的创建日志集窗口中,填写相关信息:
日志主题名称:例如 project_test
日志集名称:例如 nginx

4. 单击确定,即可创建日志集和主题。
5. 日志主题新增成功,将进入日志主题管理页,如下图所示:

说明
ETL 数据处理的源端和终端均为 CLS,故至少需创建两个 Topic。

创建云函数 SCF

1. 登录 Serverless 控制台,进入函数服务页面。
2. 函数服务页面上方选择北京地域,并单击新建进入新建函数页面,配置以下参数:
函数名称:命名为 “CLSdemo”。
运行环境:选择 “Python 2.7”。
创建方式:选择模板函数
模糊搜索:输入“CLS日志ETL”,并进行搜索。
3. 单击模板中的查看详情,即可在弹出的“模板详情”窗口中查看相关信息,支持下载操作。

4. 基本信息配置完成之后,单击下一步,进入函数配置页面。
5. 函数配置保持默认配置,单击完成,完成函数的创建。

配置 CLS 触发器

1. 登录 Serverless 控制台,选择左侧导航栏中的函数服务
2. 函数服务列表页面上方,选择期望配置 CLS 触发器的函数所在的地域及命名空间。
3. 单击函数名,进入该函数的详情页面。
4. 在该函数的详情页面,选择左侧的触发管理,进入触发器浏览及操作界面,单击创建触发器,开始创建一个新的触发器。
5. 创建触发器中添加已创建的函数。如下图所示:

6. 完成触发器配置后,单击提交,完成触发器创建。

测试函数功能

1. 下载 测试样例 中的日志文件,并解压出 demo-scf1.txt,导入至源端 CLS 服务。
2. 切换至 Serverless 控制台,查看执行结果。 在函数详情页面中选择日志查询页签,可以看到打印出的日志信息。如下图所示:

3. 切换至终端 CLS 日志服务,查看数据加工结果。

说明
您可以根据自身的需求编写具体的数据加工处理方法。

相似文档
  • 操作场景: 本文为您介绍如何通过云函数 SCF 将 CLS 日志转储至消息队列 Ckafka。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力,Ckafka 主要提供数据流终端转储能力。数据处理流程图请参见 函数处理概述。
  • 操作场景: 本文为您介绍如何通过云函数 SCF 将 CLS 日志转储至对象存储 COS。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力,COS 主要提供终端永久性存储能力。数据处理流程图请参见 函数处理概述。
  • 操作场景: 本文为您介绍如何通过云函数 SCF 将 CLS 日志转储至 Elasticsearch Service(ES)。其中,CLS 主要用于日志采集,SCF 主要提供数据加工的节点计算能力。数据处理流程图请参见 函数处理概述。
  • 操作场景: 本文将实践如何使用负载均衡 CLB 作为 Serverless 服务的访问入口,配合 SCF 快速部署 Web 服务。拓展 Serverless 服务低成本、免运维等优势,为开发者平滑迁移应用上云提供参考。
  • 操作场景: 通过函数处理服务,可以快速完成对 视频处理 MPS 产生的回调事件进行处理及操作。通过 MPS 触发器 将事件推送到云函数 SCF ,再通过 Serverless 无服务架构的函数计算提供回调事件的处理及响应。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部