数据采集是数据分析的基础,而埋点是最主要的采集方式。那么数据埋点采集到底都是哪些事呢?我们主要从三个方面来看:什么是埋点,埋点怎么设计,埋点的应用。

一、数据采集以及常见数据问题

1.1数据采集

数据采集有多种方式,埋点采集是其中非常重要的一部分,不论对c端还是b端产品都是主要的采集方式,数据采集,顾名思义采集相应的数据,是整个数据流的起点,采集的全不全,对不对,直接决定数据的广度和质量,影响后续所有的环节;在数据采集有效性,完整性不好的公司,经常会有业务发现数据发生大幅度变化。

数据的处理,通常由以下5步构成:

1.2常见数据问题

大体知道数据采集及其架构之后,我们看看工作中遇到的问题,有多少是跟数据采集环节有关的

1、数据和后台差距很大,数据不准确-统计口径不一样、埋点定义不一样、采集方式带来误差

2、想用的时候,没有我想要的数据-没有提数据采集需求、埋点不正确不完整

3、事件太多,不清楚含义-埋点设计的方式、埋点更新迭代的规则和维护

4、分析数据不知道看哪些数据和指标-数据定义不清楚,缺乏分析思路

我们需要根源性解决问题:把采集当成独立的研发业务来对待,而不是产品研发中的附属品

二、埋点是什么

2.1 埋点是什么

所谓埋点,就是数据采集领域的术语。它的学名应该叫做事件追踪,对应的英文是Event Tracking 指的是针对特定用户行为或事件进行捕获,处理和发送的相关技术及其实施过程。数据埋点是数据分析师,数据产品经理和数据运营,基于业务需求或者产品需求对用户行为的每一个事件对应位置进行开发埋点,并通过SDK上报埋点的数据结果,记录汇总数据后进行分析,推动产品优化和指导运营。

流程伴随着规范,通过定义我们看到,特定用户行为和事件是我们的采集重点,还需要处理和发送相关技术及实施过程;数据埋点是服务于产品,又来源于产品中,所以跟产品息息相关,埋点在于具体的实战过程,跟每个人对数据底层的理解程度有关。

2.2 为什么要做埋点

埋点就是为了对产品进行全方位的持续追踪,通过数据分析不断指导优化产品。数据埋点的质量直接影响到数据,产品,运营等质量。

1、数据驱动-埋点将分析的深度下钻到流量分布和流动层面,通过统计分析,对宏观指标进行深入剖析,发现指标背后的问题,洞察用户行为与提升价值之间的潜在关联

2、产品优化-对产品来说,用户在产品里做了什么,停留多久,有什么异常都需要关注,这些问题都可以通过埋点的方式实现

3、精细化运营-埋点可以贯彻整个产品的生命周期,流量质量和不同来源的分布,人群的行为特点和关系,洞察用户行为与提升业务价值之间的潜在关联。

2.3 埋点的方式

埋点的方式都有哪些呢,当前大多数公司都是客户端,服务端相结合的方式

准确性:代码埋点>可视化埋点>全埋点

三、埋点的框架和设计

3.1 埋点采集的顶层设计

所谓的顶层设计就是想清楚怎么做埋点,用什么方式,上传机制是什么,具体怎么定义,具体怎么落地等等;我们遵循唯一性,可扩展性,一致性等的基础上,我们要设计一些通用字段及生成机制,比如:cid, idfa,idfv等。

用户识别:用户识别机制的混乱会导致两个结果:一是数据不准确,比如UV数据对不上;二是涉及到漏斗分析环节出现异常。因此应该做到:a.严格规范ID的本身识别机制;b.跨平台用户识别

同类抽象: 同类抽象包括事件抽象和属性抽象。事件抽象即浏览事件,点击事件的聚合;属性抽象,即多数复用的场景来进行合并,增加来源区分

采集一致:采集一致包括两点:一是跨平台页面命名一致,二是按钮命名一致;埋点的制定过程本身就是规范底层数据的过程,所以一致性是特别重要,只有这样才能真正的用起来

渠道配置:渠道主要指的是推广渠道,落地页,网页推广页面,APP推广页面等,这个落地页的配置要有统一规范和标准

3.2 埋点采集事件及属性设计

在设计属性和事件的时候,我们要知道哪些经常变,哪些不变,哪些是业务行为,哪些是基本属性。基于基本属性事件,我们认为属性是必须采集项,只是属性里面的事件属性根据业务不同有所调整而已,因此,我们可以把埋点采集分为协议层和业务层埋点。

业务分解:梳理确认业务流程、操作路径和不同细分场景、定义用户行为路径

分析指标:对特定的事件进行定义、核心业务指标需要的数据

事件设计:APP启动,退出、页面浏览、事件曝光点击

属性设计:用户属性、事件属性、对象属性、环境属性

3.3 数据采集事件及属性设计

Ev事件的命名,也遵循一些规则,同一类功能在不同页面或位置出现时,按照功能名称命名,页面和位置在ev参数中进行区分。仅是按钮点击时,按照按钮名称命名。

ev事件格式:ev分为ev标识和ev参数

规则:

ev标识和ev参数之间用“#”连接(一级连接符);

ev参数和ev参数之间用“/”来连接(二级连接符);

ev参数使用key=value的结构,当一个key对应多个value值时,value1与value2之间用“,”连接(三级连接符);

当埋点仅有ev标识没有ev参数的时候,不需要带#;

备注:

ev标识:作为埋点的唯一标识,用来区分埋点的位置和属性,不可变,不可修改;

ev参数:埋点需要回传的参数,ev参数顺序可变,可修改;

app埋点调整的时,ev标识不变,只修改后面的埋点参数(参数取值变化或者增加参数类型)

一般埋点文档中所包含的sheet名称以及作用:

A、曝光埋点汇总;

B、点击和浏览埋点汇总;

C、失效埋点汇总:一般会记录埋点失效版本或时间;

D、PC和M端页面埋点所对应的pageid;

E、各版本上线时间记录;

埋点文档中,所有包含的列名及功能:

3.4 基于埋点的数据统计

用埋点统计数据怎么查找埋点ev事件:

1. 明确埋点类型(点击/曝光/浏览)——筛选type字段

2. 明确按钮埋点所属页面(页面或功能)——筛选功能模块字段

3. 明确埋点事件名称——筛选名称字段

4. 知道ev标识,可直接用ev来进行筛选

根据ev事件怎么进行查数统计:当查询按钮点击统计时,可直接用ev标识进行查询,当有所区分可限定埋点参数取值;因为ev参数的顺序不做要求可变,所以查询统计时,不能按照参数的顺序进行限定;

四、应用-数据流程的基础

4.1 指标体系

体系化的指标可以综合不同的指标不同的维度串联起来进行全面的分析,会更快的发现目前产品和业务流程存在的问题。

4.2 可视化

人对图像信息的解释效率比文字更高,可视化对数据分析极为重要,利用数据可视化可以揭示出数据内在的错综复杂的关系。

4.3 埋点元信息api提供

数据采集服务会对采集到的埋点写入到 Kafka 中,对于各个业务的实时数据消费需求,我们为每个业务提供了单独的 Kafka,流量分发模块会定期读取埋点管理平台提供的元信息,将流量实时分发的各业务 Kafka 中。

数据采集犹如设计产品,不能过度,留出扩展余地,但要经常思考数据有没有,全不全,细不细,稳不稳,快不快。

欢迎关注我的微信公众号,给我留言数据相关话题:赵小洛洛洛

api可以主动采集用户数据吗_数据埋点采集的那些事儿相关推荐

  1. netflix 数据科学家_数据科学和机器学习在Netflix中的应用

    netflix 数据科学家 数据科学 , 机器学习 , 技术 (Data Science, Machine Learning, Technology) Using data science, Netf ...

  2. 数据探查_数据科学家,开始使用探查器

    数据探查 Data scientists often need to write a lot of complex, slow, CPU- and I/O-heavy code - whether y ...

  3. 数据科学家 数据工程师_数据科学家应该对数据进行版本控制的4个理由

    数据科学家 数据工程师 While working in a software project it is very common and, in fact, a standard to start ...

  4. r怎么对两组数据统计检验_数据科学中最常用的统计检验是什么

    r怎么对两组数据统计检验 Business analytics and data science is a convergence of many fields of expertise. Profe ...

  5. python处理数据可视化_数据整理101:使用Python提取,处理和可视化NBA数据

    python处理数据可视化 由Viraj Parekh | 2017年4月6日 (by Viraj Parekh | April 6, 2017) This is a basic tutorial u ...

  6. 大数据_数据中台_数据汇聚联通

    目录 一.数据采集.汇聚的方法和工具 1.线上行为采集 2.线下行为采集 3.互联网数据采集 4.内部数据汇聚 二.数据交换产品 1.数据源管理 2.离线数据交换 3.实时数据交换 三.数据存储的选择 ...

  7. kettle优化抽取数据速度_数据异构工具介绍

    一:Data Migration(DM) 1.Data Migration 简介: Data Migration (DM) 是一体化的数据同步任务管理平台,支持从 MySQL 到 TiDB或者MySQ ...

  8. 数据科学家 数据工程师_数据科学家实际上赚了多少钱?

    数据科学家 数据工程师 目录 (Table of Contents) Introduction介绍 Junior Data Scientist初级数据科学家 Mid-Level Data Scient ...

  9. python个人数据脱敏_数据脱敏的处理方法及查询

    [摘要] 关键词:集算器.SPL.数据脱敏.报表 1).数据脱敏是"指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护.在涉及客户安全数据或者一些商业性敏感数据的情况下, ...

最新文章

  1. 源目标OKR— 在线团队协同办公、项目管理工具
  2. 重新认识 Delphi
  3. 交易系统单服务器tps,交易者必看!一文了解TPS量化交易系统
  4. python调用C函数库
  5. python机械编程_机器学习编程作业3——多类分类(Python版)
  6. 深入认识Tigase XMPP Server(上)
  7. cup first world_LOONCUP – The world's first SMART menstrual cup.
  8. zookeeper在linux环境安装
  9. matlab取特征值,matlab提取图像特征值
  10. PYQT5 系列(一)——参考自《弗兰克万岁》
  11. 技术人员的一点产品思维思考
  12. android模拟器高德地图,【高德地图电脑版】高德地图电脑版官方下载 含安卓模拟器 车机版-趣致软件园...
  13. 漏刻有时数据可视化Echarts组件开发(21):基于echarts开发的自动旋转map3D下钻和柱图地图
  14. 装修心得体会(家装团购实战版)
  15. vue 监听输入法方法(js)
  16. dellr710服务器(DellR710服务器做完raid安装系统找不到磁盘)
  17. PMP考试可以自学吗?
  18. 业务需求调研经验分享
  19. 【广东开放大学(广东理工职业学院)主办】第二届计算机图形学、人工智能与数据处理国际学术会议(ICCAID 2022)
  20. 计算机主机机箱面板指示灯,电脑主机指示灯不亮了是什么原因

热门文章

  1. R语言循环中break函数和next函数使用实战
  2. 你正在使用GPU进行CNN类模型训练,突然发生了内存溢出的错误,你可以通过哪些方式来进行解决?
  3. java boolean io流_java基础入门-day22-IO流
  4. 为什么RStudio Server这么慢?
  5. 02 数据类型 (向量 数据框 矩阵和列表
  6. str量化转化为int
  7. java slfj教程_SLF4J入门程序
  8. linux入门教程命令,Linux入门命令掌握
  9. python 天气预报
  10. 十三、冒泡排序算法及其优化