HIVE SQL拒绝big int比较解决方法

在实际业务中，为了排查问题，有时候需要查看指定uid，shop_id的记录。往往这种id字段都是bigint类型数据，直接where uid = XXX会告警并停止查询。

鉴于这种情况下我们要查的数据一般只有一两条，所以可以限制

where uid in (XXX,YYYY)
and shop id in (ZZZ);

HIVE SQL 四分位数

对于int类型和double类型数据应使用不同的函数

--income是整型
percentile(order_cnt, array(0.25)) [0] as order_cnt --上四分位数
percentile(order_cnt, array(0.5)) [0] as order_cnt --中位数--net_income是浮点型
percentile_approx(net_income, 0.25) as net_income_25

HIVE SQL 获取日期对应的周数

weekofyear('2022-09-20')

HIVE SQL向下取整

floor(s) --s为double类型

HIVE SQL 获取两个标准时间相差的秒数

获取两个日期之间相差的天数可以使用datediff函数

要获得秒数的思路是分别把两个时间转成unix秒数，再相减

unix_timestamp('2022-9-23  23:59:59', 'yyyy-MM-dd HH:mm:ss')-unix_timestamp('2022-9-23  23:31:22', 'yyyy-MM-dd HH:mm:ss')

At least 1 group must only depend on input columns

使用rank时出现了该报错，可以考虑partition by , over by和函数外的字段的位置。尤其是窗口的创建条件，肯能需要增加字段。

如何实现count (distinct ) over (partition by )

size(collect_set() over(partition by order by))

HIVE SQL tricks相关推荐

Hadoop Hive sql 语法详细解释
Hive 是基于Hadoop 构建的一套数据仓库分析系统.它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据,能够将结构化的数据文件映射为一张数据库表,并提供完整的SQL查 ...
Hive SQL 监控系统 - Hive Falcon
1.概述在开发工作当中,提交 Hadoop 任务,任务的运行详情,这是我们所关心的,当业务并不复杂的时候,我们可以使用 Hadoop 提供的命令工具去管理 YARN 中的任务.在编写 Hive SQ ...
python调用spark和调用hive_Spark(Hive) SQL数据类型使用详解(Python)
Spark SQL使用时需要有若干"表"的存在,这些"表"可以来自于Hive,也可以来自"临时表".如果"表"来自于Hi ...
beeline执行sql语句_由“Beeline连接HiveServer2后如何使用指定的队列（Yarn）运行Hive SQL语句”引发的一系列思考...
背景我们使用的HiveServer2的版本为0.13.1-cdh5.3.2,目前的任务使用Hive SQL构建,分为两种类型:手动任务(临时分析需求).调度任务(常规分析需求),两者均通过我们的We ...
Hadoop Hive sql语法详解
Hive 是基于Hadoop 构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据,可以将结构化的数据文件映射为一张数据库表,并提供完整的SQL查 ...
【原创】大数据基础之Hive（2）Hive SQL执行过程之SQL解析过程
Hive SQL解析过程 SQL->AST(Abstract Syntax Tree)->Task(MapRedTask,FetchTask)->QueryPlan(Task集合)- ...
Hive SQL基础
Hive执行顺序: **FROM-->WHERE-->GROUP BY-->HAVING-->SELECT-->ORDER BY** 书写顺序: **SELECT DIS ...
hive hql文档_30分钟入门 Hive SQL（HQL 入门篇）
Hive SQL 几乎是每一位互联网分析师的必备技能,相信每一位面试过大厂的童鞋都有被面试官问到 Hive 优化问题的经历.所以掌握扎实的 HQL 基础尤为重要,既能帮分析师在日常工作中"如 ...
Hive SQL优化之 Count Distinct
说实话,也是从今年4月份开始,笔者接触了大量写SQL的工作,才开始慢慢理解SQL的优化.在之前,公司的大数据平台只有十几个节点,随着业务快速发展,每天都会产生上百万条的数据,所以每天使用Hive写SQ ...

HIVE SQL tricks