每天一道大厂SQL题【Day11】微众银行真题实战(一)

大家好，我是Maynor。相信大家和我一样，都有一个大厂梦，作为一名资深大数据选手，深知SQL重要性，接下来我准备用100天时间，基于大数据岗面试中的经典SQL题，以每日1题的形式，带你过一遍热门SQL题并给出恰如其分的解答。

一路走来，随着问题加深，发现不会的也愈来愈多。但底气着实足了不少，相信不少朋友和我一样，日积月累才是最有效的学习方式！

每日语录

如果外貌好能够获得他人的关注，又有钱能够支持各种娱乐活动，谁会愿意每天呆在家里打游戏，刷微博，看电视剧。

第11题：授信金额统计

需求列表

笔试题目

说明：SQL语法请使用HiveSQL/SparkSQL

1.基于附录《核额流水表》和附录2《借据表》统计下述指标，请提供统计SQL

指标	当日新增	昨日新增	历史累计
申请户数
规则通过户数
核额成功户数
授信金额
平均核额
发放金额
户均发放金额

数据准备

debt.txt文件

set spark.sql.shuffle.partitions=4;
create database webank_db;
use webank_db;
create or replace temporary view check_view (ds comment '日期分区',
sno comment '流水号', uid comment '用户id',
is_risk_apply comment '是否核额申请',
is_pass_rule comment '是否通过规则',
is_obtain_qutoa comment '是否授信成功', quota comment '授信金额',
update_time comment '更新时间')
as
values ('20201101', 's000', 'u000', 1, 1, 1, 700, '2020-11-01 08:12:12'),
('20201102',  's088',   'u088',   1,  1,  1,  888, '2020-11-02 08:12:12'),
('20201230',  's091',   'u091',   1,  1,  1,  789, '2020-12-30 08:12:12'),
('20201230',  's092',   'u092',   1,  0,  0,  0, '2020-12-30 08:12:12'),
('20201230',  's093',   'u093',   1,  1,  1,  700, '2020-12-30 08:12:12'),
('20201231',  's094',   'u094',   1,  1,  1,  789, '2020-12-31 08:12:12'),
('20201231',  's095',   'u095',   1,  1,  1,  600, '2020-12-31 08:12:12'),
('20201231',  's096',   'u096',   1,  1,  0,  0, '2020-12-31 08:12:12')
;
--创建核额流水表
drop table if exists check_t;
create table check_t (
sno string comment '流水号', uid string,
is_risk_apply bigint, is_pass_rule bigint, is_obtain_qutoa bigint, quota decimal(30,6), update_time string
) partitioned by (ds string comment '日期分区');
--动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict; insert overwrite table check_t partition (ds) select sno,
uid, is_risk_apply, is_pass_rule, is_obtain_qutoa, quota, update_time,
ds
from check_view;

-- 创 建 借 据 表
create table debt(
duebill_id  string comment '借据号',
uid string, prod_type       string, putout_date string, putout_amt      decimal(30, 6),
balance decimal(30, 6), is_buliang      int, overduedays int
)partitioned by (ds string comment '日期分区');
--资料提供了一个34899条借据数据的文件
--下面补充如何将文件的数据导入到分区表中。需要一个中间普通表过度。drop table if exists webank_db.debt_temp;
create table webank_db.debt_temp(
duebill_id      string comment '借据号', uid string,
prod_type   string,
putout_date string, putout_amt  decimal(30, 6),
balance decimal(30,6),
is_buliang  int, overduedays int,
ds string comment '日期分区'
) row format delimited fields terminated by '\t';
load data local inpath '/root/debt.txt' overwrite into table webank_db.debt_temp;--动态分区需要设置
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
insert overwrite table webank_db.debt partition (ds)
select  from webank_db.debt_temp;--技巧：如果查询debt表，由于分区数太多，导致查询很慢。
-- 开发阶段，我们可以事先将表缓存起来，并且降低分区数比如为6，那么查缓存表大大提升了开发效率。
-- 上线阶段，再用实际表替换缓存表。
--首次缓存会耗时慢
cache table cache_debt as select /+ coalesce(6) /  from
debt;
--第二次使用缓存会很快
select count() from cache_debt;
select ds,count(1) from cache_debt group by ds;

先了解表数据的分布情况，有2年多，每天都有分区，共760多个分区。

随机观察2个借据的情况

思路分析

方案1
假设当天是20201231，昨日是20201230
预先将复用分数据集缓存起来，只用加载一次源表。后面多次union all起来。cache table仅Spark支持，hive不支持。

方案2

借用stack函数，性能与方案1一样，都只加载一次表。

答案获取

建议你先动脑思考，动手写一写再对照看下答案，如果实在不懂可以点击下方卡片，回复:大厂sql 即可。
参考答案适用HQL，SparkSQL，FlinkSQL，即大数据组件，其他SQL需自行修改。

加技术群讨论

点击下方卡片关注联系我进群

或者直接私信我进群

微众银行源数据表附录：

核额流水表

字段名	字段意义	字段类型
ds	日期分区，样例格式为20200101，每个分区有全量流水	string
sno	每个ds内主键，流水号	string
uid	户id	string
is_risk_apply	是否核额申请（核额漏斗第一步）取值0和1	bigint
is_pass_rule	是否通过规则（核额漏斗第二步）取值0和1	bigint
is_obtain_qutoa	是否授信成功（核额漏斗第三步）取值0和1	bigint
quota	授信金额	decimal(30,6)
update_time	更新时间样例格式为2020-11-14 08:12:12	string

借据表

字段名	字段意义	字段类型
ds	日期分区，样例格式为20200101每个分区有全量借据	strng
duebilid	借据号（每个日期分区内的主键）	strng
uid	用户id	string

prod_type	产品名称仅3个枚举值XX贷YY贷ZZ贷	string
putout_date	发放日期样例格式为2020-10-10 00:10:30	bigint
putout_amt	发放金额	decimal(30,6)
balance	借据余额	decimal(30,6)
is_buliang	状态-是否不良取值0和1	bigint
overduedays	逾期天数	bigint

模型输出表

字段名	字段意义	字段类型
ds	日期分区，样例格式为20200101增量表部分流水记录可能有更新	strng
sno	流水号，主键	strng
create time	创建日期样例格式为2020-10-10 00:10:30与sno唯一绑定，不会变更	strng
uid	用户id	strng
content	son格式key值名称为V01～V06，value值取值为0和1	strng
create_time	更新日期样例格式为2020-10-1000:10:30	strng

文末SQL小技巧

提高SQL功底的思路。
1、造数据。因为有数据支撑，会方便我们根据数据结果去不断调整SQL的写法。
造数据语法既可以create table再insert into，也可以用下面的create temporary view xx as values语句，更简单。
其中create temporary view xx as values语句，SparkSQL语法支持，hive不支持。
2、先将结果表画出来，包括结果字段名有哪些，数据量也画几条。这是分析他要什么。
从源表到结果表，一路可能要走多个步骤，其实就是可能需要多个子查询，过程多就用with as来重构提高可读性。
3、要由简单过度到复杂，不要一下子就写一个很复杂的。
先写简单的select from table…,每个中间步骤都执行打印结果，看是否符合预期，根据中间结果，进一步调整修饰SQL语句，再执行，直到接近结果表。
4、数据量要小，工具要快，如果用hive，就设置set hive.exec.mode.local.auto=true;如果是SparkSQL，就设置合适的shuffle并行度，set spark.sql.shuffle.partitions=4;

后记