server sql 分组 去重 字符串拼接_SQL | 数据分析面试必备SQL语句+语法
| 作者:无眠
| 来源:知乎
前些天在网上冲浪的时候看到一个案例咨询,问说世界500强的数据分析要不要去,评论区一片爆炸:“楼主能分享一下文科生怎么转行做数据分析吗??”、“SQL、python这些学起来好痛苦!”我看着屏幕苦笑,数据分析岗位现在的热门程度如果要形容的话,基本就是随便抓一个微博网友都知道这个岗位了。
Anyway,言归正传,数据分析师的招聘JD你们一定不陌生:
可以说,每个数据分析岗都需要会SQL。
我本人曾在滴滴、美团、平安科技的数据分析类岗位实习过,实习期间会大量运用sql进行取数。也参与了2018年的秋招,做过网易、拼多多、新浪等等公司的数据分析笔试题,还是比较了解SQL常考的题目类型的。
写这篇文章是希望帮助还没有实战过SQL的小伙伴、或者了解一些SQL语句,但是担心自己了解的太片面的小伙伴。这篇文章主要介绍的是:如果想要面试数据分析岗位,最优先需要掌握的SQL技能是哪些呢?
读完本文,你能快速知道:
(1)除了select 这种基本的语句,我最应该马上掌握的SQL语句和知识是什么?
(2)面试中SQL题80%都在考察的语法是什么?
(3)这些语法应该怎么使用?
本文将从三大块介绍入门SQL需要掌握的语法和知识,分别是
最基础的选择(select)和连接(join/union)
最常用的函数(distinct/group by/order by等)
一些小小的进阶技巧(组内排序、取前百分之多少的值、时间函数)
从一个实习和秋招过来人的角度看,这些知识基本够面试的时候用了,如果本身也在数据分析岗位实习或者实习过,可以在评论区讨论或者补充一些也常常用到的SQL知识,大家一起交流进步~ ps. 本文主要做知识点快速突破,具体的实战练习大家必不可少还是要做!
介绍完了三大块知识后,后续会有常见的SQL面试/笔试题,可以练习和交流~
1. 最基本(选数据)
怎么把数据从表里选出来?
1-- 从table_1中选择a这一列2select a from table_1
想要的数据在多张表里,想取多个字段,该怎么办?—— 表连接
1-- table_1中有id,age; table_2中有id,sex。想取出id,age,sex 三列信息 2-- 将table_1,table_2 根据主键id连接起来 3select a.id,a.age,b.sex from 4(select id,age from table_1) a 5 6--将select之后的内容存为临时表a 7join 8(select id, sex from table_2) b 910--将select之后的内容存为临时表b11on a.id =b.id
在这里先介绍一下几种join: (敲重点,很容易问的哦)
join : hive的join默认是inner join,找出左右都可匹配的记录;
left join: 左连接,以左表为准,逐条去右表找可匹配字段,如果有多条会逐次列出,如果没有找到则是NULL;
right join:右连接,以右表为准,逐条去左表找可匹配字段,如果有多条会逐次列出,如果没有找到则是NULL;
full outer join: 全连接,包含两个表的连接结果,如果左表缺失或者右表缺失的数据会填充NULL。
每种join 都有on ,>join 之前要确保关联键是否去重,是不是刻意保留非去重结果。
两张表数据的字段一样,想合并起来,怎么办?
1-- 不去重,合并两张表的数据2select * from 3(4select id from table_15UNION ALL6select id from table_27)t;
union和union all 均基于列合并多张表的数据,所合并的列格式必须完全一致。union的过程中会去重并降低效率,union all 直接追加数据。union 前后是两段select 语句而非结果集。
2. 最常用(更有多重组合)
为方便大家理解每个函数的作用,先建一个表,后面以这个为示例。
如果有千万用户数据,想知道有多少去重的用户数?—— 去重 distinct
1-- 罗列不同的id2select distinct id from table_134-- 统计不同的id的个数5select count(distinct id) from table_167-- 优化版本的count distinct8select count(*) from9(select distinct id from table_1) tb
distinct 会对结果集去重,对全部选择字段进行去重,并不能针对其中部分字段进行去重。使用count distinct进行去重统计会将reducer数量强制限定为1,而影响效率,因此适合改写为子查询。
想分性别进行统计,看看男女各多少?—— 聚合函数和group by
1-- 统计不同性别(F、M)中,不同的id个数2select count(distinct id) from table_13group by sex4-- 其它的聚合函数例如:max/min/avg/sum56-- 统计最大/最小/平均年龄7select max(age), min(age),avg(age) from 8table_19group by id
聚合函数帮助我们进行基本的数据统计,例如计算最大值、最小值、平均值、总数、求和
只想查看A公司的男女人数数据?—— 筛选 where/having
1-- 统计A公司的男女人数 2select count(distinct id) from table_1 3where company = 'A' 4group by sex 5 6-- 统计各公司的男性平均年龄,并且仅保留平均年龄30岁以上的公司 7select company, avg(age) from table_1 8where sex = 'M' 9group by company10having avg(age)>30;
希望查询结果从高到低/从低到高排序?—— 排序 order by
1-- 按年龄全局倒序排序取最年迈的10个人2select id,age from table_1 order by age DESC 3limit 10
将数值型的变量转化为分类型的变量?—— case when 条件函数
1-- 收入区间分组2select id,3(case when CAST(salary as float)<50000 Then '0-5万'4when CAST(salary as float)>=50000 and CAST(salary as float)<100000 then '5-10万'5when CAST(salary as float) >=100000 and CAST(salary as float)<200000 then '10-20万'6when CAST(salary as float)>200000 then '20万以上'7else NULL end 8from table_1;
case 函数的格式为(case when 条件1 then value1 else null end), 其中else 可以省,但是end不可以省。
在这个例子里也穿插了一个CAST的用法,它常用于string/int/double型的转换。
字符串
1. concat( A, B...)返回将A和B按顺序连接在一起的字符串,如:concat('foo', 'bar') 返回'foobar'
1select concat('www','.iteblog','.com') from2iteblog;3--得到 www.iteblog.com
2. split(str, regex)用于将string类型数据按regex提取,分隔后转换为array。
1-- 以","为分隔符分割字符串,并转化为array2Select split("1,2,3",",")as value_array from table_1;3-- 结合array index,将原始字符串分割为3列4select value_array[0],value_array[1],value_array[2] from 5(select split("1,2,3",",")as value_array from table_1 )t
3. substr(str,0,len) 截取字符串从0位开始的长度为len个字符。
1select substr('abcde',3,2) from2iteblog;34-- 得到cd
3. 基础进阶
不想全局排序,需要分组排序?—— row_number()
1-- 按照字段salary倒序编号2select *, row_number() over (order by salary desc) as row_num from table_1;34-- 按照字段deptid分组后再按照salary倒序编号5select *, row_number() over (partition by deptid order by salary desc) as rank from table_1;
除了row_number函数之外,还有两个分组排序函数,分别是rank() 和dense_rank()。
rank()排序相同时会重复,总数不会变 ,意思是会出现1、1、3这样的排序结果;
dense_rank() 排序相同时会重复,总数会减少,意思是会出现1、1、2这样的排序结果。
row_number() 则在排序相同时不重复,会根据顺序排序。
想要获取top10%的值?—— percentile 百分位函数
1-- 获取income字段的top10%的阈值2select percentile(CAST (salary AS int),0.9)) as income_top10p_threshold from table_1;34-- 获取income字段的10个百分位点5select percentile(CAST (salary AS int),array(0.0,0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0)) as income_percentiles6from table_1;
想要对时间字段进行操作?—— 时间函数
1-- 转换为时间数据的格式2select to_date("1970-01-01 00:00:00") as start_time from table_1;34-- 计算数据到当前时间的天数差 5select datediff6('2016-12-30','2016-12-29');7-- 得到 "1"
to_date函数可以把时间的字符串形式转化为时间类型,再进行后续的计算;
常用的日期提取函数包括 year()/month()/day()/hour()/minute()/second()
日期运算函数包括datediff(enddate,stratdate) 计算两个时间的时间差(day);
date_sub(stratdate,days) 返回开始日期startdate减少days天后的日期。
date_add(startdate,days) 返回开始日期startdate增加days天后的日期。
4. 常见笔试/面试题
例:有3个表S,C,SC:
S(SNO,SNAME)代表(学号,姓名)
C(CNO,CNAME,CTEACHER)代表(课号,课名,教师)
SC(SNO,CNO,SCGRADE)代表(学号,课号,成绩)
问题:
1. 找出没选过“黎明”老师的所有学生姓名。
2. 列出2门以上(含2门)不及格学生姓名及平均成绩。
3. 既学过1号课程又学过2号课所有学生的姓名。
11. -- 考察条件筛选 2select sname from s where sno not in 3( select sno from sc where cno in 4 ( 5select distinct cno from c where cteacher='黎明' 6 ) 7); 8 92. -- 考察聚合函数,条件筛选10select s.sname, avg_grade from s11join12(select sno from sc where scgrade 60 group by sno having count(*) >= 2) t113on s.sno = t1.sno14join15(select sno, avg(scgrade) as avg_grade from sc group by sno ) t216on s.sno = t2.sno;17183. -- 考察筛选、连接19select sname from20 ( select sno from sc where cno = 1) a21join 22 (select sno from sc where cno = 2) b23on a.sno = b.sno
做SQL题的时候注意理解每个题目希望你用的是什么知识点,这样有助于巩固。当初我学SQL的时候,盯着《SQL必知必会》翻来覆去的看,但是知识点真的比较多,也比较零碎。在写这篇文章之前,也看过知乎上关于SQL学习的文章,有的比较广泛而全面,有的则很干货,全部是牛客上的SQL题目的解析。
基于自己的体会,我写了这篇SQL面试和笔试的入门文章,主旨是快速、清晰的把握重点。希望大家都能快快入门SQL
朕已阅
server sql 分组 去重 字符串拼接_SQL | 数据分析面试必备SQL语句+语法相关推荐
- server sql 分组 去重 字符串拼接_SQL必知必会
一,数据库 (1)数据库 数据库:是一个以某种有组织的方法存储的数据集合 数据库软件:数据库管理系统(DBMS),一般用DBMS创建和操作数据库 (2)数据类型 (3)主键 主键:表中每一行都应该有一 ...
- hive 日期函数_数据分析面试必备——SQL窗口函数你会了吗?
之前写过一篇sql的文章,面向基础的sql操作(无眠:数据分析面试必备--SQL你准备好了吗?),目前已经有12000+收藏(收藏是点赞的5倍,你们可真狠心哪),也可以看出众多同学对sql学习的热情. ...
- SQL | 数据分析面试必备SQL语句+语法
关注上方"小詹学Python",选择"星标公众号", 关键时间,第一时间送达! | 作者:无眠 | 来源:知乎 前些天在网上冲浪的时候看到一个案例咨询,问说世界 ...
- sql中截取字符串函数_SQL Server 2017中的顶级SQL字符串函数
sql中截取字符串函数 SQL Server 2017 has been in the talk for its many features that simplify a developer's l ...
- mysql sql数值转字符拼接_sql中的字符串拼接
1. 概述 在SQL语句中经常需要进行字符串拼接,以sqlserver,oracle,mysql三种数据库为例,因为这三种数据库具有代表性. sqlserver: select '123'+'456' ...
- hive sql练习_SQL语句+语法 I 数据分析面试必备
- 点击上方"中国统计网"订阅我吧!- 前些天在网上冲浪的时候看到一个案例咨询,问说世界500强的数据分析要不要去,评论区一片爆炸:"楼主能分享一下文科生怎么转行做数据分 ...
- 含有参数的sql拼接_深入讲解SQL中的字符串拼接
一.概述 相信大家在日常开发中,在SQL语句中经常需要进行字符串拼接,以sqlserver,oracle,mysql三种数据库为例,因为这三种数据库具有代表性. sqlserver: select ' ...
- MyBatis中字符串拼接实现模糊查询的sql
//使用concat进行字符串拼接前缀% 和后缀%,实现模糊查询,会解决sqL注入的问题 like CONCAT('%',#{stockCode},'%') 转载于:https://www.cnblo ...
- 面试必备SQL调优方案
前言 以我个人做的项目为例,因为早期开发项目上线以后用户量还不是很大,之前考虑过数据量大时是否做sql优化,但是一直因为项目还在开发中没来得及细心的调优下SQL,由于业务前期数据量比较小,基本都能满足 ...
最新文章
- ScottGu之博客翻译-LINQ to SQL第三部分,查询数据库 (Part 3 - Querying our Database)
- hdu4740 不错的简单搜索
- MySQL\MariaDB 多线程复制初探
- 你会因为贫富差距远离曾经的好友吗?
- proguard android 配置,android – Proguard忽略库的配置文件
- 20141215胡思乱想
- java 采集上下滚屏_关于java游戏滚屏的问题!(如何实现)!
- Raid、lvm知识
- 文件上传到服务器文件名中文乱码问题
- 计算机网络未来的发展和趋势论文,计算机网络发展论文范文
- 安装SQL 2008的错误 等待数据库引擎恢复句柄失败。请查看 SQL Server 错误日志以了解可能的原因
- 通过AWS了解云计算系列——云计算的核心技术体系
- input框输入文本限制
- 情人节程序员用HTML网页表白【满天星星音乐背景动画特效】 HTML5七夕情人节表白网页源码 HTML+CSS+JavaScript
- 哇,你也想自由职业啊
- dw的html代码文档,Dw 基础篇:DW的文档工具栏
- 设计一下类似SpringIoC的注入工具~Lind.DI
- 2023美国大学生数学建模竞赛E题光污染完整数据集和求解代码分享
- Binder原理,Binder机制
- mysql过滤乱码_FaceBook专家:10分钟彻底解决MySQL乱码问题?