sql和python的区别_数据处理简单对比:Excel,SQL,Python
前言
无论是什么工具,做数据分析的时候一定会涉及到两类工作:
合并多个关联表
做数据透视表
这篇文章简单对比一下Excel、SQL和Python在这两类任务上的实现过程,从而对比其异同。
用到的数据表
01
如图所示,所涉及的共有三个表:
student:sno 学生学号,sname 学生姓名,ssex 性别,sbirthday 学生生日,class 学生所在班级号;
course:cno 课程号,cname 课程名;
score:sno 学生学号,cno 学生选修课程对应的课程号,degree 学生所选课程对应的课程分数。
可以看到,score表通过sno和student表连接、通过cno和course表连接。
另外,这张截图截自Excel,主要是为了方便后面Excel部分的讨论。
合并多个关联表
现在,我想要合并三张表,得到新表merge_table,表包含的列一次为:sno,cno,degree,sname,cname。
即,新表中包含score表的所有列,student表的sname列,以及course表的cname列。
1. Excel
为了讨论方便,先上结果:
02
首先,在A17:E17单元格创建所需列名,然后通过简单复制粘贴得到A18:C28这三列的数据。
D、E列的数据可以通过以下两种方法实现:
使用INDEX()+MATCH()函数;
使用VLOOKUP()函数。
两种方法实现逻辑和结果都一样,但前者调用的时候比后者稍复杂。为了说明,D列数据的提取我使用了方法1,E列数据的提取我使用了方法2。
D列:
首先在D18单元格输入以下函数(函数中的单元格所对应的数据请看图01)
=INDEX($B$3:$B$8,MATCH(A18,$A$3:$A$8,0))
接着下拉函数至D28。
E列:
在E18单元格输入以下函数(函数中的单元格所对应的数据请看图01)
=VLOOKUP(B18,$G$3:$H$6,2,0)
接着下拉函数至E28。
注意,如果要提取某个表中的多个列的数据,比如除了sname,我还想得到ssex、sbirthday和class的数据,由于这些列是一同储存在student表中的,用VLOOPKUP()显然更高效。
如果想要加快效率,还可以在原student表上新增一行,用数字x来表示第x列,然后在调用VLOOPKUP()时,直接把第三个参数指向这一行。
2. SQL
在合并关联表上,SQL非常便捷。实现的语句有两个(先创建或者导入原数据表):
SELECT score.*, sname, cname FROM score, course, student
WHERE score.sno = student.sno AND score.cno = course.cno;
或
SELECT score.*, sname, cname FROM score
LEFT JOIN student USING(sno)
LEFT JOIN course USING(cno);
两种方法返回的结果相同,结果如下:
03
我用的MySQL,不知道为什么合并后行的顺序变了=。=
3. Python
在Python中,首先导入numpy和pandas模块:
import numpy as np
import pandas as pd
接着导入数据表。
之后通过以下语句实现merge_table表的建立:
merge_table = pd.merge(score, student[['sno','sname']], on = 'sno', how = 'left')
merge_table = merge_table.merge(course[['cno','cname']], on = 'cno', how = 'left')
结果如下:
04
如果合并的表中数据不匹配怎么办
现在假设score表多了一行数据:
05
如图所示,蓝色部分为多出的数据,且课程6-106在course表中不存在。请无视逻辑问题,主要是为了方便讨论:)
1. Excel
遇到这种情况,上述的实现方法会出现一个问题:
06
因为课程号6-106在course表里并不存在,所以函数在返回值的时候出错了。
解决的办法有一个,就是在原函数上嵌套IF()函数。比如我把E29的函数更改为:
=IF(ISERROR(VLOOKUP(B29,$G$3:$H$6,2,0)),0,VLOOKUP(B29,$G$3:$H$6,2,0))
如果函数计算结果错误,则返回0。
07
2. SQL
在SQL中,如果出现此类情况,LEFT JOIN会返回NULL值:
08
如果想把NULL值替换为0,查询合并表的时候可以加上isnull()函数(MySQL中此函数写作ifnull()):
SELECT score.*, isnull(sname,0), isnull(cname,0) FROM score
LEFT JOIN student USING(sno)
LEFT JOIN course USING(cno);
如果函数计算结果错误,则返回0
返回结果和Excel的差不多,就不上图了。
3. Python
Python中情况类似:
09
如果想把NaN值替换为0,只需要在创建merge_table表之后,添加一行语句:
merge_table = merge_table.fillna(0)
返回结果也不上图了,和Excel的一样。
4. PS
面对合并表中数据不匹配,SQL和Python中都可以在合并表的时候把多出项忽略不计,只要把LEFT JOIN换成INNER JOIN就行了。但Excel不能自动删除多出项所在行。
数据透视表
为了方便,现在做一个透视表,该表返回选了课的同学的学号和其平均课程成绩。
三个软件对于透视表的实现都很友好,并且效率相近。
1. Excel
10
Excel在数据透视表工具下把列各种拖拽就行了。
另外,Excel的数据透视表可以选择返回合计(Grand Total)或者不返回。
2. SQL
语句:
SELECT sno, ROUND(AVG(degree),2) AS 'mean' FROM score
GROUP BY sno;
结果:
11
3. Python
语句:
score.groupby(['sno'])['degree'].agg(['mean']).reset_index()
结果:
12
一般做透视表的最终目的是作图,毕竟一图胜千语。
从这个目的出发,Python比SQL、Excel更实用,一来Python比Excel作图高效很多,二来SQL不能作图。
总结
通过上述对比可以发现,Excel合并关联表比SQL、Python要低效得多,而且在“数据不匹配”问题上解决得不好;而在另一方面,三者在创建透视表上表现相似,就看你习惯用哪个了:)
sql和python的区别_数据处理简单对比:Excel,SQL,Python相关推荐
- Python灰帽子_黑客与逆向工程师的Python编程之道
收藏自用 链接:Python灰帽子_黑客与逆向工程师的Python编程之道
- 数据分析领域,为什么要对比Excel学习Python?
Python本身是一门编程语言,应用于Web开发.爬虫.机器学习等多个领域,但是除了这些,今天我要告诉你Python大热的一个学习方向--那就是Python数据分析. 我常常会听到这样的问题,&quo ...
- Python数据分析是什么?为什么要对比Excel学习Python数据分析?
Python 虽然是一门编程语言,但是它并不难学,不仅不难学,而且很容易上手,这也是Python深受广大数据从业者喜爱的原因之一,因此大家在学习Python之前首先在心里告诉自己一句话,那就是Pyth ...
- spss与python和sql区别_数据分析中的Excel、R、Python、SPSS、SAS和SQL
作为一直想入门数据分析的童鞋们来说,如何选定一门面向数据分析的编程语言或工具呢?注意是数据分析,而不是大数据哦,数据分析是基础了. 数据分析的工具千万种,综合起来万变不离其宗.无非是数据获取.数据存储 ...
- r语言和python的区别_机器学习怎样开始比较好?Python还是R语言?
全文共3077字,预计学习时长11分钟 图源:unsplash 机器学习是近几年来最热门的技术之一,也许你对机器学习很感兴趣,但却不知从何处下手.别担心,兴趣是最好的老师这里有你开启该领域职业生涯的完 ...
- python手机教程_一张图带你学会Python,学习Python的非常简单,附教程
不过这张图是基于 Python 2 的(虽然影响也很小),所以我做了几个注释,也就是图上的几个数字,对内容做一点点补充说明: 关于编码,并不是一定要 UTF-8,而是要求"一致", ...
- python中 和 的区别_举例子让你明白python中is和==的区别
在说 is 和 == 的区别之前,我们先理解下python的变量.python的变量和java的变量有很大的区别,因为一个是动态语言,另一个是静态语言. java的变量就像是个盒子,是把对象的地址装进 ...
- 区块链python实现_最简单区块链的python实现
简单的记录下最近自己在学习区块链的笔记,随着比特币的价格越来越高,区块链的概念也越来越火.我简单的把区块链理解成存储数据的数据库,由一个个区块作为容器存储数据,通过hash值相互连接,类似链表结构. ...
- python命令行模式和交互模式区别_对命令行模式与python交互模式介绍
命令行模式与python交互模式 1.在命令行模式下,可以执行 python 进入 Python 交互式环境,也可以执 行 python hello.py 运行一个.py 文件. 2.在 Python ...
最新文章
- 跟我学Springboot开发后端管理系统7:Matrxi-Web权限设计
- 深入理解JS的面向对象(更新中)
- LeetCode LRU Cache(最近最少使用缓存)
- 移植uboot第一步:下载,编译,烧到板子上试验
- plsql 批量调存储过程_数控双端开榫机:批量铣榫头真牛气
- PCIe总线基本概念
- linux mysql 命令
- 阿里妈妈大规模在线分层实验实践
- Ubuntu 命令技巧
- java fact函数_Fact 定义一个类Fact表示无符号有理数(分数) 联合开发网 - pudn.com...
- 实验四 JavaScript的使用(学习打卡Day 2)
- [SSM框架]—Mybatis入门
- php html5 播放器,html5实现完美兼容各大浏览器的播放器_html5教程技巧
- android应用虚拟内存耗尽,GuardMalloc导致虚拟内存耗尽
- UIToolkit下一代UI系统
- 以为女程序员的奋斗路程
- [pytorch学习笔记] 3.Datasets Dataloaders
- C51单片机温湿度传感器DTH11使用
- Python从入门到PY交易,基础语法,散记(二)
- 各平台 SSH 免费客户端 SSH代理客户端