从数据处理到人工智能

数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能

数据表示：采用合适方式用程序表达数据
数据清洗：数据归一化、数据转换、异常值处理
数据统计：数据的概要理解，数量、分布、中位数等
数据可视化：直观展示数据内涵的方式
数据挖掘：从数据分析获得知识，产生数据外的价值
人工智能：数据/语言/图像/视觉等方面深度分析与决策

Python库之数据分析

Numpy:表达N维数组的最基础库

Python接口使用，C语言实现，计算速度优异
Python数据分析及科学计算的基础库，支持Pandas等
提供直接的矩阵运算、广播函数、线性代数等功能

def pySum():a = [0, 1, 2, 3, 4]b = [9, 8, 7, 6, 5]c = []for i in range(len(a)):c.append(a[i]**2 + b[i]**3)return c
print(pySum())import numpy as npdef npSum():a = np.array([0, 1, 2, 3, 4])b = np.array([9, 8, 7, 6, 5])c = a**2 + b**3return c
print(npSum())

Pandas:Python数据分析高层次应用库

提供了简单易用的数据结构和数据分析工具
理解数据类型与索引的关系，操作索引即操作数据
Python最主要的数据分析功能库，基于Numpy开发

Series = 索引 + 一维数据
DataFrame = 行列索引 + 二维数据

SciPy:数学、科学和工程计算功能库 - 提供了一批数学算法及工程数据运算功能 - 类似Matlab，可用于傅里叶变换、信号处理等应用 - Python最主要的科学计算功能库，基于Numpy开发 - 傅里叶变换类、信号处理类、线性代数类、图像处理类、稀疏图压缩类、稀疏图运算类、优化算法类

Python库之数据可视化

Matplotlib:高质量的二维数据可视化功能库

提供了超过100种数据可视化展示效果
通过matplotlib.pyplot子库调用各可视化效果
Python最主要的数据可视化功能库，基于Numpy开发

Seaborn:统计类数据可视化功能库

提供了一批高层次的统计类数据可视化展示效果
主要展示数据间分布、分类和线性关系等内容
基于Matplotlib开发，支持Numpy和Pandas

Mayavi:三维科学数据可视化功能库

提供了一批简单易用的3D科学计算数据可视化展示效果
目前版本是Mayavi2，三维可视化最主要的第三方库
支持Numpy、TVTK、Traits、Envisage等第三方库

Python库之文本处理

PyPDF2:用于处理pdf文件的工具集

提供了一批处理PDF文件的计算功能
支持获取信息、分隔/整合文件、加密解密等
完全Python语言实现，不需要额外依赖，功能稳定

# 整合两个PDF文件
from PyPDF2 import PdfFileReader, PdfFileMerger
merger = PdfFileMerger()
input1 = open("document1.pdf","rb")
input2 = open("document2.pdf","rb")
merger.append(fileobj = input1, pages = (0,3))
merger.merge(position = 2, fileobj = input2, pages = (0,1))
output = open("document-output.pdf","wb")
merger.write(output)

NLTK:自然语言文本处理第三方库

提供了一批简单易用的自然语言文本处理功能
支持语言文本分类、标记、语句语法、语义分析等
最优秀的Python自然语言处理库

from nltk.corpus import treebank
t = treebank.parsed_sents('wsj_0001.mrg')[0]
t.draw()

Python-docx:创建或更新Microsoft Word文件的第三方库

提供创建或更新.doc .docx等文件的计算功能
增加并配置段落、图片、表格、文字等，功能全面

from docx import Document
document = Document()
document.add_heading('Document Title', 0 )
p = document.add_paragraph('A plain paragraph having some')
document.add_page_break()
document.save('deomo.docx')

Python库之机器学习

Scikit-learn:机器学习方法工具集

提供了一批统一化的机器学习方法功能接口
提供了聚类、分类、回归、强化学习等计算功能
机器学习最基本且最优秀的第三方库

TensorFlow:AlphaGo背后的机器学习计算框架

谷歌公司推动的开源机器学习框架
将数据流图作为基础，图节点代表运算，边代表张量
应用机器学习方法的一种方式，支持谷歌人工智能应用

import tensorflow as tf
init = tf.global_variables_initializer()
sess = tf.Session()
sess.run(init)
res = sess.run(result)
print('result:',res)

MXNet:基于神经网络的深度学习计算框架

提供可扩展的神经网络及深度学习计算功能
可用于自动驾驶、机器翻译、语音识别等众多领域
Python最重要的深度学习计算框架

霍兰德人格分析雷达图

问题分析

人格分类：研究型、艺术型、社会型、企业型、传统型、现实型
职业：工程师、实验员、艺术家、推销员、记事员、社会工作者
通过matplotlib、numpy库绘制雷达图

实例展示

#HollandRadarDraw
import numpy as np
import matplotlib.pyplot as plt
import matplotlibmatplotlib.rcParams['font.family'] = 'SimHei'
radar_labels = np.array(['研究型(I)','艺术型(A)','社会型(S)',\'企业型(E)','常规型(C)','现实型(R)'])
data = np.array([[0.40,0.32,0.35,0.30,0.30,0.88],[0.85,0.35,0.30,0.40,0.40,0.30],[0.43,0.89,0.30,0.28,0.22,0.30],[0.30,0.25,0.48,0.85,0.45,0.40],[0.20,0.38,0.87,0.45,0.32,0.28],[0.34,0.31,0.38,0.40,0.92,0.28]])#数据值
data_labels = ('艺术家','实验员','工程师','推销员','社会中作者','记事员')
angles = np.linspace(0, 2*np.pi, 6, endpoint=False)
data = np.concatenate((data,[data[0]]))
angles = np.concatenate((angles,[angles[0]]))
fig = plt.figure(facecolor='white')
plt.subplot(111,polar = True)
plt.plot(angles,data,'o-',linewidth=1,alpha=0.2)
plt.fill(angles,data,alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels)
plt.figtext(0.52,0.95,'霍兰德人格分析',ha='center',size=20)
legend = plt.legend(data_labels,loc=(0.94,0.80),labelspacing=0.1)
plt.setp(legend.get_texts(),fontsize='large')
plt.grid(True)
plt.savefig('holland_radar.jpg')
plt.show()

Web解析到网络空间

Python库网络爬虫

Requests:最友好的网络爬虫功能库

提供了简单易用的类HTTP协议网络爬虫功能
支持连接池、SSL、Cookies、HTTP(S)代理等
Python最主要的页面级网络爬虫功能库


import requests
r = requests.get('https://api.github.com/user',\auth = ('user','pass'))
r.status_code
r.headers['content-type']
r.encoding
r.text

Scrapy: 优秀的网络爬虫框架

提供了构建网络爬虫系统的框架功能，功能半成品
支持批量和定时网页爬取、提供数据处理流程等
Python最主要且最专业的网络爬虫框架

pyspider:强大的Web页面爬取系统

提供了完整的网页爬取系统构建功能
支持数据库后端、消息队列、优先级、分布式架构等
Python重要的网络爬虫类第三方库

Python库之Web信息提取

Beautiful Soup:HTML和XML的解析库

提供了解析HTML和XML等Web信息的功能
又名beautifulsoup4或bs4，可以加载多种解析引擎
常与网络爬虫库搭配使用，如Scrapy、requests等

Re:正则表达式j解析和处理功能库

提供了定义和解析正则表达式的一批通用功能
可用于各类场景，包括定点的Web信息提取
Python最主要的标准库之一，无需安装

r’\d{3}-\d{8}|\d{4}-\d{7}’
re.search()
re.match()
re.findall()
re.split()
re.finditer()
re.sub()

Python-Goose:提取文章类型Web页面的功能库 - 提供了对Web页面中文章信息/视频等元数据的提取功能 - 针对特定类型Web页面，应用覆盖面较广 - Python最主要的Web信息提取库 ```python from goose import Goose url = 'http://www.elmundo.es/elmundo/2012/10/28/espana/1351388909.html' g = Goose({'use_meta_language':False,'target_language':'es'}) article = g.extract(url=url) article.cleaned_text[:150] ```

Python库之Web网站开发

Django:最流行的Web应用框架

提供了构建Web系统的基本应用框架
MTV模式：模型(Model)、模板(Template)、视图(Views)
Python最重要的Web应用框架，略微复杂的应用框架

Pyramid:规模适中的Web应用框架

提供了简单方便构建Web系统的y应用框架
不大不小，规模适中，适合快速构建并适度扩展类应用
Python产品级Web应用框架，起步简单可扩展性好

from wsgiref.simple_server import make_server
from pyramid.config import Configurator
from pyramid.response import Response
def hello_world(request):return Response('Hello World!')
if __name__ == '__main__':with Configurator() as config:config.add_route('hello','/')config.add_view(hello_world,route_name='hello')app = config.make_wsgi_app()server = make_server('0.0.0.0',6543,app)server.server_forever()

Flask:Web应用开发微框架

提供了最简单构建Web系统的应用框架
特点是：简单、规模小、快速
Django > Pyramid > Flask 好

from flask import Flask
app = Flask(__name__)
@app.route('/')
def hello_world():return 'Hello World!'

Python库之网络应用开发

WeRoBot:微信公众号开发框架

提供了解析微信服务器消息及反馈消息的功能
建立微信机器人的重要技术手段

import werobot
robot = werobot.WeRoBot(token='tokenhere')
@robot.handler
def hello(message):return 'Hello World!'

aip:百度AI开放p平台接口 - 提供了访问百度AI服务的Python功能接口 - 语音、人脸、OCR、NLP、知识图谱、图像搜索等领域 - Python百度AI应用的最主要方式

MyQR:二维码生成第三方库

提供了生成二维码的系列功能
基本二维码、艺术二维码和动态二维码

从人机交互到艺术设计

图形用户界面

PyQt5:Qt开发框架的Python接口

提供了创建QT5程序的Python API接口
Qt是非常成熟的跨平台桌面y应用开发系统，完备GUI
推荐的Python GUI开发第三方库

wxPython:跨平台GUI开发框架 - 提供了专用于Python的跨平台GUI开发框架 - 理解数据类型与索引的关系，操作索引即操作数据 - Python最主要的数据分析功能库，基于Numpy开发

import wx
frame = wx.App(False)
frame = wx.Frame(None,wx.ID_ANY,'Hello World')
frame.Show(True)
app.MainLoop()

PyGObject:使用GTK+开发GUI的功能库

提供了整合GTK+、WebKitGTK+等库的功能
GTK+:跨平台的一种用户图形界面GUI框架
实例：Anaconda采用该库构建GUI

import gi
gi.require_version('Gtk','3.0')
from gi.repository import Gtk
window = Gtk.Window(title="Hello World")
window.show()
window.connect('destroy',Gtk.main_quit)
Gtk.main()

Python库之游戏开发

PyGame:简单的游戏开发功能库

提供了基于SDL的简单游戏开发功能及实现引擎
理解游戏对外部输入的响应机制及角色创建和交互机制
Python游戏入门最主要的第三方库

Panda3D:开源、跨平台的3D渲染和游戏开发库

一个3D游戏引擎，提供Python和C++两种接口
支持很多先进特性：法线贴图、光泽贴图、卡通渲染等

cocos2d:构建2D游戏和图形界面交互式应用的框架

提供了基于OpenGL的游戏开发图形渲染功能
支持GPU加速，采用树形结构分层管理游戏对象类型
适用于2D专业级游戏开发

Python库之虚拟现实

VR Zero:在树莓派上开发VR应用的Python库

提供了大量与VR开发相关的功能
针对树莓派的VR开发库，支持设备小型化，配置简单化
适合初学者实践开发应用

pyovr:Oculus Rift的Python开发接口

针对Oculus VR设备的python开发库
基于成熟的VR设备，提供全套文档，工业级应用设备
Python+虚拟现实领域探索的一种思路

Vizard:基于Python的通用VR开发引擎

专业的企业级虚拟现实开发引擎
提供详细的官方文档
支持多种主流的VR硬件设备，具有一定的通用性

Python库之图形艺术

Quads:迭代的艺术

对图片进行四分迭代，形成像素风
可以生成动图或静图图像
简单易用，具有很高的展示度

ascii_art:ASCII艺术库

将普通图片转化为ASCII艺术风格
输出可以是纯文本或彩色文本
可采用图片格式输出

turtle海龟绘制体系

玫瑰花绘制

#RoseDraw.py
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):for i in range(n):t.left(d)t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor('green')
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()

10 Python计算生态相关推荐

北理工嵩天Python语言程序设计笔记（10 Python计算生态概览）
前言本文是对<北理工嵩天/黄天宇/礼欣 Python语言程序设计>的学习笔记,供自己查阅使用. 文章目录北理工嵩天Python语言程序设计笔记(目录) 北理工嵩天Python语言程序 ...
python测验9_荐测验9: Python计算生态纵览 (第9周)
测验9: Python计算生态纵览 (第9周) 单项选择题 1.以下选项不是Python数据可视化方向第三方库的是: A.Matplotlib B.Seaborn C.Mayavi D.Pyramid ...
python计算生态规模_Python计算生态的构建
本专题的内容结构: 第一部分主要是:如何编写Python第三方库(包和模块) 第二部分主要是:如何编写带有c语言扩展的Python第三方库(包和模块) 第一部分的结构: unit1:深入理解Pytho ...
MOOC《Python语言程序设计》（第15次）Python计算生态概览（第九周）
MOOC<Python语言程序设计>(第15次) Python计算生态概览(第九周)21.8.26 文章目录 MOOC<Python语言程序设计>(第15次) Python计算 ...
Python快速编程入门#学习笔记02# |第十章：Python计算生态与常用库（附.小猴子接香蕉、双人乒乓球小游戏源码）
全文目录学习目标 1. Python计算生态概述 1.1 Python计算生态概述 2. Python生态库的构建与发布 2.1 模块的构建与使用 * 2.1.1第三方库/模块导入的格式 2.2 包 ...
第 8 章 Python 计算生态
整理的文章内容主要来源为高教版<计算机等级考试二级 Python>教程视频讲义,并且更正了原讲义中的错误的地方. 专栏文章索引如下: 考试大纲第 1 章程序设计基本方法第 2 章 P ...
【MOOC嵩天Python语言程序设计】第9周 Python计算生态概览
[MOOC嵩天Python语言程序设计]第9周 Python计算生态概览 9.1 从数据处理到人工智能 9.2 实例15:霍兰德人格分析雷达图 9.3 从Web解析到网络空间 9.4 从人机交互到艺术 ...
Python语法基础（U.9）-Python计算生态概览
为mooc网站的北京理工大学的嵩天 .黄天羽 .礼欣三位老师的课程笔记. 欢迎starGITHUB可下载源码 9. Python计算生态概览从数据处理到人工智能:实例15:霍兰德人格分析雷达图: ...
python递归算法案例教案_电子教案第8章 Python计算生态
全国计算机等级考试二级教程全国计算机等级考试二级教程 Python语言程序设计语言程序设计 (2020年版) 知识兔w w w . z h is h it u . c o m [第[第8章]章] Py ...

10 Python计算生态