从数据处理到人工智能的一批计算生态

系统的对人工智能的浅显认识

数据表示 -> 数据清洗 -> 数据统计 -> 数据可视化 -> 数据挖掘 -> 人工智能

数据表示：采用合适方式用程序表达数据
数据清洗：数据归一化、数据转换、异常处理
数据统计：数据的概要理解，数量、分布、中位数等
数据可视化：直观展示数据内涵的方式
数据挖掘：从数据分析获得知识，产生数据外的价值
人工智能：数据/语言/图像/视觉/等方面深度分析与决策

数据处理

Numpy
表达N维数组的最基础库
python接口使用，C语言实现，计算速度优异
python数据分析及科学计算的基础库，支撑Pandas等
提供直接的矩阵运算、广播函数、线性代数等功能

比如进行两个一维数组的运算
使用基础语法，我们要使用for循环

def pySum():a = [0,1,2,3,4]b = [9,8,7,6,5]c = []for i in range (len(a)):c.append(a[i]**2 + b[i]**3)return c
print(pySum())

使用Numpy，Numpy的最基础单元是一个数组，数组相当于一个变量，我们就可以用数组变量直接的操作符进行运算

将N维数组看成简单的数字运算

import Numpy as np
def npSum():a = np.array([0,1,2,3,4])b = np.array([9,8,7,6,5])c = a**2 + b**3return c
print(npSum())

Pandas
Python数据分析高层次应用库
提供了简单易学的数据结构和数据分析工具
理解数据类型与索引的关系，操作索引即操作数据
Python最主要的数据分析功能库，基于Numpy开发

Pandas库核心提供了两个数据结构

Series = 索引 + 一维数据
通过索引来与一维数据进行关联，进而通过索引来操作数据的一种数据方法

DataFrame = 行列索引 + 二维数据
使用行列的二维索引来操作二维数据的方法

Pandas库通过扩展了对一维数据和二维数据的一种表示，因而能够形成更高层次对数据的操作，简化数据分析的运行
Scipy
数学、科学和工程计算功能库
提供了一批数学算法及工程数据运算功能
类似Matlab，可用于如傅里叶变换、信号处理等应用
Python最主要的科学计算功能库，基于Numpy开发

数据可视化

Matplotlib
http://matplotlib.org
高质量的二维数据可视化功能库
提供了超过100种数据可视化展示效果
通过matplotlib.pyplot子库调用各可视化效果，相当于各个子库的快捷方式
Python最主要的数据可视化功能库，基于Numpy开发
Seaborn
http://seaborn.pydata.org
统计类数据可视化功能库
提供了一批高层次的统计类数据可视化展示效果
主要展示数据间分布、分类和线性关系等内容
基于Matplotlib开发，支持Numpy和Pandas
Mayavi
http://docs.enthought.com/mayavi/mayavi/
三维科学数据可视化功能库
提供了一批简单易用的3D科学计算数据可视化展示效果
目前版本Mayavi2，三维可视化最主要的第三方库
支持Numpy、TVTK、Traits、Envisage等第三方库

文本处理

PyPDF2
http://mstamy2.github.io/PyPDF2
用来处理pdf文件的工具集
提供了一批处理PDF文件的计算功能
支持获取信息、分隔/整合文件、加密解密等
完全Python语言实现，不需要额外依赖，功能稳定

比如我们将两个pdf文件整合输出一个pdf文件

from PyPDF2 import PdfFileReader, PdfFileMerger
merger = PdfFileMerger()
input1 = open("document1.pdf","rb")
input2 = open("document2.pdf","rb")
merger.append(fileobj = input1, pages = (0,3))
merger.merge(position = 2, fileobj = input2, pages = (0,1))
output = open("document-output.pdf","rb")
merger.write(output)

NLTK
http://www.nltk.org
自然语言文本处理第三方库
提供了一批简单易用的自然语言文本处理功能
支持语言文本分类、标记、语法句法、语义分析等
最优秀的Pyhon自然语言处理库

将一个自然语言文本变成一个树型结构，并且分析其中各个部分逻辑的之间关系

from nltk.corpus import treebank
t = treebank.parsed_sents('wsj_0001.mrg')[0]
t.draw()

机器学习

Scikit-learn
http://scikit-learn.org/
机器学习方法工具集
提供一批统一化的机器学习方法功能接口
提供聚类、分类、回归、强化学习等计算功能
机器学习最基本且最优秀的Python第三方库
TensorFlow
http://www.tensorflow.org/
AlphaGo背后的机器学习计算框架
谷歌公司推动的开源机器学习框架
将数据流图作为基础，图节点代表运算，边代表张量

代码示例

import tensorflow as tf
init = tf.global_variables_initializer()
sess = tf.Session()
sess.run(init)
res = sess.run(result)
print('result:',res')

MXNet
http://mxnet.incubator.apache.org/
基于神经网络的深度学习计算框架
提供可扩展的神经网络及深度学习计算功能
可用于自动驾驶、机器翻译、语音识别等众多领域

从数据处理到人工智能的一批计算生态相关推荐

第一代计算机主要应用领域为数据处理,第一代计算机主要应用领域为____。 A.数据处理 B.人工智能 C.科学计算 D.过程控制...
C.科学计算. 一代主要用于科学计算,二代用与数据处理. 计算机发明者约翰·冯·诺依曼.计算机是20世纪最先进的科学技术发明之一,对人类的生产活动和社会活动产生了极其重要的影响,并以强大的生命力飞速发 ...
北理工嵩天Python语言程序设计笔记（10 Python计算生态概览）
前言本文是对<北理工嵩天/黄天宇/礼欣 Python语言程序设计>的学习笔记,供自己查阅使用. 文章目录北理工嵩天Python语言程序设计笔记(目录) 北理工嵩天Python语言程序 ...
北京理工大学-嵩天python语言程序设计-9-Python计算生态概览
第九章 Python计算生态概览 9.1从数据处理到人工智能 9.2实例15霍兰德人格分析雷达图 9.3从web分析到网络空间 9.4从人机交互到艺术设计 9.5实例16:玫瑰花绘制方法论 -概览P ...
MOOC《Python语言程序设计》（第15次）Python计算生态概览（第九周）
MOOC<Python语言程序设计>(第15次) Python计算生态概览(第九周)21.8.26 文章目录 MOOC<Python语言程序设计>(第15次) Python计算 ...
9 python计算生态概括
Python计算生态概括一.从数据处理到人工智能 1.概括数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能 -数据表示:采用合适方式用程序表达数 ...
Python语法基础（U.9）-Python计算生态概览
为mooc网站的北京理工大学的嵩天 .黄天羽 .礼欣三位老师的课程笔记. 欢迎starGITHUB可下载源码 9. Python计算生态概览从数据处理到人工智能:实例15:霍兰德人格分析雷达图: ...
Python入门实例验证及结果之实例16 霍兰德人格分析雷达图 ## python计算生态概览
python计算生态概览从数据处理到人工智能数据表示->数据清洗-> 数据统计->数据可视化->数据挖掘->人工智能 -数据表示:采用合适的方式用程序表达数据 -数据 ...
python测验9_荐测验9: Python计算生态纵览 (第9周)
测验9: Python计算生态纵览 (第9周) 单项选择题 1.以下选项不是Python数据可视化方向第三方库的是: A.Matplotlib B.Seaborn C.Mayavi D.Pyramid ...
第9周 Python计算生态概览
目录 9.1 从数据处理到人工智能 9.2 实例15:霍兰德人格分析雷达图 9.3 从Web解析到网络空间 9.4 从人机交互到艺术设计 9.5 实例16:玫瑰花绘制 9.1 从数据处理到人工智能数 ...