手把手教你在百度aistuio训练人工智能模型
我在上文中介绍了百度的在线AI模型创建平台aistudio(博客地址:https://blog.csdn.net/BEYONDMA/article/details/101762116),我们知道深度学习的入门一个最大的门槛就是搭建编程环境,今天我们就来用aistio我们就来训练第一个人工智能模型。
波士顿房价预测
其实波士顿房价本来非常具有代表意义,他是《Deep learning with keras》中的第一个例程,堪称深度学习界的hello world学习明白了这个也就是基本入门了人工智能,而本文就来介绍一下如何这个模型是如何训练又是如何被预测的。
一、我们有哪些数据我们可以看到训练数据包含404个点,每个数据点包含13个特征。
这些特征包括:
1.人均犯罪率
2.在25000平方英尺上住房的比例
3.每个镇上平均的非零售企业比例
4.是否为查尔斯河景房(= 1代表就在河边; 0则代表非河景))
5.一氧化氮的浓度,单位是千万分之一
6.每个住所的平均房间数
7.1940年以前自己修的建筑比例
8.到波士顿五个就业中心的加权距离
9.到公路适应性指标
10.每10000的税率的完全价值
11.镇上的学生-老师比例
12.黑人人口的比例(这一域在sklearn的数据集中已经删除了,不过依旧保留在了某它框架中)
12低地位人口比例
我们接下来要做的就是从这些点学习到相应的模型来预测波士顿其它地方的房价,这里首先我们先对于一些基本概念进行说明。
假设函数:本项目只是一个机器学习的入门,所以我倍用线性模型进行回归预测,也就是我们的假设函数为 Y’= wX+b ,其中,Y’表示模型的预测结果(预测房价),用来和真实的Y区分。模型要学习的参数即:w,b。
损失函数:假如函数预测的结果Y’与真实值Y之间的误差。这个差距越小预测越准确,而人工智能模型,本质上就是一个不断修正参数w,b,使预测值Y’尽可能地接近真实值Y。这个实值通常用来反映模型误差的大小。对于线性模型来讲,最常用的损失函数就是均方误差。
优化算法:模型训练其实等价于调整参数使得损失函数值不断变小的过程所以,优化算法就是微调变量w和b的算法,一般我们采用的优化算法有随机梯度下降法(SGD)、Adam算法等等
接下来我们就进入代码的环节了:
1.载入相应包,读入数据,代码及注释如下:
import paddle.fluid as fluid
import paddle
import numpy as np
import os
import matplotlib.pyplot as pltBUF_SIZE=500
BATCH_SIZE=20#用于训练的数据提供器,每次从缓存中随机读取批次大小的数据
train_reader = paddle.batch(paddle.reader.shuffle(paddle.dataset.uci_housing.train(), buf_size=BUF_SIZE), batch_size=BATCH_SIZE)
#用于测试的数据提供器,每次从缓存中随机读取批次大小的数据
test_reader = paddle.batch(paddle.reader.shuffle(paddle.dataset.uci_housing.test(),buf_size=BUF_SIZE),batch_size=BATCH_SIZE)
2.训练前的准备,其代码及注释如下:
train_data=paddle.dataset.uci_housing.train();
sampledata=next(train_data())
print(sampledata)#定义张量变量x,表示13维的特征值
x = fluid.layers.data(name='x', shape=[13], dtype='float32')
#定义张量y,表示目标值
y = fluid.layers.data(name='y', shape=[1], dtype='float32')
#定义一个简单的线性网络,连接输入和输出的全连接层
#input:输入tensor;
#size:该层输出单元的数目
#act:激活函数
y_predict=fluid.layers.fc(input=x,size=1,act=None)
cost = fluid.layers.square_error_cost(input=y_predict, label=y) #求一个batch的损失值
avg_cost = fluid.layers.mean(cost) #对损失值求平均值
optimizer = fluid.optimizer.SGDOptimizer(learning_rate=0.1)
opts = optimizer.minimize(avg_cost)place = fluid.CPUPlace() #定义运算场所为cpu
exe = fluid.Executor(place) #创建一个Executor实例exe
exe.run(fluid.default_startup_program()) #Executor的run()方法执行startup_program(),进行参数初始化# 定义输入数据维度
feeder = fluid.DataFeeder(place=place, feed_list=[x, y])#feed_list:向模型输入的变量表或变量表名iter=0;
iters=[]
train_costs=[]
#绘制训练进程函数
def draw_train_process(iters,train_costs):title="training cost"plt.title(title, fontsize=24)plt.xlabel("iter", fontsize=14)plt.ylabel("cost", fontsize=14)plt.plot(iters, train_costs,color='red',label='training cost') plt.grid()plt.show()
3.训练模型
EPOCH_NUM=10
model_save_dir = "/home/aistudio/data/fit_a_line.inference.model"for pass_id in range(EPOCH_NUM): #训练EPOCH_NUM轮# 开始训练并输出最后一个batch的损失值train_cost = 0for batch_id, data in enumerate(train_reader()): #遍历train_reader迭代器train_cost = exe.run(program=fluid.default_main_program(),#运行主程序feed=feeder.feed(data), #喂入一个batch的训练数据,根据feed_list和data提供的信息,将输入数据转成一种特殊的数据结构fetch_list=[avg_cost]) print("Pass:%d, Cost:%0.5f" % (pass_id, train_cost[0][0])) #打印最后一个batch的损失值iter=iter+BATCH_SIZEiters.append(iter)train_costs.append(train_cost[0][0])# 开始测试并输出最后一个batch的损失值test_cost = 0for batch_id, data in enumerate(test_reader()): #遍历test_reader迭代器test_cost = exe.run(program=fluid.default_main_program(), #运行测试chengfeed=feeder.feed(data), #喂入一个batch的测试数据fetch_list=[avg_cost]) #fetch均方误差print('Test:%d, Cost:%0.5f' % (pass_id, test_cost[0][0])) #打印最后一个batch的损失值#保存模型# 如果保存路径不存在就创建if not os.path.exists(model_save_dir):os.makedirs(model_save_dir)print ('save models to %s' % (model_save_dir))#保存训练参数到指定路径中,构建一个专门用预测的programfluid.io.save_inference_model(model_save_dir, #保存推理model的路径['x'], #推理(inference)需要 feed 的数据[y_predict], #保存推理(inference)结果的 Variablesexe) #exe 保存 inference model
draw_train_process(iters,train_costs)infer_exe = fluid.Executor(place) #创建推测用的executor
inference_scope = fluid.core.Scope() #Scope指定作用域infer_results=[]
groud_truths=[]#绘制真实值和预测值对比图
def draw_infer_result(groud_truths,infer_results):title='Boston'plt.title(title, fontsize=24)x = np.arange(1,20) y = xplt.plot(x, y)plt.xlabel('ground truth', fontsize=14)plt.ylabel('infer result', fontsize=14)plt.scatter(groud_truths, infer_results,color='green',label='training cost') plt.grid()plt.show()
4.预测模型
model_save_dir = "/home/aistudio/data/fit_a_line.inference.model"
with fluid.scope_guard(inference_scope):#修改全局/默认作用域(scope), 运行时中的所有变量都将分配给新的scope。#从指定目录中加载 推理model(inference model)[inference_program,feed_target_names,fetch_targets] = fluid.io.load_inference_model(#fetch_targets: 推断结果model_save_dir, #model_save_dir:模型训练路径 infer_exe) #infer_exe: 预测用executor#获取预测数据infer_reader = paddle.batch(paddle.dataset.uci_housing.test(), #获取uci_housing的测试数据batch_size=200) #从测试数据中读取一个大小为10的batch数据#从test_reader中分割xtest_data = next(infer_reader())test_x = np.array([data[0] for data in test_data]).astype("float32")test_y= np.array([data[1] for data in test_data]).astype("float32")results = infer_exe.run(inference_program, #预测模型feed={feed_target_names[0]: np.array(test_x)}, #喂入要预测的x值fetch_list=fetch_targets) #得到推测结果 print("infer results: (House Price)")for idx, val in enumerate(results[0]):print("%d: %.2f" % (idx, val))infer_results.append(val)print("ground truth:")for idx, val in enumerate(test_y):print("%d: %.2f" % (idx, val))groud_truths.append(val)draw_infer_result(groud_truths,infer_results)from openpyxl import load_workbook
wb = load_workbook(filename = 'work/Top250.xlsx')
sheet_ranges = wb['Top250']#将第一列的前几行打印出来
for i in range (1,8):print(sheet_ranges['A'+i.__str__()].value)#如果没有问题, 就将该工作表转为dataframe格式df = DataFrame(sheet_ranges.values)
将上述代码合并在一起执行即可,我们可以看到训练的过程
并得到最终的预测结果和实际的比对
用aistudio最大的方便之处在于不需要自己搭建任何python及深度学习的开发环境,全部都是准备好的,而且现在也还免费,所以大家完全可以趁十一,赶快用过来。
手把手教你在百度aistuio训练人工智能模型相关推荐
- 手把手教你:如何让围棋人工智能Leela Zero陪你“人机大战”
如今,围棋人工智能的水平已经碾压人类,对于像我一样的围棋爱好者来说,早已等不及通过与人工智能对弈和复盘分析来快速提升棋力了.不过,独孤求败的AlphaGo Zero已然退出江湖,而绝艺.金毛.星阵等围 ...
- python 靶心_手把手教你使用Python实战反欺诈模型|原理+代码
原标题:手把手教你使用Python实战反欺诈模型|原理+代码 作者 | 萝卜 来源 | 早起Python(ID: zaoqi-python) 本文将基于不平衡数据,使用Python进行 反欺诈模型数据 ...
- 手把手教你用Pytorch代码实现Transformer模型(超详细的代码解读)
手把手教你用Pytorch代码实现Transformer模型(超详细代码解读)
- 手把手教你在百度飞桨云平台下运行PPYOLO-E,训练COCO数据集
百度ai云平台:飞桨AI Studio - 人工智能学习实训社区 (baidu.com) 首先感谢百度提供这样一个云平台 .ps 每天会送8个算力也就是每天可以使用8个小时V100-32G 完成任务还 ...
- 百度收录批量查询_峰少课堂 手把手教你操作百度霸屏!(内附详细操作笔记!)...
今天峰少课堂给大家讲解的是操作百度霸屏,一个月赚6000块!(内附详细操作笔记!) 看完可以直接拿去实操,没有效果你来找我啊哈哈哈哈哈!!之前我就是在公司摸索出了这套方法,然后专门找了一个文案做百度霸 ...
- YOLOv5手把手教你制作VOC格式数据集与模型训练
引言 2020年2月YOLO之父Joseph Redmon宣布退出计算机视觉研究领域,2020 年 4 月 23 日YOLOv4 发布,2020 年 6 月 10 日YOLOv5发布. YOLOv5源 ...
- 手把手教你用YOLOv5算法训练数据和检测目标(不会你捶我)
前言 本人从一个小白,一路走来,已能够熟练使用YOLOv5算法来帮助自己解决一些问题,早就想分析一下自己的学习心得,一直没有时间,最近工作暂时告一段落,今天抽空写点东西,一是为自己积累一些学习笔记,二 ...
- 手把手教你搭建机器学习+深度学习AI模型
说起现在搞什么最挣钱,10 人里 11 个都要回答人工智能! 早在几年前,华为就开出百万年薪招聘 AI 专家,当是很多人认为噱头大于实际价值.但如果今天还有谁质疑人工智能的前景,那显然已经和时代脱轨了 ...
- 独家 | 手把手教你在试验中修正机器学习模型(附学习资源)
作者:Seth DeLand 翻译:王威力 校对:万文菁 本文约1800字,建议阅读8分钟. 本文是一个循序渐进的指南,包括如何预处理数据和从中生成特征.并且还包含其他示例资源的链接,以帮助您探索有关 ...
最新文章
- 十字路口待转区什么用_左转待转区,到底怎样掉头?
- 中信银行就泄露池子个人信息致歉,网友:违法行为想靠道歉就完事?
- Python正则表达式常用flag含义与用法详解
- python 获取唯一值_从Python列表中获取唯一值
- JVM性能调优监控工具专题一:JVM自带性能调优工具(jps,jstack,jmap,jhat,jstat,hprof)...
- CSS的样式合并与模块化
- Linux上RandomAccessFile访问FTP文件出错
- HUT-XXXX The window of the dazzling 模拟
- [Gamma阶段]第四次Scrum Meeting
- 通过注册表快速清理残留的软件
- gif怎么裁剪尺寸?一键gif裁剪工具推荐
- 多变量微积分笔记4——全微分与链式法则
- Python(4)print一个10行10列的星星图案
- 第一届『Citric杯』NOIP提高组模拟赛 题解
- Windows10系统重装
- 读取和讯博客数据可视化分析
- 解锁oracle中的scott用户,Oracle 解锁scott用户
- Employing Personal Word Embeddings for Personalized Search
- 边缘计算,为什么一定会迎来大爆发?
- want to port JIT to MIPS, any coworker or any hint?
热门文章
- React之mobx、mobx-react 入门
- 了解maven无法使用Scaner 找不到符号异常 c3p0 聚合 依赖 pom插入编译版本 锁定版本 无法输出结果 乱码 plugins报红 为mave项目配置创参数 Test命令 一些错误和经验
- SDFRayMarching
- uniapp生成 NFC 卡片 例子
- LeetCode-2 京牌摇号小程序
- ArcGIS、Super、MapMapInfo比较
- OpenCV4Android学习笔记一
- IDEA快捷键汇总,很全,保证提高你的开发效率
- CSS背景:背景色/背景图像/背景重复/背景附着/简写背景属性(一文搞懂)
- 2. 因子(factor)、缺失数据(na)、字符串、时间序列数据