标题 内容
这个作业属于哪个课程 人工智能实战2019
这个作业的要求在哪里 练习调整超参
这个作业在哪个具体方面帮助我实现目标 体验超参对学习结果的影响

实验结果

  • 本次实验，假设各个变量相互独立使用控制变量的方法进行测试(实际情况看来假设不成立= =)。由于实验结果具有不可重复性，所以对每组参数都进行了两次测试

学习率的影响

test learning_rate n_hidden1 n_hidden2 epoch batch_size accuracy
1 0.05 32 16 2 10 0.9521
32 16 2 10 0.9487
2 0.1 32 16 2 10 0.9548
32 16 2 10 0.9469
3 0.2 32 16 2 10 0.9532
32 16 2 10 0.9537
4 0.5 32 16 2 10 0.9532
32 16 2 10 0.9563
  • 结论：有以上几组测试看来学习率并无明显变化，并且过低的学习率会使训练时间明显变长并且得到的结果可能是局部最优。

epoch的影响

test learning_rate n_hidden1 n_hidden2 epoch batch_size accuracy
1 0.2 32 16 2 10 0.9532
32 16 2 10 0.9537
2 0.2 32 16 5 10 0.96
32 16 5 10 0.9621
3 0.2 32 16 10 10 0.96
32 16 10 10 0.9628
4 0.2 32 16 15 10 0.9668
32 16 15 10 0.966
  • 结论：随着epoch次数的提高准确率变高了！但是训练时间也随之等比例增加

batch_size的影响

test learning_rate n_hidden1 n_hidden2 epoch batch_size accuracy
1 0.2 32 16 2 2 0.9204
32 16 2 2 0.9243
2 0.2 32 16 2 5 0.9496
32 16 2 5 0.9435
3 0.2 32 16 2 10 0.9565
32 16 2 10 0.9513
4 0.2 32 16 2 15 0.9529
32 16 2 15 0.9575
  • 结论:batch_size过大或者过小都不是理想的选择，10正合适

隐层神经元个数的影响

test learning_rate n_hidden1 n_hidden2 epoch batch_size accuracy
1 0.2 32 16 2 10 0.9486
32 16 2 10 0.9559
2 0.2 64 32 2 10 0.963
64 32 2 10 0.966
3 0.2 128 16 2 10 0.9611
128 16 2 10 0.9684
4 0.2 128 64 2 10 0.9622
128 64 2 10 0.9607
5 0.2 100 20 2 10 0.9652
100 20 2 10 0.9646
  • 结论：这个参量就比较玄学了，几组结果相差不过，不过神经元个数越多，训练速度也越慢。看起来100-20是个不错的选择

根据测试结果猜测的最优组合

  • learning_rate = 0.2
  • epoch = 20
  • batch_size =10
  • n_hidden1 = 100
  • n_hidden2 = 20
  • accuracy = 0.9812

转载于:https://www.cnblogs.com/JiaoYh98/p/10750984.html

人工智能实战2019第六次作业 焦宇恒相关推荐

  1. 人工智能实战2019 第五次作业 焦宇恒 16721088

    标题 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 逻辑与非门 这个作业在哪个具体方面帮助我实现目标 神经网络二分类法 逻辑与门训练样本 X1 X2 Y 0 0 0 0 1 ...

  2. 人工智能实战2019 第0次作业 焦宇恒

    项目 内容 这个作业属于哪个课程 buaa人工智能实战2019 这个作业的要求在哪里 作业 我在这个课程的目标是 理解人工智能基本算法,学会配置实验环境 这个作业在哪个具体方面帮助我实现目标 理清思路 ...

  3. 人工智能实战2019第六次作业——尹正超

    作业六 项目 内容 这个作业属于哪个课程 人工智能实战 这个作业的要求在哪里 第六次作业 我在这个课程的目标是 学习算法,积累项目经验,锻炼coding能力 这个作业在哪个方面帮助我实现目标 了解三重 ...

  4. 人工智能实战2019第七次作业(OpenPAI) 16721088 焦宇恒

    项目 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 OpenPAI与NNI的使用 我在本作业的目标 学习OpenPAI的使用 学习OpenPAI的使用 OpenPAI简介 ​ ...

  5. 人工智能实战2019第七次作业(黄金点) 16721088 焦宇恒

    项目 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 黄金点游戏 我在本次作业的目标 体验黄金点游戏,构思AI策略 黄金点游戏 游戏介绍 ​ N个同学(N通常大于10),每人写 ...

  6. 人工智能实战2019第八次作业 16721088 焦宇恒

    标题 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 Mnist手写数字识别项目拓展 这个作业在哪个具体方面帮助我实现目标 深入理解手写识别原理 思考:如何设计该计算器应用以识 ...

  7. 人工智能实战2019 第二次作业 焦宇恒

    标题 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 作业要求 这个作业关于什么 双变量的反向传播 参考文献 参考文献 实验代码 w = 3 b = 4 delta_z = 1 ...

  8. 人工智能实战第三次作业 焦宇恒

    项目 内容 这个作业属于哪个课程 人工智能实战2019 这个作业的要求在哪里 作业要求 我在这个课程的目标是 学会人工智能基本算法 这个作业在哪个具体方面帮助我实现目标 使用minibatch的方法进 ...

  9. 人工智能实战_第三次作业_陈泽寅

    第三次作业:使用minibatch的方式进行梯度下降 一.简要概述 项目 内容 课程 人工智能实战2019 作业要求 作业要求 我在这个课程的目标是 了解人工智能理论,提升coding能力 这个作业在 ...

最新文章

  1. checkbox的全选中，取消全选中
  2. Vue中使用form表单提交刷新问题
  3. 计算机网络智能化在铁路通信的发展,计算机网络在铁路信号中的应用
  4. 密码技术--RSA数字签名及Go语言应用
  5. mysql参数配置详情_MySQL配置文件mysql.ini参数详解、MySQL性能优化
  6. 张家口市12320卫生热线呼叫中心预计今年初启动
  7. java判空null前后,关于java:引不要再使用null判空了
  8. python verilog就业_Verilog会被淘汰吗?
  9. 分享一个数据结构网站
  10. 修改MAC地址的方法（未测试）
  11. Linux驱动的platform机制
  12. 【超分辨率】【深度学习】SRCNN pytorch代码（附详细注释和数据集）
  13. 迷茫的我，学了Photoshop能做什么工作？
  14. 【计算机网络】“三次握手”通俗解释
  15. 2020/2/24Axure 中继器使用心得
  16. 宏电4g路由器流量卡怎么设置_宏电4g无线路由器设置_4g路由器怎么设置网口
  17. 迪杰斯特拉（Dijkstra）算法之两点之间的最短距离问题
  18. 区块链系统：点对点交易原理
  19. redis分布式方案redis cluster的介绍和实践
  20. 大端字节序和小端字节序

热门文章

  1. Tp5 实现短信发送及页面倒计时
  2. mysql存储过程临时表_mysql存储过程中使用临时表
  3. NRF52832之蓝牙MAC地址修改
  4. 世界上最会写爱情的人，其实是金庸
  5. 小红书商业生态产品负责人精卫：全面解锁小红书达人营销新玩法
  6. openwrt软路由怎么中止执行/怎么向上翻屏/怎么清屏
  7. 数据可视化笔记1 数据可视化简介（简史、分类、功能、目标）
  8. 【从零学习openCV】IOS7下的人脸检测
  9. 如何自己手动修改win10磁贴背景颜色？
  10. 计算机由于exls表格经常卡,excel表格数据多总是卡-EXCEL表格中的不多，但是老是卡，怎么办？...