李宏毅深度学习——第一天

2024-06-01 19:35:39

Course introduction

RNN——>输入是一个句子，输出是pos or neg

CNN——>输入是图片，输出是从n个选项里选择一个正确的

Seq2seq：翻译（产生文句）（generation）

GAN：画二次元人物头像（generation）

Unsupervised Learning

Network Architecture——>给机器一个搜寻的范围，告诉机器只要在这个范围内找就可以了（RNN+CNN）

Explainable AI——>解释，为什么认为图片里是一只猫

Adversarial Attack——>人类怀着恶意攻击影相辨识系统，会发生什么事情

Network Compression——>硕大的network，放在更小的平台上

Anomaly Detection——>机器如何知道它不知道，动物影像辨识系统放了一个植物进来有什么变化

Transfer Learning——>训练集测试集分布不一样怎么办？

Meta Learning——> 学习如何学习的能力

Life-long Learning——>终身学习

Reinforcement Learning——强化学习

监督学习——已知围棋的下一步将会走到哪里

强化学习——不需要告诉机器每一步应该落子的位置，让机器自己想办法找出策略，赢得比赛

alpha go——>先是通过监督

Rule of ML

Regression Case Study

Loss function——input是function（在线性模型中就是w和b）

——output是how bad it is

模型太复杂，出现过拟合

不同物种模型不同

为什么我们期待一个参数值接近0的function？

参数值接近0的function是比较平滑的，对delta（xi）的变化（noise）不敏感

在做regularization的时候是不用考虑bias这一项的，因为调整bias这一项和function是否平滑是无关的

lambda越大，越考虑function中w本来的数值，减少考虑error，traindata上的error就越大

lambda越大，function越平滑

太平滑的function，是一条水平线，所以太平滑也不好

李宏毅深度学习——第一天相关推荐

李宏毅深度学习第一课
目录 Introduction Learning Map Supervised Learning(监督学习) Regression(回归) Classifification(分类) Binary Cl ...
李宏毅深度学习——第一天（Bias and Variance）
无偏性:总希望在多次试验中所得到的估计量的平均值与参数的真实值相吻合 error来自于bias和variance 简单的model(var小 bias大),包含的范围比较小,不容易包含target ...
李宏毅深度学习作业二
任务说明 Binary classification is one of the most fundamental problem in machine learning. In this tutor ...
[2022]李宏毅深度学习与机器学习课程内容总结
[2022]李宏毅深度学习与机器学习课程内容总结课程感受第一讲必修 ML的三个步骤第一讲选修深度学习发展趋势反向传播从线性模型到神经网络为什么要用正则化技术为什么分类是用交叉熵损失函数 ...
2020李宏毅深度学习hw1
2020李宏毅深度学习hw1 1.导入包 import sys import pandas as pd import numpy as np 2.加载数据 data = pd.read_csv('tr ...
【李宏毅深度学习CP10】Self-attention（part1）
学习心得 (1)传统的Attention是基于source端和target端的隐变量(hidden state)计算Attention的,得到的结果是源端的每个词与目标端每个词之间的依赖关系.但Sel ...
[2022]李宏毅深度学习与机器学习第四讲（选修）-GNN
[2022]李宏毅深度学习与机器学习第四讲(选修)-GNN 做笔记的目的 GNN NN4G DCNN MoNET GTA GIN 做笔记的目的 1.监督自己把50多个小时的视频看下去,所以每看一部分内 ...
[2022]李宏毅深度学习与机器学习第十二讲（必修）-Reinforcement Learning RL
[2022]李宏毅深度学习与机器学习第十二讲(必修)-Reinforcement Learning RL 做笔记的目的 What is RL Policy Gradient Version 1 Ver ...
李宏毅深度学习笔记——呕心整理版
李宏毅深度学习笔记--呕心整理版闲谈叨叨叨: 之前看过吴恩达的一部分课程,所以有一定理论基础,再看李宏毅的课程会有新的理解.我先以有基础的情况写完学习过程,后续再以零基础的角度补充细节概念(估计不会 ...

最新文章

热门文章