深度学习-维度的理解
属性
属性个体
- 身高:身高:175cm身高:身高:175cm身高:身高:175cm
基本的属性总包含这两方面信息:
- 属性标签
- 属性度量
对于单属性个体而言,属性度量是准确的定位的
x身高=175cmx_{身高} = 175cm x身高=175cm
属性集合
都是单属性,但是有可能对应多个的样本,如果存在175,168,129,137175,168,129,137175,168,129,137等信息,这样进行表示
X身高={175,168,129,137}X_{身高} = \left\{ 175, 168,129,137\right\} X身高={175,168,129,137}
属性描述
一个属性,除了它的标签相同,度量可以是无限的。所有的可能取值,构成了一个属性空间。
利用枚举,我们可能无法全部进行表示,因此,利用数学公式来进行一个空间的衡量条件:
X身高={x∣x≥0andx≤3,x∈R}X_{身高} = \left\{x | x \ge 0 \quad and \quad x \le 3, \quad x \in R\right \} X身高={x∣x≥0andx≤3,x∈R}
不过,还存在一种情况,那就是整个空间的均匀分布:
X偶数={x∣x=2×n,n∈N}X_{偶数} = \left\{ x | x = 2 \times n , \quad n \in N\right\} X偶数={x∣x=2×n,n∈N}
和原来的差异,在于它的描述需要借助另一个更基本的元素进行表述,也就是其中的nnn。
这种情况下,我们称nnn是XXX的元属性,也就是说,我们可以通过元属性对某个属性进行描述。
属性关系
y=f(x)y = f(x) y=f(x)
这样看来,我们所谓的函数,或者说是映射,就是一种元属性到指定属性的转换方式。
首先,这里存在了三个东西
- xxx
- yyy
- fff
这里,在原来的基础之上,重点的说明了所谓的fff映射,而为了研究这种关系,两个基本属性是必不可少的。
当我们的元属性xxx逐渐变化时,yyy属性会如何的运动。
为了得到我们所需要的那一个yyy集合中的某一个目的样本,该选取如何的xxx,这就是我们研究fff的目的所在。
属性聚合
单独的属性,在单独的属性空间汇总,是不会进行互动的。
研究属性间的关系,是必须让他们产生关联的,把他们作为元属性,综合描绘一个事物,才能看到效果。
y=f(x)y = f(x) y=f(x)
这里,重要的是fff,也就是两者的对应关系,为了能够表述两者的关系,也就要聚合在一起
P={p∣p(x,y)}P= \left\{{p | p(x, y)}\right\} P={p∣p(x,y)}
构造了更高一级的特征,通过研究更高一级的特征的样本个体间的关系,进而描述下一层的元属性关联。
原来的和x和y和x 和 y和x和y都是一维,我们构造点
,通过样本间的对比,更细微的感受差异。
我们的方法是:通过构造高维的样本,研究元属性关联
所以,我们的一元函数,画出来其实是一个二元样本。
二元空间,是一个平面;但是画出的图线,就是构造的二元样本的样本空间,是二元空间的子集,也就是fff。
也就是说为了研究y=f(x)y = f(x)y=f(x),我们通常构造P(x,y)P(x,y)P(x,y)的样本进行描述。
值得注意的是,fff表述的是空间之间的映射,以空间作为的基本元素。
属性升华
前面说了高维的样本以研究低维的属性,把基本属性作为前提,这就是fff的表达方式。
我们再回顾一下
- nnn维空间,由无数个nnn维元素构成
- nnn维元素包含无数个n−1n-1n−1维元素
所以,就我们所知的多维度的关系分析中,从更高维度看来,其实只是一个高维的元素。
一维关系,只是二维空间的一个一维对象。
二维关系,只是三维空间的一个二维对象。
属性间的关系
y=f(x)y = f(x) y=f(x)
而属性间的限制
0=y−f(x)0 = y - f(x) 0=y−f(x)
它是在二维空间中满足条件限制的单一样本,因为它只是(x,y)(x,y)(x,y)无限组合中的一个子集。
我们把(x,y)(x,y)(x,y)的组合关系记作f(x,y)f(x,y)f(x,y)
0=f(x,y)0 = f(x,y) 0=f(x,y)
(9)(9)(9)就是(10)(10)(10)中的一个子集。
而我们这样进行表示
z=f(x,y)z = f(x,y) z=f(x,y)
(10)(10)(10)就是(12)(12)(12)中的单个样本,是z=0z=0z=0的这么一个三维空间内的一个二维元素。
也就是说,我们讨论的nnn维关系,有如下特点
- 是一组n+1n+1n+1维的对象集合
- 是n+1n+1n+1空间内的子集
- 所在空间是n+2n+2n+2维空间的单个对象
也就是,y=f(x)y=f(x)y=f(x)一维关系,是一组二维对象,是二维平面空间中的子集。
而这个二维空间,又是三维空间内的单个元素。
矩阵表示
单元素枚举
X={−∞⋯+∞}=[−∞⋮+∞]X = \left\{ \begin{matrix} -\infty&\cdots & +\infty\end{matrix} \right\}=\left[\begin{matrix}-\infty\\\vdots\\+\infty\end{matrix}\right] X={−∞⋯+∞}=⎣⎢⎡−∞⋮+∞⎦⎥⎤
这是单个属性内的所有取值
多元素样本
P=[XY]P = \left[ \begin{matrix} X & Y \end{matrix}\right] P=[XY]
元属性枚举
P=[XY]=[−∞−∞⋮⋮+∞+∞]P = \left[ \begin{matrix} X & Y \end{matrix}\right]= \left[ \begin{matrix} -\infty & -\infty \\ \vdots & \vdots \\ +\infty & +\infty \end{matrix}\right] P=[XY]=⎣⎢⎡−∞⋮+∞−∞⋮+∞⎦⎥⎤
一个完整的高维度样本,就是多个低维空间的组合样本集合。
横向,是该样本的每一个每一个维度空间。
竖向,正是样本空间的每一个独立样本。
矩阵操作
同维变换
Y=X×WY = X \times W Y=X×W
这是单个维度的变换关系,不过关于WWW,后续还有多种可能。
升维操作
Z=[XY]×[WxWy]=[X⋅Wx+Y⋅Wy]Z = \left[\begin{matrix}X & Y\end{matrix}\right] \times \left[\begin{matrix}W_x \\ W_y\end{matrix}\right]=\left[\begin{matrix}X\cdot W_x + Y \cdot W_y\end{matrix}\right] Z=[XY]×[WxWy]=[X⋅Wx+Y⋅Wy]
由于低维度的聚合 操作,组合成高维度的样本,结果是高维样本的集合。
不过,还存在一种跨维度的表示方法
x=sin(t)y=const(t)z=sin2(x)+con2(y)x = sin(t) \\ y = const(t) \\ z = sin^2(x) + con^2(y) x=sin(t)y=const(t)z=sin2(x)+con2(y)
此时
Z=[T]×[WtxWty]=[XY]Z = [T] \times [ \begin{matrix} W_{tx}&W_{ty}\end{matrix}] = [\begin{matrix}X & Y\end{matrix}] Z=[T]×[WtxWty]=[XY]
通过最基本属性的描述,跨层级的对更高维样本进行描述,具体的形式,只能综合进行判断。
降维打击
我们的0=f(x,y)0 = f(x,y)0=f(x,y)可以这样进行表示
f(X,Y,Z)∣z=0=[XYZ]×[Wx000Wy0000]=[X×WxY×Wy0]=[X×WxY×Wy]\left. f(X,Y,Z)\right|_{z = 0} = [\begin{matrix}X & Y&Z\end{matrix}] \times [\begin{matrix}W_x & 0 &0 \\ 0 & W_y &0 \\ 0 & 0 & 0\end{matrix}] = [\begin{matrix}X \times W_x & Y \times W_y & 0\end{matrix}] = [\begin{matrix}X \times W_x & Y \times W_y \end{matrix}] f(X,Y,Z)∣z=0=[XYZ]×[Wx000Wy0000]=[X×WxY×Wy0]=[X×WxY×Wy]
也就是说,我们可以通过制定特殊的WWW,筛选出在集合空间内满足条件的单个样本。
而单个维度被限制以后,就纯粹的变成了低维度的空间集合。
关于变换
叠加操作
两个样本空间的加减法,是对应元素的相关操作,也就是两个样本空间的叠加。
X+Y=[X+Y]X + Y = [X + Y] X+Y=[X+Y]
当其中一个为常量阵的时候,其实就是平移。
缩放操作
当×\times×一个常量阵的时候,对应元素相乘,也就是缩放操作
X×W=[X×W]X \times W = [X \times W] X×W=[X×W]
升维操作
Z=[T]×[WxWy]=[XY]Z = [T] \times [W_x \quad W_y] = [X \quad Y] Z=[T]×[WxWy]=[XY]
当进行扩维的操作,一个低维度的属性,可以得到高维度的样本。
本质上是进行多维度映射,然后多维度空间的聚合。
降维操作
如(19)(19)(19),当限制单一维度,形成的就是低维度的截面。
实际理解
X
- 横向:表示该样本中的子空间特征
- 竖向:样本空间中的样本枚举
W
- 横向:元素对应空间的变换方法
- 竖向:元素各基本属性的线性变换权值枚举
Y
同X
小结
回顾一下三层网络,其实每一层都只算作一个中间样本,但是样本特征,也就是样本属性是多维的。
我们的评判操作,其实就是某个维度空间内的一个简单样本,通过该空间内的标准进行直接的评判。
虽然在该空间内,它作为的单样本,也就是一个样本个体,也就是该空间内的一维。
但是在更细微的维度,它是一个多维的集合体。
就像我们判断一个点是否落在了某个区域,标准是非常单一的。如果我们只知道xxx,那将无法进行判断。
而如果我们知道y=f(x)y=f(x)y=f(x),我们就可以通过最基本的属性进行直接的判断。
也就是说,我们就是根据低维度空间的属性和各空间的转换关系,最终观察特定高维空间的样本运动规律。
正如:有责任感,活泼开朗,有天赋…,这都是不同的维度空间。
所谓的三岁见八十,也就是抓住了此维度空间的运动规律,进而做出的预测行为。
神经网络,就是不停的维度提升,直到目的空间的简单判断标准的变换方法。
深度学习-维度的理解相关推荐
- 【深度学习】入门理解ResNet和他的小姨子们(一)---ResNet
2015年由He KaiMing 大神 提出的ResNet现在是一种经典模型.在这之前,虽然VGG的深度已经高达19层了,但是152层的ResNet真的让我们目瞪口呆. ResNet这篇文章则是CVP ...
- 运用深度学习教机器人理解自然语言
运用深度学习教机器人理解自然语言 2016-08-16 16:33 转载 CSDN 1条评论 雷锋网按:本文作者Jonathan是21CT的首席科学家.他主要研究机器学习和人工智能如何使用在文本和知识 ...
- 【深度学习】深入理解Batch Normalization批归一化
[深度学习]深入理解Batch Normalization批归一化 转自:https://www.cnblogs.com/guoyaohua/p/8724433.html 这几天面试经常被问到BN层的 ...
- 深度学习之感性理解-机器学习基础一
深度学习之感性理解-机器学习基础一 机器学习是什么 机器学习用来干嘛的 机器学习是怎么做的 机器学习是什么 关于机器学习的定义,网上很多,我就不多说了,谈谈自己的理解.简单的说就是有一个事情想让计算机 ...
- 基于深度学习的语义理解技术在机器翻译中的应用
作者:禅与计算机程序设计艺术 <基于深度学习的语义理解技术在机器翻译中的应用>技术博客文章 引言 1.1. 背景介绍 随着全球化的推进,跨语言交流需求日益增长,机器翻译技术应运而生.翻译技 ...
- 关于深度学习的一点理解
参考大神的文章https://www.zybuluo.com/hanbingtao/note/476663 感觉逐渐入门了深度学习,在这写点现阶段自己关于对神经网络和反向传播算法的理解.简单的神经网络 ...
- 【深度学习】深入理解卷积神经网络(CNN)
CNN Author:louwill From:深度学习笔记 本文将为大家介绍一种用途更为广泛.性能更加优越的神经网络结构--卷积神经网络(Convolutional Neural Network, ...
- [深度学习] 一篇文章理解 word2vec
1 词的独热编码 One-Hot 表示 到目前为止最常用的词表示方法是 One-hot Representation,这种方法把每个词表示为一个很长的向量.这个向量的维度是词表大小,其中绝大多数元素为 ...
- 深度学习Caffe 入门理解使用教程
2019独角兽企业重金招聘Python工程师标准>>> 1.首先caffe 安装我就不解释了 如果有人安装不会的话 可以加我qq 1050316096 ,我会按照使用方式来介绍,首先 ...
- 【深度学习】深度学习概念的理解(一)
[深度学习]深度学习的理解(一) 写在最前面的话:设置[深度学习]栏,主要是为了扫盲深度学习的各个知识点,希望通过这种方式来给自己的基础打扎实,从头开始学习!如果有写得不对的地方,请指正!!!谢谢 深 ...
最新文章
- JDBC(Java Data Base Connectivity,java数据库连接)
- visualSVN下载与安装
- cmake 配置生成后事件_cmake 管理debug release
- 把windows当linux用,把Windows Vista当成Linux系统来使用
- html5 怎么实现展开文字,html5实现滚动文字
- php serv-u,用php写的serv-u的web申请账号的程序_php
- Java JDBC c3p0
- feign调用service_Spring-cloud-eureka使用feign调用服务接口
- JPA、Hibernate、Springdata JPA
- (转)正则表达式—RegEx(RegularExpressio)(三)
- 北京理工大学计算机基础实验,北京理工大学2020计算机基础考研真题
- 毕设题目:Matlab通信
- W3Cschool_JS学习
- python 常用快捷键
- [计算机网络]RJ45直通线和交叉线的连接方式和设备类型解析
- 利用信息差怎么赚钱?分享两个信息差赚钱项目
- 关于js中的then()
- 我的人生观、爱情观和世界观
- java实现文字识别营业执照识别(百度、讯飞)
- 没键盘计算机能启动吗,实现PC电脑无键盘鼠标开机
热门文章
- BigDecimal解读
- 请定义一个方法用于判断一个字符串是否是对称的字符串,并在主方法中测试方法。例如:“abcba“、“上海自来水来自海上“均为对称字符串。
- Django搭建个人博客之编写博客文章的Model模型
- Educational Codeforces Round 97 (Rated for Div. 2) F. Emotional Fishermen
- 计蒜客2018 ICPC SouthEastern European E. Fishermen
- 电脑只能上QQ,不能上网浏览网站怎么解决
- Nooi 一个Onedrive管理器
- 在手机上Link of class 'Lcom/example/test/MainActivity;' failed
- juniper防火墙HA详解
- 聊一聊进程、线程和协程以及线程的那些“锁“事