4-线性模型--(上)
4 线性模型—(上)
之前讲过,如果因变量可以被表示为自变量的线性组合,就能够用线性模型来拟合。线性关系算是日常生活中最常见的关系,比如身高和体重之间,收入和存款之间,年龄和身高之间,等等。所以可从线性模型入手,来学习机器学习。
4.1 线性回归(Linear Regression)4.1.1 线性回归模型的引入上一章已经介绍了回归任务,目标是预测连续型的数值目标,比如温度、价 ...
3-监督学习简述
3 监督学习简述
3.1 简介第1章已经提及,监督学习是 从有标记的训练数据 中学习模式和关系,算法的目标是通过输入特征与其相应的标签之间的关联性,构建一个能够准确预测新数据的标签的模型。
监督学习算法可以分为:分类问题、回归问题和序列标注问题。
3.2 分类问题(Classification)分类问题是机器学习中很经典的一类问题,它要做的事情是:所有可能的数据可以被 ...
2-模型评估和选择方法
2 模型评估和选择方法
在上一节中,提到过统计机器学习三要素:模型、策略和算法,其中的策略就是本节要详细阐述的模型评估和选择方法。
2.1 模型的性能评估方法2.1.1 损失函数(Loss Function)损失函数(loss function)也被称为代价函数(cost function),一般来说,它用来衡量模型输出的预测结果与真实结果之间差异的函数。这种差异也被称 ...
1-机器学习概念和相关术语介绍
1 机器学习概念和相关术语介绍
1.基本概念1.1 统计学习
概念
统计学习是关于计算机基于数据构建概率统计模型,并运用模型对数据进行预测与分析的一门学科,统计学习也称为统计机器学习。
对象
统计学习研究的对象是数据。它从数据出发,提取数据的特征,抽象出数据的模型,发现数据中的知识,又回到对数据的分析与预测中去。
统计学习关于数据的基本假设是同类数据具有一定的 ...
机器学习系列
1.机器学习系列简介
目录
0-机器学习系列
1-机器学习概念和相关术语介绍
2-模型评估和选择方法
3-监督学习简述
4-线性模型—(上)
4-线性模型—(中)
4-线性模型—(下)
5 随机失活
深度学习系列博文目录一览————————————————
5 随机失活
5.1 模型平均如果对传统机器学习有所了解的话,会知道有一种称之为集成学习的方法。而神经网络中的随机失活-dropout其实就是借鉴了集成学习的思想,更具体地,是集成学习中的bagging方法,即模型平均思想的一种运用。
因为模型平均要对训练集有放回的采样,得到多个不同的训练集,再训练多个不同的模型, ...
4 激活函数
深度学习系列博文目录一览————————————————
4 激活函数
激活函数也就是一些非线性单元,如果不用激活函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合。如果使用激活函数的话,激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。
对于激活函数的使用,可以追溯到多层 ...
2 卷积与池化
深度学习系列博文目录一览————————————————
2 卷积与池化
这里暂时不介绍卷积操作具体是如何进行的,关于这点,很多文章都有介绍。
本文主要介绍一下 为何会广泛使用卷积操作?
参考资料:
《Deep Learning》
deeplearning.ai
卷积运算 主要通过三个重要的思想来帮助改进机器学习系统:
稀疏交互 sparse interaction ...
1 权重初始化
深度学习系列博文目录一览————————————————
1 权重初始化
1.1 为什么需要权重初始化
① 为了使神经网络在合理的时间内收敛.
② 为了尽量避免在深度神经网络的正向(前向)传播过程中层激活函数的输出梯度出现爆炸或消失。
1.2 如何进行初始化① 如果将每个隐藏单元的参数都初始化为0.
那么在正向传播时每个隐藏单元将对于相同的输入会计算出相同的值,并传 ...
深度学习导论
深度学习导论
深度学习算是机器学习的一个子领域,其和机器学习的关系如下图所示:
本系列文章简要介绍深度学习的一些基础性、常见性知识,内容源于我早期所写旧博客,或许其中有所纰漏或者过时之处,权当参考而已。
1 权重初始化2 卷积网络与池化操作3 规范化操作4 激活操作5 随机失活6 损失函数7 优化方法