Machine Learning 学习笔记 1

  • Shuwei ZHANG
  • 2 Minutes
  • 2017年10月19日

目录

机器学习第一周笔记

概述

什么是机器学习?

从字面上来说,机器学习就是让机器通过模仿人学习的过程学习。也就是说让机器有能力学习,而不是通过准确的程序而实现。我们生活中无处不在存在着机器学习的应用,例如垃圾邮件分类系统,通过图片识别物体等。

机器学习的分类

机器学习分为两大类:

learning regression model

(Figure 1 https://www.coursera.org/learn/machine-learning/supplement/cRa2m/model-representation)

既然已经有了这个模型我们下一个问题就是如何才能找到这样的一个h函数?
在线性回归里用来判断拟合函数h好坏的一个标准就是代价函数(Cost funtion)。这个函数的数学表示如下,其中用均方误差来表示预测结果与真实结果的误差。

Cost function

这时,机器学习过程的目标就是要找到一个h函数使得误差J最小。

梯度下降(Gradient descent)

求解最小代价函数的方法之一就是用梯度下降(Gradient descent)的方法。
数学上,梯度方向函数值下降最为剧烈的方向。那么,沿着梯度方向走,我们就能接近其最小值,或者极小值,从而接近更高的预测精度。其数学表达如下:

Gradient descent

其中学习率ɑ表示的是下降的速率,当这个值过大时会导致错过最小值(步子跨的太大);当这个值过小时会导致下降的速度很慢(步子跨的太小)。
用梯度下降的方法就是不断的沿着梯度方向更新值,直到找到最小值

知识共享许可协议
本作品采用知识共享署名-相同方式共享 4.0 国际许可协议进行许可。