吴恩达机器学习系列17:支持向量机

栏目: 编程工具 · 发布时间: 5年前

内容简介:在逻辑回归中,假设函数 h_θ(x) 为:

支持向量机( Support vector machine 是一种强大的机器学习算法,和神经网络相比,它在学习复杂的非线性方程时,能够提供更清晰和更加强大的方式。为了学习支持向量机,我们可以先从逻辑回归开始,看看如何经过小小的改动能得到支持向量机。

在逻辑回归中,假设函数 h_θ(x) 为:

吴恩达机器学习系列17:支持向量机

图像为:

吴恩达机器学习系列17:支持向量机

对于一个样本来说,代价函数为:

吴恩达机器学习系列17:支持向量机

当 y =1 时,第二项为 0,只需要考虑第一项,画出第一项的图像:

吴恩达机器学习系列17:支持向量机

我们把这个图像稍微修改一下,趋势与逻辑回归相似,就变成了支持向量机代价函数一部分的图像 cost_1(z),如下图粉色线: 吴恩达机器学习系列17:支持向量机

第二项同样道理,cost_0(z):

吴恩达机器学习系列17:支持向量机

逻辑回归中正则化代价函数为:

吴恩达机器学习系列17:支持向量机

将其中系数 1/m 去掉,把红色部分换成上面粉色图像的函数:

吴恩达机器学习系列17:支持向量机

接着将浅蓝色和粉色部分调换一下权重:

吴恩达机器学习系列17:支持向量机

这样就得到支持向量机的代价函数:

吴恩达机器学习系列17:支持向量机

只需要将这个函数最小化即可得到参数。以上就是从逻辑回归推出支持向量机的整个过程。

ps. 本篇文章是根据吴恩达机器学习课程整理的学习笔记。如果想要一起学习机器学习,可以关注微信公众号「 SuperFeng 」,期待与你的相遇。

吴恩达机器学习系列17:支持向量机


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

算法时代

算法时代

Luke Dormehl / 胡小锐、钟毅 / 中信出版集团 / 2016-4-1 / CNY 59.00

世界上的一切事物都可以被简化成一个公式吗?数字可以告诉我们谁是适合我们的另一半,而且能和我们白头偕老吗?算法可以准确预测电影的票房收入,并且让电影更卖座吗?程序软件能预知谁将要实施犯罪,并且精确到案发时间吗?这些事听起来都像是科幻小说中的情节,但事实上,它们仅是日益被算法主宰的人类世界的“冰山一角”。 近年来随着大数据技术的快速发展,我们正在进入“算法经济时代”。每天,算法都会对展示在我们眼......一起来看看 《算法时代》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具