内容简介：开个新坑，总结下最近看的凸优化的东西，主要来自于CS229的讲义。前半部分介绍凸优化的问题定义，后半部分介绍对偶问题和KKT条件，并使用SVM作为例子，展示凸优化在机器学习中的应用。这部分也是SVM理论部分不太好理解的部分，希望我能把它梳理清楚明白。介绍凸函数之前，首先介绍凸集。函数必须定义在凸集上，才能有后续是否是凸函数的讨论。
开个新坑，总结下最近看的凸优化的东西，主要来自于CS229的讲义。前半部分介绍凸优化的问题定义，后半部分介绍对偶问题和KKT条件，并使用SVM作为例子，展示凸优化在机器学习中的应用。这部分也是SVM理论部分不太好理解的部分，希望我能把它梳理清楚明白。
凸函数
介绍凸函数之前，首先介绍凸集。函数必须定义在凸集上，才能有后续是否是凸函数的讨论。
凸集
若集合$C$中任取两个元素$x$和$y$，对于任意$\theta \in [0,1]$且$\theta \in \mathbb{R}$，都有下面的不等式成立，则集合$C$是凸集：
这句话翻译成不严谨的几何描述，就是在集合$C$中任取两点画一条线段，那么线段上的所有点都必须在$C$内，如下图所示。为何是这样呢？设$t = \theta x + (1-\theta) y$，稍作变形，可以得到，$t - y = \theta(x-y)$。这说明，$t-y$和$x-y$两个向量共线，也就是这三点共线。由$\theta$的取值范围，进一步知道，$t$在两点之间。这样，我们就把上面抽象的式子和下面直观的图建立了联系。
下面不加证明给出几个特殊的凸集：
- $\mathbb{R}^n$
- $\{ x; \Vert x\Vert_p \le 1\}$，可以用范数的三角不等式证明
- 凸集的交集
凸函数
与凸集的定义相类似，如果一个函数$f$定义在凸集上，而且对于其定义域上的任意两个变量取值$x$和$y$，对于任意$\theta \in [0,1]$且$\theta \in \mathbb{R}$，都有下式成立，则函数$f$是凸函数：
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持 码农网
猜你喜欢:
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
从0开始做运营 入门篇
张亮 / 4.99元
此书是《从零开始做运营》系列的入门篇。 在互联网产品经理热的今天，关于传统的网站与产品运营的书籍一直非常缺乏，很多有志于互联网行业的年轻人并不明白一款产品、一个网站的策划、上线、成长、成熟直到衰落的过程中，除了产品和网站本身的设计之外，还有一块非常重要的工作是针对网站与产品生命周期的持续运营。 网站与产品运营是一个非常辛苦而非常有趣的事情，希望本书可以为有志于从事互联网网站与产品运营的......一起来看看 《从0开始做运营 入门篇》 这本书的介绍吧!
