数学 – 任何人都可以告诉我为什么我们总是在机器学习中使用高斯分布?

栏目: 数据库 · 发布时间: 6年前

内容简介:你从数学思想的人那里得到的答案是“因为中心极限定理”.这表达了这样的想法:当你从几乎任何分布*中取出一堆随机数并将它们加在一起时,你会获得大致正态分布的东西.您添加的数字越多,它获得的正常分布就越多.我可以在Matlab / Octave中演示这个.如果我在1到10之间生成1000个随机数并绘制直方图,我会得到类似的结果如果不是生成一个随机数,而是生成其中的12个并将它们加在一起,并执行1000次并绘制直方图,我得到这样的结果:

你从数学思想的人那里得到的答案是“因为中心极限定理”.这表达了这样的想法:当你从几乎任何分布*中取出一堆随机数并将它们加在一起时,你会获得大致正态分布的东西.您添加的数字越多,它获得的正常分布就越多.

我可以在Matlab / Octave中演示这个.如果我在1到10之间生成1000个随机数并绘制直方图,我会得到类似的结果

如果不是生成一个随机数,而是生成其中的12个并将它们加在一起,并执行1000次并绘制直方图,我得到这样的结果:

我已经在顶部绘制了具有相同均值和方差的正态分布,因此您可以了解匹配的接近程度.你可以看到我用来生成这些图 at this gist 的代码.

在典型的机器学习问题中,您将遇到来自许多不同来源的错误(例如测量错误,数据输入错误,分类错误,数据损坏……)并且认为所有这些错误的综合影响大致是不合理的正常(当然,你应该经常检查!)

这个问题的更实用的答案包括:

>因为它使数学更简单.正态分布的概率密度函数是二次方的指数.取对数(就像你经常做的那样,因为你想最大化对数似然)给你一个二次方.区分这个(找到最大值)可以得到一组线性方程,这些方程很容易通过分析求解.

>这很简单 – 整个分布用两个数字来描述,即均值和方差.

>大多数人都会熟悉您的代码/论文/报告.

这通常是一个很好的起点.如果您发现您的分配假设给您的表现不佳,那么也许您可以尝试不同的分布.但您应该首先考虑其他方法来改善模型的性能.

*技术要点 – 它需要有限的方差.


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

JavaScript设计模式

JavaScript设计模式

Ross Harmes、Dustin Diaz / 谢廷晟 / 人民邮电出版社 / 2008 / 45.00元

本书共有两部分。第一部分给出了实现具体设计模式所需要的面向对象特性的基础知识,主要包括接口、封装和信息隐藏、继承、单体模式等内容。第二部分则专注于各种具体的设计模式及其在JavaScript语言中的应用,主要介绍了工厂模式、桥接模式、组合模式、门面模式等几种常见的模式。为了让每一章中的示例都尽可能地贴近实际应用,书中同时列举了一些JavaScript 程序员最常见的任务,然后运用设计模式使其解决方......一起来看看 《JavaScript设计模式》 这本书的介绍吧!

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

随机密码生成器
随机密码生成器

多种字符组合密码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具