数据挖掘复习笔记---04.2分类问题之 KNN

栏目: 数据库 · 发布时间: 5年前

内容简介：分类问题之 KNN

分类问题之 KNN

简介

lazy learning, 训练阶段仅仅保存样本, 没有显式的学习过程, 待收到测试样本后再进行处理
三要素: k值的选择, 距离度量(街区, 欧式, 闵可夫斯基), 分类决策规则(majority vote)

分类步骤

1.计算测试点到训练集各个点的距离
2.找出距离最小的 k 个点
3.投票法得出类别

k 太小, 则对噪声敏感; k 太大, 则可能包含太多其他类别的点
属性中需要归一化, 防止某一属性在计算距离的时候占主导地位

优点

复杂度较低
效率高
非常适用于简单数据集的分类
抗噪，对噪声鲁棒
选取最优决策树是NP完全问题

其他

PEBLS: Parallel Examplar-Based Learning System (Cost & Salzberg)

以上所述就是小编给大家介绍的《数据挖掘复习笔记---04.2分类问题之 KNN》，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对码农网的支持！

查看所有标签

猜你喜欢:

本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。

码农书籍

数据结构与算法：python语言实现

迈克尔.·T·古德里奇、罗伯托·塔玛西亚、迈克尔·H·戈德瓦瑟 / 张晓、赵晓南 / 机械工业出版社 / 2018-9 / 109.00元

本书采用Python语言讨论数据结构和算法，详细讲解其设计、分析与实现过程，是一本内容全面且特色鲜明的教材。书中将面向对象视角贯穿始终，充分利用Python语言优美而简洁的特点，强调代码的健壮性和可重用性，关注各种抽象数据类型以及不同算法实现策略的权衡。一起来看看《数据结构与算法：python语言实现》这本书的介绍吧!

码农工具