注册 登录
电子工程世界-论坛 返回首页 EEWORLD首页 频道 EE大学堂 下载中心 Datasheet 专题

kingdomlzq的个人空间 http://home.eeworld.com.cn/space-uid-57809.html [收藏] [复制] [分享] [RSS]

日志

决策归纳算法

已有 421 次阅读2018-1-15 18:20 |个人分类:学习笔记

1.信息熵(entropy):变量的不确定性越大,信息量越大,也就是熵越大
信息熵的计算公式:
                                H(X)=-\sum\limits_{x\in\mathcal{X}}p(x)\log p(x)
2.决策归纳算法  ID3
2.1 节点的选择非常重要
2.2 步骤:
2.2.1 树以代表训练的单个节点开始
2.2.2 如果样本都在同一个类,则该节点成为树叶,并用该类标号
2.2.3 否则,使用增益熵算法,选择节点分类属性
2.2.4 递归截止:给定点的所有属性为同一类或者没有剩余属性来进行进一步划分样本。

评论 (0 个评论)

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 注册

小黑屋|手机版|Archiver|电子工程世界 ( 京ICP证 060456

GMT+8, 2018-8-15 16:50 , Processed in 0.013234 second(s), 9 queries , Gzip On, Redis On.

Powered by EEWORLD电子工程世界

© 2018 http://bbs.eeworld.com.cn/

返回顶部