id3算法基本步骤 ID3算法为何要通过最高信息增益来确定最佳分类属性?
ID3算法为何要通过最高信息增益来确定最佳分类属性?谢谢你的邀请。以信息增益比为标准的优点是可以保证分类属性所携带的信息得到充分利用,避免了多类别属性的倾向。一方面避免了“高射炮击蚊子”,另一方面也能
ID3算法为何要通过最高信息增益来确定最佳分类属性?
谢谢你的邀请。以信息增益比为标准的优点是可以保证分类属性所携带的信息得到充分利用,避免了多类别属性的倾向。一方面避免了“高射炮击蚊子”,另一方面也能在一定程度上避免过度装配。
如果使用信息增益作为选择分类属性的标准,则无需计算H(d)。
但有时我们会根据信息增益无线电标准选择分类属性。此时,我们需要计算H(d)和G(d,a)。