Considere a utilização de um algoritmo de indução de árvore de decisão, que utiliza a entropia como critério de pureza. Se durante o processo de indução da árvore, em um nó de divisão, um conjunto contém apenas duas classes (rótulos) p e q, sendo que o número de elementos pertencentes a classe p é igual a número de elementos pertencentes a classe q. Então podemos afirmar que o valor da entropia para esse conjunto é igual a: