Necesito ayuda para el problema de la entropia de un texto

cmen
12 de Abril del 2004
Necesito resolver el problema de la entropia de un texto, que tiene que ver con la riqueza de un texto, donde se lea de un archivo un texto de max 10 lineas ( máx 7 palabras por linea, cada palabra de max 20 letras).
El programa debe entregar la cantidad de palabras, la entropia y la entropia relativa.
Entropia : 1/(cantidad palabras) * sumatoria de i=1 hasta n de (p-i *(log (cantidad palabras) - log(p-i))
Donde p-i: numero de veces que la i-esima palabra aparece en el texto.

Se que el problema es complicado, pero si alguien me puede echar una manito, gracias

noel solw
12 de Abril del 2004
El problema no me parece demasiado dificil, pero no consigo entender la formula de la entropia.
Mandame, para un ejemplo de texto corto, el calculo detallado de la entropia.