Como calcular a informação contida numa mensagem de três símbolos ?

Problema No. 1:
Uma fonte de informação fornece 4 símbolos (X1, X2, X3, X4), os quais tem probabilidades deocorrência ½, ¼, 1/8 e 1/8 respectivamente.
Calcule a informação contida na mensagem de três símbolos X= X1 X2 X3. Suponha que osmesmos são estatisticamente independentes.