Entropia de Shannon: diferència entre les revisions

Contingut suprimit Contingut afegit
m bot: -tant sols +tan sols
Línia 21:
Shannon proposa una manera senzilla de determinar l'entropia d'un text donat per a un receptor determinat:<ref>El mesurament depèn de la "cultura" del receptor. Una frase com "obtenim la següent sèrie ràpidament convergent" proporcionarà una taxa d'èxit més gran per als matemàtics que per als no matemàtics. Passa el mateix, explica Brillouin, si s'utilitzen altres vocabularis molt especialitzats com mèdics, financers, polítics, etc.</ref> A té el text i li demana a B que l'endevini lletra per lletra (espais inclosos). si B endevina correctament la lletra, es compta 1 (perquè A, mentre respon "sí" , transmet 1 bit d'informació). Si B s'equivoca, se li dóna la lletra correcta i es compta 4,75 (perquè un caràcter de 26 (és a dir, 27 - 1) representa 4.75 bits d'informació.
 
El mètode aplicat als texts dels diaris i als lectors normals mostra que es pot endevinar una lletra de dues, la redundància del llenguatge corrent té, per tant, un factor de 2, i el contingut informatiu d'una lletra, en aquest context, és de tanttan sols 2,35 bits.
 
== Utilitat pràctica ==