Pensamento interessante: estados como símbolos, cadeias de bits, etc. não contêm informação. A informação existe apenas quando dada um contexto, como um decodificador de Shannon ou uma máquina de interpretação. Ambos necessariamente contêm um estado de livro de códigos que é "informado" pelo estado.

Pensamos em bits, os estados ur de um e zero, transportando informação, e de certa forma eles o fazem — porque você sempre tem o contexto de descanso padrão da sua própria consciência. Mas, no abstrato, os bits nunca contêm qualquer informação.