Magazine de Información Independiente sobre Nueva Economía y Mercados de las Tecnologías de la Información

También puedes descargar el Magazine en PDF.

El pasado mes de Abril se cumplieron 50 años de una efeméride que en su momento pasó casi indavertida. Un joven ingeniero y matemático de 32 años publicó un artículo en la revista Bell System Technical Journal, con un título prometedor: "Una Teoría Matemática de la Comunicación". El hombre en quien antes tan sólo se habían fijado sus colegas profesionales más próximos, debido a sus ideas sofisticadas y originales, intentaba demostrar en su artículo que la información puede medirse independientemente de cualquier connotación semántica, y más aún, que cada fuente de datos puede ser descrita en términos unívocos respecto a su contenido de información. Pero sobre todo, aseguraba que una transmisión libre de errores es posible cuando la velocidad es menor que la denominada capacidad del canal. Tales asertos provocaron un considerable interés y dieron renombre a su autor en el campo de las comunicaciones. Su nombre: Claude Elwood Shannon.

Norbert Wiener había postulado con anterioridad a Shannon que la información no es nada más que entropía, pero le faltó un marco formal para poder soportar el desarrollo científico de esta idea. Por otra parte A.R. Hartley ya había especulado en 1928 con la idea de que el contenido de información debería depender directamente del logaritmo de la probabilidad del mensaje correspondiente. Sin embargo esos intentos de definir la información en términos probabilísticos tenían algo de extraño, casi de antinatural, ya que en la vida ordinaria, no es la incertidumbre sino la certeza en el conocimiento de determinada materia lo que se asocia con la información, o al menos así parece ser.

Claude E. Shannon nació en 1916 en Petoskey, estado de Michigan en los EEUU. Parece ser que el héroe de su infancia fué Thomas A. Edison y que en la escuela destacaba en matemáticas y en ciencias. En el año 1932 comenzó a estudiar ingeniería eléctrica y matemáticas en la universidad de Michigan, combinación de dos disciplinas, una práctica y otra abstracta, que le apasionaron durante el resto de su vida.

Antes de Shannon no existía una definición formal útil de información, de tal manera que tal concepto pudiera materializarse dentro de un dispositivo o sistema técnico concreto. Los criterios imperantes hasta entonces para el diseño de esquemas (análogos) de transmisión eran más o menos los de la relación señal/ruido y la anchura de banda requerida. Otros términos más sofisticados como los de entropía o capacidad del canal ni siquiera figuraban en la mente de los expertos reconocidos en este campo.

Su brillante contribución, en buena medida se materializa en el artículo "A Mathematical Theory of Communication", en el que se crearon las condiciones que permitieron el desarrollo de la moderna teoría de la comunicación. El artículo no es en sí mismo muy voluminoso ni tampoco se basa en profundos estudios anteriores. Tan sólo contiene dos referencias de importancia, una de ellas a un trabajo de Nyquist publicado en 1924, en el que se demuestra que un señal contínua en el tiempo y confinada en una banda puede describirse unívocamente de forma discretizada temporalmente si la frecuencia de muestreo es el doble de su anchura de banda. La segunda fuente de importancia, anteriormente citada, era el trabajo de Hartley (1928) en el que se asocia la cantidad de información al logaritmo de la probabilidad del mensaje en el cual se codifica.

El nombre de Shannon se asocia a dos teoremas que tuvieron una grandísima importancia en el desarrollo de la ciencia de la computación y en las comunicaciones digitales. El primero señala que el número de bits necesarios para describir unívocamente una fuente de información puede aproximarse al correspondiente contenido de información tanto como se desee (teorema de codificación de la fuente). El segundo teorema declara que el ratio de errores de los datos transmitidos en un canal confinado y con ruido puede reducirse a una cantidad arbitrariamente pequeña si la velocidad de transmisión es menor que la capacidad del canal (teorema de la codificación del canal).

Podemos comprobar la dificultad que entrañaba el trabajo teórico de Shannon, simplemente reproduciendo dos enunciados del teorema sobre el canal (los transcribo en inglés directamente del original para no alterar su significado).

THE FUNDAMENTAL THEOREM FOR A NOISELESS CHANNEL

Let a source have entropy H (bits per symbol) and a channel have a capacity C (bits per second). Then it is possible to encode the output of the source in such a way as to transmit the average rate C/H - e symbols per second over the channel, where e is arbitrary small. It is not possible to transmit at an average rate greater than C/H.

THE FUNDAMENTAL THEOREM FOR A DISCRETE CHANNEL WITH NOISE

Let a discrete channel have the capacity C and a discrete source the entropy per second H. If H = C thre exists a coding system such that the output of the source can be transmitted over the channel with an arbitrary small frecuency of errors (or an arbitrarily small equivocation). If H > C it is possible to encode the source so that the equivocation is less than H - C + e where e is arbitrarily small. There is no method of encoding which gives an equivocation less than H - C.

Las consecuencias de las consideraciones de Shannon arrojaron una luz significativamente esclarecedora sobre la comunidad de científicos e ingenieros. El primer teorema fué aceptado sin discusiones, entre otra razón porque con anterioridad no existía ninguna teoría comparable ni contrapuesta. En cuanto al segundo, el teorema de la codificación del canal, hubo un rechazo inicial debido en buen parte a la dificultad para comprenderlo desde el punto de vista terminológico y de notación matemática. Sin embargo, su validez y tremendo significado fué puesto en evidencia un poco más adelante por los científicos que desarrollaron la teoría de la codificación: Hamming, Elias, Bose, Reed, Berlekamp, Forney y Vierbi, entre otros. Como es sabido el espectacular cambio en la tecnología de las comunicaciones debe mucho a las personas mencionadas.

Claude E. Shannon vive todavía, en las proximidades de Boston, y mantiene las mismas ocupaciones que tuvo durante su vida profesional activa: inventar cosas para las que a primera vista no existe aplicación posible. Su contribución pinera a los campos de la ciencia de la computación y de las modernas comunicaciones digitales es desde cualquier punto de vista innegable.

Copyright: Se autoriza la reproducción parcial o total de este artículo siempre que no sea para fines comerciales y se cite la fuente original y la URL de acceso. Otro tipo de uso de este material requiere la autorización expresa del Consejo de Redacción del Magazine LQCTI.

Lee en el próximo número: El Software en sus Inicios. Historias de una Nueva Industria entre 1952 y 1968.

• Opina sobre este tema en Un Foro Para TI.
• Escribe a la redacción con tus comentarios sobre este artículo.

Puedes examinar historias aparecidas en números anteriores:

• El (¿Mal?) Genio de von Neumann

© 1999 Tecnova.