Teoria de la informació

conceptes bàsics de la teoria introduïda en els anys quaranta del segle XX, Shannon. teoria de la informació - la ciència del procés de transferència, emmagatzematge i recuperació de dades en els sistemes naturals, tècniques i socials. En moltes aplicacions de camps científics com la informàtica, la lingüística, la criptografia, teoria de control, processament d'imatges, la genètica, la psicologia, l'economia, l'organització dels mètodes de producció es fan servir aquesta ciència.

En les condicions modernes amb teoria de la informació molt estretament vinculats a una teoria de codificació, discuteix els problemes més comuns de la conformitat entre un senyal i un missatge, i la teoria de processament de senyals, en el qual la quantificació estudiar i senyals de recuperació i espectrals i anàlisi de correlació dels mateixos.

teoria de la informació considera el concepte bàsic de "informació" en la seva major part quantitativament, sense tenir en compte el seu valor, i de vegades sense sentit. En aquest enfocament, una pàgina de text contindrà aproximadament la mateixa quantitat de dades determinats per una sèrie de signes i símbols, i no dependre del fet que, estrictament parlant, no s'imprimeix, fins i tot si és absolutament conjunt sense sentit i caòtica d'alguns símbols.

Aquest enfocament es justifica, però només per a la simulació de sistemes de comunicació, ja que han de transmetre amb precisió la informació sobre els canals de comunicació, que poden ser qualsevol conjunt de caràcters i símbols. Llavors, quan és necessari tenir en compte el valor i el significat de les dades, l'enfocament quantitatiu és inacceptable. Aquestes circumstàncies imposen restriccions substancials en el camp de la possible aplicació d'aquesta teoria.

Fonaments de la teoria de la informació suggereixen la consideració de diversos temes, incloent les directament relacionades amb la transmissió i recepció de dades. El circuit de connexió principal, que està considerat per la doctrina és la següent. Teoria de la Informació i Codificació Es considera que aquests són la font dels missatges, que és una paraula o conjunt de paraules escrites certes lletres de l'alfabet. La font del missatge pot ser text a qualsevol persona física o llengua artificial, el llenguatge humà, base de dades i alguns models matemàtics, la creació d'una seqüència de lletres. El transmissor converteix el missatge en un senyal corresponent a la naturalesa física del canal de comunicació - mitjà per a la transmissió de senyals. Durant el pas d'aquesta que està subjecta a interferència, que introdueixen distorsions en el valor dels paràmetres d'informació. El receptor recupera el missatge original del senyal distorsionada rebuda. Missatge en una forma reduïda arriba a la destinació - una determinada persona o un dispositiu tècnic.

font del missatge és de naturalesa estadística, és a dir, l'aspecte de cada missatge està determinada per una certa probabilitat. teoria de la informació de Shannon creu que si la probabilitat que el missatge és igual a la unitat, és a dir, la seva aparença de manera significativa i les incerteses no creu que no porta cap informació.

Un dels problemes importants de la teoria de la informació considera la coordinació de les propietats del canal de comunicació i d'informació de la font del missatge. L'ample de banda es determina per la unitat de mesura d'1 bit per segon.

Un problema amb els sistemes de comunicació són la interferència a la trajectòria del senyal desitjada. Shannon, per desgràcia, no ens dóna els mètodes específics per tractar amb aquells. El mètode d'eliminació més fàcil que es repeteix moltes vegades els missatges no són molt eficaços, ja que pren més els costos de temps per a la transmissió d'informació. Molt més eficiència permet l'ús de codis que li permeten detectar i corregir errors de transmissió de dades.