A redundancia az üzenet forrását
Üzenetek entrópia források értékelése, egyértelmű, hogy ez függ a statikus jellemzőit az üzenetek magukat. Entrópia maximális egységes megjelenése a levelek bárhol az üzenetet. Jellemzésére az üzenet forrását egy másik ábécé érdekes összehasonlítani a tényleges forrása entrópia lehetséges. Ebben az értelemben a fogalom redundancia Üzenetek forrás vagy redundancia az ábécé.
M - a számos különböző betűk az ábécé;
A H (X) - átlagos entrópia per írni.
A redundancia istochnikaR mutatja, milyen jól a használt betűk a forrás. R. Minél kisebb a nagyobb mennyiségű által generált információk forrása egy levelet. Azonban ez nem mindig szükséges, hogy törekedjen R = 0. A növekvő redundancia növeli immunitás (megbízhatóság), a forrás. Kitalálni a redundancia azért fontos, mert be kell írnia azt bölcsen, hogy a legnagyobb zaj hatása az immunitást, ahelyett az elem. Például a redundancia bármely nyelv nagyságrendileg 50-70%, vagyis ha minden betű azonos valószínűséggel használat és jönne minden betű-, az átlagos hossza egy szót jelentősen csökkenteni lehetne. Azonban az üzlet lenne sokkal nehezebb ez a rekord, főleg jelenlétében hibák (oktatója vagy tanuló).
A modern kommunikációs rendszerek épülnek anélkül, hogy figyelembe véve a korlátozások a nyelv, és ezért nem elég hatékony, mert alkalmas átvitelre egyaránt az ábécé betűit, hogy követhetik egymást, bármilyen kombinációban.
Colossal redundancia rejlő televíziós képek: természetesen nem továbbítja a teljes keret, de csak a megfelelő információt a különbség egy képkockát a másiktól. Ez jelentősen csökkenti a szükséges (átlag) frekvenciasávban.
Két olyan összetevő van redundancia:
- redundancia miatt statisztikai összefüggés a betűk:
ahol H (X) - az entrópia a leveleket, ha egyformán valószínű és egymással;
H1 (X) - az entrópia a leveleket, ha nem statisztikailag kapcsolódik, és egyformán valószínű.
- redundancia miatt valószínűségi eloszlás között az ábécé betűit:
De a statisztikai összefüggések elemei között a kibővített ábécé ősszel R ≈ 0; így növelve egyenetlenség használatát egyes M2 ábécé. azaz RR2 >> RR1; RR2 ≈ R1 ≈ R2.
Annak igazolása, hogy R1 ≈ R2 jelentése a következő:
A additivitását ingatlan adatai azt sugallja, hogy az egyik eleme a második ábécé tartalmaz annyi információt, az benne van az n legfontosabb eleme az ábécé. Az átlagos mennyiségű információ egy elemének az első ábécé - H1; elvárás, hogy n elem az első ábécé - n · H1 egyenlő egy információs elem a második ábécé H2 (X) = n · H1.
2. redundancia második ábécé
Nyelv redundancia számítjuk a következő képlet segítségével:
ahol Hmax = log M. és M - a betűk száma az ábécé.
és 0; 1; ... 2 - a betűk száma között elszámolni a kapcsolatot.
1. Hányszor már nem tartalmaz információt a szöveges oldalon, egy külföldi, tanulmányozni kezdte egy új nyelvet (például a magyar) és egy anyanyelvi beszélő?
Válasz. Egy hangszóró átlagos mennyiségű információt betűnként definiáljuk Hyazyka ≈ H30 = 1,35 / bukva bit. és a külföldi, aki tudja, rosszul szótár és figyelmen kívül hagyja a kapcsolat egy betű H = H0 vagy H1. amely megfelel a
Azaz, a szöveges oldalt egy anyanyelvi információkat tartalmaz
2. Hányszor meghosszabbított szövegének üzleti papírok, ha a redundancia 90 ÷ 95%?
Válasz. Ezzel a redundancia, az entrópia egy levél:
Míg írásban: H∞ (X) = 0,87 ÷ 1,37 / bukva bit.
Szöveg meghosszabbodik egy időben.