1. fejezet - Bevezetés a Computer Science

1.5. Mérve az információ mennyiségét?

Mennyi információt tartalmaz, például a szöveg a regény „Háború és béke”, a freskók Raphael, vagy az emberi genetikai kód? A válasz ezekre a kérdésekre nem ad tudomány, és minden valószínűség szerint nem lesz hamarosan. Lehetséges, hogy objektíven mérni az információ mennyiségét. A legfontosabb eredmény az információ elmélet az alábbi következtetést:







A nagyon széles értelemben lehet elhanyagolni a minőségi tájékoztatást, hogy kifejtse száma szám, valamint összehasonlítani a tartalmazott információk mennyiségének a különböző adatcsoportok.

Jelenleg már elterjedt megközelítések meghatározására „mennyiségű információ” fogalma azon a tényen alapul, hogy az információt a jelentésben szereplő, lehet lazán értelmezni újszerűsége vagy más módon csökkenti a bizonytalanságot a tudásunk a tárgyról. Ezek a megközelítések a matematikai fogalom valószínűség és a logaritmus. Ha nem ismeri ezeket a fogalmakat, akkor kihagyhatja ezt az anyagot.

Módszereket, amelyekkel megállapítható az információ mennyiségét. Hartley és Shannon formula.

Amerikai mérnök R. Hartley 1928-ban, a folyamat, mely során az információ tekinthető a választás egy üzenetet a végleges előzetes Adott N egyenlően valószínű az üzenetek és az információk mennyisége I. szerepel a kiválasztott üzenet úgy definiáljuk, mint a kettes alapú logaritmusának N.

Hartley képlet: I = log2 N

Tegyük fel, hogy meg kell kitalálni a számot az egyik egy sor olyan számok 1-100. Szerint Hartley képlet lehet számítani, hogy mennyi információ szükséges ehhez: I = log2 100> 6,644. Így helyesen kitalálni a számot az üzenet tartalmazza az információk mennyisége körülbelül 6,644 egység információkat.

Íme további példák egyformán valószínű üzeneteket.





  1. érme feldobás „volt a farka”. "Fallen sas";
  2. Az oldalon a könyv: „páros számú leveleket.” „Páratlan számú leveleket.”

Nézzük most meg, hogy a hozzászólások egyformán valószínű „az első nő, ki az épületből ajtót”, és „az első, hogy jöjjön ki az épületből ajtó ember.” válasz erre a kérdésre nem lehet egyértelműen. Minden attól függ, hogy milyen épület ez kérdéses. Ha igen, például a metró, a valószínűsége az első, hogy a szabadban azonos a férfiak és a nők, és ha ez egy katonai létesítménybe, a férfiaknak, ez a valószínűség sokkal magasabb, mint a nők számára.

Alkalmazásában az ilyen egy amerikai tudós Kod Shennon javasolt 1948 eltérő általános meghatározására mennyiségű információt, amely figyelembe veszi az esetleges egyenlőtlen valószínűsége üzeneteket a készlet.

Ez könnyű észrevenni, hogy ha annak a valószínűsége p1. pN egyenlő, akkor mindegyik egyenlő 1 / N. és Shannon képletű Hartley átváltozik a képlet.

Emellett a két helység megközelítések összegének meghatározásakor információk, vannak más. Fontos megjegyezni, hogy az elméleti eredmények csak akkor alkalmazható, egy bizonyos tartományban esetben vázolt kezdeti feltételezések.

Mivel az információ egysége Kod Shennon elfogadását javasolta egyetlen bit (Eng. Bit # 151; bi narydigit # 151; bináris számjegy).

Csaták információ elmélet # 151; mennyiségű információ szükséges megkülönböztetni két equiprobable üzenetek (például „fejek” # 151; „farok”, „Cs” # 151; „furcsa” és hasonlók).

A számítástechnika, egy kicsit a legkisebb „része” a számítógépes tárolásához szükséges memória az egyik karakter a „0” és „1” használnak az adatok és intraengine csapatok.

bit # 151; Túl kicsi a mértékegységet. A gyakorlatban gyakran használják a nagyobb egységek # 151; bájt. egyenlő nyolc bit. Ez nyolc bit kódolásához szükséges bármely 256 karakter az ábécé billentyűzet számítógép (256 = 2, 8).

Szintén széles körben használják még nagyobb egység, amely információkat.
  • 1 kilobájt (kB) = 1024 bájt = 2 10 bájt,
  • 1 megabájt (MB) = 1024 bájt = 2 20 bájt,
  • 1 gigabájt (GB) = 1024 MB = 2 30 bájt.
Nemrégiben a megnövekedett mennyiségű feldolgozott adatok szerepelnek a származékok felhasználását egységek, például:
  • 1 Terabájt (TB) GB = 1024 = 2 40 bájt,
  • 1 Petabyte (PB) TB = 1024 = 2 50 bájt.

Az információs egység tudtunk választani a szükséges információ mennyisége megkülönböztetni, például tíz egyformán valószínű üzeneteket. Ez nem lesz egy bináris (bit), és egy tizedes (di) információs egység.