Samoopravne kody

© Květuše Sýkorová
• základní informace o kurzu
– zápočet, zkouška
• kódy
– příklady
© Květuše Sýkorová
• základní pojmy
–
–
–
–
abeceda, symbol, slovo, kanál, …
zdrojové, kódové, přijaté slovo
Hammingova vzdálenost, velikost, dimenze, distance
ideální, totální, opakovací, paritní kód
• literatura
– doplnit !!!
• předmět:
– KMA/P434 = Samoopravné kódy I.
• Zápočet / 4kb
– KMA/P534 = Samoopravné kódy II.
• Zápočet + Zkouška / 4kb
• informace:
– ki.ujep.cz
© Květuše Sýkorová
• termínovník, pro studenty, e-nástěnka
• literatura:
– stag.ujep.cz
• Prohlížení -> Předměty
• požadavky k zápočtu:
– úspěšné splnění zápočtové písemky
• správně celkem 75% z celkového počtu bodů
• požadavky ke zkoušce
© Květuše Sýkorová
– ústní pohovor
• kódování:
– kryptologie
• šifrování dat pro zajištění utajení a bezpečnosti přenosu dat
– komprese dat
• komprese dat pro zmenšení objemu dat
– samoopravné kódy
© Květuše Sýkorová
• detekce chyb při přenosu a jejich opravování
• předpoklady:
– data posílána po telekomunikační lince
• řada chyb vlivem šumu
– chceme zajistit maximální bezchybnost
• pošleme „něco“ navíc
– přenos dat cenově drahý
© Květuše Sýkorová
• minimální velikost dat
– n = původní velikost posílaných dat
• posloupnost bitů
– p = pravděpodobnost chyby u každého bitu
• chyby navzájem nezávislé
• příklad:
– data bez úprav
• 𝑛 = 100, 𝑝 = 0,01
• 𝑃 = 1 − 𝑝 = 0,99
– pst přijetí bitu bez chyby
• 𝑃 = 1−𝑝
𝑛
= 0,366
© Květuše Sýkorová
– pst přijetí celé zprávy bez chyby je 37%
• příklad:
– opakovací kód délky 3
– každý bit pošleme 3x za sebou
» 000, 001, 010, 100 odpovídá bit 0
» 111, 110, 101, 011 odpovídá bit 1
• 𝑛 = 100, 𝑝 = 0,01
• 𝑃 = 1 − 𝑝 = 0,99
– pst přijetí bitu bez chyby
© Květuše Sýkorová
• 𝑃 = 1−𝑝
3
+ 3𝑝 1 − 𝑝
2
= 1−𝑝
2
1 + 2𝑝 = 0,999
– pst přijetí trojice bitů s maximálně 1 chybou
• 𝑃=
1−𝑝
2
1 + 2𝑝
𝑛
= 0,971
– pst přijetí celé zprávy bez chyby je 97%
• Σ = 𝑠0 , … , 𝑠𝑚
– konečná abeceda, množina symbolů
• Σ =𝑚+1
• wi
– slovo délky n
• uspořádaná n-tice symbolů
• 𝑤𝑖 = 𝑠𝑖1 , … , 𝑠𝑖𝑛
© Květuše Sýkorová
– kde 𝑠𝑖𝑘 ∈ 𝑠0 , … , 𝑠𝑚
• Σ 𝑛 = 𝑤𝑖
– množina všech slov délky n
• kanál
– proudové zařízení
• na jednom konci stojí odesílatel, na druhém konci stojí příjemce
– binární symetrický kanál
• nejobvyklejší typ kanálu
p je pst chyby při přenosu jednoho symbolu
– Σ = 0,1 , 𝑝01 = 𝑝10 = 𝑝, 𝑝00 = 𝑝11 = 1 − 𝑝
• 𝑝𝑖𝑗
© Květuše Sýkorová
– pst, že při odeslání symbolu si bude přijat symbol sj
• 𝑖, 𝑗 ∈ 0, … , 𝑚
– platí:
•
𝑚
𝑘=0 𝑝𝑖𝑘
=1=
𝑚
𝑘=0 𝑝𝑘𝑗
– přenosy symbolů = navzájem nezávislé náhodné procesy
• odesílatel
– 𝑤1 , … , 𝑤𝑀
• posloupnost zdrojových slov z množiny 𝑊 ⊆ Σ𝑛
– určeny k odeslání
– 𝑐1 , … , 𝑐𝑀
• posloupnost kódových slov z množiny 𝐶 ⊆ Σ𝑛
© Květuše Sýkorová
– skutečně odeslaná slova
– C je kód
– 𝜋: 𝑊 → 𝐶
• bijekce
– kódování zdrojových slov
– 𝑐𝑖 = 𝜋 𝑤𝑖
• odeslané slovo
zjednodušený pohled !!!
každá množina slov by měla
být nad jinou abecedou
• příjemce
– zná:
kód C je pro daný kanál tím lepší,
čím menší je pst porušení předpokladu
• 𝜋: 𝑊 → 𝐶
– 𝑤𝑖 = 𝜋 −1 𝑐𝑖
• množinu 𝐶 ⊆ Σ𝑛
– 𝑐1 , … , 𝑐𝑀
• posloupnost přijatých slov z množiny 𝐶 ⊆ Σ𝑛
© Květuše Sýkorová
– zatížená chybou
– dekódování 𝑐 → 𝑐:
• předpoklad
– dekódování na nejpodobnější slovo (maximum likelihood decoding)
» odeslané slovo je „nejbližší“ přijatému slovu
» ve smyslu Hammingovy vzdálenosti
nesplnění → nesprávné dekódování
• kód (blokový)
• množina 𝐶 ⊆ Σ𝑛
–n
• délka kódu
– 𝐶 = 𝑞𝑘
• velikost kódu (počet prvků)
– 𝑘 = log 𝑞 𝐶
© Květuše Sýkorová
• dimenze kódu
– binární kód
• Σ = 0,1
– q-ární kód
• Σ = 𝑠0 , … , 𝑠𝑞−1 , Σ = 𝑞
• kód
– 𝑑 𝑥, 𝑦 = 𝑖 ∈ 1, … , 𝑛 ; 𝑥𝑖 ≠ 𝑦𝑖
• Hammingova vzdálenost
– 𝑥 = 𝑥1 , … , 𝑥𝑛 , 𝑦 = 𝑦1 , … , 𝑦𝑛 ; 𝑥, 𝑦 ∈ Σ 𝑛
• je to metrika
– 𝑑 = ∆ 𝐶 = min 𝑑 𝑥, 𝑦
© Květuše Sýkorová
– 𝑥≠𝑦∈𝐶
• distance kódu
• minimální vzdálenost kódu
– 𝑑 = ∆ 𝐶 ≥ 2𝑡 + 1
• kód C má schopnost opravy t chyb
– dekódování proběhne správně
» slovo 𝑐 vždy dekódováno na nejpodobnější slovo 𝑐 (právě jedno)
– 𝑛, 𝑘, 𝑑
𝑞
−kód
nebo 𝑛, 𝐶 , 𝑑
• délka n, dimenze k, distance d, velikost abecedy q
–𝛼 𝐶 =
𝑘
𝑛
• hustota kódu
– poměr délky zdrojového a kódového slova
–
1
𝛼 𝐶
= o kolik se zdrojové slovo prodlouží kódováním
© Květuše Sýkorová
– ideální kód
• maximální hustota 𝛼 𝐶
• maximální distance d
– ekvivalentní kódy
• liší se jen pořadím symbolů v kódových slovech
– mají stejné některé vlastnosti
𝑞
-kód
•
𝑛, 𝑛, 1 −kód
– totální kód Σ 𝑛
• všechna slova délky n nad abecedou 𝜮
•
𝑛, 1, 𝑛 −kód
opačné extrémy
– opakovací kód 𝑅𝑒𝑝𝑛
• všechna slova tvaru 𝑥𝑥𝑥 … 𝑥 délky n nad abecedou 𝜮
© Květuše Sýkorová
•
𝑛, 𝑛 − 1,2 −kód
– paritní kód
• všechna slova 𝑥 = 𝑥1 , … , 𝑥𝑛 délky n nad abecedou 𝑭2 = 0,1
– kde 𝑥𝑖 = 0, tj. x obsahuje sudý počet jedniček
– 𝐹2 𝑛 = 2𝑛−1
– 𝑋 ∸ 𝑌 = 𝑋 ∪ 𝑌 ∖ 𝑋 ∩ 𝑌 = 𝑋 + 𝑌 − 2 𝑋 ∩ 𝑌 je sudé číslo > 0
» 𝑋 = 𝑖 ∈ 1, … , 𝑛 ; 𝑥𝑖 = 1 , 𝑌 = 𝑖 ∈ 1, … , 𝑛 ; 𝑦𝑖 = 1
• předpoklad:
– C je binární kód délky n s distancí d
• Kolik kódových slov může maximálně obsahovat?
– 𝐴 𝑛, 𝑑 = max log 𝐶
𝐶
• 𝐴 𝑛, 1 = 𝑛
• 𝐴 𝑛, 2 = 𝑛 − 1 pro paritní kód
© Květuše Sýkorová
– 𝐴 𝑛, 𝑑 ≤ 𝑛 − 𝑑 + 1
• Singletonův odhad (nejjednodušší horní odhad funkce 𝐴 𝑛, 𝑑 )
– pro každé d ≤ 𝑛
– 𝐴 𝑛, 𝑑 = 𝐴 𝑛 − 1, 𝑑 − 1
– pro každé sudé d ≤ 𝑛
• obecně 𝐴 𝑛, 𝑑 ≤ 𝐴 𝑛 − 1, 𝑑 − 1 pro každé d ≤ 𝑛
© Květuše Sýkorová