情報理論

1. 情報理論

A. 情報   

a. ビット、バイト   

b. 符号   

c. 無記憶情報源   

d. マルコフ情報源

2進法→10進法

 1111111127+26+25+24+23+22+21+20128+64+32+16+8+4+2+1255

 

2進法→16進法

 11111111→1111 111123+22+21+20 23+22+21+2015 15F F→FF

 

2進法→8進法

 11111111→11 111 11121+20 22+21+20 22+21+203 7 7377

 

10進法→2進法( の部分をから順にからへ並べていく)  (2015 61

255÷2127+1 127÷263+1 63÷231+1 15÷27+1 7÷23+1 

3÷21+1  1÷20+1    →→→  11111111

*小数点以下は×2して、一の位を上から同じように並べる

 

画像のデータ量  (2017 722015 652014 672013 642012 65

 画像のデータ量[bit] = マトリックスサイズ(M×N) × 標本化数 × 量子化数 + ヘッダ情報

 1byte8bitであり、記憶媒体にはbyte単位で記憶される。

 

B. 分布関数

a. 標本空間   

b. 事象   

c. 平均値、分散、自由度

 

C. エントロピー

a. 自己情報量   

b. 相互情報量   

c. 平均情報量〈エントロピー〉

〇画像の類似度 (2017 73 、2014 682012 63

・相互情報量

 2次元ヒストグラムから計算され、画像の位置合わせ等で使用される

 異なるモダリティ間でも使用される

 -差分二乗和(SSD)

:同位置の画素値の差の2乗の総和で示され、値が0に近いほど類似度が高い

  あまり差がない(ガウシアンノイズ程度)ときに有効

 -差分絶対値和(SAD)

:同位置の画素値の差の絶対値の総和で表され、値が0に近い程類似度は高い

SSDに比べて、画素値に大きな違いがある画素(外れ値)の影響を受けにくい

 -正規化相互相関

:類似度が1に近いほど類似度が高い

それぞれの画像の平均値ゼロとしている

 -画像均一度

:値が0に近づくほど類似度が高い

 -相互情報量

2つの画像が全く同じで最大になり、2つの画像が全く無関係で相互情報量はゼロ

 

D. 通信路

a. 通信容量   

b. 離散的通信路   

c. 雑音   

d. シャノンの基本定理

E. 符号化  (2015 662013 672012 71

a. 情報源符号化〈エントロピー符号化、映像情報符号化〉(データ圧縮) 

可逆圧縮

連長圧縮(run length符号化

出現頻度の高い情報源記号の連続した生起に注目してブロック符号化

 

エントロピー符号化

:高頻度の文字には短いビット列、低頻度の文字には長いビット列を割り当てる

ハフマン符号化

𝑆の1情報源記号あたり平均符号長を𝐻1(𝑆)
に限りなく近づけられる

算術符号化

:情報源系列の累積確率に注目し、情報源系列全体を一つの符号語に符号化する

装置が比較的単純で効率がよい

多様な情報源に対応できる

シャノン・ファノ符号化

 

非等長情報源系列の符号化

:出現頻度が高い順に𝑚個を選んでブロック符号化する

 

非可逆圧縮

 

予測符号化

:空間領域での圧縮

 

周波数領域への変換

二次元離散フーリエ変換

:複素数演算が必要

 → 構成が複雑

 → あまり利用されない
 

 

アダマール変換

:演算は加減算のみ

 → 構成は単純、高速に実行

 → 変換効率は良くない
 

 

カルーネン・レーベ変換(K-L変換)

:ある画像に対して、変換効率が最大

 → 演算が複雑(行列の固有値)、変換方法が画像毎に異なる

 → 汎用性に欠ける

 

離散コサイン変換(DCT

:変換効率が高い(K-L変換に近い)

汎用性が高い(異なる画像も同じ変換が使える)

高速演算手法が存在する

現在の主流(JPEG. MPEG

 

離散ウェーブレット変換(DWT

:多重解像度解析に基づき、絶対値の大きい展開係数のみを残す

広い周波数領域の解析が可能で、計算量が少ない(O(N)

 

ベクトル量子化

:複数のアナログ信号をまとめてベクトルとして量子化する

 

 画像圧縮技術 

*医用画像ではJPEG圧縮とWavelet圧縮が主

JPEG (2016 72

 非可逆圧縮方式で、1/101/100に圧縮

 離散コサイン変換DCT)を用いた画像変換

 処理単位は8×8で、DCTを用いているため、ブロックノイズが発生しやすい

 

JPEG 20002016 72

 可逆圧縮/非可逆圧縮どちらも可能で、ブロックノイズ、モスキートノイズが発生しない

 離散ウェーブレット変換DWT)を用いた画像変換で、リンギング歪が発生する

 

b. 伝送路符号化  通信路符号化の間違いか!?2017 71

誤り訂正符号

:送信する情報に冗長を持たせることにより、伝送路で発生する誤りを訂正する技術

畳み込み符号化やブロック符号がある

コメント

error: Content is protected !!