学科 学年	Ｅ５	科目, 分類	情報理論 [情報] Information Theory	講義, 必修	通年 ２単位	担 当	濱屋　　進 HAMAYA Susumu
【内容と目標】情報を定量的に扱うことによって、情報伝送の能率と確実さという相矛盾する問題をどう取り扱うか、効率の良い最適符号はどのようなアルゴリズムで得られるか、また、雑音に強い符号化法はどのような原理より得られるかを取り扱う。授業方法としては知識より、発展する科学技術に対処できるような論理的思考育成に重点をおいて授業を進める。 【教科書等】情報理論　　橋本猛著　　培風館 【評価方法】試験成績に、授業への取り組み、積極性を考慮して評価する。 【関連科目】数学，応用数学，電子計算機工学、通信工学
授　　業　　計　　画
第　１週　曖昧さと情報の定量化、平均情報量(エントロピ−)定義、性質 第　２週　確率と情報量の関係を知り、身近な例題を行うことによって情報量の理解を深める。 第　３週　符号とは？、復元可能符号、瞬時符号符号を符号木を使って考察する。 第　４週　最適瞬時符号に関する Kraft の不等式、復元可能符号に関する McMilan の不等式を証明 第　５週　エントロピーが最大となる情報源の条件、平均符号長の下界を未定定数法により求める。 第　６週　Huffman のアルゴリズムにより符号を作り、FaxのModified-Huffman符号について考察。 第　７週　Huffman 符号が雑音の無い場合において最適瞬時符号であることを証明する。 第　８週　情報源符号化定理の意味と証明 第　９週　　　　　前期中間試験 第１０週　身近な例題を行うことによって、マルコフ過程・シャノン線図の理解を深める 第１１週　マルコフ情報源に対するエントロピーの計算を行ない、各種事象のエントロピーを理解。 第１２週　通信速度と符号容量（通信路容量）の定義および例題 第１３週　符号容量を、任意時間 T における符号の組合わせの数 Ｎ(T) より求める。 第１４週　符号に制約がある場合の符号容量を符号の組合わせ数 Ｎ(T) より求める。 第１５週　13〜14週について、制約表示する遷移行列を使って求める(行列の固有ベクトルを使う)。 第１６週　　　　　前期末試験 第１７週　誤り検出と訂正のための符号化モデル、Hamming距離の理解。 第１８週　パリティ検査符号に対する検査行列と生成行列を求める。 第１９週　同上演習 第２０週　有限体（Galois体）と非二元符号、BCH符号とReed-Solomon符号へ言及 第２１週　Hamming符号と巡回符号を例として、パリティ検査行列と生成行列を求める 第２２週　その生成行列・検査行列を生成多項式・検査多項式により考察 第２３週　同上、符号化回路とSyndrome 復号回路の考察 第２４週　22〜23週についての演習 第２５週　CDに使われているCIRS符号と畳み込み符号の関連について考察。 第２６週　確率的通信路モデルと通信路符号化についての考察 第２７週　雑音のある通信路に対する符号化定理を考察し、通信路容量を計算する。 第２８週　連続確率関数の情報量を考察し、最大エントロピーを求める例題を行なう。 第２９週　平均電力一定の情報源の中で最大エントロピーのものは正規分布であることを導びく。 第３０週　　　　　最終試験
【備 考】特になし。