授業計画 | テーマ | 内容 | 学習課題 |
第1回目 | 情報と情報量 | 授業の概要説明．情報の量とは，情報の数量化，なぜ確率なのか． | シラバスを確認し，教科書1.1～1.3で，情報の意味と確率の概念を理解しておく． |
第2回目 | 確率論の基礎Ⅰ | 不確定さの尺度としての確率，測度と確率，条件付き確率，結合確率． | 今週の資料，教科書2.1～2.4で，確率を復習しておく． |
第3回目 | 確率論の基礎Ⅱ | マルコフ過程，状態推移行列，ベイズの定理 | 今週の資料，教科書2.4～2.6で，確率過程について復習しておく． |
第4回目 | 情報源 | 情報源モデル，情報量，エントロピー，エントロピー関数の意味と特性．【小テスト】 | 今週の資料，教科書3.1～3.2で，エントロピー関数，対数関数を調べておく．小テスト範囲：授業第１回～第３回 |
第5回目 | 情報源符号化 | 瞬時符号，情報源符号化定理，データ圧縮，平均符号長． | 今週の資料，教科書3.3～3.4で，情報源の符号化とは何か調べメモしておく． |
第6回目 | 符号木，ハフマン符号 | 符号木，ハフマン符号とコンパクト性，ランレングス符号，ＭＨ符号． | 今週の資料，教科書4.1～4.3で，符号化法のアルゴリズムを理解する． |
第7回目 | ジフ・レンペル符号，他 | 自己参照型符号，他 | 今週の資料，教科書4.4～4.5で，自己参照型とは何か理解し，そのアルゴリズムを習得する． |
第8回目 | 各種エントロピー | 結合エントトピー，条件付きエントロピー，相互情報量．【小テスト】 | 今週の資料，教科書5.1～5.3で，各種エントロピー間の関係を整理しておく．小テスト範囲：授業第４回～第７回 |
第9回目 | マルコフ情報源のエントロピー | エルゴード的マルコフ情報源，マルコフ情報源のエントロピー． | 今週の資料，教科書5.3～5.4で，エルゴード性について調べておく． |
第10回目 | 通信路モデル | 通信路モデル，通信路行列，相互情報量． | 今週の資料，教科書6.1～6.2で，通信路行列を理解しておく． |
第11回目 | 通信路容量 | 相互情報量と通信路容量・伝送速度，通信路容量の計算法． | 今週の資料，教科書6.2～6.3で，通信路容量の計算方法を調べておく． |
第12回目 | 通信路符号化 | 通信路符号化定理，ハミング距離，線形符号，組織符平均誤り率，通信路符号化定理，情報源符号化定理．【小テスト】 | 今週の資料，教科書6.4で，誤り訂正の原理を理解する．小テスト範囲：授業第８回～第11回 |
第13回目 | 訂り制御の原理 | ハミング距離，ハミング重み，線形符号． | 今週の資料，教科書7.1～7.2で，符号間の距離と誤り訂正について，線形空間で理解しておく． |
第14回目 | 線形符号 | 有限体，線形空間，有限体上の多項式代数． | 今週の資料，教科書7.3～7.4で，有限体上の符号について調べておく． |
第15回目 | 巡回符号 | 巡回符号，BCH符号． | 今週の資料，教科書7.4～7.5で，誤り訂正符号の構成方法を理解する． |