検索
トップページ
担当別50音一覧
情報理論
科目
情報理論
区分
知能情報システム学科科目群
授業コード
14746
開設セメスター
5S
曜日・時限
春 金/12
単位数
2
単位
担当者名
菅野 直敏
授業の概要
「情報」というものは人間と深い関わりを持ったもので、「情報」と言うことばの意味する範囲は広い。情報理論では「情報」とは何かという根本的な問題から出発して、なぜ「情報」は確率で取り扱われるのか、情報量やエントロピーの概念、情報の発生と伝達、及び符号化などの基本的な概念について学び、その応用について考える。
キーワード:情報量、エントロピー、情報源符号化、通信路符号化
到達目標
情報量、エントロピー、および符号化などの情報理論の基礎が理解できている。
授業計画
テーマ
内容
授業を受けるにあたって
第1回目
情報理論とは
情報理論とは
通信システムのモデル化
標本化定理と量子化
講義に教科書・ノート等を必ず持参すること
第2回目
確率論の基礎
集合・試行
確率
平均と分散
条件付き確率
前週の講義内容(教科書・ノート等)を必ず復習しておくこと
第3回目
マルコフ過程
マルコフ過程
ベイズの定理
〃
第4回目
情報源符号化
情報源のモデル
エントロピー
情報量
〃
第5回目
平均符号長
平均符号長
情報源符号化定理
〃
第6回目
情報源符号
情報源符号
ハフマン符号
ランレングス符号
〃
第7回目
ランレングス符号
ランレングス符号
その他の符号
〃
第8回目
各種情報量
結合エントロピー
条件付きエントロピー
〃
第9回目
相互情報量
相互情報量
マルコフ情報源のエントロピー
〃
第10回目
通信路の符号化
通信路モデル
通信路容量
平均誤り率
〃
第11回目
通信路符号化定理
通信路符号化定理
ランダム符号化
〃
第12回目
符号理論
誤り検出と訂正の理論
パリティ検査符号
線形符号
〃
第13回目
巡回符号
巡回符号
シンドローム
〃
第14回目
〃
畳み込み符号
最ゆう復号
〃
第15回目
まとめ
講義のまとめ
〃
教科書
なし
参考文献
情報理論/三木・吉川/コロナ社
成績評価方法
期末試験で評価する
そのほか受講者への指示/メッセージ
確率論を受講していることが望ましい.
更新日:
01/14/2006
検索
/
トップページ
/
担当別50音一覧