検索 検索トップページ トップページ担当別50音一覧 担当別50音一覧

情報理論

科目
情報理論
区分
電子工学科科目群
授業コード
14207
開設セメスター
5S
曜日・時限
春 火/56
単位数
2単位
担当者名
菅野 直敏
授業の概要
「情報」というものは人間と深い関わりを持ったもので、「情報」と言うことばの意味する範囲は広い。情報理論では「情報」とは何かという根本的な問題から出発して、なぜ「情報」は確率で取り扱われるのか、情報量やエントロピーの概念、情報の発生と伝達、及び符号化などの基本的な概念について学び、その応用について考える。
キーワード:情報量、エントロピー、情報源符号化、通信路符号化
到達目標
情報量、エントロピー、および符号化などの情報理論の基礎が理解できている。
授業計画
テーマ
内容
授業を受けるにあたって
第1回目
情報理論とは 情報理論とは
通信システムのモデル化
標本化定理と量子化
前週の講義内容(教科書・ノート等)を必ず復習しておくこと
第2回目
確率論の基礎 集合・試行
確率
平均と分散
条件付き確率
第3回目
マルコフ過程 マルコフ過程
ベイズの定理
第4回目
情報源符号化 情報源のモデル
エントロピー
情報量
第5回目
平均符号長 平均符号長
情報源符号化定理
第6回目
情報源符号 情報源符号
ハフマン符号
ランレングス符号
第7回目
ランレングス符号 ランレングス符号
その他の符号
第8回目
各種情報量結合エントロピー
条件付きエントロピー
第9回目
相互情報量相互情報量
マルコフ情報源のエントロピー
第10回目
通信路の符号化通信路モデル
通信路容量
平均誤り率
第11回目
通信路符号化定理通信路符号化定理
ランダム符号化
第12回目
符号理論誤り検出と訂正の理論
パリティ検査符号
線形符号
第13回目
巡回符号巡回符号
シンドローム
畳み込み符号
最ゆう復号
第14回目
まとめ
第15回目

教科書
なし
参考文献
情報理論/三木・吉川/コロナ社
成績評価方法
期末試験で評価する
そのほか受講者への指示/メッセージ

更新日:01/24/2005
検索トップページ担当別50音一覧