検索 検索トップページ トップページ担当別50音一覧 担当別50音一覧

情報理論

科 目
情報理論
区 分
電子工学科科目群
授業コード
14258
開設セメスター
5S
曜日・時限
金/34
単位数
2単位
担当者名
菅野 直敏
授業の概要
「情報」というものは人間と深い関わりを持ったもので、「情報」と言うことばの意味する範囲は広い。情報理論では「情報」とは何かという根本的な問題から出発して、なぜ「情報」は確率で取り扱われるのか、情報量やエントロピーの概念、情報の発生と伝達、及び符号化などの基本的な概念について学び、その応用について考える。
キーワード:情報量、エントロピー、情報源符号化、通信路符号化
授業計画
テー
内 容
第1回目
情報理論とは情報理論とは?
通信システムのモデル化
標本化定理と量子化
第2回目
確率論の基礎集合・試行
確率
平均と分散
条件付き確率
第3回目
マルコフ過程マルコフ過程
ベイズの定理
第4回目
情報源符号化情報源のモデル
エントロピー
情報量
第5回目
平均符号長平均符号長
情報源符号化定理
第6回目
情報源符号情報源符号
ハフマン符号
ランレングス符号
第7回目
ランレングス符号ランレングス符号
その他の符号
第8回目
各種情報量結合エントロピー
条件付きエントロピー
第9回目
相互情報量相互情報量
マルコフ情報源のエントロピー
第10回目
通信路の符号化通信路モデル
通信路容量
平均誤り率
第11回目
通信路符号化定理通信路符号化定理
ランダム符号化
第12回目
符号理論誤り検出と訂正の理論
パリティ検査符号
線形符号
第13回目
巡回符号巡回符号
シンドローム
畳み込み符号
最ゆう復号
第14回目
第15回目

使用テキスト
■情報理論/三木・吉川/コロナ社
参考文献
■当該科目の開講年次に担当教員より指示する。
成績評価方法
■期末試験で評価。
検索トップページ担当別50音一覧