検索 検索トップページ トップページ担当別50音一覧 担当別50音一覧

情報理論

科目
情報理論
区分
情報通信工学科科目群
授業コード
14304
開設セメスター
5S
曜日・時限
春 月/78
単位数
2単位
担当者名
小林 由紀男
授業の概要
 「情報」とはなにか,「曖昧さ」とは何か,「不確定さ」とは何かなどを考える.その「情報の量」,「曖昧さや不確定さの程度」,の定義から始めて,情報理論の根幹であるエントロピー,情報源,通信路などの基本的な概念について学習する.確率論の基礎を復習し,各種「情報量」の意味を考える.最近のデータ通信技術で注目されている通信の安全性を保証する暗号化法,通信効率を向上させるデータ圧縮符号(情報源符号化),通信品質向上のための誤り制御符号(通信路符号化)についての理解を深め,応用技術をマスターする.
到達目標
 確率と確率過程の基礎知識に基づいて情報の量とは何かを十分に理解し,通信路のモデルとその性質はどのように定量化されているかが理解できていること.データを正確に・早く・安全に伝送できる応用技術についても理解していること.教科書・参考書・資料・ノートを参考にすれば,確率の基礎知識に基づく各種情報量の80%程度を実際の問題に適用できる程度までの力をつけていることを望みます.
授業計画
テーマ
内容
授業を受けるにあたって
第1回目
情報理論と確率 確率と情報(何故確率か),現象の不確定さ・曖昧さ シラバスの確認.教科書1.1~1.2
第2回目
確率論の基礎-Ⅰ 確率変数,確率分布,確率諸量今週の資料,教科書1.3~1.5
第3回目
確率論の基礎-Ⅱ 条件付き確率,マルコフ過程今週の資料,.教科書1.6~1.9
第4回目
情報源 情報の量とエントロピー,情報源モデル
【小テスト】
今週の資料,教科書2.1,4.1
小テスト範囲:授業第1回~第3回
第5回目
情報源符号化 瞬時符号,クラフトの不等式,平均符号長,情報源符号化 今週の資料,教科書2.2~2.8
第6回目
情報源符号化法 情報源符号化定理,ハフマン符号,コンパクト今週の資料,教科書3.1~3.2
第7回目
マルコフ情報源 記憶のある情報源モデル,マルコフ過程今週の資料,・教科書3.3~3.6
第8回目
情報量とエントロピー情報量,エントロピー
【小テスト】
今週の資料,教科書4.1~4.3
小テスト範囲:授業第4回~第7回
第9回目
エントロピー関数条件付きエントロピー,相互情報量今週の資料,教科書4.4~4.6
第10回目
通信路通信系モデル,通信系における確率今週の資料,教科書5.1~5.2
第11回目
通信路容量2元対称通信路と通信路容量今週の資料,・教科書5.2~5.5
第12回目
通信路符号化最尤復号化,通信路符号化定理
【小テスト】
今週の資料,教科書5.6~5.8
小テスト範囲:授業第8回~第11回
第13回目
誤り訂正と検出ハミング距離,パリティ検査今週の資料,・教科書5.9~6.1
第14回目
情報セキュリティと暗号暗号化法,RSA,DES今週の資料
第15回目
期末試験情報の定量化と通信路特性の定量化.符号化の目的と技術全「今週の資料」・教科書・小テスト問題

教科書
例にもとづく情報理論入門/大石 進一/講談社
資料:http://rironnew.inf.eng.tamagawa.ac.jp
参考文献
情報理論のエッセンス/平田 廣則/昭晃堂
情報理論/今井 秀樹/昭晃堂
成績評価方法
 小テスト(30%),期末試験(50%),授業でのアクティビティー(質問・発表等)で20%,合計を100点満点とします.試験は,情報理論の体系をどの程度理解しているかに着目してその到達度を評価します.成績は所定の規則通り,SABCFで評価しますが,出席が3/4に満たないものは期末の定期試験の受験資格を失いますので,合計は50点以下(つまりF)になります.
そのほか受講者への指示/メッセージ
 情報理論は情報関連学問全般の基本科目の一つです.情報通信や情報管理における応用に限らず,多くの意志決定支援技術に情報理論が適用されてます.経営科学や金融工学等の分野でもどのように情報理論が応用できるか自ら考えられる能力と探究心を養って欲しい.

更新日:01/24/2005
検索トップページ担当別50音一覧