検索

トップページ

担当別５０音一覧

科目	情報理論	区分	情報通信工学科科目群
授業コード	14302	開設セメスター	5S
曜日・時限	春　月/12	単位数	2単位
担当者名	小林　由紀男

授業の概要

「「情報」とはなにか，「曖昧さ」とは何か，「不確定さ」とは何かなどを考える．その「情報の量」，「曖昧さや不確定さの程度」，の定義から始めて，情報理論の根幹であるエントロピー，情報源のモデル，通信路などの基本的な概念について学習する．確率論の基礎の復習から入り，各種「情報量」と確率との関係を明らかにする．最近のデータ通信技術で注目されている通信の安全性に関する暗号化法，通信の効率向上のためのデータ圧縮符号，通信品質向上のための誤り制御符号についても概略が理解できる．

到達目標	確率や確率過程に関する基礎知識に基づいて情報の量とは何かを理解し，通信路のモデルとその性質はどのように定量化されているかが理解できていること．データを正確に・早く・安全に伝送できる技術について理解していること．下記の教科書・参考書・配付資料を参考に、授業に関する確率的知識と各種情報量の８０％程度を実際の問題に適用できる程度までは到達してほしい．

授業計画	テーマ	内容	授業を受けるにあたって
第1回目	情報理論と確率	確率と情報（何故確率か），現象の不確定さ・曖昧さ	シラバスの確認．教科書1.1～1.2
第2回目	確率論の基礎－Ⅰ	確率変数，確率分布，確率諸量	前回配布の資料．教科書1.3～1.5
第3回目	確率論の基礎－Ⅱ	条件付き確率，マルコフ過程	前回配布の資料．教科書1.6～1.9
第4回目	情報源	情報の量とエントロピー，情報源モデル　　　【小テスト】	前回配布の資料．教科書2.1，4.1 小テスト範囲：授業第１回～第３回
第5回目	情報源符号化	瞬時符号，クラフトの不等式，平均符号長，情報源符号化	前回配布の資料・教科書2.2～2.8
第6回目	情報源符号化法	情報源符号化定理，ハフマン符号，コンパクト	前回配布の資料・教科書3.1～3.2
第7回目	マルコフ情報源	記憶のある情報源モデル，マルコフ過程	前回配布の資料・教科書3.3～3.6
第8回目	情報量とエントロピー	情報量，エントロピー　　　　　　　　　　　　　【小テスト】	前回配布の資料・教科書4.1～4.3 小テスト範囲：授業第４回～第７回
第9回目	エントロピー関数	条件付きエントロピー，相互情報量	前回配布の資料・教科書4.4～4.6
第10回目	通信路	通信系モデル，通信系における確率	前回配布の資料・教科書5.1～5.2
第11回目	通信路容量	２元対称通信路と通信路容量　　 　　【小テスト】	前回配布の資料・教科書5.2～5.5 小テスト範囲：授業第８回～第10回
第12回目	通信路符号化	最尤復号化，通信路符号化定理	前回配布の資料・教科書5.6～5.8
第13回目	誤り訂正と検出	ハミング距離，パリティ検査	前回配布の資料・教科書5.9～6.1
第14回目	情報セキュリティと暗号	暗号化法，ＲＳＡ，ＤＥＳ	前回配布の資料
第15回目	期末試験	情報の定量化と通信路特性の定量化．符号化の目的と技術	配布資料・教科書・小テスト問題

教科書	例にもとづく情報理論入門／大石 進一／講談社／2200円 必要に応じてプリントを配布する．
参考文献	情報理論のエッセンス／平田　廣則／昭晃堂／2700円＋税 情報理論／今井 秀樹／昭晃堂／2500円 http://rironnew.inf.eng.tamagawa.ac.jp/index.html
成績評価方法	小テスト（30％），期末試験（50％），授業でのアクティビティー（質問・発表等）で2０％，合計を100点満点とします．試験は，情報理論の体系をどの程度理解しているかに着目してその到達度を評価します．成績は所定の規則通り，ＳＡＢＣＦで評価しますが，出席が3/4に満たないものは期末の定期試験の受験資格を失いますので，合計は50点以下(つまりＦ）になります．
そのほか受講者への指示／メッセージ	情報理論は情報関連学問全般の基本科目の一つです．情報通信や情報管理における応用に限らず，多くの意志決定支援技術に情報理論が適用されてます．経営科学や金融工学等の分野でどのように情報理論が応用できるか自ら考えられる能力と探究心を養ってほしい．