文理学部シラバスTOP > 文理学部 > 情報科学科 > 情報数理特論
日本大学ロゴ

情報数理特論

このページを印刷する

令和元年度以前入学者 情報数理特論
教員名 古市茂
単位数    2 学年    4 開講区分 文理学部
科目群 情報科学科
学期 後期 履修区分 選択
授業形態 遠隔授業(オンデマンド型)
Canvas LMSコースID・コース名称 20234379
授業概要 情報理論の発展的内容
授業のねらい・到達目標 3年次に学んだ情報理論を別の切り口から学びなおす。より数学的に高度な内容となっている。
特に,3年次の授業で十分に取り扱えなかった,信頼性関数を用いた通信路符号化定理(順定理・逆定理)および典型系列をもちいた固定長符号に対する情報源符号化定理の証明および通信路符号化定理の証明を理解することが目標である。そのために必要となる数学的道具の紹介、証明も理解出来るようにする。
この科目は文理学部(学士(理学))のディプロマポリシーDP6及びカリキュラムポリシーCP9に対応している。
授業の形式 講義
授業の方法 各回の講義を順に聴きながら,各自がノートに講義内容を写して理解に努めてください.
レポート課題を課しますので,各自が指示に従って,レポートを作成の上,指示された方法で,期限までに提出すること.
履修条件 「情報理論1・2」を履修していることが望ましい。
授業計画
1 ガイダンスはBbにて行う.相互情報量・通信路容量の復習から具体的な通信路(2元対称通信路・2元消失通信路)の通信路容量を計算する。
【事前学習】教科書6.1節を全体的に読んでおくこと。 (2時間)
【事後学習】教科書6.1節で学ぶ全体像を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
2 一般のZ型チャネルに対する通信路容量を求める。これにより通信路容量の計算方法を学ぶことができる。
【事前学習】教科書6.1節を読んでおくこと。 (2時間)
【事後学習】教科書6.1節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
3 通信路符号化定理の証明に関して必要な定義を行う。インディケーター関数について学ぶ。 それらを理解できるようになる。
【事前学習】教科書6.2節を読んでおくこと。 (2時間)
【事後学習】教科書6.2節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
4 平均誤り確率の上界を見積もっていく。Gallagerの上界を導出する。
【事前学習】教科書6.2節を読んでおくこと。 (2時間)
【事後学習】教科書6.2節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
5 補助関数の性質について学ぶ。 それを理解できるようになる。
【事前学習】教科書6.2節を読んでおくこと。 (2時間)
【事後学習】教科書6.2節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
6 補助関数に凹性の証明とその等号条件を示す。これまで得た補助関数の性質と誤り確率の上界を用いて通信路符号化定理の順定理を証明する。これによりこの定理が理解できるようになる。
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
7 誤り確率の下界を導出する。それを理解できるようになる。
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
8 通信路符号化定理(逆定理)の証明を完成させる。 それを理解できるようになる。
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
9 無雑音通信路符号化定理について考察する。それを理解できるようになる。
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
10 2元対称通信路の信頼性関数を導出する。(前編:信頼性関数の定義に従い,補助関数の事前確率による最大化をおこなう。)
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
11 2元対称通信路の信頼性関数を導出する。(後編:場合分けを行い、最終的にどちらの関数も正であることを確認する。)
【事前学習】教科書6.3節を読んでおくこと。 (2時間)
【事後学習】教科書6.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
12 固定長符号に対する情報源符号化定理の証明について学ぶ. それらを理解できるようになる。
【事前学習】教科書8.1節を読んでおくこと。 (2時間)
【事後学習】教科書8.1節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
13 同時典型系列とその性質について学ぶ. それらを理解できるようになる。
【事前学習】教科書8.2節を読んでおくこと。 (2時間)
【事後学習】教科書8.2節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
14 通信路符号化定理の証明について学ぶ. それを理解できるようになる。
【事前学習】教科書8.3節を読んでおくこと。 (2時間)
【事後学習】教科書8.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
15 通信路符号化定理の証明について学ぶ. それを理解できるようになる。
【事前学習】教科書8.3節を読んでおくこと。 (2時間)
【事後学習】教科書8.3節の内容を理解しておくこと。 (2時間)
【授業形態】オンデマンド型授業
その他
教科書 古市 茂 『情報理論: エントロピーと符号化定理』 日本評論社 2021年 第1版
参考書 使用しない
成績評価の方法及び基準 レポート:提出されたレポートの内容によって評価する.(100%)
【レポート】
・課題レポートは,半期授業を通して1回です.
・出題された課題を指示された形式、指示された方法で、期限までに提出すること
・レポートは,与えられた課題の実施状況及びその出来によって評価する.
・他者と同一のレポートが発見された場合は両者とも0点にする.

オフィスアワー 質問については電子メールなどを通してお願いします.
備考 ・3年次の情報理論については十分に理解しておくこと.
・数学(微分積分,線形代数,確率論)が得意であること.
・授業動画の公開方法や課題の提出方法などについては,Blackboard/Canvas LMS等で指示する.

このページのトップ