書名で キーワードで

詳細検索 >>

HOME  > 情報工学  / 情報数学  / 符号理論  > 情報量

書籍詳細

  情報量
- 情報理論への招待 -

▼ 目次を読む

▼ 目次をたたむ

山本宙 東海大准教授 博士(工学) 著

発行年月日:2019/03/01 , 判 型: A5,  ページ数:122頁

ISBN:978-4-339-02890-4,  定 価:1,836円 (本体1,700円+税)

ジャンル:

本書は情報理論における情報量,特に情報源符号化定理の解説に重点をおき,情報量の概念の理解を目的としている。基本的な数学の知識で理解できるよう記述し,定理は結果と使用法だけでなく証明内容を厳密にわかりやすく解説した。

執筆者によるサポートページです。

【目次】

序章 情報理論とは

1. 問題はなにか
1.1 起きた事柄と伝える手段
1.2 通信用の文字に変換―符号化―
序章 情報理論とは

1. 問題はなにか
1.1 起きた事柄と伝える手段
1.2 通信用の文字に変換―符号化―
1.3 通信コストを下げるために―通信に必要な符号語長―
章末問題

2. 符号の種類
2.1 天気と通信をモデル化―情報源と符号―
2.2 必ず元に戻せる符号―一意に復号可能―
2.3 遅延なく復号できる符号―瞬時に復号可能―
章末問題

3. 符号語長の制約
3.1 符号語長に課せられる制限―クラフトの不等式―
3.2 瞬時に復号可能な符号が存在するための十分条件
3.3 一意に復号可能であるための必要条件
章末問題

4. 平均符号語長とハフマンの符号化
4.1 「最適」な符号―平均符号語長とコンパクト符号―
4.2 瞬時に復号可能なコンパクト符号を得るハフマンの符号化
4.3 ハフマンの符号化の結果がコンパクト符号であることの証明
章末問題

5. エントロピーと情報量
5.1 平均符号語長の下界とエントロピー
5.2 平均符号語長の下界を達成できる条件
5.3 まとめて符号化して通信効率を改善―情報源の拡大―
5.4 拡大情報源の平均符号語長の下界
5.5 特定の符号化についての平均符号語長の上界
5.6 情報源符号化定理
5.7 情報量
章末問題

付録A 数学の準備
A.1 式の書き方の約束事
A.2 入力から出力への対応―写像―
A.3 生起確率が与えられた場合の平均値―期待値―
A.4 これだけは知っておいてほしい,必要条件,十分条件と証明
A.5 指数,対数の考え方
 A.5.1 よく使う指数の公式
 A.5.2 対数の定義
 A.5.3 よく使う対数の公式と証明

付録B 情報量の尺度が対数関数に限られる理由
B.1 情報の量の尺度に求められる性質
B.2 情報量の定義

引用・参考文献
章末問題解答
索引

Coffee Break
話は短いほうがいい
大盛り一丁!
電話番号は瞬時に復号可能
一周回って一気に証明
鳩の巣原理
理論と現実
現実との対応
通信路が100%信用できないときは?
人はなぜくじを買う
定義はどうやって決める

☆執筆者から読者へのメッセージ☆

ナビゲーションやコニュニケーションツールなど, 常時インターネットに接続されている機器を前提とした サービスが日々新しく開発され, どんどん便利に,快適に なっています.これを支えているのが情報通信技術です.
なかでもデジタル通信の高速化,高信頼化がブレイクスルーの 鍵となったのですが,これは1940年代にはじまる情報理論 という学問が基礎に なっています. 情報理論には情報を失わずにどこまでデータのサイズを小さく できるかを明らかにした「情報源符号化定理」と, 通信時に どの程度の冗長性をもたせておけばエラーを回復 できるのかを明らかにした「通信路符号化定理」という2つの重要な 定理があります. 本書 はこのうち「情報源符号化定理」を平易に解説することに特化した 教科書です.結果として「情報量」の概念を理解するための教科書と なっています.

「平易な」教科書といっても,
・使い道の多い知識を網羅し,何が成り立つのかの説明に注力する. なぜ成り立つのか,の説明を省略する.
・なぜ成り立つのか,の説明に注力する.かわりに 説明する項目は厳選する.
というアプローチが考えられます.本書では後者の立場をとりました. 情報理論の教科書としては本書は学べる項目数こそ少ないのですが,  証明技法を学ぶことを重視しているため,本書を理解した後, より一般的な情報理論の専門書を学習するときの 助けになることを期待して います.

【おすすめ本】

在庫は時期によりまして変動することがございますので、ご了承ください。