株式会社コロナ社
確率モデル

『シリーズ 情報科学における確率モデル』書籍案内

2019.12.27更新

本シリーズは全13巻の発行が予定されています。
発行にあわせ,書籍選びの参考となるような情報を掲載していきます!

シリーズ刊行のことば

われわれを取り巻く環境は,多くの場合,確定的というよりもむしろ不確実性にさらされており,自然科学,人文・社会科学,工学のあらゆる領域において不確実な現象を定量的に取り扱う必然性が生じる。「確率モデル」とは不確実な現象を数理的に記述する手段であり,古くから多くの領域において独自のモデルが考案されてきた経緯がある。情報化社会の成熟期である現在,幅広い裾野をもつ情報科学における多様な分野においてさえも,不確実性下での現象を数理的に記述し,データに基づいた定量的分析を行う必要性が増している。

一言で「確率モデル」といっても,その本質的な意味や粒度は各個別領域ごとに異なっている。統計物理学や数理生物学で現れる確率モデルでは,物理的な現象や実験的観測結果を数理的に記述する過程において不確実性を考慮し,さまざまな現象を説明するための描写をより精緻化することを目指している。一方,統計学やデータサイエンスの文脈で出現する確率モデルは,データ分析技術における数理的な仮定や確率分布関数そのものを表すことが多い。社会科学や工学の領域では,あらかじめモデルの抽象度を規定したうえで,人工物としてのシステムやそれによって派生する複雑な現象をモデルによって表現し,モデルの制御や評価を通じて現実に役立つ知見を導くことが目的となる。

昨今注目を集めている,ビッグデータ解析や人工知能開発の核となる機械学習の分野においても,確率モデルの重要性は十分に認識されていることは周知の通りである。一見して,機械学習技術は,深層学習,強化学習,サポートベクターマシンといったアルゴリズムの違いに基づいた縦串の分類と,自然言語処理,音声・画像認識,ロボット制御などの応用領域の違いによる横串の分類によって特徴づけられる。しかしながら,現実の問題を「モデリング」するためには経験とセンスが必要であるため,既存の手法やアルゴリズムをそのまま適用するだけでは不十分であることが多い。

本シリーズでは,情報科学分野で必要とされる確率・統計技法に焦点を当て,個別分野ごとに発展してきた確率モデルに関する理論的成果をオムニバス形式で俯瞰することを目指す。各分野固有の理論的な背景を深く理解しながらも,理論展開の主役はあくまでモデリングとアルゴリズムであり,確率論,統計学,最適化理論,学習理論がコア技術に相当する。このように「確率モデル」にスポットライトを当てながら,情報科学の広範な領域を深く概観するシリーズは多く見当たらず,データサイエンス,情報工学,オペレーションズ・リサーチなどの各領域に点在していた成果をモデリングの観点からあらためて整理した内容となっている。

本シリーズを構成する各書目は,おのおのの分野の第一線で活躍する研究者に執筆をお願いしており,初学者を対象とした教科書というよりも,各分野の体系を網羅的に著した専門書の色彩が強い。よって,基本的な数理的技法をマスターしたうえで,各分野における研究の最先端に上り詰めようとする意欲のある研究者や大学院生を読者として想定している。本シリーズの中に,読者の皆さんのアイデアやイマジネーションを掻き立てるような座右の書が含まれていたならば,編者にとっては存外の喜びである。

2018年11月 編集委員長 土肥 正 

シリーズラインナップ(本サイト目次)
  1. 統計的パターン認識と判別分析
  2. 栗田多喜夫・日高章理 共著 2018年12月中旬刊
  3. ボルツマンマシン
  4. 恐神貴行 著 2019年1月下旬刊
  5. 捜索理論における確率モデル
  6. 宝崎隆祐・飯田耕司 共著 2019年2月下旬刊
  7. マルコフ決定過程-理論とアルゴリズム-
  8. 中出康一 著 2019年3月上旬刊
  9. エントロピーの幾何学
  10. 田中 勝 著 2019年4月上旬刊
以下続刊
  • システム信頼性の数理
  • 大鑄史男 著
  • マルコフ連鎖と計算アルゴリズム
  • 岡村寛之 著
  • 確率モデルによる性能評価
  • 笠原正治 著
  • ソフトウェア信頼性のための統計モデリング
  • 土肥 正・岡村寛之 共著
  • ファジィ確率モデル
  • 片桐英樹 著
  • 確率システムにおける制御理論
  • 向谷博明 著
  • 高次元データの科学
  • 酒井智弥 著
  • リーマン後の金融工学
  • 木島正明 著


第1巻 統計的パターン認識と判別分析

読者対象

機械学習,パターン認識,ニューラルネットなどに興味を持っている学生,研究者

キーワード

パターン認識,機械学習,線形判別分析,カーネル判別分析,最適非線形判別分析,判別カーネル,線形回帰,ロジスティック回帰,カーネル回帰,最適非線形回帰,ベイズ決定理論,事後確率,変分法,サポートベクトルマシン,主成分分析,カーネル法,周辺化カーネル

書籍の特徴

本書は,パターン認識において用いられる線形回帰や線形判別分析といった手法について,「各手法が本質的になにを実現しようとしているのか」という点を理解するうえで一つの答えを示しています。パターン認識をこれから新たに学びたいと考えている読者はもちろん,各種法をもう少し統一的に理解がしたいと思っている読者にとっても気づきが得られる内容です。

本質的な理解のアプローチとして,機械学習の最も基本的なタスクである回帰と識別について最適な非線形関数がなにかを知り,パターン認識で使われる各種法がその最適な非線形関数をどのように近似しているのかを理解できるような構成となっています。この点はほかの書籍にはみられないアプローチです。

パターン認識をこれから新たに学びたいと考えている読者はもちろん,各種法をもう少し統一的に理解がしたいと思っている読者にとっても気づきが得られるはずです。

各章について

各章での説明の流れを簡単に説明します。

はじめの1,2章でベイズ識別の仮定と同様に,訓練サンプルが無限にあり,データの背後の確率的な関係が完全にわかっている場合について,変分法を用いて予測や識別のための最適な非線形関数を導出します。これにより,訓練用のデータ(訓練データ)から学習したモデルが究極的になにを学習しているかを理解します。

(ベイズ識別の理論では,対象の観測値とクラスとの確率的な関係が完全にわかっているという仮定のもとで,識別誤りを最小とする最適な方式が事後確率が最大のクラスの識別方式となることが知られています。)

しかし,実際の応用データでは,データの背後の確率的構造がわかっていることはまれで,それらを訓練データから推定する必要があります。訓練データから確率分布を推定することができれば,推定結果を利用して予測のための最適な非線形関数を近似するモデルを求めることができます。この点について3章で解説しています。

つづく4章では,確率分布の推定を経由せずに,訓練データから直接,入力ベクトルから目的変数の値を推定する関数を構成する手法(線形回帰分析)を解説。さらに5章で,同様にして訓練データから直接,入力ベクトルからクラスを推定する線形識別関数を求める手法として

  • 2クラス識別のための線形モデル:単純パーセプトロン,ADALINE,ロジスティック回帰,サポートベクトルマシン
  • 多クラス識別のための線形モデル:最小二乗線形識別関数,多項ロジスティック回帰
  • 線形識別関数の学習のためのモデルを層状に結合した,多層パーセプトロン
  • を解説します。

    6章では,主成分分析と線形判別分析について,それぞれ手法の特徴と訓練データとの関係に触れたうえで解説を行い,本質的な理解を目指します。

    7章では, 特徴ベクトルを非線形に変換することで,その空間で線形モデルを用いて予測や識別を行う手法であるカーネル法について解説します。この方法を用いることでサポートベクトルマシンの認識性能が飛躍的に向上しましたが,本書籍で扱ったほかの多くの線形手法を非線形に拡張する場合にも利用できます。本章ではカーネル回帰,カーネルサポートベクトルマシン,カーネル主成分分析,カーネル判別分析を詳しく採り上げます。

    最後の8章では,訓練サンプルが無限にあり,データの背後の確率的な関係がわかっていると仮定して,判別基準を最大とする最適な非線形判別関数を用いて導出する(大津展之先生による手法)。さらに,導出した最適な非線形判別写像と線形判別分析との関係について議論し,カーネル法を別の視点から眺めてみることで,導出した最適な非線形判別分析写像から最適なカーネル関数の導出を行います(判別カーネル)。

    著者からのメッセージ

    パターン認識・機械学習分野の中で「回帰」と「識別」を中心に取り扱う本ですが,従来の類書では詳しく書かれていないであろう式展開なども多く盛り込んでいます。
    特に「変分法」や「ベイズ事後確率の線形近似」という道具立てで回帰分析と判別分析の知られざる素性や性質を詳らかにしている部分などをお楽しみ頂ければと思います。

    統計的パターン認識と判別分析 [統計的パターン認識と判別分析] 栗田多喜夫(広島大教授)
    日高章理(東京電機大准教授) 著

    第2巻 ボルツマンマシン

    読者対象

    学部生が読めるレベルを心がけています。ボルツマンマシンを通じて機械学習・強化学習に必要な基礎的な知識が身に着けられます。一方で,網羅的ではありませんが,ボルツマンマシンに関する幅広い話題を取り上げているので,ボルツマンマシンや関連分野の研究者が読んでも新たな気付きが得られることを期待しています。

    キーワード

    ボルツマンマシン,制限ボルツマンマシン,動的ボルツマンマシン,ニューラルネットワーク,深層ネットワーク,深層学習,機械学習,強化学習,表現学習,深層強化学習,コントラスティブダイバージェンス,確率的勾配法,自由エネルギー,生成モデル,時系列,Q学習,SARSA

    書籍の特徴

    ボルツマンマシンという一つの確率モデルに限定して、機械学習・強化学習への幅広い適用方法について説明しています。ボルツマンマシン以外のモデルを機械学習・強化学習に用いる際にも有用な、確率的勾配法や強化学習の基礎について特に丁寧に説明しています。

    各章について

    準備中

    著者からのメッセージ

    できるだけ直感的な理解が得られるように説明を工夫しました。これまで分からなかったことが「分かった」「なるほど」と思っていただける箇所があれば幸いです。

    ボルツマンマシン [ボルツマンマシン] 恐神貴行(IBM東京基礎研究所) 著

    第3巻 捜索理論における確率モデル

    準備中

    捜索理論における確率モデル [捜索理論における確率モデル] 宝崎隆祐(防衛大教授)
    飯田耕司(元防衛大教授) 著