科学技術と共に歩む

1.　序章
1.1 事象と確率
1.2 ベイズの定理
1.3 確率変数
1.4 期待値と確率分布
1.5 多次元確率変数
1.6 確率過程
1.7 最尤法
章末問題

2.　学習理論の基礎
2.1 学習の必要性
2.2 生成モデルと識別モデル
2.3 識別モデルと学習アルゴリズム
2.3.1 簡単なニューロンモデル
2.3.2 一般の学習モデル
2.3.3 ユニバーサルアプロキシメータ
2.3.4 識別モデル
2.3.5 例からの学習問題
2.3.6 リスクと経験誤差
2.3.7 生成モデルの経験誤差
2.3.8 情報幾何学
2.4 経験誤差コストによる学習
2.4.1 最急勾配法
2.4.2 二乗誤差関数によるローカルミニマ
2.4.3 単層パーセプトロン学習アルゴリズム
章末問題

3.　機械学習
3.1 有限事例からの学習
3.1.1 PAC学習
3.1.2 学習の評価
3.1.3 多層パーセプトロンのPAC学習
3.1.4 学習の計算量
3.1.5 正則化
3.2 回帰問題と生成モデル
3.2.1 回帰問題
3.2.2 ロジスティック回帰
3.2.3 ベイズ法と正則化
3.3 ブースティング
3.3.1 弱PAC学習
3.3.2 離散AdaBoost
3.3.3 連続AdaBoost
3.3.4 AdaBoostの応用例
3.4 動的モデル
3.4.1 リカレントネットワーク
3.4.2 隠れマルコフモデル
章末問題

4.　サポートベクトルマシン
4.1 サポートベクトルマシンの特色
4.2 双対性
4.3 単純パーセプトロンと双対性
4.4 カーネル非線形写像
4.5 線形代数の予備知識
4.6 カーネルの条件
4.7 カーネルの性質
4.8 カーネルの生成
4.8.1 多項式カーネル
4.8.2 ガウスカーネル
4.9 最大マージン識別面
4.10 最適化法
4.11 サポートベクトルマシン
4.12 ソフトマージンサポートベクトルマシン
4.13 回帰問題の定式化
4.14 生成カーネル
4.14.1 周辺化カーネル
4.14.2 フィッシャーカーネル
4.14.3 隠れマルコフモデルのカーネル
4.15 カーネルのつくり方
4.16 マルチクラスサポートベクトルマシン
4.16.1 1クラス-1クラス法
4.16.2 根付二分有向無閉路グラフ法
4.17 サポートベクトルマシンの応用例
章末問題

5.　生成学習モデル
5.1 マルコフ確率場
5.2 条件付確率場
5.3 前向き・後ろ向きアルゴリズム
5.4 応用例
5.5 最尤推定
5.6 平均場近似法
5.7 平均場最尤推定
5.8 EMアルゴリズム
5.9 混合ガウスモデル
5.10 変分ベイズ法
5.11 レリバンスベクトルマシン
5.11.1 最尤推定による方法
5.11.2 事後分布最適化RVM
5.11.3 識別問題に対するRVM
章末問題

6.　サンプル計算量と汎化誤差
6.1 記憶容量
6.2 次元
6.3 VC理論
6.4 成長関数の上界
6.5 多層ニューラルネットワーク
6.6 ゼロマージン仮説
6.7 ゼロマージン仮説と最大マージン仮説の汎化誤差

引用・参考文献
章末問題解答
索引