2024.6.26 更新
シリーズ刊行のことば
信号処理とは，音声，音響，画像，電波など，連続する数値や連続波形が意味を持つデータを加工する技術です。現代のICT社会・スマート社会は信号処理なしには成り立ちません。スマートフォンやタブレットなどの情報端末はコンピュータ技術と信号処理技術が見事に融合した例ですが，私たちがその存在を意識することがないほど，身の回りに浸透しています。さらには，応用数学や最適化，また統計学を基礎とする機械学習などのさまざまな分野と融合しながらさらに発展しつつあります。
もともと信号処理は回路理論から派生した電気電子工学の一分野でした。抵抗，コンデンサ，コイルを組み合わせると，特定の周波数成分を抑制できるアナログフィルタを構成できます。アナログフィルタ技術は電子回路と融合することで能動フィルタを生み出しました。そしてディジタル回路の発明とともに，フィルタもディジタル化されました。一度サンプリングすれば，任意のフィルタをソフトウェアで構成できるようになったのです。ここに「ディジタル信号処理」が誕生しました。そして，高速フーリエ変換の発明によって，ディジタル信号処理は加速度的に発展・普及することになったのです。
ディジタル技術によって，信号処理は単なる電気電子工学の一分野ではなく，さまざまな工学・科学と融合する境界分野に成長し始めました。フィルタのソフトウェア化は，環境やデータに柔軟に適応できる適応フィルタを生み出しました。信号はバッファリングできるようになり，画像信号はバッチ処理が可能になりました。そして，線形代数学や統計学を柔軟に応用することで，テレビやカメラに革命をもたらしました。もともと周波数解析を基とする音声処理技術は，ビッグデータをいち早く取り込み，人工知能の基盤技術となっています。電波伝送の一分野だった通信工学は，通信のディジタル化によって信号処理技術なしには成り立たないうえ，現代のスマート社会を支えるインフラとなっています。このように，枚挙に暇がないほど，信号処理技術は社会における各方面での基盤となっているだけでなく，さまざまな周辺技術と柔軟に融合し新たなテクノロジーを生み出しつつあります。
また，現代テクノロジーのコアたる信号処理は，電気・情報系における大学カリキュラムでは必要不可欠な科目となっています。しかしながら，大学における信号処理教育はディジタルフィルタの設計に留まり，高度に深化した現代信号処理からはほど遠い内容となっています。一方で，最新の信号処理技術，またその周辺技術を知るには，論文を読んだり，洋書にあたったりする必要があります。さらに，高度に抽象化した現代信号処理は，ときに高等数学をバックグラウンドにしており，技術者は難解な数学を学ぶ必要があります。以上のことが本分野へ参入する壁を高くしているといえましょう。
これがまさに，次世代信号情報処理シリーズ“Next SIP”を刊行するに至ったきっかけです。本シリーズは，従来の伝統的な信号処理の専門書と，先端技術に必要な専門知識の間のギャップを埋めることを目的とし，信号処理分野で先端を走る若手・中堅研究者を執筆陣に揃えています。本シリーズによって，より多くの学生・技術者に信号処理の面白みが伝わり，さらには日本から世界を変えるイノベーションが生まれる助けになれば望外の喜びです。
2019年6月 次世代信号情報処理シリーズ監修 田中聡久
シリーズラインナップ
監修 田中聡久
- 信号・データ処理のための行列とベクトル- 複素数，線形代数，統計学の基礎 -（田中聡久 著）
- 音声音響信号処理の基礎と実践- フィルタ，ノイズ除去，音響エフェクトの原理 -（田中聡久 監修 川村 新 著）
- 線形システム同定の基礎- 最小二乗推定と正則化の原理 -（田中聡久 監修 藤本悠介，永原正章 共著）
- 脳波処理とブレイン・コンピュータ・インタフェース―計測・処理・実装・評価の実際（東 広志・中西正樹・田中聡久 共著）
- グラフ信号処理の基礎と応用―ネットワーク上データのフーリエ変換，フィルタリング，学習―（田中聡久 監修 田中雄一 著）
- 通信の信号処理（田中聡久 監修 林和則 著）
- テンソルデータ解析の基礎と応用―情報のテンソル表現と低ランク近似―（横田達也 著）
以下続刊
- 画像・音メディア処理のための深層学習―信号処理から見た解釈―（高道慎之介・小泉悠馬・齋藤真樹 共著）
- 多次元信号・画像処理の基礎と展開（村松正吾 著）
- 適応信号処理（湯川正裕 著）
- コンピュータビジョン時代の画像復元（宮田高道・小野峻佑・松岡 諒 共著）
- 生体情報の信号処理と解析―脳波・眼電図・筋電図・心電図―（小野弓絵 著）
- 高能率映像情報符号化の信号処理―映像情報の特徴抽出と効率的表現―（坂東幸浩 著）
- Python信号処理（奥田正浩・京地清介・杉本憲治郎 共著）
- HDR信号処理（奥田正浩 著）
- 音源分離のための音響信号処理（小野順貴 著）
- 凸最適化とスパース信号処理（小野峻佑 著）
次世代信号情報処理series1
信号・データ処理のための行列とベクトル- 複素数，線形代数，統計学の基礎 -
数学書と技術専門書の間を埋めることを目的とし，機械学習や最適化と密接につながる現代の信号処理の理解に必要な基礎数学を網羅
- 書籍の特徴
-
ディジタルの時代には，信号は数ある「データ」の一種にすぎなくなり，これを適切に処理・解析するには，数学の知識がますます重要になってきています。特に，線形代数や統計学は重要で，その理解なしには研究開発が困難になるだけでなく，既存のアルゴリズムの理解や実装も難しいでしょう。
本書では，信号処理研究者として長年研究してきた筆者独自の視点で，機械学習や最適化と密接につながっている現代の信号処理を理解するために必要な基礎数学を網羅しました。 - 目次
-
1. 複素数
1.1 実数，虚数，複素数
1.2 複素数の演算
1.2.1 共役
1.2.2 複素数の加算
1.2.3 複素数の乗算
1.2.4 複素数の有理化と除算
1.3 複素数平面と極座標表示
1.3.1 複素数平面
1.3.2 極座標
1.3.3 複素数演算の複素数平面における意味
1.4 フーリエ級数
1.4.1 複素正弦波
1.4.2 フーリエ級数
1.5 むすび
章末問題
2. ベクトル
2.1 ベクトルとは
2.2 ベクトルの基本演算
2.3 ベクトルの幾何的解釈
2.3.1 和算
2.3.2 スカラ積
2.3.3 減算
2.3.4 ベクトルの長さ
2.4 ベクトル空間
2.5 むすび
章末問題
3. 行列
3.1 行列の基本
3.1.1 行列の考え方
3.1.2 行列の定義
3.1.3 行列の線形写像性
3.2 行列の基本演算
3.2.1 行列の和
3.2.2 行列の転置
3.2.3 行列の積
3.2.4 特別な行列
3.3 連立1次方程式と行列
3.3.1 連立方程式の行列記法
3.3.2 ガウスの消去法と階数
3.4 逆行列
3.4.1 逆行列の定義
3.4.2 2×2行列の逆行列
3.4.3 逆行列の性質
3.4.4 連立方程式の求解による逆行列の求め方
3.4.5 ユニタリ行列
3.5 行列式
3.5.1 行列式の定義
3.5.2 行列式の性質
3.5.3 逆行列と行列式
3.6 むすび
章末問題
4. 基底と部分空間
4.1 一次独立性と基底
4.1.1 ベクトルの一次独立性
4.1.2 基底
4.1.3 基底の交換と展開係数
4.2 部分空間
4.2.1 部分空間の定義
4.2.2 部分空間どうしの関係
4.2.3 行列により決まる部分空間
4.3 むすび
章末問題
5. 内積と直交性
5.1 内積とノルム
5.1.1 ユークリッド空間
5.1.2 正定値行列
5.1.3 内積の公理
5.1.4 ノルム
5.1.5 内積とノルムの性質
5.1.6 コサイン類似度
5.1.7 さまざまな内積空間
5.2 正規直交基底とその応用
5.2.1 正規直交展開
5.2.2 ユニタリ行列
5.2.3 正射影
5.2.4 グラム・シュミットの正規直交化
5.2.5 部分空間の直交性と直交補空間
5.3 ユークリッド空間への変換
5.4 むすび
章末問題
6. 固有値分解
6.1 固有値問題
6.1.1 固有方程式，固有空間
6.1.2 固有値・固有ベクトルの図形的意味
6.1.3 固有値分解と対角化
6.2 エルミート行列の固有値問題
6.2.1 固有値の実数性
6.2.2 固有ベクトルの直交性と対角化
6.2.3 固有値分解
6.2.4 正定値行列と固有値
6.2.5 行列平方根
6.3 一般化固有値問題
6.3.1 一般化固有値分解
6.3.2 エルミート行列の同時対角化
6.4 むすび
章末問題
7. 特異値分解，一般逆行列
7.1 特異値分解
7.1.1 特異値と特異ベクトル
7.1.2 特異値分解の導出
7.1.3 特異値と特異ベクトルによる表現
7.1.4 特異値分解は値域の正規直交基底を与える
7.2 一般逆行列
7.2.1 ムーア・ペンローズ一般逆行列
7.2.2 特異値分解による表現
7.2.3 逆行列を介した表現
7.2.4 一般逆行列による正射影の表現
7.2.5 連立1次方程式の解
7.3 むすび
章末問題
8. 確率ベクトル
8.1 確率
8.1.1 標本空間と事象
8.1.2 確率の公理
8.1.3 多変量の確率
8.2 確率密度関数と正規分布
8.2.1 累積分布関数
8.2.2 確率密度関数
8.2.3 多変量の確率密度関数
8.2.4 正規分布
8.3 平均と分散
8.3.1 平均と期待値
8.3.2 分散と共分散
8.3.3 白色化
8.4 むすび
章末問題
9. パラメータの推定
9.1 最尤推定
9.1.1 確率分布のパラメータ
9.1.2 尤度関数
9.1.3 正規分布の最尤推定
9.2 回帰モデルの最尤推定
9.2.1 回帰分析
9.2.2 最尤推定と最小2乗法
9.3 線形回帰の最小2乗法
9.3.1 単回帰の2乗誤差関数
9.3.2 重回帰の2乗誤差関数
9.3.3 射影定理
9.3.4 正規方程式と最小2乗解
9.4 主成分分析と次元削減
9.5 むすび
章末問題
付録：ベクトル・行列関数の微分
A.1 実数パラメータによる微分と最急降下法
A.1.1 評価関数の微分
A.1.2 最急降下法
A.2 全微分による勾配の求め方
A.2.1 全微分
A.2.2 トレース
A.2.3 全微分を用いた微分計算例
A.3 複素数パラメータによる微分
A.4 むすび
章末問題
引用・参考文献
章末問題解答
索引more - 著者からのメッセージ
-
一般的に，数学書はとてもレベルが高く，現実の課題に直面している技術者，研究者にとっても難しく感じられます。また個別技術の専門書は，数学の解説が断片的で，知識の点と点がなかなかつながっていきません。
本書は，数学書と技術専門書の間を埋めることを目的としています。信号処理技術者や研究者，またこの分野に参入しようとしている大学生や大学院生が，高等学校の数学知識（プラスα）で読めるように配慮してあります。また，一通り大学初年度の数学を学んだものの，数年後に研究や開発で必要となったとき，どのように学び直したらいいのかわからない，という人でも理解しやすいように記述しました。
なお，本書では直接触れていませんが，プログラミング言語のPython やMATLAB を意識した表記や構成になっています。 - キーワード
- 信号処理，データ処理，複素数，行列，ベクトル，確率，統計，Python，MATLAB
次世代信号情報処理series2
音声音響信号処理の基礎と実践- フィルタ，ノイズ除去，音響エフェクトの原理 -
音声・音響に関する信号処理技術を，現場ですぐに活用できる形で，かつ平易に解説する
- 書籍の特徴
-
信号処理の講義は，座学が中心であることに加え，信号処理の応用範囲が，音声，画像，電波など多岐にわたるため，信号処理の基礎理論と応用技術の関連性を受講者がイメージしにくい面がある。このような背景から，応用をイメージした信号処理の学習ができれば効果的であるという考えのもと，本書では音声・音響に焦点を絞り，信号処理の基礎理論と応用技術について，読者ができるだけ現場ですぐに活用できる形で，かつ平易に解説することを心がけて，以下の構成で執筆した。
1章では，音を題材として信号処理技術の基礎を復習する。最初に，ディジタルフィルタの基礎を解説し，低域通過フィルタ，高域通過フィルタ，帯域通過フィルタ，ノッチフィルタの設計方法を述べる。つぎに，ディジタル信号を分析する際に不可欠となる，離散フーリエ変換などの信号変換技術について解説する。さらに，音の信号処理で，頻繁に利用される窓関数とオーバラップ加算について説明する。
2章では，音声の発声原理について述べ，簡単な発声モデルとして音声の分析，合成に有用なソース・フィルタモデルを説明する。さらに，ソース・フィルタモデルを利用した，線形予測分とケプストラム分析について解説する。
3章では，音の周波数成分の時間的な変化を，視覚的に確認することができるスペクトログラムのつくり方について述べる。また，スペクトログラムの応用技術として，画像から音を生成する方法と，その適切な位相スペクトルの生成法，そして，音で任意のスペクトログラムを描画する方法について述べる。
4章では，STFT（短時間フーリエ変換）を用いた周波数分析に基づき，不要な信号を除去する方法について述べる。最初に，マイクロホンを一つとし，統計的性質が変化しないノイズを，音声から除去する方法を説明する。最も単純な方法として，スペクトル減算法を説明し，ついで，ウィーナーフィルタ，MAP（事後確率最大化）推定法について述べる。つぎに，マイクロホンを二つ用いて，二つの音声を分離する方法を説明する。ここでは，バイナリマスキングと呼ばれる単純な手法により，音源のスペクトルを分離する。
5章では，システム同定を題材として，適応アルゴリズムを導出する。さらに，適応フィルタのノイズ除去への応用について説明する。
6章では，エコーをはじめとする各種音響エフェクトの原理と実現方法について述べる。ここで取り上げた音響エフェクトの多くは，リアルタイム処理が可能である。それぞれ比較的簡単な処理で実現できるが，その原理について，理解しておくことは重要である。原理を理解しておけば，自在にアレンジできるので，音楽制作や，ボイスチェンジャなど，応用範囲が格段に広がる。 - 目次
-
1．音で復習する信号処理の基礎
1.1 ディジタル信号とフィルタ
1.1.1 ディジタル信号
1.1.2 確率信号の記述について
1.1.3 ディジタルフィルタ
1.1.4 フィルタの構成要素
1.1.5 FIRフィルタとIIRフィルタ
1.1.6 FIRフィルタのインパルス応答
1.2 FIRフィルタの設計
1.2.1 直線位相FIRフィルタの設計
1.2.2 低域通過フィルタ（LPF）の設計
1.2.3 高域通過フィルタ（HPF）の設計
1.2.4 帯域通過フィルタ（BPF）の設計
1.3 ノッチフィルタの設計
1.3.1 IIRフィルタのインパルス応答
1.3.2 IIRフィルタとFIRフィルタの接続
1.3.3 オールパスフィルタ
1.3.4 ノッチフィルタ
1.4 離散フーリエ変換
1.4.1 z変換
1.4.2 フィルタとz変換の関係
1.4.3 離散時間フーリエ変換
1.4.4 離散フーリエ変換
1.5 窓関数
1.5.1 矩形窓
1.5.2 ハン窓
1.5.3 その他の窓関数
1.6 STFTとオーバラップ加算
1.6.1 ハーフオーバラップ
1.6.2 STFTの冗長性
1.6.3 位相スペクトルの復元
2．発声モデル
2.1 ソース・フィルタモデル
2.1.1 音声の発声の仕組み
2.1.2 音源と声道フィルタ
2.1.3 音声のソース・フィルタモデル
2.1.4 微細構造とスペクトル包絡
2.1.5 基本周期と基本周波数
2.2 線形予測分析
2.2.1 予測誤差フィルタ
2.2.2 音声の合成
2.2.3 レビンソン・ダービンアルゴリズム
2.2.4 フォルマント
2.3 ケプストラム分析
2.3.1 ケプストラム
2.3.2 スペクトル包絡
3．スペクトログラム
3.1 スペクトログラムの生成
3.1.1 オーバラップとスペクトログラム
3.1.2 スペクトログラムの行列表現
3.2 スペクトログラムからの音合成
3.2.1 位相スペクトルによる合成音の違い
3.2.2 反復位相復元
3.3 画像の音変換
3.3.1 画像音響変換
3.3.2 画像からの合成音生成
3.3.3 合成音のスペクトログラム
3.3.4 オーバラップを含む場合の合成音
3.3.5 ISTFT以外でつくる画像の音
3.4 音で画像を描く
3.4.1 垂直線の描画
3.4.2 水平線の描画
3.4.3 点の描画
4．周波数分析に基づくノイズ除去
4.1 単一マイクロホンによるノイズ除去システム
4.1.1 スペクトルゲインによるノイズ除去
4.1.2 スペクトル減算法
4.1.3 ウィーナーフィルタ
4.1.4 判定指向法
4.2 事後確率最大化によるノイズ除去
4.2.1 事後確率
4.2.2 MAP推定法
4.2.3 MAP推定によるウィーナーフィルタの導出
4.2.4 その他のMAP推定によるスペクトルゲイン
4.2.5 ノイズ除去結果の比較
4.3 音源の分離
4.3.1 音源位置と観測信号の関係
4.3.2 会話音声の性質
4.3.3 バイナリマスキング
5. 適応フィルタ
5.1 システム同定
5.1.1 システム同定の構成
5.1.2 評価関数の設定
5.1.3 フィルタ係数の最適値
5.1.4 適応アルゴリズム
5.1.5 最急降下法
5.1.6 LMSアルゴリズム
5.1.7 NLMSアルゴリズム
5.2 フィードバックキャンセラ
5.2.1 音のループが生じる環境
5.2.2 エコーキャンセラ
5.2.3 フィードバックキャンセラ
5.3 適応線スペクトル強調器
5.3.1 適応線スペクトル強調器の原理
5.3.2 ALEによる音声の白色雑音除去
5.3.3 ALEによる音声の正弦波ノイズ除去
5.4 突発ノイズ除去
5.4.1 正弦波に対する線形予測
5.4.2 線形予測器による正弦波信号の補間
5.4.3 音声の突発ノイズ除去
6．音響エフェクト
6.1 エコー
6.1.1 エコーの定式化
6.1.2 ディレイ
6.1.3 リバーブ
6.2 正弦波の乗算によるボイスチェンジャ
6.2.1 正弦波の乗算
6.2.2 正弦波乗算の効果
6.2.3 折り返し歪みの影響
6.2.4 音声に正弦波を乗じた結果
6.3 リングバッファによるボイスチェンジャ
6.3.1 リングバッファ
6.3.2 音の高さの変更
6.3.3 音声に対するリングバッファの長さ
6.3.4 リングバッファによるボイスチェンジャ
6.3.5 リングバッファの不連続性を回避する方法
6.3.6 不連続性を回避したボイスチェンジャの実現
6.4 話速変換とピッチシフタ
6.4.1 リサンプリング
6.4.2 もとの信号とリサンプリング後の信号の対応関係
6.4.3 ディジタル信号から連続時間信号への変換
6.4.4 リサンプリングの実現
6.4.5 音声の周期を利用した話速変換
6.4.6 話速を速くする方法
6.4.7 話速を遅くする方法
6.4.8 ピッチシフタ
6.5 ヘリウムボイス
6.5.1 音速と波長
6.5.2 声道の共鳴周波数と音速の関係
6.5.3 スペクトル包絡の伸縮
6.5.4 ヘリウムボイスの実現
6.6 コンプレッサ
6.6.1 コンプレッサの基本構成
6.6.2 ガンマ変換によるコンプレッサ
6.6.3 ノイズゲート
6.6.4 ディストーション
6.7 その他の音響エフェクト
6.7.1 トレモロ
6.7.2 ビブラート
6.7.3 コーラス
引用・参考文献
索引more - 著者からのメッセージ
- 信号処理に苦手意識がある学生や，音の加工技術についてより深く学びたい技術者の方に向けて，音声・音響に焦点を当てた信号処理の解説書を執筆しました。実用的なフィルタや音の加工技術について，できるだけ平易に，かつすぐに利用できる形でまとめています。本書を通して，音の信号処理，引いては信号処理全般の知識を深め，仕事や趣味に役立てていただけることを願っています。
- キーワード
- 音声，音響，信号処理，適応フィルタ，ノイズ除去，音響エフェクト，スペクトログラム，ボイスチェンジャ，話速変換
次世代信号情報処理series3
線形システム同定の基礎- 最小二乗推定と正則化の原理 -
線形システムに対象を絞り，初学者が動的システムの推定の基礎を理解できるよう構成した
- 書籍の特徴
-
本書は動的システムの推定（システム同定）について，基礎的な内容から2010年代の最新の話題までをまとめたものである。特に，モデルのパラメータ推定方法として，最小二乗法と正則化最小二乗法の二つに特化した解説を行っている。したがって各種の推定方法を網羅しているわけではないが，その分丁寧な説明を行い，統計に関する基礎的な概念を理解できるよう留意した。システム同定に関する和書で，正則化最小二乗法についてここまでの解説を行うものはこれまでにない。システム同定のためのスパース正則化・カーネル正則化に興味を持たれた方は是非一読していただきたい。なお，付録としてMATLABのソースコードも掲載しているため，その有効性を直ちに検証できる点も本書の特徴の一つである。
【本書の構成】
- 1章：「システム同定とは」では，システム同定という学問が扱う内容と歴史を概観する。
- 2章：「線形システム」では，本書で扱う線形システムの導入を行う．特に，時間進み演算子を用いた表現を導入する。
- 3章：「線形システムのモデル」では，ノイズまで含めた線形システムのモデル構造についてまとめる。また，確率過程の基礎についても触れる。
- 4章：「予測誤差法によるパラメータ推定」では，3章で導入した種々のモデルのパラメータを調整する方法として，予測誤差法，特に最小二乗法を導入する。また，最尤法や不偏推定などを含む統計学の概念をいくつか導入し，最小二乗法との関連について説明する。
- 5章：「モデル選択」では，3章で導入したモデルのどれを利用するべきかについて，データから選択する規準をいくつか紹介する。
- 6章：「逐次同定・適応フィルタリング」では，データが逐次的に与えられるという状況でパラメータを適応的に調整する手法を紹介する。
- 7章：「正則化最小二乗法とベイズ推定」では，最小二乗法に代わるパラメータ調整法として正則化最小二乗法を導入する。特に，一般的な形式と，古典的な例としてのridge正則化について説明する。また，最尤法に対応するものとしてベイズ推定を導入する。
- 8章：「システム同定のためのカーネル正則化」では，有限インパルス応答モデルの推定において使われるカーネル正則化を説明する。ただし紙面の都合上再生核ヒルベルト空間に関する話は省き，正則化最小二乗法の観点からの導入を行う。
- 9章：「スパース正則化」では，同じく有限インパルス応答を対象とし，スパース正則化とそこで利用される最適化手法についての説明を行う。
付録では，本書で使用する線形代数に関する補足（逆行列補題や正定値行列の性質など）と，MATLAB実装を記す。
- 目次
-
1. システム同定とは
1.1 システムとモデル
1.2 モデリングの分類
1.3 システム同定の歴史
1.4 本書の構成
1.5 記号の定義
2. 線形システム
2.1 線形システムの表現
2.1.1 時間進み演算子を用いた表現
2.1.2 z変換を用いた表現
2.1.3 状態空間を用いた表現
2.1.4 インパルス応答と畳込みを用いた表現
2.1.5 周波数応答によるシステムの表現
2.1.6 本書で利用するシステム表現
2.2 極と零点
3. 線形システムのモデル
3.1 確率過程の基礎
3.1.1 ガウス分布の基礎
3.1.2 白色性と有色性
3.1.3 エルゴード性
3.2 ノイズの加わり方から分類するモデル
3.2.1 Output Errorモデル
3.2.2 Auto Regressive eXogenousモデル
3.2.3 Finite Impulse Responseモデル
3.2.4 有色雑音の影響を受けるモデル
3.2.5 モデル構造のまとめ
4. 予測誤差法によるパラメータ推定
4.1 一段先予測
4.1.1 OEモデルの場合
4.1.2 FIRモデルの場合
4.1.3 ARXモデルの場合
4.1.4 その他の場合
4.2 予測誤差法
4.2.1 OEモデルにおける最小二乗法
4.2.2 FIRモデルにおける最小二乗法
4.2.3 ARXモデルにおける最小二乗法
4.3 最尤推定との関連
4.3.1 統計的推定の基礎知識
4.3.2 最尤推定の基礎
4.3.3 予測誤差法の統計的解析
5. モデル選択
5.1 赤池情報量規準
5.2 AICの注意点
5.3 ベイズ情報量規準
5.4 バリデーションによるモデル選択
6. 逐次同定・適応フィルタリング
6.1 勾配法を利用した手法
6.1.1 勾配法の基礎
6.1.2 LMSアルゴリズムとその周辺
6.2 逆行列補題を利用した手法
6.2.1 RLSアルゴリズム
6.2.2 忘却係数を用いたRLSアルゴリズム
7. 正則化最小二乗法とベイズ推定
7.1 過適合
7.2 バイアス-バリアンス分解と過適合
7.3 正則化最小二乗推定
7.3.1 正則化最小二乗推定の幾何学的解釈
7.3.2 ridge正則化の統計的性質
7.4 ベイズ推定の基礎
7.4.1 離散確率変数でのベイズ推定
7.4.2 連続確率変数でのベイズ推定
7.5 ベイズ推定と正則化の関連
7.6 クロスバリデーションによる正則化パラメータの調整
8. システム同定のためのカーネル正則化
8.1 本章の設定と正則化最小二乗法での定式化
8.2 ベイズ推定としての解釈
8.3 最適な二次正則化
8.4 インパルス応答推定のためのカーネル
8.4.1 Diagonal-Correlatedカーネル
8.4.2 Tuned-Correlatedカーネル
8.4.3 Stable-Splineカーネル
8.5 カーネルが満たすべき諸条件
8.6 ハイパーパラメータの調整
9. スパース正則化
9.1 スパースモデリング
9.1.1 スパースなインパルス応答
9.1.2 スパース正則化
9.1.3 軟しきい値作用素
9.1.4 \ell^{1}正則化の解のスパース性
9.2 最適化アルゴリズム
9.2.1 ブロック座標緩和
9.2.2 反復縮小しきい値アルゴリズム
9.2.3 アルゴリズムの高速化
9.2.4 正則化パラメータの選択
9.3 一般化エラスティックネット正則化
付録
A.1 逆行列に関する公式
A.2 対称行列の性質
A.3 正定値行列の性質
A.4 MATLABによる実装例
A.4.1 入力信号の設計
A.4.2 ノイズを含む出力の生成
A.4.3 最小二乗法の実装
A.4.4 カーネル正則化の実装
A.4.5 スパース正則化の実装
引用・参考文献
索引more - 著者からのメッセージ
- 初学者も無理なく読めるよう，なるべく基礎的な事項から記載を始め，必要な線形代数の知識などについても付録をつけております。その一方で，2010年代に発展した最新の理論についても基礎から実装までをまとめています。初学者はもちろん，技術者・研究者の方にも手に取っていただけますと幸いです。
- キーワード
- システム同定，最小二乗法，正則化最小二乗法，ベイズ推定，カーネル正則化，スパース正則化，スパースモデリング，MATLAB
次世代信号情報処理series4
脳波処理とブレイン・コンピュータ・インタフェース
- 計測・処理・実装・評価の基礎 -
ブレイン・コンピュータ・インタフェース（BCI）のパラダイムや信号処理について解説。
- 書籍の特徴
-
本書は，第一線で脳波BCI（ブレイン・コンピュータ・インタフェース）研究に携わっている筆者らが，BCIのパラダイムや信号処理について解説したものです。対象とする読者は，電気電子工学や情報工学を初めとする理工学を学ぶ学部生や大学院生，また脳神経科学の工学応用に興味のある研究者・技術者や脳科学の産業応用に興味のある方々を想定しています。基本的に高等学校から大学初年度の数学に関する知識があれば読み進めていけるようになっています。
【本書の構成】
- 1章：「脳波とブレイン・コンピュータ・インタフェース」では，BCIの定義と研究の歴史を紹介し，BCIにおける神経科学的なバックグランドについて簡単に述べます。さらに，BCIの構成について触れ，信号処理がどのような役割を担っているのかを述べます。また，これからBCI研究を始める方に向けて，一般的な開発環境を紹介します。
- 2章：「BCIのための信号処理・解析・パターン認識」では，BCIの構築に必要な信号処理，信号解析の手法を紹介します。それらの理解に必要な数学的な準備を冒頭に含めました。
- 3章：「脳波計測」では，頭皮脳波の発生原理，脳波計測に必要な装置，計測の手順，計測の際の注意事項などを紹介します。
- 4章：「前処理と特徴抽出」では，記録した脳波に対して何らかの処理を行い，雑音をできるだけ除去し，意味のあるパターンを抽出する方法を紹介します。
- 5章：「評価方法」では，開発したBCIの性能を評価する方法を解説します。また，ベンチマーク用データセットをいくつか紹介します。
- 6章：「事象関連応答によるBCI」では，イベントの発生頻度の違いによって，振幅が異なるERP（事象関連電位）を誘発することでBCIを構築する方法を紹介します。
- 7章：「視覚応答によるBCI」では，VEP（視覚誘発電位）研究の歴史や実験デザイン，信号解析手法について解説します。
- 8章：「運動関連応答によるBCI」では，微分幾何学（リーマン多様体）を信号処理に応用した手法をかなり詳しく説明しているのが特徴となっています。
1章，3章，4章，5章は，すべてのBCI開発における共通事項であるため，6章から8章を読む前に一読することをお勧めします。2章には，これ以降の章で必要となる信号処理の詳細をまとめてありますので，必要なときに参照してください。6章，7章，8章は，それぞれ独立した形で記述されていますので，自分の開発対象や興味に合わせて読むことが可能です。
- 目次
-
1．脳波とブレイン・コンピュータ・インタフェース
1.1 定義
1.2 歴史
1.3 脳の構造
1.4 基本構成
1.5 分類
1.6 BCIにおける脳波の利点
1.7 開発環境
1.8 むすび
2．BCIのための信号処理・解析・パターン認識
2.1 数学的準備
2.1.1 ベクトルと行列の基礎
2.1.2 期待値，分散，共分散，相関係数
2.1.3 正定値行列と固有値問題
2.1.4 特殊な行列
2.1.5 一般化固有値分解
2.1.6 対称行列の同時対角化
2.1.7 信号のサンプリングとベクトル・行列表記
2.2 フィルタ
2.2.1 線形時不変システムとフィルタ
2.2.2 伝達関数と周波数特性
2.2.3 フィルタ設計
2.2.4 フィルタ利用上の注意
2.3 周波数解析
2.3.1 離散フーリエ変換
2.3.2 短時間フーリエ変換
2.3.3 ウェーブレット変換
2.3.4 経験的モード分解
2.4 多変量解析
2.4.1 主成分分析
2.4.2 正準相関分析
2.4.3 独立成分分析
2.4.4 重回帰分析
2.4.5 正則化
2.5 パターン認識
2.5.1 最近傍決定則
2.5.2 ベイズ決定則
2.5.3 線形判別分析
2.5.4 サポートベクトルマシン
2.5.5 ニューラルネットワーク
2.5.6 多クラス分類
2.6 むすび
3．脳波計測
3.1 発生原理
3.2 計測システム
3.3 電極の取り付け
3.4 参照電極
3.5 雑音対策
3.6 倫理面の対応
3.7 むすび
4．前処理と特徴抽出
4.1 脳波における観測モデル
4.2 基準電位の再参照
4.3 周波数フィルタリング
4.4 ベースライン補正
4.5 ダウンサンプリング
4.6 雑音区間の除外
4.7 雑音除去
4.7.1 主成分分析
4.7.2 独立成分分析
4.8 加算平均
4.9 周波数特徴の抽出
4.10 同期解析
4.10.1 コヒーレンス
4.10.2 Phase-locking value
4.11 事象関連脱同期
4.12 信号源解析
4.13 むすび
5．評価方法
5.1 評価指標
5.2 交差検定法
5.3 ベンチマーク用データセット
5.4 オフライン解析とオンライン実験
5.5 むすび
6．事象関連応答によるBCI
6.1 事象関連電位
6.2 オドボール課題
6.3 加算平均による抽出
6.4 空間フィルタを使った特徴抽出
6.5 線形判別分析による識別
6.5.1 線形判別分析
6.5.2 ステップワイズ法による特徴選択
6.6 P300スペラ
6.6.1 刺激の構成
6.6.2 線形判別分析による識別手順
6.7 むすび
7．視覚応答によるBCI
7.1 視覚誘発電位
7.2 実験課題
7.2.1 刺激変調方式
7.2.2 実験装置
7.3 前処理
7.3.1 基準電位の再参照
7.3.2 空間フィルタリング
7.3.3 周波数フィルタリングとフィルタバンク
7.4 特徴抽出と識別
7.4.1 時間変調特徴量の識別
7.4.2 周波数変調特徴量の識別
7.4.3 符号変調特徴量の識別
7.5 応用事例
7.5.1 スペラ
7.5.2 緑内障診断
7.6 むすび
8．運動関連応答によるBCI
8.1 運動関連応答
8.2 運動想起脳波のパターン認識
8.2.1 共分散行列による特徴表現
8.2.2 共通空間パターン法
8.3 多様体による共分散行列の識別
8.3.1 共分散行列の対称正定値性
8.3.2 対称正定値行列の作る多様体と接空間
8.3.3 接空間写像法
8.3.4 多様体上の平均とメディアン
8.3.5 多様体上の距離
8.3.6 最小距離法
8.4 フィルタバンクの利用
8.5 深層学習による運動想起の推定
8.6 フィードバック
8.7 むすび
引用・参考文献
索引more
次世代信号情報処理series5
グラフ信号処理の基礎と応用
- ネットワーク上データのフーリエ変換，フィルタリング，学習 -
信号処理のホット・トピックであるグラフ信号処理の基礎とその応用に関する初めての和書。
- 書籍の特徴
-
本書はグラフ信号処理の基礎とその応用に関する初めての和書です。社会的ネットワークや脳ネットワーク，センサネットワークのような複雑な構造を持つネットワーク上に存在するデータを解析するために必要な信号処理技術（例えばフーリエ変換）は果たしてどのように実現できるでしょうか？ 本書はグラフフーリエ変換を代表とする，様々なグラフ信号処理技術を解説しています。基礎的な知識のある電気・電子・情報系の大学学部生が理解できるよう，全体を通してできるだけ正確に，基本的な事項から記述していますので，理工系の大学初年度程度の知識があれば自分で読み進められるようになっています。また，引用・参考文献を多く記載していますので，大学院生・研究者が発展的事項を学習・研究するのにも役立ちます。
【本書の構成】
- 1章：「グラフ」では，すべての基礎となるグラフに関して解説し，なぜ信号処理でグラフが必要とされているのかを見ていきます。
- 2章：「グラフ信号とグラフフーリエ変換」では，グラフ信号と，本書を通じて利用するグラフフーリエ変換に関して解説します。
- 3章：「グラフ信号のフィルタリング」では，離散時間信号に対するフィルタリングをおさらいした後で，頂点領域とグラフ周波数領域におけるグラフ信号に対するフィルタリングを解説します。
- 4章：「グラフ信号のサンプリング」では，通常の信号処理におけるサンプリングと対比しながら，グラフ信号処理におけるサンプリングを解説します。
- 5章：「グラフ信号の局所性と不確定性」では，グラフ信号の不確定性やシフト・変調などを解説します。3章から5章でグラフ信号処理の基盤技術を解説しましたが，以降の章では基盤技術を利用した発展的な技術について解説していきます。
- 6章：「グラフウェーブレット・フィルタバンク」では，フィルタリングとサンプリングを組み合わせたグラフウェーブレット・フィルタバンクを解説します。
- 7章：「グラフ信号の多スケール分解」では，多スケール処理に適したフィルタ設計とグラフの縮小・拡大方法を中心に，さまざまな処理を解説します。
- 8章：「グラフの推定と学習」では，グラフが事前には与えられていないものの，何らかの信号値間の関係があると仮定できる場合に，どのようにグラフを推定，あるいは学習するかを解説します。
1章〜4章は，グラフ信号処理の基礎的事項であるため，6章以降を読む前に一読することをお勧めします。5章も基礎的事項ですが，他の章とある程度独立しています。6章〜8章は発展的事項ですので，自分の興味に合わせて読むことが可能です。
- 目次
-
1．グラフ
1.1 さまざまなグラフ
1.2 グラフ作用素
1.2.1 隣接行列
1.2.2 接続行列
1.2.3 度数行列
1.2.4 グラフラプラシアン
章末問題
2．グラフ信号とグラフフーリエ変換
2.1 ディジタル信号
2.2 グラフ信号
2.3 グラフのスペクトル：グラフ作用素の固有値と固有ベクトル
2.3.1 信号の変動
2.3.2 ラプラシアン2次形式
2.3.3 グラフのスペクトル
2.3.4 グラフ作用素の固有ベクトル
2.4 グラフフーリエ変換
2.4.1 導入：線形辞書によるスパース変換
2.4.2 グラフフーリエ変換の定義
2.4.3 フーリエ変換との関係
2.4.4 DFT・DCTとの関係
2.5 グラフ作用素の固有値・固有ベクトルの特徴
2.5.1 隣接行列のスペクトル
2.5.2 グラフラプラシアンのスペクトル
章末問題
3．フィルタリング
3.1 導入：離散時間信号のフィルタリング
3.2 頂点領域でのフィルタリング
3.3 グラフ周波数領域でのフィルタリング
3.4 頂点領域でのフィルタリングとグラフ周波数領域でのフィルタリングの関係
3.5 多項式グラフフィルタの設計
3.5.1 実関数のチェビシェフ多項式近似
3.5.2 グラフ周波数領域フィルタのチェビシェフ多項式近似
3.6 応用
3.6.1 適応的画像フィルタ
3.6.2 バイラテラルフィルタのグラフフィルタ表現
3.6.3 画素適応型フィルタのグラフフィルタとしての設計
章末問題
4．サンプリング
4.1 時間領域でのサンプリングと一般化サンプリング
4.1.1 シフト不変空間でのサンプリング
4.1.2 一般化サンプリング
4.1.3 部分空間に対する事前知識がある場合
4.1.4 滑らかさに対する事前知識がある場合
4.2 グラフ信号のサンプリングと復元
4.2.1 サンプリング・復元のフレームワーク
4.2.2 部分空間に対する事前知識がある場合
4.2.3 滑らかさに対する事前知識がある場合
4.3 グラフ信号モデル
4.3.1 周波数領域における生成モデル
4.3.2 頂点領域における生成モデル
4.4 グラフ信号のサンプリング手法
4.4.1 頂点領域でのサンプリング
4.4.2 グラフ周波数領域でのサンプリング
4.4.3 シフト不変空間との違い
4.5 グラフ信号のサンプリングと復元の例
4.6 サンプリング頂点選択手法
4.6.1 決定性サンプリングと乱択サンプリング
4.6.2 決定性サンプリングによる頂点選択
4.6.3 乱択サンプリングによる頂点選択
4.6.4 計算量
4.7 応用
4.7.1 センサ配置
4.7.2 能動的半教師あり学習
4.7.3 3次元点群のサブサンプリング
章末問題
5．局所性と不確定性
5.1 グラフ信号の不確定性（1）：エネルギーの広がり
5.1.1 通常の信号処理におけるエネルギーの広がり
5.1.2 グラフ信号処理におけるエネルギーの広がり
5.1.3 実現可能領域
5.2 グラフ信号の不確定性（2）：スパース性
5.2.1 頂点部分集合の信号エネルギー
5.2.2 グラフ周波数部分集合の信号エネルギー
5.3 グラフ信号のシフトと変調
5.3.1 シフト
5.3.2 変調
章末問題
6．グラフウェーブレット・フィルタバンク
6.1 グラフフィルタバンクの構成
6.1.1 分析側変換
6.1.2 合成側変換
6.2 望まれる特性
6.3 特徴による分類
6.3.1 フィルタの設計領域
6.3.2 サンプリング率
6.3.3 対称性
6.4 頂点領域でのフィルタ設計
6.4.1 リフティング
6.4.2 非間引き型変換
6.4.3 間引き型変換
6.5 グラフ周波数領域でのフィルタ設計
6.5.1 非間引き型グラフフィルタバンク
6.5.2 頂点領域サンプリングを用いた最大間引き型グラフフィルタバンク
6.5.3 グラフ周波数領域サンプリングを利用したグラフフィルタバンク
6.6 応用
6.6.1 グラフ信号のノイズ除去
6.6.2 グラフ信号の圧縮
章末問題
7．多スケール分解
7.1 グラフ信号の多スケール分解
7.2 グラフの縮小
7.2.1 頂点数の削減
7.2.2 スペクトルクラスタリング
7.2.3 頂点の再接続
7.2.4 Kron縮小
7.2.5 頂点領域とグラフ周波数領域でのサンプリングの関係
7.3 グラフラプラシアンピラミッド
7.3.1 ラプラシアンピラミッド
7.3.2 グラフラプラシアンピラミッドの構成
7.4 グラフの拡大とグラフ信号のオーバーサンプリング
7.4.1 3彩色グラフの拡大
7.4.2 K彩色グラフの拡大
7.5 応用
章末問題
8．グラフの推定と学習
8.1 グラフ推定
8.1.1 K近傍法
8.1.2 ϵ近傍法
8.2 統計的モデルを利用したグラフ推定
8.2.1 相関係数
8.2.2 ガウスマルコフ確率場
8.3 グラフ信号の生成モデルを利用したグラフ学習
8.3.1 グラフ周波数領域の生成モデル
8.3.2 頂点領域の生成モデル
8.4 有向グラフの学習
8.4.1 スパースベクトル自己回帰モデル
8.4.2 構造方程式モデル
8.5 時変グラフ学習
8.6 応用
章末問題
付録
A.1 グラフ信号処理に役立つツールボックス
A.2 レイリー商
引用・参考文献
章末問題解答
索引more
次世代信号情報処理series6
通信の信号処理
- 線形逆問題，圧縮センシング，確率推論，ウィルティンガー微分 -
現在の通信システムで用いられている信号処理技術を効率的かつ体系的に理解できる。
- 書籍の特徴
-
本書は通信分野の非専門家や大学生，大学院生などの初学者を対象としたもので，その特徴は，従来の教科書にあるような要素技術ごとの解説ではなく，通信の典型的な問題に対する典型的な信号処理手法について解説することで，現在の通信システムで用いられている最先端の信号処理技術を理解するために必要な最低限の知識を，効率的かつ体系的に提供することを目的としていることです。
【本書の構成】
- 1章：「記号と準備」では，準備として本書で使用する記号を定義し，通信の信号処理で必要となる複素数の基礎事項と，ベクトルの大きさを表すノルムについて説明します。
- 2章：「確率変数と確率過程」では，確率変数や確率過程について復習します。通信の信号処理では，信号を確率過程としてモデル化することが多いので，確率過程やその相関行列の性質について理解しておくことが重要です。
- 3章：「ウィルティンガー微分」では，通信の信号処理を理解する上で必要不可欠なウィルティンガー微分について説明します。ウィルティンガー微分を利用するとコスト関数の勾配が非常に簡単に求まるのでぜひマスターしましょう。どうしても微積分が苦手な方は，この章の最後に「これだけ覚えておけばOK」という計算ルールをまとめていますので，そこだけ目を通してつぎの章に進んでいただいても結構です。
- 4章：「線形逆問題のための基本的な手法」では，通信の信号処理の典型的な問題として，線形観測モデルに対する逆問題，すなわち線形逆問題について考えます。線形観測モデルと線形逆問題を解くための基本的な手法を説明し，最後に通信応用の例にも触れます。
- 5章：「圧縮センシング」では，観測ベクトルyの次元が未知ベクトルxの次元よりも小さい劣決定線形観測モデルにおける信号推定法について考えます。スパースベクトルの再構成アルゴリズムや再構成の条件についても説明します。
- 6章：「部分空間法」では，最も基本的なアレー信号処理の一つである到来方向推定でよく利用される部分空間法について説明します。
- 7章：「状態推定」では，状態空間モデルを導入し，状態推定の基本的な考え方について説明した後，代表的な状態推定法である粒子フィルタとカルマンフィルタについて説明します。
- 8章：「確率推論」では，ベイズの定理に基づく確率推論の基礎事項について説明し，それを現実的な演算量で実現するためのアルゴリズムとしてさまざまな分野，場面で利用される確率伝播法について説明します。
- 目次
-
1．記号と準備
1.1 記号の定義
1.2 複素数
1.3 ノルム
1.4 むすび
2．確率変数と確率過程
2.1 確率の基本法則
2.2 期待値
2.3 確率過程
2.4 相関行列の性質
2.5 条件付き独立
2.6 グラフィカルモデル
2.6.1 ベイジアンネットワーク
2.6.2 ファクターグラフ
2.7 むすび
3．ウィルティンガー微分
3.1 実関数の微分
3.1.1 実1変数関数の微分
3.1.2 実関数の偏微分
3.1.3 実関数の全微分
3.1.4 全微分による勾配の計算
3.2 複素関数の微分
3.2.1 正則関数
3.2.2 正則でない複素関数の例
3.2.3 ウィルティンガー微分（スカラー引数）
3.2.4 ウィルティンガー微分（ベクトル引数）
3.2.5 複素勾配
3.2.6 ウィルティンガー微分の具体例
3.3 むすび
4．線形逆問題のための基本的な手法
4.1 線形観測モデル
4.2 ZF推定と最小2乗推定
4.2.1 ZF推定
4.2.2 最小2乗推定
4.2.3 雑音強調
4.3 MMSE推定
4.3.1 一般のMMSE推定
4.3.2 線形MMSE推定
4.3.3 線形MMSE推定のSINR
4.4 減算型干渉除去
4.4.1 逐次干渉除去
4.4.2 並列干渉除去
4.5 信号合成
4.5.1 選択合成
4.5.2 等利得合成
4.5.3 最大比合成
4.6 最大事後確率推定と最尤推定
4.7 通信応用の例
4.7.1 通信路等化
4.7.2 通信路推定
4.7.3 MIMO信号検出
4.8 むすび
5．圧縮センシング
5.1 最小ノルム解
5.2 スパース信号
5.3 圧縮センシングの考え方
5.4 再構成のアルゴリズム
5.5 再構成の条件
5.6 むすび
6．部分空間法
6.1 アレー信号処理の基礎
6.2 信号部分空間と雑音部分空間
6.3 主成分分析とマイナー成分分析
6.4 MUSIC法
6.5 空間平滑化
6.6 ESPRIT法
6.7 KR積拡張アレー処理による到来方向推定
6.7.1 KR積とクロネッカー積，ベクトル化
6.7.2 KR積拡張アレー処理
6.7.3 KR-MUSIC法
6.8 むすび
7．状態推定
7.1 状態空間モデル
7.2 予測分布，フィルタ分布，平滑化分布
7.2.1 予測分布
7.2.2 フィルタ分布
7.2.3 平滑化分布
7.3 粒子フィルタ
7.3.1 予測分布の計算
7.3.2 フィルタ分布の計算
7.3.3 SIR（sampling/importance resampling）
7.4 カルマンフィルタ
7.5 むすび
8．確率推論
8.1 確率推論問題
8.2 確率伝播法
8.2.1 確率伝播法の原理
8.2.2 sum-productアルゴリズム
8.2.3 PearlのBPアルゴリズム
8.3 確率伝播法の応用
8.3.1 低密度パリティ検査（LDPC）符号
8.3.2 ターボ符号
8.3.3 高速フーリエ変換（FFT）
8.4 むすび
付録：よく使う行列に関する命題と性質
A.1 逆行列補題
A.2 クロネッカー積
A.3 ゲルシュゴリンの定理
引用・参考文献
索引more - 著者からのメッセージ
- 読者の皆さんが独学できることを重視し，式変形などをできるだけ省略しないように説明しています。本書で学ばれる際には紙とペンを用意して，自分の手を動かして計算しながら読み進めてみてください。通信分野の研究を行うために必要な基礎体力が身につくことを請け合います。
次世代信号情報処理series7
テンソルデータ解析の基礎と応用
- テンソル表現，縮約計算，テンソル分解と低ランク近似 -
線形代数の復習をしながら，テンソル分解の基礎から応用を学べる。
- 書籍の特徴
-
本書はテンソル分解の入門書として書きました。テンソルの基礎，線形代数の基礎，主成分分析，テンソル分解の基礎，テンソル分解の応用までを滑らかにつなぐことを心がけました。テンソルネットワークでよく用いられるダイアグラム表記も積極的に取り入れて解説しています。
【本書の構成】
- 1章：「情報のテンソル表現」では，ベクトル，行列，テンソルの簡単な導入と応用事例について広く浅くまとめました。情報が意味するものは，音声，脳波，画像，自然言語など多種多様です。これらのデータはさまざまな形式で保存されていますが，テンソルを使って表現すると，それに対してさまざまなテンソルデータ解析の手法を適用できるようになります。
- 2章：「テンソルの変形と計算」では，テンソルどうしの積（縮約）を理解することを最終目標に，テンソルの基本的な操作（ベクトル展開，行列展開，折り畳み，アダマール積，クロネッカー積など）を丁寧に紹介していきます。
- 3章：「線形代数と主成分分析」では，前半は線形代数の簡潔なハイライトになっています。内積，外積，ノルム，列空間，直交化，射影，固有値分解，特異値分解，行列ランクなどの内容を一通り学び直すことができます。エッカート・ヤングの定理の証明，べき乗法や縮退処理を用いた特異値分解のアルゴリズムについて紹介している点が特色です。後半ではこれらの応用として主成分分析の紹介と，それをコンピュータを用いてどのように行うのか（アルゴリズム）について説明していきます。
- 4章：「テンソル分解」では，CP分解，Tucker分解，TT分解を紹介し，それに基づいてテンソルのCPランク，Tuckerランク，TTランクについて説明します。また，各テンソル分解によってテンソルの低ランク近似を得るための基本アルゴリズムについて解説します。他のテンソル分解モデルについては代表的なものを紹介する程度にしています。
- 5章：「テンソルデータ解析」では，テンソル分解を実際のデータ分析課題へ適用するための方法論について紹介しました。観測モデル，誤差関数，制約付きテンソル分解などの組合せで多様な問題設定が考えられることがおわかりいただけると思います。
- 目次
-
1. 情報のテンソル表現
1.1 ベクトル，行列，テンソルの基礎
1.1.1 ベクトル
1.1.2 行列
1.1.3 3階テンソル
1.1.4 N階テンソル
1.1.5 テンソルのイメージ
1.1.6 テンソルのモード
1.1.7 テンソルのダイアグラム表記
1.1.8 プログラムの例
1.2 テンソル表現の事例紹介
1.2.1 画像処理
1.2.2 音響信号処理
1.2.3 生体信号処理
1.2.4 無線通信
1.2.5 バイオインフォマティクス（生命情報処理）
1.2.6 自然言語処理
1.2.7 関係データ（グラフ）
1.2.8 推薦システム
1.2.9 交通データ
1.2.10 確率質量関数
1.2.11 回帰係数
1.2.12 線形写像
章末問題
2. テンソルの変形と計算
2.1 基礎知識
2.1.1 数式の記法について
2.1.2 テンソルの要素
2.1.3 ファイバ
2.1.4 スライス
2.1.5 部分テンソル
2.1.6 プログラムの例
2.2 テンソルの変形:
2.2.1 転置（モード置換）
2.2.2 ベクトル展開
2.2.3 行列展開
2.2.4 折り畳み（テンソル化）
2.2.5 変形の線形性
2.2.6 変形のダイアグラム表記
2.2.7 プログラムの例
2.3 テンソルの計算
2.3.1 和，差，スカラー倍
2.3.2 要素ごとの積と商
2.3.3 内積
2.3.4 フロベニウスノルム
2.3.5 外積
2.3.6 行列積
2.3.7 クロネッカー積
2.3.8 カトリ・ラオ積
2.3.9 テンソルと行列の積（モード積，縮約）
2.3.10 テンソル積
2.3.11 テンソルネットワークと計算量
2.3.12 プログラムの例
章末問題
3. 線形代数と主成分分析
3.1 線形代数ハイライト
3.1.1 列空間と左ゼロ空間
3.1.2 直交行列と直交化
3.1.3 列空間への射影
3.1.4 固有値分解
3.1.5 正定値行列
3.1.6 逆行列
3.1.7 特異値分解
3.1.8 行列ノルム
3.1.9 特異値分解と固有値分解の関係
3.1.10 行列のランク
3.1.11 行列の低ランク近似:
3.1.12 エッカート・ヤングの定理の証明
3.1.13 行列の最良ランク1近似と縮退処理
3.1.14 べき乗法による最小ランク1近似
3.1.15 特異値分解の原始的アルゴリズム
3.2 主成分分析
3.2.1 次元削減としての主成分分析
3.2.2 最適化問題の整理と分散最大化の特徴付け
3.2.3 部分空間の最適化
3.2.4 主成分分析の手順（まとめ）
3.2.5 固有値，固有ベクトルの意味と寄与率
3.2.6 主成分分析の適用例
章末問題
4. テンソル分解
4.1 ランク1テンソル
4.1.1 ランク1テンソルの定義と性質
4.1.2 ランク1分解によるテンソルの表現
4.1.3 ランク1分解の一意性
4.1.4 テンソルのランク1近似
4.1.5 べき乗法と交互最小二乗法
4.1.6 プログラムの例
4.2 CP分解
4.2.1 CP分解とCPランク
4.2.2 CP分解の一意性
4.2.3 CP分解に基づくテンソルの低ランク近似
4.2.4 交互最小二乗アルゴリズムによるCP分解
4.2.5 階層的交互最小二乗アルゴリズムによるCP分解
4.2.6 プログラムの例
4.2.7 CP分解の特徴
4.3 Tucker分解
4.3.1 Tucker分解とTuckerランク
4.3.2 Tucker分解の任意性
4.3.3 高階特異値分解（HOSVD）
4.3.4 交互最小二乗アルゴリズムによるTucker分解（直交制約なし）
4.3.5 HOOIアルゴリズムによるTucker分解（直交制約あり）
4.3.6 プログラムの例
4.3.7 Tucker分解の特徴
4.4 テンソルトレイン分解
4.4.1 テンソルトレイン（TT）分解
4.4.2 k行列展開とTTランク
4.4.3 特異値分解を用いたTT分解（TT-SVD）
4.4.4 TT-SVDによる低ランク近似
4.4.5 直交化されたTT分解
4.4.6 TT分解のための交互最小二乗アルゴリズム
4.4.7 プログラムの例
4.5 その他のテンソル分解モデル
4.5.1 ブロックターム分解
4.5.2 階層的Tucker分解
4.5.3 テンソルリング分解
4.5.4 全結合テンソルネットワーク分解
4.5.5 同時テンソル分解
4.5.6 対称テンソル分解
章末問題
5. テンソルデータ解析
5.1 テンソルデータの線形観測モデルと逆問題
5.1.1 線形観測モデル
5.1.2 観測モデルに基づくデータ分析課題の分類
5.2 テンソルデータ解析の方法論
5.2.1 観測モデルに基づく線形方程式の不良設定性
5.2.2 ノルム最小化による再構成
5.2.3 テンソルデータ解析問題の定式化
5.2.4 誤差関数の種類
5.2.5 ペナルティ関数の種類:
5.3 最適化の準備
5.3.1 交互方向乗数法
5.3.2 上界最小化（MM）アルゴリズム
5.3.3 近接写像
5.4 欠損値を含むテンソルデータの分析
5.4.1 核ノルムに基づく低ランク行列補完
5.4.2 テンソル分解に基づく低ランクテンソル補完
5.4.3 テンソル補完の応用事例
5.5 スパース成分を含むテンソルデータの分析
5.5.1 ロバスト主成分分析
5.5.2 ロバストテンソル分解
5.5.3 ロバストテンソル分解の応用事例
章末問題
引用・参考文献
章末問題解答
索引more - 著者からのメッセージ
- 本書を理解するうえで必要な数学的知識は線形代数+αのみです。線形代数への愛着と理解が深まるほど，テンソル分解への理解も深まるといえます。また，本書ではMATLABプログラムの例をたくさん載せています。自分でプログラムが書ける，そしてきちんと動く，というのは少なくとも処理の流れは具体的に，かつ正確に理解できていることの証だと思います。手を動かしながら読んでいただき，具体的な理解につなげていだだければと思います。