ニューラルネットと回路
脳回路（例えばTransformerなど）の構築に向け，基本セルの量子化，アトラクタの構成，EncoderとDecoderによる画像の復元，学習と連想，エネルギー最小化（エントロピー最大化）による最適問題などを記述。
- 発行年月日
- 1999/04/30
- 判型
- A5
- ページ数
- 236ページ
- ISBN
- 978-4-339-02604-7
- 内容紹介
- 目次
- レビュー
本書は，脳回路（イジングモデル，ベイズ脳，Transformer，In-Memory Edge Machine）の構築に向けて，基本セルの量子化，アトラクタの構成，EncoderとDecoderによる画像の復元，学習と連想，エネルギー最小化（エントロピー最大化）による最適問題などを記述する。
本書の前半は，ニューロン回路の構成，ニューロン回路の非線形現象，協調の回路によって得られた情報から競合の回路で他の情報を抑制し，最も確からしい情報を選ぶ協調競合回路，空間的な量子化器，最大値検出回路のダイナミクス，そして学習や連想のダイナミクスについて，非発振型ニューロンによるネットと発振型ニューロン（ヒステリシスセル）によるネットに分けて記述する。ニューラルネットのダイナミクスでは，その安定解を情報処理に利用することが多いが，初期値から安定解に至る解曲線は，必ずしも単調に変化する必要はなく，振動しながら要求した安定解に近づく場合もある。したがって，本書では発振型ニューロンのネットの動作も重要視して書かれている。
非線形なニューラルネットは，あるパラメータを適当に選ぶと，軌道が相空間の有限領域に閉じ込められる非周期的運動，すなわちカオスという複雑な振舞いを示す場合がある。そこで，カオスの同期と制御に関しても簡単に述べる。
本書の後半は，局所的に配列された各セルの状態がその近傍のセルの状態から決められるセルラニューラルネット（CNN）のダイナミクスとその情報処理について記述する。網膜的な情報処理を行うCNNは，アナログ処理とディジタル処理との橋渡しの役目を演じる可能性が高い。例題として，画像の量子化，画像の圧縮と再生，2次元画像から3次元画像を復元するダイナミクスについて触れる。CNNは，将来的には，ロボットの走行，物体認識，経路探索，ステレオビジョンなどへの工学的応用を指向するものである。
1. ニューロン
1.1 脳とニューロン
1.1.1 脳の構造
1.1.2 生物のニューロン
1.2 人工のニューロンのダイナミクス
1.2.1 ＲＣ回路の動作
1.2.2 自己フィードバックのないニューロンの働き
1.2.3 自己フィードバックを有するニューロンの働き
1.2.4 ヒステリシスとジャンプを有するニューロンの働き
1.2.5 ヒステリシスとジャンプを有するニューロンの複雑な非線形現象
章末問題
引用・参考文献
2. ニューラルネットのダイナミクス
2.1 ２次元線形状態方程式
2.1.1 状態変数の連続性
2.1.2 状態方程式の行列表現
2.1.3 固有値にのよる解軌道の分類
2.1.4 変数変換による状態方程式の表現とその解軌道
2.2 ニューラルネットを記述する非線形状態方程式
2.2.1 基本状態方程式
2.2.2 アトラクタの発生
2.2.3 分岐現象とアトラクタ
2.3 連続型ニューロンからなるニューラルネット
2.3.1 平衡点アトラクタの発生
2.3.2 平衡点アトラクタの収束定理
2.3.3 周期アトラクタの発生
2.3.4 協調競合ネットの最大値検出ダイナミクス
2.3.5 Hamming networkとMaxnetのダイナミクス
2.4 ヒステリシスセルからなるニューラルネット
2.4.1 平衡点アトラクタの発生
2.4.2 周期アトラクタの発生
2.4.3 最大値検出のダイナミクス
章末問題
引用・参考文献
3. 相互結合型ニューラルネット
3.1 相互結合型ニューラルネット
3.1.1 非線形状態方程式
3.2 最適化問題
3.2.1 A-D変換問題
3.2.2 ソーティング問題
3.3 シュミレーティドアニーリング
3.4 ボルツマンマシン
3.5 連想ダイナミクス
3.5.1 連想の分析
3.5.2 ディジタル連想メモリとアナログ連想メモリ
3.5.3 分布記憶と自己連想
3.6 自己想起の連想ダイナミクス
3.6.1 連続型ニューロンからなるニューラルネットの自己想起
3.6.2 ヒステリシスセルからなるニューラルネットの想起
章末問題
引用・参考文献
4. 学習型ニューラルネット
4.1 ニューラルネットにおける学習方式
4.1.1 連想写像
4.1.2 教師ありの学習
4.1.3 学習のダイナミクス
4.1.4 Hebbの学習法
4.1.5 誤り訂正学習法
4.1.6 相関学習法
4.1.7 直交学習
4.1.8 コホーネンの学習法
4.2 学習と連想
4.2.1 誤差逆伝搬方式
4.2.2 学習と逆問題
4.2.3 直交学習による連想写像
4.2.4 競合型連想ネット
章末問題
引用・参考文献
5. セルラニューラルネット
5.1 網膜系の情報処理
5.1.1 正則化技術
5.1.2 セルラニューラルネット(CNN)
5.2 連続時間型セルラニューラルネット(CT-CNN)
5.2.1 基本動作
5.2.2 動画像の圧縮再生
5.2.3 奥行き抽出
5.3 離散時間型セルラニューラルネット(DT-CNN)
5.3.1 基本動作
5.3.2 面積階調画像と濃度階調画像
5.4 セルラニューラルネットにおける最適設計
章末問題
引用・参考文献
6. 電子回路とニューラルネット
6.1 アナログ回路とディジタル回路
6.2 オペアンプニューロン
6.2.1 理想オペアンプ
6.2.2 線形オペアンプ回路
6.2.3 非線形オペアンプ回路
6.2.4 ニューロン回路
6.3 OTAニューロン
6.4 CMOSニューロン
6.4.1 CMOS回路
6.4.2 ニューロン回路
章末問題
引用・参考文献
理工系学生 様
非常に古典的なニューラルネットワークの話題からそのハードウェア設計への応用まで幅広く解説されている良著であるが，内容が些か古くなってしまっており，近年の新しい話題を取り入れた改訂版の登場が待ち望まれる書籍である。
