講義
東北大学集中講義「深層学習の数理」
講義資料(板書ノート)
1日目:
深層学習の数理概要
2日目:
汎化誤差の理論
3日目:
カーネル法
カーネル法の概要
Mercer展開とKarhunen-Loeve展開
[参考資料]
カーネル法の数理(スライド)
,
カーネル法の学習理論
ニューラルネットワーク
ニューラルネットワークによる関数近似理論
関数近似の手書きメモ
4日目:
勾配ランジュバン動力学と平均場ランジュバン動力学
確率数理工学
学部,金曜2限,夏
講義資料(板書ノート)
ノート1:測度空間,確率空間
.
演習問題1
.
補足資料:
確率論の応用
.
ノート2:確率変数,分布関数
.
演習問題2
.
ノート3:確率測度の構成,多変量確率変数,独立性
.
演習問題3
.
補足資料:
確率測度の構成と一意性
.
ノート4:確率変数の期待値とモーメント
.
演習問題4
.
ノート5:モーメント母関数・特性関数・キュムラント母関数
.
演習問題
.
ノート6:特性関数の性質と様々な分布
.
演習問題
.
補足資料:
キュムラントの応用:独立成分分析
.
ノート7:変数変換の公式と確率不等式
.
演習問題
.
ノート8:確率不等式と確率変数の収束
.
演習問題
.
ノート9:大数の法則と中心極限定理
.
演習問題
.
補足資料(大数の強法則とLevyの連続性定理)
.
ノート10:確率過程とマルコフ連鎖
.
演習問題
.
ノート11:マルコフ連鎖の性質と分解
.
ノート12:正再帰性と定常分布・極限分布
.
練習問題
.
補足資料(各種証明の補足,極限分布の存在定理,大数の法則)
演習問題解答例:
演習1解答例
.
演習2解答例
.
演習3解答例
.
演習4解答例
.
演習5解答例
.
演習6解答例
.
演習7解答例
.
演習8解答例
.
演習9解答例
.