05月23日(Tue) 15:50〜17:30 A会場(ウインクあいち-2F 大ホール)
演題番号 | 1A2-OS-05b-4 |
---|---|
題目 | 自然勾配近似法を起点としたバッチ正規化の数理的理解 |
著者 | 木脇 太一(東京大学 情報理工学系研究科 数理情報学専攻) |
時間 | 05月23日(Tue) 16:50〜17:10 |
概要 | バッチ正規化(BN)と呼ばれる最適化手法はNeural Networkの学習効率を劇的に向上させるため大きく着目されている.定性的な議論および実験的な観測から,BNは自然勾配法(NG)との関係性が指摘されているが,厳密な数理的原理は不明である.本研究ではNatual Neural Networkと呼ばれるNGの実現方法とBNの類似性に着目し,BNがどの様にNGを近似しているのかを数理的に議論する. |
論文 | PDFファイル |