intro:researches:machine

差分

この文書の現在のバージョンと選択したバージョンの差分を表示します。

この比較画面にリンクする

両方とも前のリビジョン 前のリビジョン
intro:researches:machine [2020/06/26 17:01]
Hideaki IIDUKA
intro:researches:machine [2020/06/26 17:01] (現在)
Hideaki IIDUKA
ライン 38: ライン 38:
 $(x_n)_{n\in\mathbb{N}}$は適応学習率最適化アルゴリズムで生成される点列とし、$\alpha,​ \beta$ は**定数**学習率(([[https://​arxiv.org/​pdf/​1412.6980.pdf|Adam]] や [[https://​arxiv.org/​pdf/​1904.09237.pdf|AMSGrad]] では、$\beta = 0.9$ を利用しています。))とします。このとき、ある定数 $M_i$ ($i=1,2$) が存在して、 $(x_n)_{n\in\mathbb{N}}$は適応学習率最適化アルゴリズムで生成される点列とし、$\alpha,​ \beta$ は**定数**学習率(([[https://​arxiv.org/​pdf/​1412.6980.pdf|Adam]] や [[https://​arxiv.org/​pdf/​1904.09237.pdf|AMSGrad]] では、$\beta = 0.9$ を利用しています。))とします。このとき、ある定数 $M_i$ ($i=1,2$) が存在して、
 \begin{align*} \begin{align*}
-\limsup_{n \to + \infty} \mathbb{E}\left[f (x_n)  - f^\star \right] ​+\liminf_{n \to + \infty} \mathbb{E}\left[f (x_n)  - f^\star \right] ​
 \leq  M_1 \alpha + M_2 \beta. \leq  M_1 \alpha + M_2 \beta.
 \end{align*} \end{align*}
  • intro/researches/machine.txt
  • 最終更新: 2020/06/26 17:01
  • by Hideaki IIDUKA