モーメンタム（Momentum）とは？-AI関連の用語集【クラベルAI】-

モーメンタム（Momentum）

モーメンタム（Momentum）とは、AIの学習で、前回までの更新の向きを勢いとして残し、今回の更新に加える工夫のことです。坂を転がるボールのように、同じ向きに進み続けるときは加速し、向きが揺れるときは打ち消し合ってジグザグが減ります。SGDに加えて使うことが多く、Adamの中でも勢いの考え方が使われています。

モーメンタム（Momentum）関連用語

モーメンタム（Momentum）に関連する単語は以下の通りです。

• 確率的勾配降下法（Stochastic Gradient Descent：SGD）勢いをつける前の基本の方法は？→
• 勾配降下法（Gradient Descent）元になる考え方は？→
• Adam（Adaptive Moment Estimation）勢いを含む定番の手法は？→
• RMSProp（Root Mean Square Propagation）歩幅を調整する手法は？→
• 学習率（Learning Rate）一歩の大きさは何で決まる？→
• 勾配（Gradient）進む向きはどう分かる？→

モーメンタム（Momentum）で知っておくと得する有益情報

モーメンタムは、小さな工夫で学習を安定させます。働きを3つにまとめました。

• 同じ向きなら加速向きが続く場面で一歩が大きくなり、谷底へ早く近づけます。
• 揺れを抑える向きが逆に揺れる場面では、勢いが打ち消し合い、ジグザグが減ります。
• 係数で強さを決める前の勢いをどれだけ残すかを係数で決め、0.9前後がよく使われます。

モーメンタムの有無による違い

モーメンタムは、勢いを味方につけて、学習を滑らかにする工夫です。

モーメンタム（Momentum）やさしい解説

勢いをつけたら、行き過ぎちゃわない？

自転車で坂を下ることを考えてみましょう。ずっと下り坂なら、こがなくてもどんどん速くなります。

ただし、谷底で行き過ぎても、勢いが少しずつ弱まり、やがて谷底に落ち着きます。

AIを自社データで学習させるとき、開発会社が選ぶ最適化の設定の一つです。学習が安定しない、時間がかかるといった場面で、勢いを加えることで改善できる場合があります。

モーメンタム（Momentum）についてのみんなの疑問

モーメンタムは何のために使いますか？

学習を速くして、ジグザグを減らすためです。同じ向きに進み続けるときは加速し、揺れる場面では勢いが相殺されます。

勢いの係数はいくつがよいですか？

0.9前後が、よく使われる出発点です。大きいほど過去の動きを強く残します。結果を見ながら、0.8〜0.99の範囲で調整することがあります。

Adamにも含まれていますか？

はい、勢いの考え方がAdamの中に含まれています。Adamは、勢いと歩幅の自動調整を組み合わせた手法です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。