AI関連の用語集

Backpropagation(誤差逆伝播法)とは?-AI関連の用語集【クラベルAI】-

Backpropagation(誤差逆転伝播)とは?-AI関連の用語集【クラベルAI】-

Backpropagation(誤差逆伝播法)

逆向き学習の方法
アイちゃんのイラスト間違いを後ろへ伝えて、全部を直す
  1. 答えが外れて、ずれを測ります。
  2. ずれを出口から入口へ伝えます。
  3. 各つながりを少しずつ直します。

Backpropagation(誤差逆伝播法)とは、出力の間違いを出口から入口へ逆向きに伝え、各部分の調整量を効率よく求める方法のことです。ニューラルネットワークは、まず答えを出し、正解とのずれ(誤差)を測ります。そのずれが、どのつながり(重み)のせいでどれだけ生じたかを、後ろから順にたどって計算するのがこの方法です。1986年に広まって以降、深層学習の学習を支えています。

Backpropagation(誤差逆伝播法)関連用語

Backpropagation(誤差逆伝播法)に関連する単語は以下の通りです。

Backpropagation(誤差逆伝播法)で知っておくと得する有益情報

誤差逆伝播法は、ディープラーニングの学習を成り立たせる基本の計算です。押さえたい点を3つにまとめました。

  • 後ろから前へ計算する出力側から入力側へ順にたどることで、全部の重みの調整量を一度に求められます。
  • 勾配降下法とセットこの方法は直す向きを求め、勾配降下法がその向きに実際に動かします。
  • 層が深いと弱まることも層が深いと、後ろから戻す信号が弱くなる課題が知られています。

学習1回分の流れ

手順内容
1. 順伝播入力から出力まで計算する
2. 誤差を測る正解とのずれを数値にする
3. 逆伝播ずれを出口から入口へ戻す
4. 重みの更新ずれが減る向きに少し直す

誤差逆伝播法が求めているものは?

この方法は、学習の中で何を求めているのでしょう。

間違いを後ろから伝え、重みを直す。これが学習の核です。

Backpropagation(誤差逆伝播法)やさしい解説

いたずらなくまのイラスト
AIはどうやって、自分の間違いを直しているの?
アイちゃんのイラスト
みんなで作る料理が、味がいまいちだったとき、最後の味見役から順に「塩が多かった」と遡って伝える様子に似ています。
アイちゃんのイラスト
誰の作業がどれくらい影響したかを後ろからたどり、それぞれが少しずつ直します。

たとえば写真を見て「猫」と答えるAIが「犬」と間違えたとしましょう。その間違いの大きさを元に、ネットワークの出口に近い部分から順に「どれだけ責任があったか」を計算し、重みを直します。これを何万回もくり返して、少しずつ当たるようになります。

Backpropagation(誤差逆伝播法)についてのみんなの疑問

質問する、いたずらなくまのイラスト

私たちが理解しておく必要はありますか?

答えるアイちゃんのイラスト

仕組みの細部より、「間違いから学んでいる」という点を知っておけば十分です。ツールを使うだけなら計算を意識する場面は少ないです。ただ、学習に時間がかかる理由や、データが重要な理由の理解に役立ちます。

質問する、いたずらなくまのイラスト

勾配降下法とは同じものですか?

答えるアイちゃんのイラスト

別のものです。誤差逆伝播法は勾配を求め、勾配降下法がそれを使って更新します。二つは役割分担をしています。逆伝播で各重みの調整の向きを求め、降下法で実際に重みを少し動かす、という流れです。

質問する、いたずらなくまのイラスト

いつ頃から使われている方法ですか?

答えるアイちゃんのイラスト

考え方自体は古く、1986年の論文で広く知られた方法です。その後、計算機の進歩と大量データの登場で、多層のネットワークでも現実的に使える方法へ育ちました。現在の深層学習の土台の一つです。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-,