AI関連の用語集

DQNとは?-AI関連の用語集【クラベルAI】-

DQNとは?AI関連の用語集【クラベルAI】

DQN(Deep Q-Network)

ゲームAIの手法
アイちゃんのイラスト画面を見て、行動の良さを予測する
  1. ゲーム画面を、そのまま見ます。
  2. 深層学習が行動の良さを予測します。
  3. 点数の表は使いません。

DQN(Deep Q-Network)とは、Q学習の点数表を、ディープラーニング(ニューラルネットワーク)に置き換えた強化学習の手法のことです。画面の画像のように状況が膨大でも、表を作らずに行動の良さを予測できます。Google DeepMindが2015年に科学誌Natureで発表し、Atariのゲームを画面だけで遊べるAIとして話題になりました。強化学習と深層学習を結びつけた代表例です。

DQN(Deep Q-Network)関連用語

DQN(Deep Q-Network)に関連する単語は以下の通りです。

DQN(Deep Q-Network)で知っておくと得する有益情報

DQNは、強化学習が実用の場に広がるきっかけのひとつです。仕組みの工夫を3つ紹介します。

  • 表を使わない状況が多すぎて表にできない場合も、ニューラルネットで点数を予測します。
  • 経験を溜めて使い回す過去の経験をいったん保存し、ランダムに取り出して学びます。
  • 目標を安定させる点数の目標を一定期間ずらさない工夫で、学習のぶれを抑えます。

Q学習とDQNの違い

観点Q学習DQN
点数の持ち方表ニューラルネット
扱える状況少数画像など膨大な状況
学習の工夫特になし経験の再利用など

DQNが解決したことは?

Q学習の弱点のうち、DQNが主に解決したものはどれでしょう。

表の代わりにニューラルネットを使うことで、複雑な状況も学べます。

DQN(Deep Q-Network)やさしい解説

いたずらなくまのイラスト
ゲームをするAIって、どうやって上手になるの?
アイちゃんのイラスト
画面を見て、ボタンを押して、得点が増えたらそのやり方を覚えます。何千回も遊んで、少しずつ上達します。
アイちゃんのイラスト
点数表の代わりに、脳のような仕組み(ニューラルネット)で「このボタンは良さそう」と予測します。

DQNそのものは、主にゲームやシミュレーションで成果を出した手法です。ビジネスでは、在庫の補充や、機械の運転条件の最適化など、試行を重ねて決まりを学ぶ課題が対象になりえます。ただし、現実の現場では失敗のコストが大きいため、慎重な検証が必要です。

DQN(Deep Q-Network)についてのみんなの疑問

質問する、いたずらなくまのイラスト

DQNは、誰が作ったのですか?

答えるアイちゃんのイラスト

Google DeepMindの研究者らの発表です。2013年に論文が公開され、2015年にNatureで詳しく報告されました。Atariの多くのゲームで、人と同程度かそれ以上の成績を出したと報告されています。

質問する、いたずらなくまのイラスト

DQNは、今も使われていますか?

答えるアイちゃんのイラスト

基本の考え方は広く使われ、改良版も多く登場しています。安定性や効率を高めた改良版が多数あります。入門や比較の基準として、今もよく取り上げられます。

質問する、いたずらなくまのイラスト

自社の仕事でも、DQNは使えますか?

答えるアイちゃんのイラスト

試行を何度もくり返せる課題なら、候補になります。失敗できない現場では、まずシミュレーションの中で学ばせます。多くの場合は、強化学習以外の手法のほうが手軽です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

参考にした公式情報:Human-level control through deep RL(Nature)

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-