LSTM（長短期記憶）とは？長い流れを覚える仕組み

Q: RNNとの一番の違いは何ですか？

RNNより長い期間の情報を、保ちやすい点です。RNNは古い情報が薄れやすく、数十ステップ前のことを活かしにくい弱点があります。LSTMは門と記憶の通り道でこれを和らげます。

Q: 今でも使われていますか？

はい。時系列の予測やセンサーデータなどで使われています。大規模な文章処理はTransformerに移りましたが、データが小さく、軽く動かしたい場面ではLSTMも選ばれます。

Q: いつ頃の技術ですか？

1997年に研究者らが論文で発表した技術です。その後、音声認識や機械翻訳などで広く使われ、2010年代のAIの発展を支えた存在です。

LSTM（Long Short-Term Memory）
- LSTM（Long Short-Term Memory）関連用語
LSTM（Long Short-Term Memory）で知っておくと得する有益情報
LSTM（Long Short-Term Memory）やさしい解説
LSTM（Long Short-Term Memory）についてのみんなの疑問
AI関連の用語集【まとめ】

LSTM（Long Short-Term Memory）

アイちゃんのイラスト — 記憶のベルトと、忘れる・入れる・出す門
記憶のベルトにメモを流します。
古いメモは忘れ、新しいメモを入れます。
必要なメモだけを外へ出します。

LSTM（長短期記憶）とは、情報を入れる・忘れる・出すを門で調整し、長い流れを覚えられるようにしたニューラルネットワークのことです。RNNは順番のあるデータが得意な一方、古い情報を忘れやすい弱点を抱えていました。1997年に発表されたLSTMは、記憶を保つ専用の通り道と3つの門を設けて、この弱点を和らげる工夫です。売上の予測や音声の認識などに広まりました。

LSTM（Long Short-Term Memory）関連用語

LSTM（Long Short-Term Memory）に関連する単語は以下の通りです。

LSTM（Long Short-Term Memory）で知っておくと得する有益情報

LSTMは、文章生成 AIが登場する前の主役でした。いまの位置づけも含め、要点を3つにまとめました。

長期の流れを保てる記憶専用の通り道があるため、離れた場所の情報も残しやすくなりました。
門で出し入れを調整何を忘れて何を覚えるかを、学習の中で自動で調整します。
今の主流は別方式長い文章はTransformerが主流ですが、小規模な時系列では今も使われます。

RNN系の仕組みの比べ方

仕組み	特徴
RNN	順番を扱えるが、古い情報を忘れやすい
LSTM	門で記憶を調整し、長い流れに強い
GRU	LSTMを簡単にした軽い仲間
Transformer	全体を一度に見て、長文に強い