Attention（注意機構）とは？-AI関連の用語集【クラベルAI】-

Attention（注意機構）

Attention（注意機構）とは、AIが入力の中から、いま大事な部分に重みをつけて注目するための仕組みのことです。2014年ごろ、機械翻訳の精度を高めるために提案されました。長い文を訳すとき、訳す言葉に関係する元の言葉へ注目する、という考え方です。のちにTransformerの中心となり、今の生成AIの基本になっています。

Attention（注意機構）関連用語

Attention（注意機構）に関連する単語は以下の通りです。

• Self-Attention（自己注意機構）文章の中同士で注目し合う方法は？→
• Transformer（トランスフォーマー）Attentionを中心にした仕組みは？→
• 機械翻訳翻訳でなぜ役立ったの？→
• 大規模言語モデル（LLM）今の文章AIとの関係は？→
• コンテキストウィンドウ注目できる範囲は？→
• コンテキスト依存性（Context Dependency）文脈で意味が変わるとは？→

Attention（注意機構）で知っておくと得する有益情報

Attentionの考え方は、AIが文脈を読む方法の核心です。要点を3つにまとめました。

• 大事な所に重みをつける全部を同じ強さで見るのではなく、関係の深い所を重視します。
• 長い文に強くなった文が長くても、遠くの言葉との関係を捉えやすくなりました。
• 注目の様子を調べられるどこに注目したかを可視化し、AIの判断の手がかりにする研究もあります。

Attentionの考え方の例

1問クイズ：Attentionの働き

「彼はりんごを食べた。それは甘かった」で、「それ」に注目して意味を決めるのに役立つ仕組みはどれでしょう。

Attention（注意機構）文字数の数え上げ画像の拡大処理

Attentionは、AIが文脈の中で大事な所を見つけるための基本の仕組みです。

Attention（注意機構）やさしい解説

AIが「注目する」って、どういうこと？

本を読むとき、大事な所に蛍光ペンを引きますね。全部に引くと意味がないので、重要な所だけに引きます。

Attentionは、AIが使う蛍光ペンのようなものです。注目の強さを、言葉ごとに変えます。

仕事に置き換えると、長い契約書の中で「前項の規定にかかわらず」とあるとき、どの条文を指すのかを探す作業に似ています。AIも、関係する箇所を見つけて意味をつなぎます。精度は高いですが、必ず人が確認します。

Attention（注意機構）についてのみんなの疑問

AttentionとSelf-Attentionは何が違いますか？

Attentionは注目の考え方、Self-Attentionは文章の中同士で注目する方法です。Self-Attentionは、Attentionの一つの形で、Transformerの中心的な部品です。

人間の注意と同じものですか？

似た発想ですが、同じ仕組みではありません。数字で重みをつける計算の仕組みであり、人間の注意の働きそのものとは別物です。

Attentionの知識は、業務で必要ですか？

利用するだけなら、必須ではありません。AIが長い文章や文脈を扱える理由を理解する助けになります。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。