AI関連の用語集

Vision Transformer(ViT)とは?-AI関連の用語集【クラベルAI】-

Vision Transformer(ViT)とは?AI関連の用語集【クラベルAI】

Vision Transformer(ViT)

AIモデル
アイちゃんのイラスト画像を断片に切って、並べて読む
  1. 画像を小さな断片に切り分けます。
  2. 断片を文章のように一列に並べます。
  3. 並びを読んで、画像を理解します。

Vision Transformer(ViT)とは、画像を小さな断片に切り分けて文章の単語のように並べ、Transformerで処理する画像認識のモデルのことです。2020年にDosovitskiyらが論文「An Image is Worth 16x16 Words」で発表しました。画像を16×16ピクセルなどの断片(パッチ)に分け、断片どうしの関係をアテンションで調べます。大量のデータで学習すると、高い精度が出ることが示されました。

Vision Transformer(ViT)関連用語

Vision Transformer(ViT)に関連する単語は以下の通りです。

Vision Transformer(ViT)で知っておくと得する有益情報

ViTは、文章の技術を画像に持ち込んだモデルです。従来のCNNとの違いを3つにまとめました。

  • 全体の関係を直接見るCNNは近い範囲から順に見ますが、ViTは離れた断片どうしの関係も見られます。
  • データが多いほど有利小さなデータでは、CNNのほうが良い場面もあると報告されています。
  • 画像と文章を同じ形に文章と同じ仕組みなので、画像と文章を一緒に扱うAIの土台にもなっています。

ViTとCNNの違い

観点CNNViT
見方近くから順に広げる最初から全体を見比べる
少ないデータ比較的強い不利になりやすい
大量のデータ高い精度さらに高い精度が出やすい
計算量比較的軽い断片が増えると重い

断片(パッチ)の数を数える

画像の大きさと断片の大きさから、並べる断片の数を求めます。

断片の数0個

正方形の画像を、重ならず分けた場合の計算です。数値は仮の例です。

ViTは、大量のデータがある画像の課題で力を発揮するモデルです。

Vision Transformer(ViT)やさしい解説

いたずらなくまのイラスト
画像を文章みたいに読むって、どういうこと?
アイちゃんのイラスト
ジグソーパズルにたとえます。絵をピースに分けて、並べたピースどうしの関係から全体の絵を理解します。
アイちゃんのイラスト
ViTは、画像を小さなピースに切り、ピース同士の関係を調べて、何が写っているかを判断します。

検査や仕分けなど、画像を扱う業務で、学習済みのViTを土台に使うことがあります。データが少ない場合は、従来のCNNのほうが扱いやすいこともあるので、複数の手法を比べて選びましょう。

Vision Transformer(ViT)についてのみんなの疑問

質問する、いたずらなくまのイラスト

ViTはCNNより必ず優れていますか?

答えるアイちゃんのイラスト

必ずしもそうではありません。大量のデータで学習した場合に強みが出ますが、データが少ない場面ではCNNが有利なこともあります。

質問する、いたずらなくまのイラスト

ViTはChatGPTと同じ仕組みですか?

答えるアイちゃんのイラスト

土台は同じTransformerですが、入力の扱いが違います。ChatGPTは文章を単語の断片に分け、ViTは画像を小さな断片に分けて処理します。

質問する、いたずらなくまのイラスト

自社の画像分類に使えますか?

答えるアイちゃんのイラスト

学習済みのモデルを調整する形で、使える場合が多いです。公開されている学習済みのViTを土台に、自社の写真で追加学習する方法が一般的です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

参考にした公式情報:An Image is Worth 16x16 Words(arXiv)

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-