AI関連の用語集

GPUとは?-AI関連の用語集【クラベルAI】-

GPUとは?AI関連の用語集【クラベルAI】

GPU(Graphics Processing Unit)

GPU部品(半導体)
アイちゃんのイラスト大量の計算を同時にこなす部品
  1. 小さな計算役がたくさんあります。
  2. 一斉に同じ計算を進めます。
  3. AIの学習が速く終わります。

GPUとは、同時にたくさんの計算をこなすのが得意で、AIの学習や推論に広く使われる計算用の部品のことです。Graphics Processing Unitの略で、もとは画面に絵を描くための部品でした。AIの計算は、単純な計算を大量に行うため、GPUとの相性がよいと分かり、中心的な存在になりました。大きなモデルほど、高性能なGPUと大きなメモリが必要になります。

GPU(Graphics Processing Unit)関連用語

GPU(Graphics Processing Unit)に関連する単語は以下の通りです。

GPU(Graphics Processing Unit)で知っておくと得する有益情報

GPUは、AIを自社で動かすときの重要な条件です。押さえたい点を3つにまとめました。

  • メモリの大きさが重要動かせるモデルの大きさは、GPUのメモリ容量に大きく左右されます。
  • 買うより借りる選択肢高価なため、クラウドで必要な時間だけ借りる方法がよく選ばれます。
  • 電力と冷却も必要高性能なGPUは電力を多く使い、設置の環境も整える必要があります。

AI向け計算部品の違い(一般的な傾向)

部品特徴
CPU何でもこなす汎用部品。AIの大規模計算は不得意
GPU並列計算が得意。AI向けで広く普及
TPUGoogleが作ったAI向けの専用チップ
NPU機器に内蔵する、AI向けの省電力チップ

モデルに必要なメモリの目安を試算

モデルの大きさから、重みを置くためのメモリの目安を出します。

重みのメモリ目安0GB
余裕を見た目安(約1.2倍)0GB

目安の計算です。実際は会話の長さなどでさらに必要で、1.2倍は仮の余裕です。

必要なメモリを見積もり、買うか借りるかを決めましょう。

GPU(Graphics Processing Unit)やさしい解説

いたずらなくまのイラスト
GPUって、ゲーム用のパーツじゃないの?
アイちゃんのイラスト
はじめはゲームの絵を描く部品でした。いまは「単純な計算を大勢で一斉にこなす」力が、AIに役立っています。
アイちゃんのイラスト
1人の天才より、大勢の作業チームが得意な仕事です。

社内で大きなAIを動かしたいと考えたとき、GPUの用意が最初の壁です。購入すると高額で、設置や電力の準備も要ります。まずはクラウドで必要な時間だけ借りて、性能と費用の感覚をつかむのが現実的です。

GPU(Graphics Processing Unit)についてのみんなの疑問

質問する、いたずらなくまのイラスト

AIを使うのに、自社でGPUを用意する必要がありますか?

答えるアイちゃんのイラスト

多くの会社は、用意する必要がありません。ChatGPTなどのサービスは、提供会社のGPUで動いています。自社で動かすのは、社外に出せないデータを扱う場合などに限られます。

質問する、いたずらなくまのイラスト

GPUとCPUは、何が違うのですか?

答えるアイちゃんのイラスト

CPUは何でもこなし、GPUは同時に大量の計算をこなします。CPUは少数の高性能な計算役、GPUは多数の計算役を持ちます。AIの計算は同じ種類の計算を大量に行うため、GPUが向いています。

質問する、いたずらなくまのイラスト

GPUが品薄だと聞きますが、影響はありますか?

答えるアイちゃんのイラスト

AIの利用料や調達の時期に影響する場合があります。需要が高いと、価格が高止まりしたり、クラウドで借りにくくなったりします。必要な時期と量は、早めに提供会社へ確認しましょう。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-