AI関連の用語集

プレトレーニング(Pretraining)とは?-AI関連の用語集【クラベルAI】-

プレトレーニング(Pretraining)とは?-AI関連の用語集【クラベルAI】-

プレトレーニング(Pretraining)

基礎学習の方法
アイちゃんのイラスト大量のデータで基礎の力をつける
  1. まず大量のデータを読みます。
  2. 基本的な力を身につけます。
  3. その後に用途別の学習へ進めます。

プレトレーニング(Pretraining)とは、AIに特定の仕事を教える前に、大量のデータで基礎的な力をあらかじめ身につけさせる学習のことです。日本語では「事前学習」と呼びます。大規模言語モデルは、まず膨大な文章で言葉のつながりを学び、そのあとで用途に合わせた調整を行います。基礎を一度作れば、用途ごとに作り直さなくて済むのが利点です。

プレトレーニング(Pretraining)関連用語

プレトレーニング(Pretraining)に関連する単語は以下の通りです。

プレトレーニング(Pretraining)で知っておくと得する有益情報

事前学習は利用者の目に触れませんが、AIの性格を決める大事な工程です。要点を3つにまとめました。

  • 基礎力をつくる工程言葉や画像の一般的な特徴を、大量のデータから学びます。
  • 費用と時間が大きい大規模なモデルの事前学習には、多くの計算資源が必要です。
  • 学んだ範囲に左右される事前学習のデータが偏っていると、AIの答えにも偏りが出ます。

事前学習と追加学習の違い

項目事前学習追加学習
目的基礎的な力をつける用途に合わせる
データ大量で幅広い少量で専門的
費用大きい比較的小さい
担当主にAIの提供元利用する側も行える

1問クイズ:事前学習の役割

事前学習の説明として、最も近いものはどれでしょう。

事前学習は、AIの土台をつくる工程で、あとの調整を楽にします。

プレトレーニング(Pretraining)やさしい解説

いたずらなくまのイラスト
AIって、最初から何でも知っているわけじゃないの?
アイちゃんのイラスト
新入社員も、配属の前に、研修で基本のマナーや用語を学びますね。
アイちゃんのイラスト
事前学習はその研修にあたります。基礎を学んでから部署に入るので、仕事を早く覚えられます。

仕事に置き換えると、すでに事前学習を終えたAIを選んで使う場面が大半です。自社でゼロから事前学習をするのは、費用の面でまれです。提供元のAIを選び、必要なら自社向けに調整する、という進め方が現実的です。

プレトレーニング(Pretraining)についてのみんなの疑問

質問する、いたずらなくまのイラスト

自社でプレトレーニングをする必要はありますか?

答えるアイちゃんのイラスト

ほとんどの会社では必要ありません。費用と時間が大きいため、提供元が作った学習済みモデルを使い、必要に応じて追加学習をするのが一般的です。

質問する、いたずらなくまのイラスト

プレトレーニングで使うデータは、何ですか?

答えるアイちゃんのイラスト

ウェブ上の文章、書籍、論文など、大量のデータが使われます。どのデータを使ったかはモデルにより異なり、公開の度合いもまちまちです。

質問する、いたずらなくまのイラスト

事前学習と転移学習は同じですか?

答えるアイちゃんのイラスト

近い考え方です。事前学習で得た力を別の用途に生かすのが転移学習です。事前学習は学ぶ工程、転移学習は学んだ力を使う考え方、と区別すると整理しやすいです。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-,