AI関連の用語集

活性化関数(Activation Function)とは?-AI関連の用語集【クラベルAI】-

活性化関数(Activation Function)とは?-AI関連の用語集【クラベルAI】-

活性化関数(Activation Function)

直線だけでは合わない曲がると合う計算の部品
アイちゃんのイラスト直線に「曲がり」を足す部品
  1. 直線だけでは曲がった関係に合いません。
  2. 出力の形を決める関数を入れます。
  3. 曲がった関係も表せるようになります。

活性化関数(Activation Function)とは、ニューラルネットワークの各ユニットで、入力の合計をどんな値として次へ伝えるかを決める関数のことです。この関数がないと、層を何枚重ねても計算は単純な足し算と掛け算だけになり、直線的な関係しか表せません。活性化関数が入ることで、曲がった複雑な関係も学べるようになります。

活性化関数(Activation Function)関連用語

活性化関数(Activation Function)に関連する単語は以下の通りです。

活性化関数(Activation Function)で知っておくと得する有益情報

活性化関数は種類が多く迷いがちです。選ぶときの考え方を3つにまとめました。

  • 曲がりを生む役目線形でない関数を挟むことで、層を重ねる意味が生まれます。
  • 隠れ層はReLU系が定番まずReLUを使い、問題があればELUなどに替えるのが一般的な流れです。
  • 出力層は目的で決める2択ならシグモイド、複数の分類ならソフトマックス、数値の予測なら関数なしが目安です。

主な活性化関数の使いどころ

関数主な使いどころ
ReLU隠れ層の定番
シグモイド2択の確率を出す出力層
ソフトマックス複数の分類の出力層
tanh-1〜1に収めたいとき
GELU大規模言語モデルの隠れ層

活性化関数の役割クイズ

活性化関数を入れる主な理由はどれでしょう。

迷ったら隠れ層はReLU、出力層は目的に合わせて選びましょう。

活性化関数(Activation Function)やさしい解説

いたずらなくまのイラスト
関数をわざわざ挟む意味って、なに?
アイちゃんのイラスト
道路にたとえます。まっすぐな道だけでは、曲がった目的地にはたどり着けません。
アイちゃんのイラスト
活性化関数は、道にカーブをつくる役目です。カーブがあるから、複雑な場所にも行けるのです。

AIサービスを選ぶとき、活性化関数の名前を聞く機会は少ないでしょう。ただ、開発会社の説明に出てきたら「複雑な関係を学ぶための部品」と理解しておくと、話が進めやすくなります。

活性化関数(Activation Function)についてのみんなの疑問

質問する、いたずらなくまのイラスト

活性化関数はどれを選べばよいですか?

答えるアイちゃんのイラスト

迷ったら、隠れ層にはReLUを選びます。出力層は目的で決まります。2択ならシグモイド、複数の分類ならソフトマックス、数値の予測なら活性化関数をつけないことが多いです。

質問する、いたずらなくまのイラスト

活性化関数がないとどうなりますか?

答えるアイちゃんのイラスト

層を重ねても、直線的な関係しか学べません。どれだけ層を増やしても、全体が一つの単純な計算と同じ働きになってしまうためです。

質問する、いたずらなくまのイラスト

ChatGPTのような生成AIでも使いますか?

答えるアイちゃんのイラスト

はい、内部の層で使われている部品です。大規模言語モデルでは、GELUやSwiGLUのようなReLUの発展形がよく採用されています。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-,