ジェイルブレイクとは？-AI関連の用語集【クラベルAI】-

ジェイルブレイク（Jailbreak）

ジェイルブレイクとは、生成AIの安全のための制限を、巧みな質問や設定で回避させる行為のことです。AIは通常、危険な内容や不適切な依頼には答えないよう調整されています。そこに、ロールプレイの設定や言い回しの工夫で、禁じられた答えを引き出そうとするのが手口です。名前は、スマートフォンの制限を外す「脱獄」に由来します。

ジェイルブレイク（Jailbreak）関連用語

ジェイルブレイク（Jailbreak）に関連する単語は以下の通りです。

• プロンプトインジェクション攻撃外から命令を紛れ込ませる攻撃とは？→
• ガードレール（AI）出力を止める仕組みは？→
• レッドチーミング弱点を先に探すには？→
• システムプロンプト裏の指示はどう守る？→
• AIセーフティAIの安全の全体像は？→
• RLHF（人のフィードバックによる強化学習）AIを調整する方法は？→

ジェイルブレイク（Jailbreak）で知っておくと得する有益情報

ジェイルブレイクは、サービスを提供する側が特に気をつける問題です。要点を3つにまとめました。

• 手口は日々変わる新しい言い回しが次々に見つかり、完全な防止は困難です。
• 注意の観点が違う指示の乗っ取りとは別に、AI自身の制限を破る話です。
• 多層で備える入出力の点検、権限の制限、記録を重ねて被害を減らします。

ジェイルブレイクとプロンプトインジェクションの違い

ジェイルブレイクはどれ？

次のうち、ジェイルブレイクにあたるものはどれでしょうか。

物語の設定を使い、AIに禁止された回答を言わせようとするAIに丁寧な言葉で質問するAIの回答をコピーして資料に使う

手口は変わり続けるため、提供側は多層の備えと継続的な試験が必要です。

ジェイルブレイク（Jailbreak）やさしい解説

AIをだまして、いけない答えを言わせるってこと？

門番に「これは劇の稽古だから通して」と言って、本当は入ってはいけない人が入ってしまうようなものです。

門番の教育を見直しながら、鍵も何重にかけておく、という対策が基本になります。

自社でAIチャットを公開する場合、社内向けの情報や、社外に出せない回答をAIが話さないよう、設定と点検を重ねます。公開前に、物語の設定などで制限を破れないか、社内の数人で試験しておくと安心です。

ジェイルブレイク（Jailbreak）についてのみんなの疑問

ジェイルブレイクは違法ですか？

行為の内容や利用規約によって、問題になる場合があります。サービスの規約で禁じられていることが一般的です。得た情報の使い方によっては、法的な責任を問われる場合もあります。

自社が使うAIにも影響しますか？

影響が及ぶ可能性はあります。社員が意図せず制限を外すことは少ないですが、お客様向けに公開するAIでは、悪用を前提に備えましょう。

一度対策すれば大丈夫ですか？

手口は変わり続けるため、対策は続けて見直します。開発元の更新情報を確認し、定期的に試験することが大切です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。