ガードレール ​

ガードレールは、ジーニーが信頼性高く適切に動作することを保証する組み込みのセキュリティおよび安全管理機能です。ガードレールはジーニーの Build ページで構成します。パネルは以下のセクションで構成されています。

• Content safety：常時有効で読み取り専用の Prompt Attack および Harmful Content ガードレールの感度を設定します。これにより、スパム、フィッシング、プロンプト攻撃、有害コンテンツから保護します。
• Data Protection：PII 検出のオン/オフを切り替え、エンティティタイプごとの取り扱いモードを構成し、カスタム正規表現パターンを定義します。
• Topic & word filters：冒涜表現フィルターとカスタム単語フィルターのオン/オフを切り替え、単語およびフレーズリストを管理します。Denied Topics を使用して拒否トピックを追加、編集、削除できます。

コンテンツ安全ガードレールは低、中、または高の感度に構成できます。感度設定は、PII 検出やトピックおよび単語フィルターには適用できません。

ブロック感度レベル

Content safety ​

コンテンツ安全ガードレールはすべてのジーニーで自動的に有効になっており、無効にすることはできません。コンテンツ安全は以下で構成されています。

• Prompt Attack 検出は、ジーニーの動作を操作したり、システム構成を抽出したりする試みをブロックします。

• Harmful Content フィルタリングは、危険な素材が処理または生成されることを防ぎます。

Prompt Attack ​

Prompt Attack 検出は、ジーニーの動作を操作したり、安全ガイドラインを回避したり、システム構成を抽出したりする試みをブロックします。これには以下が含まれます。

• プロンプトインジェクション：Ignore all previous instructions で始まるメッセージなど、ジーニーの指示を上書きするように作成された入力です。
• ジェイルブレイクの試行：安全ガイドラインを回避するように設計されたロールプレイシナリオまたはマルチターン操作です。
• プロンプトリーク：ジーニーのジョブ説明やシステムプロンプトを表示させようとするリクエストです。

プロンプト攻撃が検出されると、ジーニーの実行は直ちに停止し、以下のメッセージが表示されます：I'm not able to process this request. Please try rephrasing your question.

Harmful Content ​

Harmful Content フィルタリングは、危険な素材が処理または生成されることを防ぎます。検出は、以下のカテゴリでユーザー入力とジーニー出力の両方に適用されます。

• ユーザー入力で有害コンテンツが検出された場合：ユーザーには以下のメッセージが表示されます：Your message contains content that I'm not able to respond to. Please rephrase your request.
• ジーニー出力で有害コンテンツが検出された場合：ユーザーには以下のメッセージが表示されます：I'm not able to provide a response to this request.

オプションのガードレール ​

オプションのガードレールは、Build ページの Guardrails パネルでジーニーごとに構成できます。オプションのガードレールはデフォルトでオフになっています。

PII 検出 ​

PII 検出は、会話内の個人を特定できる情報を識別し、構成したモードに従って処理します。検出は以下のチェックポイントに適用されます。

• ユーザー入力
• ツール入力および出力
• ジーニー出力

以下の高リスクエンティティタイプはデフォルトでオンになっています。

• 社会保障番号
• クレジットカード番号
• 銀行口座番号
• パスワード
• API キー

低リスクのエンティティタイプはデフォルトでオフに設定されています。以下の低リスクエンティティタイプの検出のオン/オフを切り替えることができます。

• メールアドレス
• 電話番号
• 氏名
• 住所

取り扱いモード ​

各エンティティタイプで検出された PII の処理方法を構成できます。

トークン化の動作 ​

トークン化により、ジーニーは生の値を公開することなく、PII を含むコンテンツを推論できます。以下のルールが適用されます。

• 同じ PII 値は、会話内で常に同じトークンにマッピングされ、参照の一貫性が保たれます。
• トークンマッピングは会話のスコープ内に限定され、デバッグトレース、ログ、または API レスポンスで公開されることはありません。
• PII を含むツールレスポンスは、LLM に送信される前にトークン化されます。
• トークンを含むジーニーの出力とスキルの入力は、トークン化が解除されます。
• ネストされた各ジーニーは独立したトークンマッピングを保持します。

カスタム正規表現パターン ​

従業員 ID など、組織固有の機密データを検出するために、最大 10 個のカスタム正規表現パターンを定義できます。各パターンには名前と有効な正規表現文字列が必要で、組み込みエンティティタイプと同じ取り扱いモードをサポートします。パターンは保存前に検証されます。

PII ブロックがトリガーされると、ユーザーには次のメッセージが表示されます：Your message contains sensitive personal information. Please remove personal details and try again.

冒涜表現フィルター ​

冒涜表現フィルターは、AWS Bedrock が管理する単語リストを使用して、ユーザー入力とジーニー出力の両方で冒涜的なコンテンツをブロックします。冒涜表現フィルターがトリガーされると、ジーニーの実行が停止し、ユーザーには以下のメッセージが表示されます：Your message contains content that is not allowed.

カスタム単語フィルター ​

カスタム単語フィルターでは、会話から特定の単語またはフレーズをブロックできます。マッチングは大文字小文字を区別せず、完全一致であり、部分文字列ベースではありません。最大 100 個の単語またはフレーズを追加でき、フィルターをユーザー入力、ジーニー出力、または両方に適用するかを構成できます。

カスタム単語フィルターがトリガーされると、ジーニーの実行が停止し、ユーザーには以下のメッセージが表示されます：Your message contains content that is not allowed.

拒否トピック ​

拒否トピックでは、ジーニーが議論すべきでない主題を定義できます。検出はキーワードマッチングではなく意味的理解を使用し、拒否トピックの言い換えや間接的な参照をキャッチします。ジーニーごとに最大 30 個の拒否トピックを定義できます。

各トピックには名前と自然言語による定義が必要です。また、検出精度を向上させるため、トピックごとに最大 5 つの例示クエリを追加できます。

拒否トピックが検出されると、ジーニーの実行が停止し、ユーザーには以下のメッセージが表示されます：I'm not able to discuss this topic.

デバッグトレース ​

すべてのガードレール評価は、会話のデバッグトレースで Input Guardrails または Output Guardrails というステップ名の下に表示されます。各エントリには、ガードレールのタイプ、合格/不合格のステータス、却下理由、評価時間が表示されます。

検出された PII の値は決して平文で保存されません。マスクされた値は、デバッグトレースと会話履歴に以下の形式で表示されます。

ガードレールを始める ​

Agent Studio の任意のジーニーにガードレールを追加できます。このセクションの手順は、Workato にサインインしており、ガードレールを追加する予定のジーニーをすでに作成していることを前提としています。

ジーニーにガードレールを追加するには、以下の手順を実行します。

ガードレールをテストする ​

Test モードでガードレールをテストできます。テストにより、本番環境に移行する前に、ジーニーが適切に応答するようにガードレールを改善できます。

ガードレールをテストするには、以下の手順を実行します。