OpenAI - テキストモデレーションアクション
このアクションを使用して、入力テキストがOpenAIのコンテンツポリシーに違反しているかどうかを確認します。 詳細については、OpenAIのmoderations APIドキュメントを参照してください。 このアクションにより、ユーザーは特定の基準に基づいてテキストコンテンツをフィルタリング、モデレート、分類できます。 このAPIは、次のようなさまざまなユースケースで使用できます。
- コンテンツモデレーション： 企業はこのアクションを使用して、ソーシャルメディアプラットフォームやフォーラムなどのプラットフォーム上にあるユーザー生成コンテンツから、不適切または攻撃的なコンテンツを自動的にフィルタリングできます。
- カスタマーサービス： このアクションを使用して、メッセージの内容に基づいて顧客からの問い合わせや苦情を適切な部門または担当者に自動的に分類およびルーティングします。
- センチメントモニタリング： ユーザーはテキストモデレーションアクションを使用して、ソーシャルメディアやその他のオンラインプラットフォームで自社ブランドへの言及を監視し、センチメントに基づいて自動的に分類できます。これにより、否定的なコメントや顧客からの苦情に迅速に対応できます。
テキストモデレーションアクション
入力
| フィールド | 説明 |
|---|---|
| 入力 | 分類する入力テキスト。 分類する関連テキストのリストを入力することもできます。 |
| モデル | 使用するOpenAIモデルをModelドロップダウンメニューで選択します。 モデルが一覧にない場合は、Modelフィールドをクリックしてモデルを入力できます。 デフォルトはtext-moderation-latestで、時間の経過とともにOpenAIによって自動的にアップグレードされます。 text-moderation-stableを使用する場合、OpenAIはモデルを更新する前に事前通知を行います。 text-moderation-stableの精度は、text-moderation-latestよりもやや低い場合があります。 |
出力
| フィールド | 説明 | |
|---|---|---|
| ID | OpenAIに送信されたリクエストの一意の識別子。 | |
| モデル | テキストモデレーションに使用されたモデル。 | |
| 結果 | カテゴリー | カテゴリごとのバイナリ利用状況ポリシー違反フラグの辞書を含みます。 各カテゴリについて、モデルが対応するカテゴリを違反としてフラグ付けした場合は値がtrueになり、それ以外の場合はfalseになります。 |
| Category scores | カテゴリごとのモデルによって出力された未加工スコアの辞書を含みます。これは、入力がそのカテゴリに対するOpenAIのポリシーに違反しているというモデルの信頼度を示します。 値は0～1の範囲で、値が高いほど信頼度が高いことを示します。 スコアは確率として解釈しないでください。 | |
| Flagged | モデルがコンテンツをOpenAIの利用状況ポリシーに違反していると分類した場合はtrue、それ以外の場合はfalseです。 | |
| Best score | 違反している可能性がある各種カテゴリ内の最高スコア。 | |
| Best category | 違反の可能性に対する最高スコアに対応するカテゴリ。 | |
Last updated: