Azure OpenAI - テキストプロンプト完了アクション
Complete text promptアクションは、OpenAIの言語モデルを使用して、指定されたプロンプトの補完を生成します。 プロンプトとパラメーターを指定すると、アクションは1つまたは複数の予測補完を返します。 このアクションを使用して、テキストのオートコンプリート、質問への回答、新しいコンテンツの生成を行います。
Complete text promptアクション
入力
| 入力フィールド | 説明 |
|---|---|
| デプロイメントID | 使用するモデルのデプロイメントIDを入力します。 デプロイメントIDはAzure AI Studio > Deploymentで確認できます。 |
| プロンプト | 補完を生成するプロンプトを入力します。 プロンプトを指定しない場合、モデルは新しいドキュメントの先頭からのようにコンテンツを生成します。 複数の文字列またはトークンに対する応答を作成する場合は、関連情報をデータピルとして入力します。 詳細については、OpenAIのドキュメントを参照してください。 |
| 最大トークン数 | 補完で生成するトークンの最大数を入力します。 プロンプトのトークン数とこの値の合計は、モデルのコンテキスト長を超えることはできません。 ほとんどのモデルのコンテキスト長は2048トークンです。 GPT 3.5-turboなどの新しいモデルは4096をサポートしています。 |
| サフィックス | 挿入されたテキストの補完の後に続くサフィックスを選択します。 |
| Top p | 補完の多様性を制御するため、0～1の値を入力します。 値が大きいほど、応答のバリエーションが増えます。 top pまたはtemperatureのいずれかを使用し、両方は使用しないことをお勧めします。 詳細については、OpenAIドキュメントを参照してください。 |
| Temperature | 補完のランダム性を制御するため、0～2の値を入力します。 値が大きいほど出力はランダムになり、値が小さいほど焦点が絞られ、決定論的になります。 temperatureまたはtop pのいずれかを使用し、両方は使用しないことをお勧めします。 詳細については、OpenAIドキュメントを参照してください。 |
| 補完数 | 各プロンプトに対して生成する補完の数を入力します。 |
| ログ確率 | 次のn個（この値で決定）の可能性が高いトークンセットと、選択されたトークンのログ確率を取得するには、数値を入力します。 詳細については、OpenAIドキュメントを参照してください。 |
| 停止フレーズ | 生成を終了する停止フレーズを入力します。 たとえば、停止フレーズをピリオド.に設定すると、モデルはピリオドに到達するまでテキストを生成し、その後停止します。 これを使用して、生成されるテキストの量を制御します。 |
| 存在ペナルティ | -2.0～2.0の数値を入力します。 正の値は、それまでのテキストに新しいトークンが出現しているかどうかに基づいてペナルティを課し、モデルが新しいトピックについて話す可能性を高めます。 |
| 頻度ペナルティ | -2.0～2.0の数値を入力します。 正の値は、それまでのテキストにおける既存の頻度に基づいて新しいトークンにペナルティを課し、モデルが同じ行をそのまま繰り返す可能性を下げます。 |
| Best of | 送信前に生成する結果の数を制御する値を入力します。 補完の数を、ここに入力した値より小さくすることはできません。 |
| Logit bias | トークンと、それぞれの特定のトークンに対するlogitの変更を含むJSONを入力します。 たとえば、{"50256": -100}を渡して、モデルが<|endoftext|>トークンを生成しないようにできます。 詳細については、OpenAIドキュメントを参照してください。 |
| ユーザー | エンドユーザーを表す一意の識別子を入力します。これは、OpenAIが不正使用を監視および検出するのに役立ちます。 |
出力
| 出力フィールド | 説明 |
|---|---|
| 作成日時 | 応答が生成された日時スタンプ。 |
| ID | 送信された特定のリクエストと応答を示す一意の識別子。 |
| モデル | テキスト補完の生成に使用されたモデル。 |
| テキスト | 指定された入力に対するモデルの応答。 |
| 終了理由 | モデルが追加のテキスト生成を停止した理由。 多くの場合、停止語または長さが原因です。 |
| Logprobs | トークンとそれに対応する確率を含むオブジェクト。 たとえば、ログ確率を5に設定すると、最も可能性の高い5つのトークンのリストを受け取ります。 応答には、サンプリングされたトークンのlogprobが含まれます。 応答には最大でlogprobs+1個の要素が含まれる場合があります。 |
| 応答 | OpenAIが確率的に理想的な選択であると見なす応答を含みます。 |
| プロンプトトークン | プロンプトで使用されたトークンの数。 |
| 補完トークン | テキストの補完に使用されたトークンの数。 |
| 合計トークン | プロンプトと応答で使用されたトークンの合計数。 |
Last updated: