Представляет все возможные параметры конфигурации для запроса в чате-GPT. Этот объект может быть отправлен в качестве конфигурации для предсказания и может быть использован в методе предсказания для упрощения запросов. Значение каждого поля идентично ChatCompletionRequest. Значения в ChatCompletionRequest имеют более высокий приоритет.
Константы для поля "role".
system: Система.user: Пользователь.assistant: Ассистент.
Упрощенная форма запроса ChatGPT без дополнительных опций.
messages: Список сообщений, составляющих разговор.
Запрос для ChatGPT.
model: Идентификатор используемой модели.messages: Список сообщений, составляющих разговор.temperature: Температура сэмплирования.topP: Вероятность сэмплирования по верхнему P.n: Количество вариантов завершения для каждого входного сообщения.stream: Флаг для отправки частичных сообщений.stop: Список последовательностей, на которых модель должна остановиться.maxTokens: Максимальное количество токенов для генерации завершения.presencePenalty: Штраф за присутствие.frequencyPenalty: Штраф за частоту.logitBias: Вес токенов.user: Уникальный идентификатор пользователя.systemPrompt: Системное предложение.
Результат завершения чата.
id: Уникальный идентификатор завершения чата.object: Тип объекта, всегда "chat.completion".created: Временная метка создания завершения.model: Использованная модель.choices: Список вариантов завершения.usage: Статистика использования запроса.
Статистика использования запроса.
promptTokens: Количество токенов в промпт.completionTokens: Количество токенов в завершении.totalTokens: Общее количество токенов в запросе (промпт + завершение).
Сообщение в чате.
role: Роль автора сообщения.content: Содержимое сообщения.
Выбор завершения чата.
index: Индекс выбора в списке.message: Сгенерированное сообщение модели.finishReason: Причина остановки модели.
Частичный результат завершения чата.
id: Уникальный идентификатор чанка завершения чата.object: Тип объекта, всегда "chat.completion.chunk".created: Временная метка создания чанка.model: Использованная модель.choices: Список вариантов завершения чата.
Выбор завершения чанка чата.
index: Индекс выбора в списке.delta: Частичное сообщение, сгенерированное потоком модели.finishReason: Причина остановки модели.