Перейти к содержимому
Puzzle RPA

Выполнить запрос в GPT

image_1

Описание

Блок выполняет текстовый запрос к GPT.

Описание параметров

Блок имеет несколько основных параметров:

  1. Выполнить запрос к - тип языковой модели.

    В выпадающем списке можно выбрать один из вариантов:

    image_9

    1. Сервер PuzzleGPT - адрес сервера PuzzleGPT;

      Тип данных: str (Строка)

      Пример: 127.0.0.1

    2. Логин - имя учетной записи PuzzleGPT;

      Тип данных: str (Строка)

      Пример: user

    3. Пароль - пароль учетной записи PuzzleGPT;

      Тип данных: str (Строка)

      Пример: password

    4. Ваши инструкции к GPT - инструкции, которые описывают поведение GPT по умолчанию;

      Тип данных: str (Строка)

      Пример: Ты чат-бот помощник по работе PuzzleRPA

    5. Контекст - история запросов и ответов от GPT, который представлет собой список словарей с историей сообщений от GPT;

      Тип данных: list (Список)

      Пример: [{'role': 'user', 'content': 'Ваш запрос к PuzzleGPT'}]

      Контекст передаётся как список словарей, где каждый словарь представляет одно сообщение в диалоге:

          [
              {'role': 'user', 'content': 'Ваш запрос к PuzzleGPT'},
              {'role': 'assistant', 'content': 'Ответ от PuzzleGPT'},
              ...
          ]
      • role - определяет, кто отправил сообщение:
        • user — сообщение от пользователя (вопрос, команда, данные и т.д.).
        • assistant — ответ модели (используется для сохранения истории диалога).
      • content - сообщение полученное от пользователя или модели.

    6. Запрос - ваш вопрос к GPT;

      Тип данных: str (Строка)

      Пример: Что такое Puzzle RPA

    7. ID - бота - уникальный идентификатор обученной модели бота;

      Тип данных: str (Строка)

      Пример: 69d89f27-acd2-436f-8b2d-b639ee424e4f

      Создание бота Список переменных и функций - встроенный инструмент Puzzle RPA, который отображает все функции и переменные, используемые в проекте. Подробнее...

    8. Максимальное число токенов - отдельные единицы текста, такие как отдельные символы или слова. Установка более высокого значения позволит модели сгенерировать более длинные ответы, но при этом может быть увеличено время выполнения запроса и учтены дополнительные токены в расчете стоимости;

      Тип данных: int (Целое число)

      Пример: 4096

    9. Уровень случайности - параметр контролирует степень случайности ответов модели. Значение близкое к 0.0 приведет к более жестким и детерминированным ответам, тогда как значение близкое к 1.0 сделает ответы более разнообразными и случайными.

      Тип данных: float (Рациональное число)

      Пример: 0.1

Возвращаемое значение

Блок возвращает ответ от модели GPT в виде строки.

Пример использования

В приведённом примере к модели PuzzleGPT последовательно отправляются два запроса:

  1. Объявляется переменная context, предназначенная для хранения истории диалога;
  2. Выполняется цикл из двух запросов:
    • Что такое PuzzleRPA?
    • Какие есть плюсы у платформы?
  3. Выполняется первый запрос к модели PuzzleGPT;
  4. Запрос и ответ PuzzleGPT добавляется в список переменной context для учета общего смысла в следующем запросе;
  5. Выполняется второй запрос к PuzzleGPT с учетом контекста.
image_2

Результат

Вывод на экран первого ответа нейросети:

image_3

Вывод на экран второго ответа нейросети:

image_4