Перейти к основному содержанию

Подключение внешней нейросети (LLM) к ИИ-ассистенту "Котангл"

Около 2 мин

Подключение внешней нейросети (LLM) к ИИ-ассистенту "Котангл"

Раздел управления подключениями LLM доступен только администраторам компании. Он позволяет интегрировать ИИ-ассистента "Котангл" с внешними нейросетями через OpenAI-compatible API.

Страница "Подключение LLM"

Страница предназначена для управления подключениями Компании к внешним нейросетям (LLM, Large Language Model — большая языковая модель).

Страница доступна в Личном кабинете Tangl Auth.

Для перехода непосредственно к странице необходимо нажать кнопку шестерёнки и в меню, в разделе "Компания" выбрать пункт "Подключение LLM".

Основную часть страницы занимает таблица, которая отображает данные о текущих подключениях Компании к внешним нейросетям.

Таблица содержит столбцы:

  • Основной – отображает чекбокс, который отмечает текущее подключение, используемое в системе по умолчанию;
  • Название – заданное пользователем имя конфигурации, название используемой нейросети;
  • id – уникальный системный идентификатор добавленного подключения;
  • apiKey – секретный ключ доступа к нейросети, который отображается в замаскированном виде;
  • endpoint – URL-адрес конечной точки API сервера провайдера;
  • Модель – точный идентификатор версии нейросети на стороне провайдера;
  • Действия – набор иконок для управления подключение, включающий инструменты "Изменить", "Скопировать JSON" и "Удалить".

Для удобства в верхней части расположено поле поиска, позволяющее найти подключение по введённым символам и выпадающий список, позволяющий настроить поиск по конкретному параметру.

Создание подключения

Для стабильной работы с «Котанглом» рекомендуется GPT от OpenAI или актуальные LLM модели с OpenAI-совместимым endpoint.

  1. Нажать кнопку Добавить.

  2. Заполнить параметры подключения внешней нейросети:

    • Название: Уникальное имя подключения (до 64 символов).
    • apiKey: Секретный токен провайдера (до 256 символов). После сохранения он будет маскирован.

    Настоятельно рекомендуется создавать отдельный API-ключ LLM для Tangl (для работы "Котангла"), а не общий ключ, который используется в других сценариях.

    API-ключ – секретные данные. Его ни в коем случаем нельзя передавать посторонним и публиковать в открытых материалах. В интерфейсе ключ отображается в маскированном виде.

    • endpoint: URL конечной точки API (до 256 символов, обязательно начинается с http:// или https://).

    Если endpoint указан неверно или ключ недействителен, запросы в чате будут завершаться ошибкой на стороне внешней нейросети –в этом случае следует провить параметры LLM и доступность API у провайдера.

    • Модель: Идентификатор модели на стороне провайдера.

  3. Отметить опцию "Использовать по умолчанию", если необходимо сделать эту модель основной для всех пользователей компании.

  4. Нажать Добавить.

Кнопка Добавить становится активной только после заполнения всех обязательных полей и при корректном формате поля endpoint.

Если подключение с таким названием уже существует, система покажет ошибку о дублировании имени.

Управление подключением

Редактирование параметров подключения доступно по нажатию кнопки "Изменить".

При редактировании поле apiKey скрыто для безопасности – смену значения настоятельно рекомендуется производить только если нужно заменить старый или скомпрометированный ключ.

После внесения изменений нажать кнопку в виде галочки, для подтверждения изменений.

Отметка "Использовать по умолчанию" не может быть снята, если не отмечено другое подключение.

Чтобы безопасно экспортировать или передать параметры подключения, следует воспользоваться функцией "Скопировать JSON".

При нажатии в буфер обмена сохраняется код следующего формата:

{
  "name": "название",
  "apiKey": null,
  "endpoint": "https://example.com/v1",
  "model": "имя-модели"
}

В целях безопасности реальный токен не экспортируется, поэтому поле apiKey по умолчанию принимает значение null.

Для удаления подключения используется кнопка "Удалить".

После нажатия откроется окно подтверждения, в котором необходимо подтвердить удаление.

Выбор модели

Выбор модели для использования выполняется в "Уголке Котангла" на вкладке "Модели". Модель, отмеченная "По умолчанию" будет иметь соответствующий маркер.

При выборе "Глобальный по умолчанию" будет использоваться встроенный агент Tangl.

Default footer