Что такое – Yandex AI Studio
Развитие больших языковых моделей (YandexGPT, Llama, Qwen и других) создало потребность в эффективном инференсе, гибкой настройке и удобных инструментах, которые ускоряют разработку продуктов на их основе. Локальный запуск и ручная работа с LLM подходят для экспериментов, но не для промышленного внедрения. При росте нагрузки возникают проблемы с масштабированием, отказоустойчивостью и отсутствием единого набора API и инструментов, необходимых для быстрой разработки в компаниях.Готовая платформа для работы с языковыми моделями решает ряд проблем:
- Сложность интеграции — LLM должны работать в составе бизнес-приложений, а не изолированно.
- Высокая стоимость — необходимо оптимизировать использование GPU и снижать затраты на инференс.
- Нестабильность ответов — модели могут выдавать вредоносный, неточный или нерелевантный контент.
- Масштабируемость — при росте нагрузки инфраструктура должна автоматически адаптироваться.
- Безопасность — контроль доступа, защита данных и соблюдение регуляторных требований.
В Yandex Cloud такой платформой является Yandex AI Studio.
На схеме выше представлены основные блоки компонентов платформы:
- Model Gallery — слой базовых моделей. В него входят проприетарные и опенсорс-модели для работы с текстом, звуком и изображениями. Здесь же доступны инструменты для адаптации моделей под конкретные задачи.
- Agent Builder — набор компонентов для создания текстовых и голосовых агентов. В него входят инструменты для поиска по внутренним базам и в интернете, обращения к внешним API и другим системам для получения информации и выполнения действий.
- AI Search — компонент для выполнения корпоративного поиска по внутренним базам. Он включает инструменты для управления базами знаний.
- Workflows — инструмент для реализации сложных сценариев, которые состоят из нескольких обращений к моделям и AI-агентам.
- UI — интерфейс для прототипирования и тестирования моделей и AI-агентов.
- Observability and evals — инструменты для мониторинга и оценки качества решений.
- Security — слой безопасности с настройкой доступов и распределением ролей пользователей.
ЛогикаДавайте подробнее рассмотрим основные функциональные блоки платформы Yandex AI Studio!
Генеративные модели и их адаптация
Построение любого продукта на базе генеративного ИИ невозможно без слоя языковых моделей — это ядро всей платформы. В Yandex AI Studio к этому слою относятся:
- языковые и мультимодальные модели;
- модели для генерации изображений;
- модели векторизации текста;
- инструменты для адаптации моделей под конкретные бизнес-задачи.
Работа с платформой начинается с тестирования разных моделей под конкретную задачу. Пользователи могут подбирать модели и экспериментировать с промптами через Playground в AI Studio и с помощью Completion API или SDK. Подробнее о способах обращения к моделям вы узнаете в этом курсе.
📚 API для работы с моделями и инструментами Yandex AI Studio совместим с API OpenAI. Вы можете легко использовать популярные опенсорс-фреймворки вроде LangGraph и LlamaIndex без дополнительных адаптеров и переписывания кода.📚 В Yandex AI Studio доступны как проприетарные модели Яндекса — YandexGPT, YandexART, так и модели с открытым исходным кодом, например Qwen, Gemma, DeepSeek. Список регулярно обновляется и доступен в документации AI Studio.Тарификация моделей в облаке зависит от их типа, способа работы с ними и количества использованных токенов.
ЛогикаПодробнее работу с моделями, их возможности и ограничения мы разберём в следующих уроках! А пока поговорим про дообучение.
Дообучение
Во многих задачах достаточно подобрать хороший промпт, которому модель будет следовать.📚 Существует множество техник написания промптов — базовые разобраны в отдельном курсе.Но бывают случаи, когда одного промпта недостаточно. Он может быть слишком длинным или сложным, и модель не учтёт все условия. Иногда нужно, чтобы модель стабильно отвечала от лица конкретной роли, которую трудно описать словами, но можно показать на примерах.Для таких задач на платформе доступны инструменты low-code для дообучения моделей методом Low-Rank Adaptation (LoRA). Этот подход позволяет адаптировать LLM под конкретную задачу без полного переобучения. Он не требует больших датасетов (достаточно 1000 —10 000 примеров) и работает значительно быстрее, чем обучение модели с нуля.
Созание AI-агентов
Во многих сложных сценариях одной языковой модели недостаточно. Чтобы создать полноценного AI-агента, нужно подключать внешние инструменты, к которым модель может обращаться. Это может быть поиск по внутренней базе знаний, доступ в интернет для получения актуальной информации, генерация и выполнение кода или работа с внешними сервисами вроде CRM, Jira или Трекера.Платформа Yandex AI Studio предоставляет набор готовых инструментов, которые помогают быстро собрать такого агента. Этот второй слой над моделью превращает LLM в рабочий инструмент для бизнес-задач. Агента можно создать в интерфейсе AI Studio, через Responses API (для текста), Realtime API (для голоса) или через Python SDK.Платформа AI Studio предоставляет необходимые базовые блоки, чтобы собрать полноценного AI-агента:✅ Языковая модель и её настройки, доступные в базовом слое платформы.✅ Системный промпт с описанием общего поведения агента.✅ Внешние инструменты, которые доступны агенту:
- поиск по внутренним базам знаний (RAG/File Search Tool);
- поиск по интернету (Web Search Tool).
✅ Внешние API и функции через протокол MCP (Model Context Protocol).✅ Дополнительные параметры для агента: структурированный вывод (structured output) или режим рассуждений.✅ Память для краткосрочного и длительного хранения информации о переписке или важной информации для агента.
Поиск по внутренним базам
Один из самых частых сценариев использования языковых моделей — ответы на пользовательские вопросы с опорой на внешнюю базу знаний (подход RAG, Retrieval-Augmented Generation).На платформе Yandex AI Studio для этого доступен Vector Store API — инструмент для управления базой знаний: можно загружать и удалять документы, настраивать поиск, а также подключать заранее подготовленные фрагменты текста (чанки).Поддерживаются разные форматы файлов: PDF, XLSX, PPTX, TXT и другие. При загрузке документы автоматически преобразуются в формат, удобный для работы с моделью. После этого агент сможет использовать поиск, чтобы находить нужную информацию и формировать на её основе ответ.Пользователи могут гибко настраивать поиск под свой набор данных:
- подключать перефразирование;
- дообучать модель векторизации;
- получать информацию об источниках;
- настраивать метаданные, фильтровать доступы.
ЛогикаЕсли какие-то из терминов выше вам незнакомы, не переживайте, мы подробно разберём каждую возможность по ходу курса!Поиск можно использовать и без языковой модели. Если нужно найти документы или фрагменты, которые подходят под заданный текст, можно обратиться к Vector Store API.
Поиск по внешним базам
В некоторых сценариях важно получить актуальную информацию в момент запроса. Например, если пользователь задаёт вопрос о текущих событиях или ищет самые свежие данные.Для таких задач агент в Yandex AI Studio может использовать готовый инструмент — поиск в интернете с помощью Web Search Tool. Он подключается к агенту как внешний источник и позволяет находить свежую информацию, которую модель может использовать для формирования ответа.
Подключение внешних API
AI-агенты часто выполняют задачи, которые требуют обращения к внешним системам: CRM, аналитическим платформам, сервисам управления задачами и другим. Например, агент может получить статус заявки из CRM или построить дашборд на основе данных.Для взаимодействия с такими системами в AI Studio используется Model Context Protocol (MCP) — специальный протокол, с помощью которого языковая модель может вызывать внешние функции и использовать их в ответе.Для создания и управления внешними подключениями пользователям доступен MCP Hub, он позволяет:
- создать с нуля новый MCP-сервер, который предоставит инструменты для выполнения произвольного кода или обращения к внешнему API любого формата;
- подключиться к удалённому MCP-серверу, развёрнутому на отдельных мощностях в Yandex Cloud или вне его.
После создания MCP-сервера пользователи могут подключать его к различным агентам, созданным внутри платформы.
Голосовые агенты
Взаимодействие с AI-агентами возможно в двух форматах: текстовом и голосовом. Благодаря отдельному Realtime API возможны сценарии, когда агенты понимают голос, распознают перебивания, генерируют ответы разными голосами, причём с минимальными задержками по времени.
AI Workflows
Решение одной задачи с помощью генеративного ИИ часто требует цепочки действий: обращения к разным языковым моделям или взаимодействия нескольких AI-агентов. Для построения таких сценариев используют опенсорс-фреймворки вроде LangGraph или LlamaIndex, а в Yandex AI Studio доступно удобное решение low-code — AI Workflows.В AI Workflows каждое действие (вызов модели, агента или инструмента) оформлено в виде отдельного блока. Эти блоки можно соединять в нужном порядке и собирать цепочки логики без написания кода.
В интерфейсе конструктора рабочий процесс визуализируется в виде кубиков, которые представлены блоками (или шагами) двух видов:
- Функциональные — выполняют конкретные действия, например обращение к языковым моделям или внешним сервисам (Yandex Tracker или Yandex Cloud Postbox).
- Управляющие — логические операции, управляющие порядком и условиями выполнения: Switch — условный переход, Foreach — для организации циклов, Fail и Success — для обработки результата.
В Yandex AI Studio можно создавать агентов на основе языковой модели, которая выполняет действия через инструменты из MCP Hub. Ещё один вариант — реализовать заранее заданную цепочку действий с помощью Workflows.
0 комментариев