Пакетный режим запуска моделей, зачем это применяется? ЛогикаИИ не всегда должен отвечать мгновенно. Например, если нужно обработать тысячи запросов за раз — качественно и недорого. Для такого случая существует пакетный режим (batch mode) — когда модель работает в фоне, как печатный станок, а не как живой оператор. В уроке вы узнаете, Читать дальше
Дообучение модели: зачем это надо для ИИ агентов? Стандартные языковые модели — как универсальные инструменты: подходят для многих задач, но не учитывают особенности вашей компании. А что, если адаптировать модель под ваш стиль, процессы и терминологию? Это и есть дообучение. В этом уроке вы узнаете, зачем оно нужно, как работает Читать дальше
Классификаторы, зачем они нужны? Языковые модели умеют не только отвечать на вопросы, но и понимать суть текста. В этом уроке мы поговорим о классификаторах — инструментах, которые помогают автоматически относить текстовые запросы к определённым категориям.Например, система может самостоятельно определить, что перед ней жалоба клиента, вопрос о доставке или заявка на Читать дальше
Как использовать :RAG-подход в Yandex Cloud Языковые модели справляются с общими задачами, но часто этого недостаточно. Они не знают внутренних нормативных документов компании или тонкостей конкретных процессов. Большинство моделей, включая YandexGPT, не заточены под узкие предметные области.Чтобы решить эту проблему, модель нужно интегрировать с внешними источниками информации или дообучить под Читать дальше
Обращение к моделям в формате OpenAI-compatible -как это сделать? 💡 OpenAI API — программный интерфейс для работы с языковыми моделями (LLM) от компании OpenAI. Сегодня он фактически стал отраслевым стандартом. API упрощает работу разработчиков: не нужно разбираться в особенностях каждого сервиса, доступны многочисленные примеры и интеграции. Yandex AI Studio совместим Читать дальше
Что такое – Yandex AI Studio Развитие больших языковых моделей (YandexGPT, Llama, Qwen и других) создало потребность в эффективном инференсе, гибкой настройке и удобных инструментах, которые ускоряют разработку продуктов на их основе. Локальный запуск и ручная работа с LLM подходят для экспериментов, но не для промышленного внедрения. При росте нагрузки Читать дальше
Мои курсыПодарок за друга Как правильно составлять “промт” или описание работы для ИИ агента? Промпт-инжиниринг Эксперименты показывают, что использование определённых приёмов при составлении запросов к генеративным сетям улучшает качество ответов. Например, в научной статье Principled Instructions are All We Need for Questioning LLMs рассматриваются 26 приёмов и оценивается их эффективность. Читать дальше
Yandex DataSphere В предыдущих уроках вы научились пользоваться готовыми сервисами Yandex Cloud для решения типовых задач. Но часто бывает нужным: обучить модель на своих данных; дообучить существующую модель; разместить готовую модель на вычислительных ресурсах Yandex Cloud. Для всех этих задач существует сервис Yandex DataSphere. ЛогикаВ этом уроке вы познакомитесь с Читать дальше
Yandex Translate 💡 Translate — это сервис машинного перевода от Яндекса. Он позволяет переводить текст на более чем 100 языков и определять язык исходного текста. Этот сервис можно использовать в следующих сценариях: для локализации контента, например сайтов или приложений; для перевода чатов и других текстовых коммуникаций, в том числе в Читать дальше
Практика. Vision OCR можно комбинировать с другими сервисами Yandex Cloud в зависимости от задачи. Например, для распознавания текста на иностранном языке и последующего перевода подойдёт связка с сервисом Translate. А чтобы извлечь значения полей из документа и передать их в CRM или другую систему, можно подключить языковую модель в AI Читать дальше