Илья Царев

Денис Исаев

Илья Рубин

Геннадий Евстратов

Александр Бонель

Никита Борисов

Юрий Мещеряков

Никита Илясов

Фёдор Лаврентьев

Сергей Усков

Александр Литвиненко

Антон Полухин

Артём Молчанов

Дима Александров

Дмитрий Курилов

Илья Ирхин

Илья Сидоров

Ольга Зачесова

Павел Горобцов

Татьяна Савельева

Александр Голубев

Ислам Бозиев

Станислав Макеев

Александр Куваев

Саша Швец

Денис Токарев

Павел Пархоменко

Михаил Горбушин

Александр Янин

Дмитрий Широков

Эдик Жук

Егор Овчаренко

Рома Халкечев

Виктор Карпов

Сергей Абрамов

Дарья Редникина

Артём Фомин

Николай Морев

Анна Качкаева

Степан Косолапов

Даниил Орел

Михаил Белкин

Константин Федуров

Александр Блажков

Эдик Оболенский

Иван Калинов

Павел Назаров

Антон Тодуа

Максим Лёвкин

Екатерина Григоренко

Анастасия Арисова

Игорь Березняк

Ваня Ходор

Коля Смирнов

Саша Миронычев

Максим Пчелин

Егор Федяев

Сережа Вальков

Рома Елизаров

Никита Донцов

Георгий Бузин

Слава Клюев

Алексей Ершков

Слава Дорогинин

Илья Ненахов

Саша Фишер

Стас Хабенко

Виталий Макаров

Виталий Яковенко

Кирилл Нейман

Михаил Чарзавакян

Паша Сухов

Руслан Шахаев

Андрей Егунов

Степан Мороз

Серёжа Хорошеньких

Ярослав Фадеев

Алексей Кацура

Миша Шкутков

Виктор Вихров

Саша Борзых

Валера Ильин

Леша Морозов

Марсель Галимуллин

Павел Попов

Макар Должиков

Вова Верстов

Айдар Шайфутдинов

Ирина Ширгазина

Владислав Немиро

Сергей Шмитько

Лилия Царева

Ирина Трояновская

Людмила Александрова

Владислав Гоцуляк

Александр Ветров

Игорь Балан

Василий Борисов

Наталья Филиппова

Дмитрий Матрохин

Леша Золотухин

Выступление Леши Золотухина, разработчика в Техплатформе Городских сервисах Яндекса, на Яндекс Infra Meetup #4

Диагностические дашборды в инфраструктуре на 2000+ микросервисов

Вячеслав  Гончарук

Как избежать дорогих ошибок и оптимизировать процессы при создании робота? Ценные советы от команды Яндекс Роботикс на примере Spectro.

Как создать собственного робота: пошаговое руководство на примере Spectro

Саша Воронцов

Представьте, что у вас есть миллионы товаров, и у каждого из них должна быть своя карточка: максимально подробная, точная и понятная. Именно от этого во многом зависит, насколько легко покупатель найдёт нужный ему товар. Заполнять столько карточек вручную — слишком долго и дорого. Поэтому мы используем ML-инструменты, чтобы упростить этот процесс. Меня зовут Саша Воронцов, я руководитель службы ML в Маркете. Сейчас я расскажу, как мы внедрили в Маркет YandexGPT, чтобы облегчить жизнь продавцам.

## Формализация характеристик

![01 (1).png](https://dev-go-yandex-admin-production.s3.yandex.net/01_1_66cdfb66f5.png)

Одна из первых и самых важных задач — правильно заполнить характеристики товаров. В Маркете этот процесс называется формализацией, а в мире машинного обучения — NER (Named Entity Recognition, распознавание именованных сущностей).

Когда продавец загружает товар, он добавляет к нему описание. Но чаще всего оно далёко от идеала: кто-то перечисляет характеристики в хаотичном порядке, кто-то пишет их в виде сплошного текста без структуры, а иногда встречается и вовсе неформатированное полотно из слов.

![02 (1).png](https://dev-go-yandex-admin-production.s3.yandex.net/02_1_471c1f7512.png)

Но нам важно, чтобы всё было чётко и единообразно. В Маркете характеристики стандартизированы: у нас есть сотни тысяч уникальных атрибутов — от артикула и бренда до цвета, габаритов и технических параметров. Разобрать этот хаос и превратить его в структурированные данные — задача непростая, но крайне важная. Именно поэтому мы используем машинное обучение.

## Традиционный подход

Раньше для обработки характеристик товаров мы использовали собственный инструмент — Формализатор. Он появился вместе с Маркетом и за годы работы оброс настолько сложной логикой, что поддерживать его стало настоящим испытанием.

Как он работал? У каждой из тысяч товарных категорий был свой список допустимых характеристик. Эти параметры собирались в префиксное дерево, а затем алгоритм пытался сопоставить их с каждым словом в заголовке и описании товара.

Проблема была в том, что Формализатор буквально перебирал все возможные характеристики для каждой категории. Это требовало огромных вычислительных ресурсов и делало систему тяжеловесной. Поддержка тоже превратилась в головную боль: категории постоянно менялись, а любое обновление семантики означало долгую и трудоёмкую доработку.

В какой-то момент стало ясно: так дальше работать нельзя. Мы решили отказаться от Формализатора и заменить его на YandexGPT. Это не только упростило поддержку и избавило нас от громоздкой логики, но и сделало систему гибче и понятнее. К тому же, старый сервис зависел от людей, которые знали его устройство с самого начала, а большинство из них к тому времени уже покинули компанию. Теперь работа с характеристиками стала быстрее, точнее и гораздо удобнее.

## Новый подход

В Маркете есть несколько тысяч товарных категорий. Они бывают двух типов: навигационные — те, что пользователь видит в каталоге и внутренние — которые используются в базе данных. По сути это одно и то же, но исторически они существуют отдельно.

![03.png](https://dev-go-yandex-admin-production.s3.yandex.net/03_826e06dce9.png)

У каждой категории есть два списка параметров:

- Разрешённые — любые характеристики, которые могут быть у товара.
- Обязательные — без них товар не попадёт в продажу.

Правильное заполнение параметров напрямую влияет на видимость товара. Если данные указаны не полностью или с ошибками, товар становится труднее найти через фильтры. А значит, он теряет показы и потенциальных покупателей.

Чтобы упростить формализацию, мы подаём на вход YandexGPT два типа данных:

- Всё текстовое описание товара (тайтлы, характеристики, описание и т. д.).
- Список параметров, разрешённых для его категории.

Так мы заранее знаем, какие характеристики могут быть у товара, и учим модель извлекать только те, что реально присутствуют.

Но при работе с реальными данными всегда есть сложности:

1. Ошибки в описаниях. Продавцы часто загружают тексты с опечатками, противоречиями и даже копиями характеристик из других товаров.
2. Постоянные изменения категорий. Мы постепенно переходим к более узким и точным категориям, а из-за этого существенно меняются товарное дерево и список разрешённых и обязательных параметров.
3. Дорогая разметка. Специфика состоит в том, что асессоры, которые размечают контент Маркета, — это специально обученные эксперты с доступом к нашей базе знаний. Их обучение и работа стоят дорого.

## Обучение

Чтобы YandexGPT решал наши задачи максимально эффективно, мы используем три подхода. Каждый из них имеет свои плюсы и минусы, и выбор зависит от сложности задачи, ресурсов и нужной нам точности.

### 1. Чистый промптинг — просто задаём правильные вопросы
Самый быстрый и простой способ — не обучать модель вообще, а просто подбирать удачные формулировки запросов. Иногда это работает: если промпт составлен хорошо, нейросеть может выдавать вполне приличные результаты.

Но есть нюанс: предсказуемости мало. Чем мощнее модель, тем лучше она справляется даже с сырыми запросами, но в нашем случае данных слишком много, а параметры слишком сложные. Так что чистый промптинг — это скорее экспериментальный метод, чем рабочее решение.

### 2. P-tuning — обучение на промптах
Более продвинутый вариант — P-tune. Здесь мы не просто задаём вопросы, а обучаем модель на небольшом количестве данных (обычно несколько тысяч), не меняя её основные веса. По сути, мы просто настраиваем обработку входных промптов.

Этот метод хорош тем, что он быстрый и относительно недорогой. Его можно реализовать даже небольшой командой: достаточно подготовить несколько тысяч примеров, и модель начнёт выдавать нужные результаты. Например, так мы уже генерируем тексты для рекламы и инфографики.

### 3. Fine-tuning — полное переобучение модели
Если задача сложная и требует высокой точности, используется fine-tuning — полное обучение модели на большом датасете — от 10 тысяч примеров и больше. Здесь уже изменяются сами веса модели, а процесс требует серьёзных вычислительных ресурсов.

Главный минус — дороговизна. Чем больше данных, тем выше затраты. Например, если разметка одной задачи стоит 200+ рублей, а обучающий датасет насчитывает десятки тысяч примеров, бюджет выходит внушительным.

### Так что же лучше?

На практике мы используем комбинацию всех трёх методов, подбирая баланс между точностью, затратами и скоростью внедрения. Где-то хватает простого промптинга, где-то нужен P-tuning, а для сложных задач, требующих максимальной точности, подключаем fine-tuning

![2025-04-08.png](https://dev-go-yandex-admin-production.s3.yandex.net/2025_04_08_57342bc6cf.png)

## Выводы и планы на будущее

Формализация — одна из ключевых задач при дообучении модели. Мы меняем все веса, прогоняем тысячи итераций, и каждый раз сталкиваемся с новой сложностью: у нас огромное количество категорий и ещё больше параметров. Чтобы модель научилась корректно извлекать информацию, она должна увидеть примеры из каждой категории, причём во всех возможных вариациях. Это делает процесс обучения непростым, но результат того стоит.

Точность модели уже превышает 98%, а по количеству найденных параметров она не уступает старому «Формализатору». Сейчас мы работаем над дополнительными итерациями обучения, чтобы учесть изменения в инфомодели и параметрах — чем гибче модель, тем лучше она справляется с новыми данными.

Раньше поддержка сервиса требовала много ресурсов. Разработчикам приходилось постоянно обновлять категорийную семантику, а производительность системы должна была соответствовать строгим SLA.

Теперь нагрузка на разработку заметно снизилась, а зависимость от устаревшего кода ушла в прошлое. Правда, вычислительные ресурсы мы не сократили, а перераспределили: вместо CPU и памяти в рантайме теперь используем GPU для YaGPT. Следующая цель — оптимизировать поток данных под новую модель, чтобы сделать её работу ещё эффективнее.

Также важное направление — это выявление ошибок в карточках товаров. Мы уже нашли массу случаев, когда параметры в заголовке и описании противоречили друг другу. Теперь учим модель не просто замечать такие несоответствия, но и подсказывать, как их исправить. Так мы сможем сделать сервис ещё лучше и удобнее для пользователей.





Товары в Маркете теперь обрабатываются через YandexGPT. Рассказываем, как это упростило жизнь продавцам и улучшило качество данных.

Миллиард карточек товаров: как мы научили YandexGPT наводить порядок в Маркете

Яндекс Go — это суперапп с разными сервисами внутри. Это команда сильных разработчиков в сервисе, который влияет на жизнь миллионов людей вокруг. Это работа в кросс-функциональных командах и быстрое постоянное развитие продукта. Это про любовь к разработке и продукту — собственная разработка инфраструктуры позволяет выкатывать новый код за считаные часы, сохраняя доступность не ниже 99,99%. Наши разработчики продуктовых сервисов не тратят время на повторяющиеся однотипные задачи: они сведены к минимуму, и их выполняют роботы.

Яндекс Go — это суперапп с разными сервисами внутри и большими кроссфункциональными командами.

Мы входим в топ крупнейших маркетплейсов и в число самых востребованных сервисов Яндекса. У нас большие планы на будущее и потрясающая команда. Сейчас мы стоим на пороге «большой стройки»: наш сервис становится одним из важнейших направлений развития Яндекса на ближайшие несколько лет, поэтому впереди нас ждёт много интересного.

Яндекс Маркет входит в топ крупнейших маркетплейсов и является одним из самых востребованных сервисов Яндекса. У нас амбициозные планы на будущее и потрясающая команда.

Яндекс Еда — сервис, который решает любые вопросы пользователей, связанные с едой: от заказа продуктов из супермаркетов до доставки блюд из ресторанов. Над Едой работают команды продукта и разработки, логистики, маркетинга, аналитики, операций, коммерции и финансов, а ещё отдел по работе с клиентами и партнёрами. Мы — один из немногих сервисов Яндекса, который одновременно сталкивается с задачами в онлайне и офлайне.

Яндекс Еда — сервис, который решает любые вопросы пользователей, связанные с едой, от заказа продуктов из супермаркета до блюд из ресторанов. Своим партнёрам мы помогаем развивать бизнес, а курьерам — зарабатывать.

Яндекс Лавка — сервис экспресс-доставки продуктов и готовой еды из дарксторов. В технологиях Лавки есть клиентское приложение, сайт, а ещё платформы, которые помогают доставке случиться. Например, складская система для дарксторов, куда входят платформа администратора склада и приложение для кладовщика. Мы — молодой проект: активно строим новое и быстро растём. Мы пока свободны от больших сложных систем легаси, что помогает нам быстро проверять гипотезы и оставлять лучшее и эффективное для наших клиентов.

Яндекс Лавка — сервис экспресс-доставки продуктов и готовой еды из дарксторов. Это как магазин у дома, только не надо никуда ходить.

Яндекс ​​Доставка стремится не только переизобрести индустрию логистики, но и стать самой большой технологической логистической компанией в мире. Мы меняем рынок логистики с помощью технологий и данных: учим сервис эффективно подбирать курьеров на заказы, прогнозировать спрос и оптимизировать маршруты в реальном времени.

Яндекс Доставка — сервис, который помогает людям и бизнесу решать разные логистические задачи: от курьерской доставки по городу и в другие города до грузовой доставки.

Технологическая платформа помогает упростить и ускорить разработку во всех сервисах Яндекс Go. Команды технологической платформы развивают базовые «кубики», из которых Такси, Еда, Лавка и Доставка строят свои продукты. Разработчики этих команд — наши основные заказчики. Главная цель платформы — помочь им разрабатывать новую функциональность быстрее, проще и дешевле, сохраняя высокий уровень доступности и надёжности.

Техплатформа Екома и Райдтеха Яндекса — сервис, который помогает упростить и ускорить разработку. Мы постоянно поддерживаем работу высоконагруженных сервисов, масштабируемся на десятки миллионов пользователей и обрабатываем большие объёмы данных.

Диагностические дашборды в инфраструктуре на 2000+ микросервисов

Другие публикации

Как создать собственного робота: пошаговое руководство на примере Spectro

Миллиард карточек товаров: как мы научили YandexGPT наводить порядок в Маркете