Skip to content
Эффективные модели. Воспроизводимые данные. Лучшие решения.Узнать о Huyawo Solutions
Блог/Дообучение SLM: почему маркетплейсы пересматривают стоимость обогащения каталогов

Дообучение SLM: почему маркетплейсы пересматривают стоимость обогащения каталогов

Что исследования Amazon показывают об адаптации небольших моделей для снижения стоимости извлечения атрибутов товаров.

Обезьяна, талисман Huyawo в жёлто-чёрной одежде на жёлтом фоне

Маркетплейс может обрабатывать миллионы товаров ради ответа на простой, на первый взгляд, вопрос: что предлагает каждый из них?

Представьте кофемашину, в описании которой указано давление 15 бар. Чтобы покупатель мог сравнить её с другими, маркетплейсу нужно найти эту информацию и заполнить соответствующее поле каталога. Работы как будто немного. Теперь умножьте её на миллионы объявлений, к которым ежедневно добавляются новые товары и изменения.

Именно здесь использование универсальной LLM для каждого извлечения начинает давить на бюджет.

В 2026 году три исследования команд Amazon показали другой путь. Небольшие модели, адаптированные для атрибутов товаров, заметно снизили стоимость инференса. Исследования также показали, где падает качество и как не превратить экономию в дополнительную работу по проверке.

Для руководителя каталога вопрос должен звучать не как «какая модель лучше пишет», а как «сколько стоит правильный атрибут, готовый к использованию».

Почему обогащение каталога обходится так дорого?

Любой, кто работал с товарными данными, знает проблему. Поставщики описывают товары по-разному даже в одной категории. Часть информации находится в названии, часть в описании, а терминология не всегда единообразна.

Это напрямую влияет на покупки. Если атрибуты заполнены неверно, фильтры не находят товары, сравнения теряют смысл, а покупателю сложнее принять решение.

Языковые модели превращают описания в поля, доступные для запросов. Проблема возникает, когда компания использует одну универсальную модель почти для всех задач, включая те, что повторяются практически без изменений.

Рассмотрим извлечение давления у тысяч кофемашин. Нужно распознать значение и единицу измерения, соблюсти формат каталога и не выдумывать недостающие сведения. Умение вести открытый разговор на любую тему здесь не требуется.

Даже если отдельный инференс кажется дешёвым, он повторяется при каждом расширении или обновлении каталога. Небольшая сумма на товар становится существенной на десятках миллионов записей.

Поэтому объём меняет решение. Чем чаще выполняется обработка, тем разумнее изучить специализированную модель.

Что значит обучить SLM работе с товарами?

SLM означает small language model, то есть небольшую языковую модель. Идея заключается в том, чтобы взять модель с меньшим числом параметров и адаптировать её к определённой задаче, например извлечению атрибутов из описаний товаров.

При дообучении модель получает примеры входных данных и ожидаемых ответов. Она учится выполнять операцию, заполнять нужные поля и оставлять значение пустым, когда это необходимо.

Один из методов, LoRA, позволяет обучать меньше параметров вместо обновления всех весов модели. Это может сократить потребность в памяти во время обучения. Само по себе это не означает, что инференс станет на 98% дешевле. Итоговая стоимость также зависит от выбранной модели и способа её выполнения.

Есть и другой вариант: использовать крупную модель для создания обучающих примеров и передать часть её возможностей небольшой. Это называется дистилляцией. После обучения небольшая модель выполняет задачу, которая раньше зависела от крупной.

На практике компания сосредотачивает работу по адаптации до начала масштабной эксплуатации. Вместо постоянной оплаты редко используемых возможностей она запускает модель, подготовленную для своего процесса.

Стратегия имеет смысл, только если усвоенное поведение остаётся полезным достаточно долго, чтобы окупить обучение и обслуживание. Результаты 2026 года помогают оценить этот потенциал.

Обсудим это решение

Есть повторяющийся процесс с ИИ? Оставьте почту, и я отвечу письменно о пользе специализации.

Адрес используется только для ответа на запрос.

Одно исследование показало снижение стоимости инференса на 98%

В июле 2026 года Лакшман Коласани и Фатеме Тахери Дезаки опубликовали Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce в индустриальной секции ACL.

Исследователи адаптировали Amazon Nova 2 Lite с помощью LoRA для генерации атрибутов при регистрации товаров. Основное сравнение проводилось с Claude Sonnet 4.5, который тогда показывал лучшие результаты для этой задачи среди моделей, проверенных командой.

Расчётная стоимость инференса адаптированной модели оказалась на 98% ниже. Расчёт основывался на открытых ценах моделей во время экспериментов. Задержка p90 также снизилась примерно на 70%. Это означает, что сократилось время, за которое завершались 90% ответов.

Исследование не ограничилось внутренними тестами. В эксперименте с реальными пользователями доля принятых предложений небольшой модели составила 86,4%, против 88,3% у Claude Sonnet 4.5.

Но одну деталь нельзя игнорировать. Доля заполнения принятых атрибутов у небольшой модели составила 59,1%, а у крупной 63,0%. По данным авторов, различия были статистически значимыми.

Таким образом, экономия не сопровождалась идентичными результатами в эксплуатации. Компании нужно решить, оправдывает ли разница в качестве снижение затрат и что делать с полями, которые модель заполнить не может.

Работа также предлагает подход к обучению: выбирать новые примеры по информации, которую модель не извлекла, хотя она уже была в каталоге. Вместо бесконтрольного расширения данных команда сосредоточила второй раунд на случаях с наибольшим расхождением между каталогом и прогнозами.

После двух раундов по тысяче примеров доля корректного заполнения в офлайн-оценке выросла с 66,03% до 74,20%. Это улучшило результат на использованном тестовом наборе, хотя в эксплуатации модель всё ещё уступала крупной.

Для маркетплейса вывод прост: ошибки собственного каталога помогают выбирать следующие обучающие данные. Но прежде чем использовать существующие сведения как эталон, нужно проверить их правильность.

Другое исследование обработало 30 миллионов товаров примерно за 5 тысяч долларов

Опубликованная в октябре 2026 года работа Scaling E-Commerce Attribute Extraction with Parallel Decoding Никхиты Ведулы и коллег рассматривает проблему с другой стороны.

Команда начала с вопроса, который часто упускают: какие атрибуты действительно помогают покупателю различать товары внутри категории?

Сначала крупная модель определяет нужные атрибуты. Затем адаптированный Qwen3-4B извлекает значения из описаний. Система использует Hyper-Parallel Decoding (HPD), позволяющий генерировать значения нескольких атрибутов параллельно, а не последовательно.

Доля правильных извлечений составила около 85%, примерно как у крупной модели сравнения. В исследование также вошла оценка 500 товаров людьми, которая показала приблизительно ту же долю верных ответов.

Экономическая разница видна при обработке 30 миллионов товаров:

Проверенная конфигурация Расчётная стоимость инференса Расчётное время
Базовая LLM через пакетный API 63 000 USD Более 300 часов, без ожидания в очередях
Qwen3-4B с обычной генерацией 46 000 USD 333 часа
Qwen3-4B с HPD 5 000 USD 36 часов

Это суммы, приведённые авторами для конфигурации исследования, а не текущие цены облачных сервисов. Команда также оценила один этап дообучения на восьми GPU A100 примерно в 350 USD. Сумма не включает все затраты на данные и разработку.

Экономия 92% относительно базовой LLM впечатляет, но важно различать причины: её обеспечило не только дообучение. Выполнение с HPD имело решающее значение. Тот же Qwen3-4B при обычной генерации атрибутов стоил в эксперименте гораздо дороже.

Это сравнение показывает, что небольшая модель лишь часть решения. Формат ответа и способ инференса могут существенно изменить стоимость обработки каталога.

Исследование проводилось на английских описаниях товаров. Прямое применение к каталогам на португальском требует отдельной оценки, особенно при неполных описаниях или других соглашениях об единицах измерения.

Что делать, когда небольшая модель ошибается?

Именно здесь многие предложения экономии перестают убеждать.

Неверный атрибут может навредить фильтрам и сравнениям. Если слишком много записей приходится проверять вручную, экономия на инференсе теряет ценность.

В октябре 2026 года другая работа индустриальной секции EMNLP, When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs, исследовала, как выбирать ответы SLM, которые следует принимать.

Решение учитывало не только уверенность модели, но и выполняемую задачу. Модель может часто верно определять один атрибут и регулярно ошибаться в другом. Единый порог уверенности для всего плохо отражает эту разницу.

Механизм отбора с учётом типа товара и атрибута позволил принять на 11,4 процентного пункта больше прогнозов, чем общий порог. При этом наблюдаемая точность среди принятых ответов осталась 90,3% в рассматриваемой точке оценки.

Это не означает, что SLM стала на 11,4% точнее. Преимущество заключалось в использовании большего числа ответов без снижения измеренной точности.

Для эксплуатации это важно. Небольшая модель может обрабатывать основную часть объёма, а более рискованные случаи передаются на проверку или другой модели. Не каждая ошибка требует крупной LLM: иногда лучше оставить поле пустым до появления достаточных данных.

Не нужно оплачивать самую дорогую модель для каждого товара. Нужно знать, когда можно использовать более дешёвый ответ.

Как понять, выгодно ли дообучение вашему маркетплейсу?

Начните с категории, куда поступает много товаров и где регулярно приходится заполнять или исправлять поля. Измерьте определённую задачу, прежде чем распространять решение на весь каталог.

Разделите товары на обучение, валидацию и тест. В тесте оставьте товары, которых модель не видела при адаптации, и описания, отражающие текущий поток. Иначе результат может выглядеть лучше, чем окажется в работе.

Сравните существующую систему с SLM без адаптации и с той же SLM после дообучения. Если интересен HPD или другой метод инференса, сравните его отдельно. Это отделит эффект обучения от эффекта выполнения.

Затем оценивайте каждый атрибут, а не только товар целиком. Средняя доля успеха может скрыть ошибки в наиболее важных для бизнеса полях. Измерьте также число записей, требующих проверки, и число незаполненных.

Экономическая метрика должна учитывать получение правильного и одобренного атрибута, а не только цену генерации ответа:

Стоимость одобренного атрибута = (инференс + проверка + исправление + инфраструктура + амортизированное обучение) ÷ количество правильно одобренных атрибутов.

Все затраты должны относиться к одному периоду. Стоимость обучения распределяется на объём, который планируется обработать до следующей адаптации.

Такой расчёт помогает избежать частой ошибки: считать модель дешёвой из-за более дешёвой GPU, не учитывая труд по исправлению её ответов.

При частых обновлениях и большом объёме адаптированная SLM представляет интерес. Начальные вложения распределяются на множество извлечений. Небольшой каталог может не дать достаточной экономии для отдельной инфраструктуры.

Критерий расширения объективен. Если SLM выдаёт нужные атрибуты, удерживает ошибки в допустимых пределах и снижает стоимость одобренного атрибута, есть основание расширять её применение.

Обсудим это решение

Есть повторяющийся процесс с ИИ? Оставьте почту, и я отвечу письменно о пользе специализации.

Адрес используется только для ответа на запрос.

Следующий прирост эффективности может быть в каталоге, а не в более крупной LLM

Исследования 2026 года показывают, что обогащение товаров небольшими моделями уже не только лабораторная возможность. Есть результаты внедрения, сравнения стоимости и методы выбора пригодных ответов.

Цифры существенны: 98% расчётного снижения стоимости инференса в одном исследовании и 92% в другом. Они получены в разных условиях и не обещают такую же экономию любому маркетплейсу.

Главный вывод в другом. Когда нужно извлекать атрибуты из миллионов товаров, разумно начать со специализации небольшой модели, измерить её качество и оптимизировать выполнение задачи. Универсальная LLM на каждом этапе может означать постоянную оплату неиспользуемых возможностей.

Если вашей компании нужно оценить это решение на собственных данных, объёмах и требованиях к качеству, Huyawo Solutions занимается выбором и адаптацией моделей для бизнес-задач. Общение ведётся письменно.

Использованные исследования и документация

  1. Коласани и Дезаки, Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce, ACL Industry Track, июль 2026.
  2. Ведула и коллеги, Scaling E-Commerce Attribute Extraction with Parallel Decoding, AKBC, октябрь 2026.
  3. Мансури и коллеги, When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs, EMNLP Industry Track, октябрь 2026.
  4. Hugging Face, документация LoRA в PEFT.
Antonio V. Franco
Об авторе:

Antonio V. Franco

Инженер ИИ и основатель Huyawo Solutions

Антонио В. Франко — инженер в области искусственного интеллекта, основатель Huyawo Solutions и всей экосистемы Huyawo. Его работа сосредоточена на исследовании, разработке и оптимизации ИИ-агентов и моделей, с акцентом на эффективность и открытые модели. Во главе Huyawo он объединяет инженерный подход, исследования и деловое видение, чтобы создавать технологии, развивать знания и помогать компаниям решать задачи с помощью ИИ. Он также делится результатами в статьях и проектах с открытым кодом, внося вклад в развитие отрасли.

Следить за Антонио:
Есть задача по инженерии ИИ?

Опишите контекст и ограничения.

Huyawo Solutions
01 / 06

Чем я могу помочь?

Опишите техническое решение, которое нужно принять. Выберите сообщение или структурированное описание задачи.

Безопасная отправка будет доступна после активации.

Чем я могу помочь?

Опишите техническое решение, которое нужно принять. Выберите сообщение или структурированное описание задачи.

H.