Skip to content
효율적인 모델. 재현 가능한 근거. 더 나은 결정.Huyawo Solutions 살펴보기
블로그/SLM 파인튜닝: 마켓플레이스가 상품 카탈로그 보강 비용을 다시 검토하는 이유

SLM 파인튜닝: 마켓플레이스가 상품 카탈로그 보강 비용을 다시 검토하는 이유

상품 속성 추출 비용을 줄이기 위한 소형 모델 조정에 관해 Amazon 연구가 보여 준 결과.

노란 배경에 노란색과 검은색 옷을 입은 Huyawo 원숭이 마스코트

마켓플레이스는 단순해 보이는 질문에 답하기 위해 수백만 개 상품을 처리하기도 합니다. 각 상품은 무엇을 제공할까요?

설명에 압력이 15 bar라고 적힌 커피머신을 떠올려 보세요. 고객이 다른 상품과 비교하려면 마켓플레이스가 이 정보를 찾아 카탈로그의 해당 필드에 넣어야 합니다. 작업은 작아 보입니다. 이제 매일 들어오는 새 상품과 수정 사항까지 포함해 수백만 개 판매 목록에 이 작업을 반복한다고 생각해 보세요.

이때부터 매번 정보를 추출할 때 범용 LLM을 쓰는 방식이 예산을 압박하기 시작합니다.

2026년 Amazon 팀들의 연구 세 편은 다른 길을 보여 줬습니다. 상품 속성 처리에 맞게 조정한 작은 모델들이 추론 비용을 크게 줄였습니다. 연구는 품질이 떨어지는 부분과, 절감한 비용이 추가 검토 작업으로 바뀌지 않게 하는 방법도 보여 줬습니다.

카탈로그 담당자가 물어야 할 것은 어느 모델이 글을 더 잘 쓰느냐가 아닙니다. 바로 사용할 수 있는 정확한 속성 하나를 얻는 데 얼마가 드느냐입니다.

카탈로그 보강에는 왜 많은 비용이 들까요?

상품 데이터를 다뤄 봤다면 이 문제를 알 것입니다. 같은 카테고리에서도 공급업체마다 상품을 다르게 설명합니다. 정보 일부는 제목에, 나머지는 설명에 있으며 용어도 항상 일치하지 않습니다.

이는 구매 경험에 직접 영향을 줍니다. 속성이 정확히 채워지지 않으면 필터가 상품을 놓치고, 비교 기능의 효용이 줄어들며, 고객은 결정하기 어려워집니다.

언어 모델은 설명을 시스템이 조회할 수 있는 필드로 바꾸는 데 도움을 줍니다. 문제는 기업이 변화가 적은 반복 작업까지 거의 모두 같은 범용 모델에 맡길 때 발생합니다.

수천 대 커피머신의 압력 속성을 추출한다고 생각해 보세요. 값과 단위를 알아보고, 카탈로그 형식을 지키며, 없는 정보를 만들지 않아야 합니다. 어떤 주제든 자유롭게 대화할 능력은 필요하지 않습니다.

개별 추론이 저렴해 보여도 카탈로그가 커지거나 갱신될 때마다 반복됩니다. 상품당 작은 지출도 수천만 건에서는 상당한 비용이 됩니다.

따라서 처리량에 따라 판단이 달라집니다. 처리 빈도가 높을수록 전문 모델을 검토할 이유가 커집니다.

상품을 다루도록 SLM을 훈련한다는 것은 무엇일까요?

SLM은 small language model, 즉 소형 언어 모델의 약자입니다. 매개변수가 적은 모델을 상품 설명에서 속성을 추출하는 것처럼 정해진 작업에 맞추는 방식입니다.

파인튜닝에서는 입력과 기대 출력의 예시를 모델에 제공합니다. 모델은 작업 방법과 채워야 할 필드, 값을 비워 둬야 할 때를 배웁니다.

이때 사용하는 기법 중 하나가 LoRA입니다. 모든 가중치를 갱신하는 대신 적은 수의 매개변수를 훈련하므로 훈련에 필요한 메모리를 줄일 수 있습니다. 하지만 이것만으로 추론 비용이 98% 줄어든다는 뜻은 아닙니다. 최종 비용은 선택한 모델과 실행 방식에도 달려 있습니다.

또 다른 방법은 큰 모델로 훈련 예시를 만들고 능력 일부를 작은 모델로 옮기는 것입니다. 이를 증류라고 합니다. 훈련이 끝나면 작은 모델이 이전에 큰 모델에 의존하던 작업을 수행합니다.

실무에서는 대규모 운영에 들어가기 전에 조정 작업을 집중한다는 차이가 있습니다. 거의 사용하지 않는 능력에 계속 돈을 내는 대신, 해당 과정에 맞춘 모델을 실행합니다.

이 전략은 학습한 행동이 훈련과 유지보수 비용을 상쇄할 만큼 오래 유용할 때 의미가 있습니다. 2026년 발표 결과들은 그 가능성을 가늠하는 데 도움이 됩니다.

이 결정에 관해 상담하기

반복되는 AI 업무가 있나요? 이메일을 남겨 주시면 전문화에 관해 글로 답변하겠습니다.

이메일은 이 요청에 답변하는 용도로만 사용됩니다.

한 연구에서는 추론 비용이 98% 줄었습니다

2026년 7월 Lakshman Kolasani와 Fatemeh Taheri Dezaki는 ACL 산업 트랙에서 Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce를 발표했습니다.

연구진은 Amazon Nova 2 Lite를 LoRA로 조정해 상품 등록 중 속성을 생성했습니다. 주요 비교 대상은 Claude Sonnet 4.5였습니다. 당시 팀이 평가한 모델 중 이 작업에서 가장 좋은 결과를 보였기 때문입니다.

실험 당시 공개 가격으로 계산한 조정 모델의 추론 비용은 98% 낮은 것으로 추정됐습니다. p90 지연 시간도 약 70% 줄었습니다. 전체 응답의 90%가 완료되는 시간의 경계가 짧아졌다는 의미입니다.

연구는 내부 테스트에 그치지 않았습니다. 실제 사용자 실험에서 작은 모델의 제안 수락률은 86.4%, Claude Sonnet 4.5는 **88.3%**였습니다.

하지만 놓치면 안 되는 부분이 있습니다. 작은 모델에서 수락된 속성의 채움 비율은 59.1%, 큰 모델은 **63.0%**였습니다. 저자들은 이 차이가 통계적으로 유의하다고 설명했습니다.

따라서 비용을 줄이면서 운영 성능까지 같았던 것은 아닙니다. 기업은 품질 차이가 비용 절감을 정당화하는지, 모델이 채우지 못하는 필드를 어떻게 처리할지 판단해야 합니다.

이 연구는 훈련 데이터를 고르는 방법도 제안합니다. 모델이 추출하지 못했지만 카탈로그에는 이미 있는 정보를 바탕으로 새 예시를 고르는 것입니다. 연구팀은 데이터를 무작정 늘리지 않고, 카탈로그와 예측 차이가 큰 사례에 두 번째 훈련을 집중했습니다.

각각 천 개 예시로 두 차례 훈련한 결과, 오프라인 평가의 유효 채움 비율은 66.03%에서 74.20%로 올랐습니다. 사용한 테스트 세트에서는 개선됐지만, 실제 운영 성능은 여전히 큰 모델보다 낮았습니다.

마켓플레이스에 주는 교훈은 간단합니다. 자체 카탈로그의 오류가 다음 훈련 데이터를 고르는 데 도움이 됩니다. 다만 기존 내용을 기준으로 삼기 전에 정확한지 확인해야 합니다.

다른 연구는 약 5천 달러로 상품 3천만 개를 처리했습니다

Nikhita Vedula와 동료들이 2026년 10월 발표한 Scaling E-Commerce Attribute Extraction with Parallel Decoding는 다른 관점에서 문제를 살폈습니다.

출발점은 많은 운영에서 놓치는 질문이었습니다. 같은 카테고리의 상품을 구분하는 데 구매자에게 실제로 도움이 되는 속성은 무엇일까요?

먼저 큰 모델이 중요한 속성을 찾습니다. 이어 조정된 Qwen3-4B가 설명에서 값을 추출합니다. 시스템은 Hyper-Parallel Decoding (HPD)을 사용해 모든 값을 순차적으로 만드는 대신 여러 속성의 값을 병렬로 생성합니다.

추출 정확도는 약 **85%**로, 기준으로 사용한 큰 모델과 비슷했습니다. 상품 500개에 대한 사람의 평가에서도 대략 같은 정답률이 나왔습니다.

상품 3천만 개를 처리할 때 비용 차이는 다음과 같았습니다.

평가 구성 추정 추론 비용 추정 시간
배치 API를 통한 기준 LLM 63,000 USD 대기열 시간을 제외하고 300시간 초과
일반 생성 방식의 Qwen3-4B 46,000 USD 333시간
HPD를 적용한 Qwen3-4B 5,000 USD 36시간

이는 연구 구성에 대해 저자들이 보고한 수치이며 현재 클라우드 서비스 견적이 아닙니다. 연구팀은 A100 GPU 여덟 개를 쓰는 파인튜닝 단계 비용도 약 350 USD로 추정했지만, 모든 데이터와 개발 비용을 포함한 것은 아닙니다.

기준 LLM 대비 92% 절감은 눈에 띕니다. 하지만 원인을 구분해야 합니다. 파인튜닝만으로 얻은 결과가 아니며 HPD 실행이 결정적이었습니다. 같은 Qwen3-4B라도 일반적인 방식으로 속성을 생성하면 실험에서 비용이 훨씬 높았습니다.

이 비교는 작은 모델을 고르는 일이 해결책의 일부라는 점을 보여 줍니다. 출력 형식과 추론 방법도 카탈로그 처리 비용을 크게 바꿀 수 있습니다.

연구는 영어 상품 텍스트를 사용했습니다. 포르투갈어 카탈로그에 바로 적용하려면 별도로 평가해야 합니다. 공급업체의 설명이 불완전하거나 단위 표기 관행이 다르다면 특히 중요합니다.

작은 모델이 틀리면 어떻게 해야 할까요?

많은 비용 절감 제안은 이 지점에서 설득력을 잃습니다.

잘못된 속성은 필터와 비교를 해칠 수 있습니다. 너무 많은 기록을 사람이 확인해야 한다면 추론 비용 절감의 가치가 줄어듭니다.

2026년 10월 EMNLP 산업 트랙의 다른 논문인 When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs는 SLM의 어떤 응답을 수락할지 연구했습니다.

해결책은 모델의 확신도와 수행 중인 작업을 함께 고려하는 것이었습니다. 모델이 어떤 속성은 자주 맞히지만 다른 속성은 자주 틀릴 수 있습니다. 하나의 확신도 기준을 모두에게 적용하면 이 차이를 제대로 반영하지 못합니다.

상품 유형과 속성을 고려하는 선택 방식으로 연구진은 공통 확신도 기준보다 11.4%포인트 더 많은 예측을 수락했습니다. 동시에 해당 평가 지점에서 관측한 정밀도는 **90.3%**로 유지됐습니다.

SLM의 정밀도가 11.4% 높아졌다는 뜻은 아닙니다. 측정한 정밀도를 낮추지 않고 더 많은 답을 사용할 수 있었다는 의미입니다.

운영상의 의미가 큽니다. 작은 모델이 대부분의 물량을 처리하고, 위험한 사례는 검토나 다른 모델로 보낼 수 있습니다. 모든 오류에 더 큰 LLM이 필요한 것도 아닙니다. 때로는 충분한 정보가 생길 때까지 필드를 비워 두는 것이 낫습니다.

모든 상품에 가장 비싼 모델을 쓸 필요는 없습니다. 더 저렴한 답을 언제 사용할 수 있는지 알아야 합니다.

내 마켓플레이스에서 파인튜닝이 이득인지 어떻게 판단할까요?

상품이 많이 들어오고 필드를 채우거나 고치는 일이 반복되는 카테고리부터 시작하세요. 전체 카탈로그로 확장하기 전에 정해진 작업을 측정하는 것이 목표입니다.

상품을 훈련, 검증, 테스트로 나누세요. 테스트에는 조정 과정에서 보지 않은 상품과 현재 유입을 대표하는 설명을 넣어야 합니다. 그렇지 않으면 실제 운영보다 결과가 좋아 보일 수 있습니다.

기존 시스템을 조정 전 SLM, 그리고 같은 SLM의 파인튜닝 후와 비교하세요. HPD나 다른 추론 기법도 검토한다면 별도로 비교하세요. 그래야 훈련의 이점과 실행 방식의 이점을 구분할 수 있습니다.

이후 상품 단위뿐 아니라 속성별로 평가하세요. 평균 정답률은 상업적으로 중요한 필드에 집중된 실패를 숨길 수 있습니다. 검토가 필요한 기록 수와 채워지지 않는 기록 수도 측정하세요.

경제성 지표는 답을 생성하는 가격뿐 아니라 정확하고 승인된 속성을 제공하는 비용을 포함해야 합니다.

승인 속성당 비용 = (추론 + 검토 + 수정 + 인프라 + 상각한 훈련 비용) ÷ 올바르게 승인된 속성 수.

모든 비용은 같은 기간을 기준으로 계산해야 합니다. 훈련 비용은 다음 조정 전까지 처리할 것으로 예상하는 물량에 나눠 반영하세요.

이 계산은 GPU가 더 싸다는 이유로 모델이 저렴하다고 판단하면서 출력을 수정하는 작업은 세지 않는 실수를 막아 줍니다.

갱신이 잦고 물량이 많다면 조정된 SLM은 검토할 만한 대안입니다. 초기 투자를 많은 추출 작업에 나눌 수 있기 때문입니다. 반대로 소규모 카탈로그는 전용 인프라를 정당화할 만큼 비용을 절감하지 못할 수 있습니다.

확대 기준은 객관적입니다. SLM이 필요한 속성을 제공하고 오류를 운영 한도 안에 유지하면서 승인 속성당 비용을 줄인다면, 사용을 확대할 근거가 있습니다.

이 결정에 관해 상담하기

반복되는 AI 업무가 있나요? 이메일을 남겨 주시면 전문화에 관해 글로 답변하겠습니다.

이메일은 이 요청에 답변하는 용도로만 사용됩니다.

다음 효율 개선은 더 큰 LLM이 아니라 카탈로그 안에 있을 수 있습니다

2026년 연구는 작은 모델로 상품 정보를 보강하는 일이 더는 실험실 안의 가능성에 그치지 않음을 보여 줍니다. 배포 결과와 비용 비교, 사용할 답을 고르는 방법이 있습니다.

수치는 큽니다. 한 연구에서는 추론 비용이 98%, 다른 연구에서는 92% 줄어들 것으로 추정했습니다. 하지만 서로 다른 조건의 결과이므로 모든 마켓플레이스에 같은 절감을 약속하는 숫자는 아닙니다.

중요한 결론은 따로 있습니다. 수백만 상품의 속성을 추출하는 작업이라면 작은 모델을 전문화하고, 품질을 측정하고, 실행 방식을 최적화하는 데서 시작할 이유가 있습니다. 모든 단계에 범용 LLM을 두면 운영에서 사용하지 않는 능력에 계속 돈을 내게 될 수 있습니다.

기업이 자체 데이터와 물량, 품질 요구사항으로 이 결정을 평가해야 한다면 Huyawo Solutions는 기업 문제를 위한 모델 선택과 조정을 다룹니다. 연락은 글로 진행합니다.

참고한 연구와 문서

  1. Kolasani와 Dezaki, Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce, ACL Industry Track, 2026년 7월.
  2. Vedula와 동료들, Scaling E-Commerce Attribute Extraction with Parallel Decoding, AKBC, 2026년 10월.
  3. Mansoori와 동료들, When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs, EMNLP Industry Track, 2026년 10월.
  4. Hugging Face, PEFT의 LoRA 문서.
Antonio V. Franco
작성자 소개:

Antonio V. Franco

AI 엔지니어이자 Huyawo Solutions 창립자

Antonio V. Franco는 AI 엔지니어이자 Huyawo Solutions와 전체 Huyawo 생태계의 창립자입니다. 그의 작업은 인공지능 에이전트와 모델의 연구, 개발, 최적화에 중점을 두며 효율성과 개방형 모델을 강조합니다. Huyawo를 이끌며 엔지니어링, 연구, 비즈니스 관점을 결합해 기술을 개발하고 지식을 만들며 기업의 AI 과제 해결을 돕습니다. 또한 글과 오픈 소스 프로젝트로 연구 결과를 공유하며 이 분야의 발전에 기여합니다.

Antonio 팔로우:
AI 엔지니어링 과제가 있나요?

배경과 제약 조건을 알려 주세요.

Huyawo Solutions
01 / 06

어떻게 도와드릴까요?

내려야 할 기술적 결정을 알려 주세요. 직접 메시지를 보내거나 구조화된 기술 개요를 작성할 수 있습니다.

안전한 전송은 활성화 후 이용할 수 있습니다.

어떻게 도와드릴까요?

내려야 할 기술적 결정을 알려 주세요. 직접 메시지를 보내거나 구조화된 기술 개요를 작성할 수 있습니다.

H.