Skip to content
高效模型、可复现证据、更可靠的工程决策。了解 Huyawo Solutions
博客/SLM 微调:为什么电商平台正在重新审视商品目录丰富的成本

SLM 微调:为什么电商平台正在重新审视商品目录丰富的成本

Amazon 的研究揭示了如何适配小模型,降低商品属性提取的成本。

黄色背景上身穿黄黑服装的 Huyawo 猴子吉祥物

一个电商平台可能需要处理数百万件商品,才能回答一个看似简单的问题:每件商品到底提供什么?

假设一台咖啡机的描述写着压力为 15 bar。为了让顾客将它与其他产品比较,平台需要识别这条信息,再填写到目录中的对应字段。工作量看似不大。现在,把这个操作乘以数百万条商品信息,再加上每天的新商品和修改。

此时,每次提取都使用通用大语言模型,开始给预算带来压力。

2026 年,Amazon 团队的三项研究展示了另一条路径。针对商品属性进行适配的小模型,大幅降低了推理成本。研究也指出了质量在哪些地方下降,以及如何避免节省的费用转化为更多审核工作。

管理商品目录时,问题不应该是哪一个模型更会写,而应该是获得一个正确、可以直接使用的属性要花多少钱。

为什么丰富商品目录的成本这么高?

做过商品数据的人都了解这个问题。即使属于同一品类,供应商也会用不同方式描述商品。有些信息放在标题里,有些在描述里,用词也不总是一致。

这会直接影响购物体验。属性填写不正确,筛选器就可能找不到商品,比较功能也会失去作用,顾客更难作出决定。

语言模型可以把描述转成系统能够查询的字段。问题在于,有些企业几乎把所有任务都交给同一个通用模型,包括变化很小、不断重复的任务。

例如,从数千台咖啡机的信息中提取压力属性。需要的是识别数值和单位、遵守目录格式,以及不编造缺失信息。这并不要求模型能够围绕任何话题自由交谈。

即使单次推理看起来很便宜,只要目录增长或需要更新,这笔开支就会再次发生。每件商品的一点费用,在数千万条记录的规模下也会变得可观。

因此,处理量会改变决策。处理越频繁,研究专用模型就越有意义。

训练 SLM 处理商品,具体是什么意思?

SLM 是 small language model 的缩写,即小语言模型。思路是使用参数较少的模型,将其适配到明确的任务,例如从商品描述中提取属性。

通过微调,模型接收输入和预期输出的示例,学习操作方式、哪些字段应该填写,以及何时应把数值留空。

LoRA 是其中一种技术。它只训练较少的参数,而不是更新模型的全部权重,因此可能降低训练所需的内存。但这本身不意味着推理成本会下降 98%。最终费用还取决于模型选择和运行方式。

另一种办法是让大模型生成训练示例,再把部分能力转移给小模型,这个过程称为蒸馏。训练完成后,小模型便能执行原先依赖大模型的任务。

实际区别在于,企业把适配工作集中在大规模运行之前。它不再持续为很少使用的能力付费,而是运行一个为业务流程准备好的模型。

只有当学到的行为能够保持足够长时间的价值,抵消训练和维护费用时,这个策略才有意义。2026 年发表的结果有助于估计这种可能性。

讨论这个决策

有反复执行的 AI 工作吗?留下邮箱,我会通过文字回复有关模型专门化的问题。

邮箱仅用于回复此请求。

一项研究发现推理成本下降了 98%

2026 年 7 月,Lakshman Kolasani 和 Fatemeh Taheri Dezaki 在 ACL 工业赛道发表了 Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce。

研究者通过 LoRA 适配 Amazon Nova 2 Lite,在商品登记时生成属性。主要比较对象是 Claude Sonnet 4.5,它在团队当时评估的模型中,对这项任务表现最好。

根据实验时的模型公开价格计算,适配后的模型推理成本预计下降了 98%。p90 延迟也降低了约 70%,即 90% 的回复完成所需的时间界限缩短了。

研究不只有内部测试。在真实用户实验中,小模型建议的接受率为 86.4%,Claude Sonnet 4.5 则为 88.3%。

有个细节不能忽略。小模型获接受的属性填充率为 59.1%,大模型为 63.0%。作者表示,这些差异具有统计显著性。

因此,成本节省并没有伴随完全相同的生产表现。企业需要判断,质量差异是否值得换取成本下降,以及怎样处理模型无法填充的字段。

这项工作还提出一个训练思路:根据模型漏掉、但已经存在于目录中的信息选择新示例。团队没有无差别扩大训练集,而是把第二轮集中在目录数据与预测差距较大的案例上。

经过两轮、每轮一千个示例的训练,模型在离线评估中的有效填充率从 66.03% 提升到 74.20%。这说明它在所用测试集上进步了,不过生产表现仍低于大模型。

对电商平台来说,道理很简单:自己目录中的错误可以帮助选择下一批训练数据。但必须先确认已有内容正确,才能把它当作参考。

另一项研究用约 5,000 美元处理了 3,000 万件商品

Nikhita Vedula 及其同事于 2026 年 10 月发表的 Scaling E-Commerce Attribute Extraction with Parallel Decoding,从另一个角度研究了这个问题。

团队首先提出一个经常被忽视的问题:哪些属性真正帮助买家区分同一品类中的产品?

首先,大模型识别重要属性。随后,经过适配的 Qwen3-4B 从描述中提取数值。系统使用 Hyper-Parallel Decoding (HPD),同时生成多个属性的值,而不是把所有内容依次生成。

提取准确率接近 85%,与作为参考的大模型相近。研究还对 500 件商品进行了人工评估,得到了大致相同的正确率。

处理 3,000 万件商品时,成本差异如下:

评估配置 预计推理成本 预计时间
通过批量 API 调用参考 LLM 63,000 美元 超过 300 小时,不含排队等待
使用常规生成的 Qwen3-4B 46,000 美元 333 小时
使用 HPD 的 Qwen3-4B 5,000 美元 36 小时

这些是作者针对研究配置报告的数字,并非当前云服务报价。团队还估计,使用八张 A100 GPU 完成一个微调阶段约需 350 美元,但这个数字不代表全部数据和开发成本。

相对参考 LLM 节省 92% 很醒目,但必须区分其来源:这不是微调单独带来的结果。HPD 运行方式发挥了决定性作用。在实验中,同样的 Qwen3-4B 如果按常规方式生成属性,费用要高得多。

这个比较说明,选择小模型只是解决方案的一部分。输出格式和推理方式都可能大幅改变目录处理成本。

研究使用的是英文商品文本。直接应用于葡萄牙语目录,需要单独评估,尤其是在供应商描述不完整或单位约定不同时。

小模型出错时怎么办?

许多节省成本的方案,正是在这里失去说服力。

错误属性会影响筛选和比较。如果需要人工审核的记录过多,推理节省的价值就会下降。

2026 年 10 月,EMNLP 工业赛道的另一篇论文 When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs,研究了应该接受哪些 SLM 回答。

解决方法不只看模型置信度,也看当前任务。模型对某个属性可能经常答对,对另一个却常常出错。给所有情况使用同一个置信度门槛,无法很好地反映这种差别。

通过同时考虑商品类型和属性的选择机制,研究者比采用统一置信度门槛时多接受了 11.4 个百分点的预测,同时在该评估点保持 90.3% 的观测精确率。

这不意味着 SLM 的精确率提升了 11.4%。进步在于,不降低测得的精确率,就能使用更多回答。

对业务流程来说,这很重要。小模型可以处理大部分工作量,风险较高的案例再交给审核或其他模型。也不是每个错误都需要更大的 LLM:有时应先让字段留空,等待足够信息。

没有必要对所有商品使用最昂贵的模型。需要知道的是,什么时候可以使用更便宜的回答。

怎样判断微调是否适合你的电商平台?

先选择一个商品进入量大、经常需要填充或修正字段的品类。在把方案扩展到整个目录前,先衡量一项明确的任务。

把商品分成训练、验证和测试集。测试集保留模型在适配时未见过的商品,并包含能代表当前流量的描述。否则,评估结果可能比真实运行表现更好。

比较现有系统、未适配的 SLM,以及同一个 SLM 微调后的表现。如果考虑 HPD 或其他推理技术,应另作比较。这样才能区分训练带来的改善与运行方式带来的改善。

随后按属性评估,而不只是按商品评估。平均正确率可能掩盖集中在商业关键字段中的错误。同时衡量需要审核的记录数量,以及没有填充的记录数量。

经济指标应包括交付一个正确且获批准属性的成本,而不只是生成回答的价格:

每个获批准属性的成本 = (推理 + 审核 + 修正 + 基础设施 + 摊销后的训练成本) ÷ 正确获批准的属性数量。

所有费用必须覆盖同一时期。训练费用应分摊到下一次适配之前预计处理的工作量上。

这样可以避免一种常见错误:因为模型使用的 GPU 更便宜,就认定它成本更低,却没有计算修正输出所需的工作。

对于更新频繁、处理量大的业务,适配后的 SLM 值得考虑。初始投资可以分摊到大量提取任务中。小规模目录则可能省不出足够费用来支持专用基础设施。

扩大使用范围的标准是明确的:SLM 能交付所需属性,将错误控制在业务允许范围内,并降低每个获批准属性的成本,就有依据扩大应用。

讨论这个决策

有反复执行的 AI 工作吗?留下邮箱,我会通过文字回复有关模型专门化的问题。

邮箱仅用于回复此请求。

下一次效率提升,可能来自商品目录,而不是更大的 LLM

2026 年的研究说明,用小模型丰富商品信息已不只是实验室里的可能性。已经有部署结果、成本比较和选择可用回答的方法。

数字很可观:一项研究预计推理成本下降 98%,另一项下降 92%。它们是在不同条件下获得的,不能当作对所有电商平台的节省承诺。

真正重要的结论是:当工作是从数百万件商品中提取属性时,先让小模型专注于这项任务、衡量质量并优化运行方式,是有道理的。每个环节都保留通用 LLM,可能意味着持续为业务没有使用的能力买单。

如果企业需要结合自己的数据、处理量和质量要求评估这个决策,Huyawo Solutions 提供面向企业问题的模型选择与适配服务。沟通以书面方式进行。

参考研究与文档

  1. Kolasani 和 Dezaki,Progressive Fine-Tuning for Cost-Effective Structured Attribute Generation in E-commerce,ACL Industry Track,2026 年 7 月。
  2. Vedula 及其同事,Scaling E-Commerce Attribute Extraction with Parallel Decoding,AKBC,2026 年 10 月。
  3. Mansoori 及其同事,When to Defer: Scope-Aware Cascades for Structured Attribute Generation in E-commerce Product Catalogs,EMNLP Industry Track,2026 年 10 月。
  4. Hugging Face,PEFT 中的 LoRA 文档。
Antonio V. Franco
关于作者:

Antonio V. Franco

AI 工程师、Huyawo Solutions 创始人

Antonio V. Franco 是 AI 工程师,也是 Huyawo Solutions 及整个 Huyawo 生态系统的创始人。他专注于人工智能智能体与模型的研究、开发和优化,尤其重视效率与开放模型。作为 Huyawo 的负责人,他将工程、研究与商业视角结合起来,开发技术、积累知识,并帮助企业用 AI 解决问题。他还通过文章和开源项目分享研究成果,推动这一领域的发展。

关注 Antonio:
你的企业需要真正可用的 AI 吗?

联系 Huyawo Solutions。私有工程,全程异步。

Huyawo Solutions
01 / 06

你的 AI 系统需要在哪些方面改进?

六个简短问题,帮助我们了解工程重点。

不安排电话会议。隐私优先。

你的负载。
我们的工程重点。

从模型选型到部署经济性,决策需要可复现证据。

H.