Amazon 公开商品数据集包含商品元数据与客户评论,是研究电子商务信息检索的常用语料。本课聚焦其中的 Electronics(电子产品) 类别,介绍数据组成、下载链接、文件格式,以及将该数据集接入检索增强生成(RAG)流程时的预处理与子集筛选方法。
数据组成与来源
课程采用基于 Amazon 网站整理的公开数据集(供研究和教学使用),主要包含两部分:
- 商品元数据:商品标题、描述、规格参数、所属类别等信息。
- 客户评论:用户星级评分、评论正文及其他相关元数据。
- 使用数据时,应遵守数据提供方的适用条款,并正确引用原始整理者。下面提供 Electronics 类别的下载链接,以及格式和字段说明。
使用该数据集时,应遵守数据提供方的适用许可条款,并规范引用原始整理者。可前往 Amazon Reviews 2023 数据页面 查找并下载对应文件。
1.商品元数据:Electronics
内容:电子产品类别的商品元数据(标题、描述、价格、类别层级与关联商品链接),可用于提取商品规格及背景信息。
- 下载:
meta_Electronics.jsonl.gz。该类别约有 160 万种商品,课件列出的压缩文件大小约为 1.2 GB。数据供研究和教学使用,使用时需要引用来源。 - 格式:JSON Lines(
.jsonl)格式,每行对应一条商品记录。解压.gz文件后,可参照数据提供方示例,使用 Python 的json.loads逐行解析为字典。 - 数据字段:详见商品元数据字段说明。
2.客户评论:Electronics
内容:电子产品的客户评论,包含评论文本、星级评分及其他元数据,反映真实用户反馈,可用于情感分析或归纳商品优缺点。
- 下载:
Electronics.jsonl.gz。包含约 4390 万条评论,课件列出的压缩文件大小约为 6 GB。数据供研究和教学使用,使用时需要引用来源。 - 格式:JSON Lines(
.jsonl)格式,每行对应一条评论记录。解压.gz文件后,同样使用 Python 的json.loads逐行解析为字典。 - 数据字段:详见用户评论字段说明。
预处理与准备
在开展数据分析或构建 RAG 流程前,需要先对原始数据做预处理与子集筛选,将规模控制在便于处理的范围内,使内容更契合具体任务,从而提升嵌入表征与搜索结果的质量。
选择便于处理的数据子集
Electronics 类别全量包含约 160 万种商品和 4390 万条评论,直接处理全量数据需要消耗较多计算与存储资源。可根据实验目标按以下策略筛选子集:
- 按热门商品筛选:按评论数量或销售排名选取前 NNN 种热门或核心商品,在大幅缩减数据量的同时保留高价值分析对象。
- 按评论数量设限:仅保留评论数达到一定门槛的商品(例如至少包含 50 条评论的电子产品),过滤掉评论稀少的长尾商品,确保入选商品具备充足的信息量。
- 按时间窗口截取:研究近期趋势或针对近期评论开展 RAG 问答时,可按特定时间范围筛选(例如在使用截至 2023 年的数据时,通过
timestamp字段截取 2020—2023 年的评论)。 - 随机抽样:直接从 4390 万条评论中随机抽取固定数量(如 10 万条)用于实验。由于大量评论内容存在重复或相似,随机抽样通常能在缩小数据规模的同时保留样本多样性。
- 按子类别拆分:Electronics 下辖
Cell Phones & Accessories、Computers、Camera & Photo等细分品类,可利用元数据中的类别层级列表定向提取特定子类别。
开发阶段建议先使用小规模子集(例如排名前 1000 的电子产品及其关联评论)跑通并验证完整的数据处理链路,随后再按需扩展数据规模。
公开研究基准的使用范围
Amazon Reviews 2023 作为公开研究数据集,在后续课程中继续用于商品元数据与评论检索实验;具体下载许可与字段释义以数据集官方页面为准。该数据集与飞书企业知识练习分别使用独立的向量集合、来源标识与评估文件;设计参考答案时需明确区分客观商品元数据与主观评论意见。注意,该静态数据集不提供实时库存、交易或订单查询 API。
练习:记录本课所用配置、输入、预期结果与失败分支,并用脱敏数据复现。