feat: PDD 商品页面 (#18)

打通 Client↔Admin 闭环的一环:录入 PDD 链接 → 创建采集任务 →
客户端领走去采 → 规格和价格显示在页面上。#16 写的 MarkCollecting 和
SoftDeletePddProduct 至此才有生产调用方。

链接解析严格、不做容错兜底:goods_id 上有 UNIQUE 约束,防重全靠它。
猜一个的话同一商品会存成好几行、采好几遍,规格映射还说不清指向哪一行。
短链一律拒绝,卡域名是为了拦"粘了淘宝链接"这种失误。

创建采集任务先占状态再建任务:MarkCollecting 只在 pending/failed 时成功,
同时充当"有没有人已经在采"的判断,与建任务在同一事务里,
所以并发点多次只会建出一个任务(实测 4 并发 → 1 条)。

submit.go 的 collectedData 增加 Dimensions —— 没有它就只能按 Go 的 map
遍历,而 map 无序,同一商品每次刷新"颜色/尺码"的先后都可能变。

顺带修 #16 一处缺陷:EnsurePddProduct 复活分支清空了 skus_json 却漏了
title,导致复活后状态显示"未采集"但标题还留着旧值。

审查打回一次:清理"PDD 链接唯一的录入口"这一过期说法(全库 5 处),
以及 shopee.go 里"空 → no_link"的过期 TODO —— no_link 已在 #16
从 CHECK 约束删除,照写会直接撞约束。

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
chengma
2026-08-07 11:27:06 +08:00
co-authored by Claude Opus 5
parent fab20cfd2f
commit eb8d357f5a
16 changed files with 2333 additions and 72 deletions
+210 -20
View File
@@ -3,10 +3,48 @@ package repository
import (
"database/sql"
"fmt"
"strings"
"cmautobuy/admin/model"
)
// pddColumns 是所有查询共用的列清单。
// 写成常量是为了让下面几个查询的列顺序和 scanPddProduct 永远对得上——
// 改列的时候只改这一处,改漏了会 Scan 到错的字段上,而且不报错。
const pddColumns = `id, goods_id, url, title, skus_json,
collect_status, collect_msg, artifact_ref, collected_at,
deleted_at, created_at, updated_at`
// rowScanner 让 *sql.Row 和 *sql.Rows 都能喂给 scanPddProduct。
type rowScanner interface {
Scan(dest ...any) error
}
// scanPddProduct 按 pddColumns 的顺序读一行。
func scanPddProduct(s rowScanner, extra ...any) (*model.PddProduct, error) {
var p model.PddProduct
var title, skus, msg, artifact, collectedAt, deletedAt sql.NullString
dest := []any{
&p.ID, &p.GoodsID, &p.URL, &title, &skus,
&p.CollectStatus, &msg, &artifact, &collectedAt,
&deletedAt, &p.CreatedAt, &p.UpdatedAt,
}
dest = append(dest, extra...)
if err := s.Scan(dest...); err != nil {
return nil, err
}
p.Title = title.String
p.SkusJSON = skus.String
p.CollectMsg = msg.String
p.ArtifactRef = artifact.String
p.CollectedAt = collectedAt.String
p.DeletedAt = deletedAt.String
return &p, nil
}
// EnsurePddProduct 保证 goods_id 对应的 PDD 商品存在,返回它。
//
// 操作员在货运单或蝦皮商品上填 PDD 链接、点保存时调它。三种情况:
@@ -51,11 +89,15 @@ func EnsurePddProduct(q Execer, goodsID, url string) (*model.PddProduct, error)
if existing.IsDeleted() {
// 复活:清掉删除标记,状态回到待采集。
// 采集结果一并清空——记录被删过一次,旧数据不能再当成有效的用。
//
// title 也要清:它是**采集回来的**(SetCollectResult 写的),
// 属于采集结果的一部分。留着的话状态显示"未采集"、标题却有值,
// 操作员会以为已经采过了。
_, err := q.Exec(`
UPDATE pdd_products
SET deleted_at = NULL, url = ?, collect_status = 'pending',
skus_json = NULL, collect_msg = NULL, artifact_ref = NULL,
collected_at = NULL, updated_at = ?
title = NULL, skus_json = NULL, collect_msg = NULL,
artifact_ref = NULL, collected_at = NULL, updated_at = ?
WHERE goods_id = ?`,
url, now, goodsID)
if err != nil {
@@ -82,31 +124,179 @@ func EnsurePddProduct(q Execer, goodsID, url string) (*model.PddProduct, error)
// 之所以连删除的也查出来,是因为 EnsurePddProduct 要靠它判断该不该复活。
// 给界面用的查询请用 ListPddProducts,那个会过滤掉已删除的。
func GetPddProductByGoodsID(q Execer, goodsID string) (*model.PddProduct, error) {
var p model.PddProduct
var title, skus, msg, artifact, collectedAt, deletedAt sql.NullString
err := q.QueryRow(`
SELECT id, goods_id, url, title, skus_json,
collect_status, collect_msg, artifact_ref, collected_at,
deleted_at, created_at, updated_at
FROM pdd_products WHERE goods_id = ?`, goodsID).Scan(
&p.ID, &p.GoodsID, &p.URL, &title, &skus,
&p.CollectStatus, &msg, &artifact, &collectedAt,
&deletedAt, &p.CreatedAt, &p.UpdatedAt)
p, err := scanPddProduct(q.QueryRow(
`SELECT `+pddColumns+` FROM pdd_products WHERE goods_id = ?`, goodsID))
if err == sql.ErrNoRows {
return nil, nil
}
if err != nil {
return nil, fmt.Errorf("查询 PDD 商品 %s 失败: %w", goodsID, err)
}
return p, nil
}
p.Title = title.String
p.SkusJSON = skus.String
p.CollectMsg = msg.String
p.ArtifactRef = artifact.String
p.CollectedAt = collectedAt.String
p.DeletedAt = deletedAt.String
return &p, nil
// GetPddProductByID 按主键查一条,**已软删除的查不到**。
//
// 弹窗用的是这个,不是 GetPddProductByGoodsID —— 后者连删掉的也返回,
// 那是给 EnsurePddProduct 判断复活用的,不能拿来渲染界面。
func GetPddProductByID(q Execer, id int64) (*model.PddProduct, error) {
p, err := scanPddProduct(q.QueryRow(
`SELECT `+pddColumns+`
FROM pdd_products WHERE id = ? AND deleted_at IS NULL`, id))
if err == sql.ErrNoRows {
return nil, nil
}
if err != nil {
return nil, fmt.Errorf("查询 PDD 商品 #%d 失败: %w", id, err)
}
return p, nil
}
// PddProductRow 是列表页要的一行:商品本身,外加数据库算好的规格数。
type PddProductRow struct {
model.PddProduct
// SkuCount 是 skus_json 里的规格条数。
// **-1 表示"还没有采集结果"**,和"采到 0 个规格"是两回事:
// 前者显示 —,后者是采集出了问题,要显示 0 让操作员看见。
SkuCount int
}
// 规格数交给 SQLite 算,不要把整个 skus_json 读进 Go 再数——
// 列表页几十上百行,每行都反序列化一遍纯属浪费。
//
// json_valid 那层判断不能省:skus_json 万一存进了坏数据,
// json_array_length 会让**整条查询报错**,页面直接打不开。
const pddSkuCountExpr = `
CASE WHEN skus_json IS NULL OR skus_json = '' OR NOT json_valid(skus_json)
THEN -1
ELSE COALESCE(json_array_length(skus_json, '$.skus'), -1)
END`
// ListPddProducts 查列表。keyword 匹配 goods_id 或链接,status 为空表示不筛选。
//
// 只返回未删除的。软删除的记录还在库里(sku_mappings 指着它),
// 但界面上不该看见。
func ListPddProducts(q Execer, keyword string, status model.CollectStatus) ([]PddProductRow, error) {
sqlText := `SELECT ` + pddColumns + `,` + pddSkuCountExpr + `
FROM pdd_products
WHERE deleted_at IS NULL`
var args []any
if keyword = strings.TrimSpace(keyword); keyword != "" {
// ESCAPE 不能省:操作员搜 "_" 时,LIKE 会把它当"任意一个字符",
// 结果是全部行都命中,看着像搜索坏了。
pattern := "%" + escapeLike(keyword) + "%"
sqlText += ` AND (goods_id LIKE ? ESCAPE '\' OR url LIKE ? ESCAPE '\')`
args = append(args, pattern, pattern)
}
if status != "" {
sqlText += ` AND collect_status = ?`
args = append(args, string(status))
}
// 刚动过的排前面,操作员点完"创建采集任务"一眼能看到结果
sqlText += ` ORDER BY updated_at DESC, id DESC`
rows, err := q.Query(sqlText, args...)
if err != nil {
return nil, fmt.Errorf("查询 PDD 商品列表失败: %w", err)
}
defer rows.Close()
list := make([]PddProductRow, 0, 16)
for rows.Next() {
var r PddProductRow
p, err := scanPddProduct(rows, &r.SkuCount)
if err != nil {
return nil, fmt.Errorf("读取 PDD 商品列表失败: %w", err)
}
r.PddProduct = *p
list = append(list, r)
}
return list, rows.Err()
}
// escapeLike 把 LIKE 的三个特殊字符转义掉,配合 ESCAPE '\' 使用。
// 反斜杠必须第一个换,否则会把后面刚加的反斜杠又转义一遍。
func escapeLike(s string) string {
s = strings.ReplaceAll(s, `\`, `\\`)
s = strings.ReplaceAll(s, `%`, `\%`)
s = strings.ReplaceAll(s, `_`, `\_`)
return s
}
// CountPddProductsByStatus 统计各采集状态各有多少条,供底部状态条显示。
//
// 统计的是**全部未删除记录**,不受当前筛选影响——
// 状态条是全局概览,"总共还有几个没采"这个数不该跟着筛选变。
func CountPddProductsByStatus(q Execer) (map[model.CollectStatus]int, error) {
rows, err := q.Query(`
SELECT collect_status, COUNT(*)
FROM pdd_products
WHERE deleted_at IS NULL
GROUP BY collect_status`)
if err != nil {
return nil, fmt.Errorf("统计 PDD 商品状态失败: %w", err)
}
defer rows.Close()
counts := map[model.CollectStatus]int{}
for rows.Next() {
var status string
var n int
if err := rows.Scan(&status, &n); err != nil {
return nil, err
}
counts[model.CollectStatus(status)] = n
}
return counts, rows.Err()
}
// UpdatePddProductURL 只改链接原文,不动采集结果和状态。
//
// 调用方必须先确认新链接解析出来的 goods_id 和这条记录的一致,
// 见 service.UpdatePddProductURL 的说明。
func UpdatePddProductURL(q Execer, id int64, url string) error {
if url == "" {
return fmt.Errorf("url 不能为空")
}
res, err := q.Exec(`
UPDATE pdd_products SET url = ?, updated_at = ?
WHERE id = ? AND deleted_at IS NULL`,
url, model.NowISO(), id)
if err != nil {
return fmt.Errorf("更新 PDD 商品 #%d 链接失败: %w", id, err)
}
if n, _ := res.RowsAffected(); n == 0 {
return fmt.Errorf("PDD 商品 #%d 不存在或已被删除", id)
}
return nil
}
// SoftDeletePddProducts 批量软删除,返回实际删掉的条数。
//
// 已经删过的不会重复计数(WHERE 里带了 deleted_at IS NULL),
// 所以返回值就是"这次真正消失的行数",可以直接报给操作员。
func SoftDeletePddProducts(q Execer, goodsIDs []string) (int64, error) {
if len(goodsIDs) == 0 {
return 0, nil
}
// 占位符按数量生成,值仍然是参数化传入,不存在注入
placeholders := strings.TrimSuffix(strings.Repeat("?,", len(goodsIDs)), ",")
now := model.NowISO()
args := make([]any, 0, len(goodsIDs)+2)
args = append(args, now, now)
for _, id := range goodsIDs {
args = append(args, id)
}
res, err := q.Exec(`
UPDATE pdd_products SET deleted_at = ?, updated_at = ?
WHERE goods_id IN (`+placeholders+`) AND deleted_at IS NULL`, args...)
if err != nil {
return 0, fmt.Errorf("批量删除 PDD 商品失败: %w", err)
}
return res.RowsAffected()
}
// SetCollectResult 保存采集回来的 PDD 商品数据。