Admin 的第一个业务功能。选它打头是因为它是穿透所有层的最薄一条竖切
(HTTP → handler/api → service → repository → SQLite → handler/web → 页面),
一个工单把分层模式立起来,后面四个模块照抄;同时它是与 Client 联调的接口,
能解锁另一条并行的工作线。
实现
- POST /tasks/claim:注册 + 领取。注册就在这里做,没有单独的注册接口,
也没有心跳(理由见 docs/admin/04-client-api.md §3)
- 领取用条件更新 + 检查影响行数防并发,SQLite 没有 SELECT FOR UPDATE
- 客户端列表页:查询、按名称搜索、批量删除
- 在线状态是**算出来的**(last_seen_at 在 10 分钟内),数据库里没有该字段
- CSRF 中间件:双提交 Cookie,手写 82 行不引依赖。
**只挂页面路由**,/api/v1/client/* 不能加——Client 不是浏览器、没有 Cookie
- 14 个单元测试
修复一个真 bug:PRAGMA 必须写进 DSN
并发领取测试报 database is locked (SQLITE_BUSY)。根因是
PRAGMA busy_timeout 每连接生效,而 database/sql 是连接池——
db.Exec("PRAGMA ...") 只作用于当时那条连接,池子新开的连接没执行过。
单线程正常、一并发就炸。改成 DSN 传参后并发测试跑 20 次全过。
这个坑已写进 docs/admin/03-data-model.md §2.1。
与工单的两处差异
- 去掉 name_is_custom 列后,"人工改的名字不被覆盖"改用更简单的做法:
ON CONFLICT DO UPDATE SET 里不含 name,即只在首次注册时写入。
效果相同,零额外字段、零迁移。已同步 04 §3
- 验收项"不向 dry_run 客户端分配真实下单任务"**未实现**:
tasks 表没有字段标记任务是否需要真实下单。当前真实下单开关默认关闭、
MVP 全是演练模式,暂不出问题,但开真实下单前必须补该字段,需另开工单
已验证(Go 1.23.0)
- go vet / gofmt / go test 全过,并发测试重复 20 次稳定通过
- 端到端:无任务 claim 204;插入任务后 claim 200 且 payload 含
goods_url/goods_id/options/quantity/max_price_cent、无租约无 Admin 状态;
重复 claim 204;缺 X-Client-Id 400;POST 无 CSRF token 403;
列表页两台客户端在线状态与统计正确
说明:Gitea 尚未配置,本次无对应工单号。
submit_result / submit_failure 及其幂等处理留给下一个工单。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
234 lines
8.6 KiB
Go
234 lines
8.6 KiB
Go
// Package repository 封装 SQLite 读写。
|
||
//
|
||
// 改动本文件前必读 admin/AGENTS.md。三条硬规则:
|
||
// - 只有本包能写 SQL,handler 和 service 都不许拼 SQL;
|
||
// - SQL 一律参数化查询(用 ? 占位),禁止字符串拼接;
|
||
// - 迁移只能往前加,不许在启动时删库重建——data/ 在升级时是保留的,
|
||
// 里面有人工填了几个月的 PDD 链接和 SKU 映射。
|
||
//
|
||
// 表结构的权威定义在 docs/admin/03-data-model.md,改表要先改文档。
|
||
package repository
|
||
|
||
import (
|
||
"database/sql"
|
||
"fmt"
|
||
"path/filepath"
|
||
|
||
// 纯 Go 的 SQLite 驱动,注册的驱动名是 "sqlite"(不是 "sqlite3")。
|
||
// 不得换成 github.com/mattn/go-sqlite3,那个需要 cgo,
|
||
// Windows 上要装 gcc,打包 exe 会变麻烦。理由见 admin/AGENTS.md。
|
||
_ "modernc.org/sqlite"
|
||
)
|
||
|
||
// Open 打开 data/admin.db。
|
||
//
|
||
// **PRAGMA 必须写在 DSN 里,不能用 db.Exec("PRAGMA ...") 设置。**
|
||
//
|
||
// 原因是 Go 的 database/sql 是一个**连接池**:db.Exec 只作用于当时
|
||
// 拿到的那一条连接,池子后来新开的连接完全没执行过那些 PRAGMA。
|
||
// 并发写的时候,没有 busy_timeout 的那些连接会直接报
|
||
// "database is locked (SQLITE_BUSY)",而不是等锁释放。
|
||
//
|
||
// 写进 DSN 后,驱动会对**每一条新连接**都应用一遍,这才是对的。
|
||
func Open(dataDir string) (*sql.DB, error) {
|
||
path := filepath.Join(dataDir, "admin.db")
|
||
|
||
// 三条设置的含义见 docs/admin/03-data-model.md §2:
|
||
// busy_timeout 拿不到锁时最多等 5 秒,而不是立刻报错
|
||
// journal_mode WAL 模式,读和写可以同时进行
|
||
// foreign_keys 打开外键约束(SQLite 默认是关的)
|
||
dsn := "file:" + path +
|
||
"?_pragma=busy_timeout(5000)" +
|
||
"&_pragma=journal_mode(WAL)" +
|
||
"&_pragma=foreign_keys(1)"
|
||
|
||
db, err := sql.Open("sqlite", dsn)
|
||
if err != nil {
|
||
return nil, fmt.Errorf("打开数据库 %s 失败: %w", path, err)
|
||
}
|
||
|
||
// SQLite 同一时刻只允许一个写事务。连接数放太开,
|
||
// 大量连接会互相抢锁、把 busy_timeout 耗光。
|
||
// 本项目是单机内部工具,并发量很小,限制在个位数足够。
|
||
//
|
||
// 注意**不要设成 1**:那样在一个事务里再调用需要连接的代码会死锁。
|
||
db.SetMaxOpenConns(4)
|
||
db.SetMaxIdleConns(4)
|
||
|
||
// sql.Open 是懒加载的,这里主动连一次,好让配置错误立刻暴露
|
||
if err := db.Ping(); err != nil {
|
||
db.Close()
|
||
return nil, fmt.Errorf("连接数据库 %s 失败: %w", path, err)
|
||
}
|
||
return db, nil
|
||
}
|
||
|
||
// migrations 按顺序存放每一版的迁移语句。
|
||
//
|
||
// 外层一个元素 = 一个版本;内层是该版本要执行的语句,**一条一执行**。
|
||
// 不把多条语句塞进一个字符串,是因为 database/sql 的 Exec 对
|
||
// "一次执行多条语句"的支持因驱动而异,拆开最稳妥。
|
||
//
|
||
// 加新版本时**只能往末尾追加**,不许改动已有元素——
|
||
// 已经发布出去的库是按旧语句建的,改了会导致新旧库结构不一致。
|
||
var migrations = [][]string{
|
||
// v1: 初始表结构,对应 docs/admin/03-data-model.md
|
||
{
|
||
`CREATE TABLE shopee_products (
|
||
goods_id TEXT PRIMARY KEY,
|
||
title TEXT NOT NULL,
|
||
shopee_status TEXT,
|
||
main_sku_code TEXT,
|
||
|
||
-- 下面三个是人工维护的,报表里没有,导入时绝不能覆盖
|
||
pdd_goods_url TEXT,
|
||
pdd_goods_id TEXT,
|
||
pdd_data TEXT,
|
||
|
||
collect_status TEXT NOT NULL DEFAULT 'no_link'
|
||
CHECK (collect_status IN (
|
||
'no_link', 'pending', 'collecting',
|
||
'collected', 'failed'
|
||
)),
|
||
collect_error TEXT,
|
||
collected_at TEXT,
|
||
created_at TEXT NOT NULL,
|
||
updated_at TEXT NOT NULL
|
||
);`,
|
||
`CREATE INDEX idx_shopee_products_status ON shopee_products(collect_status);`,
|
||
`CREATE TABLE shopee_skus (
|
||
sku_id TEXT PRIMARY KEY,
|
||
goods_id TEXT NOT NULL,
|
||
spec_raw TEXT NOT NULL,
|
||
color TEXT,
|
||
size TEXT,
|
||
advice TEXT,
|
||
parse_ok INTEGER NOT NULL DEFAULT 0,
|
||
sku_code TEXT,
|
||
is_manual INTEGER NOT NULL DEFAULT 0,
|
||
created_at TEXT NOT NULL,
|
||
updated_at TEXT NOT NULL,
|
||
FOREIGN KEY (goods_id) REFERENCES shopee_products(goods_id) ON DELETE CASCADE
|
||
);`,
|
||
`CREATE INDEX idx_shopee_skus_goods ON shopee_skus(goods_id);`,
|
||
`CREATE INDEX idx_shopee_skus_parse ON shopee_skus(parse_ok);`,
|
||
`CREATE TABLE syb_orders (
|
||
syb_id TEXT PRIMARY KEY,
|
||
order_no TEXT NOT NULL,
|
||
title TEXT,
|
||
shopee_goods_id TEXT,
|
||
shopee_sku_id TEXT,
|
||
quantity INTEGER NOT NULL CHECK (quantity > 0),
|
||
price_twd_cent INTEGER CHECK (price_twd_cent IS NULL OR price_twd_cent >= 0),
|
||
image_url TEXT,
|
||
syb_data TEXT NOT NULL DEFAULT '{}',
|
||
created_at TEXT NOT NULL,
|
||
updated_at TEXT NOT NULL
|
||
);`,
|
||
`CREATE INDEX idx_syb_orders_order ON syb_orders(order_no);`,
|
||
`CREATE INDEX idx_syb_orders_goods ON syb_orders(shopee_goods_id);`,
|
||
`CREATE INDEX idx_syb_orders_list ON syb_orders(updated_at DESC, syb_id DESC);`,
|
||
`CREATE TABLE sku_mappings (
|
||
shopee_sku_id TEXT PRIMARY KEY,
|
||
goods_id TEXT NOT NULL,
|
||
pdd_options TEXT NOT NULL,
|
||
mapped_at TEXT NOT NULL,
|
||
mapped_by TEXT,
|
||
FOREIGN KEY (shopee_sku_id) REFERENCES shopee_skus(sku_id) ON DELETE CASCADE
|
||
);`,
|
||
`CREATE INDEX idx_sku_mappings_goods ON sku_mappings(goods_id);`,
|
||
`CREATE TABLE tasks (
|
||
task_id TEXT PRIMARY KEY,
|
||
task_type TEXT NOT NULL CHECK (task_type IN ('collect', 'purchase')),
|
||
status TEXT NOT NULL DEFAULT 'pending'
|
||
CHECK (status IN ('pending', 'assigned', 'claimed',
|
||
'succeeded', 'manual_review',
|
||
'failed', 'cancelled')),
|
||
version INTEGER NOT NULL DEFAULT 1 CHECK (version > 0),
|
||
priority INTEGER NOT NULL DEFAULT 0,
|
||
|
||
assigned_client TEXT,
|
||
claimed_at TEXT,
|
||
|
||
syb_id TEXT,
|
||
order_no TEXT,
|
||
goods_id TEXT,
|
||
shopee_sku_id TEXT,
|
||
|
||
-- Client 契约要求:pdd_goods_url 必填;
|
||
-- 采购任务的 quantity 和 max_price_cent 也必填(价格保护)
|
||
pdd_goods_url TEXT NOT NULL,
|
||
pdd_goods_id TEXT,
|
||
pdd_options TEXT,
|
||
quantity INTEGER CHECK (quantity IS NULL OR quantity > 0),
|
||
max_price_cent INTEGER CHECK (max_price_cent IS NULL OR max_price_cent > 0),
|
||
|
||
result_data TEXT,
|
||
error_code TEXT,
|
||
error_message TEXT,
|
||
finished_at TEXT,
|
||
|
||
created_at TEXT NOT NULL,
|
||
updated_at TEXT NOT NULL
|
||
);`,
|
||
`CREATE INDEX idx_tasks_claim ON tasks(assigned_client, status, priority DESC, created_at);`,
|
||
`CREATE INDEX idx_tasks_list ON tasks(updated_at DESC, task_id DESC);`,
|
||
`CREATE INDEX idx_tasks_order ON tasks(order_no);`,
|
||
`CREATE TABLE clients (
|
||
client_id TEXT PRIMARY KEY,
|
||
name TEXT,
|
||
device_address TEXT,
|
||
platform TEXT,
|
||
pdd_package TEXT,
|
||
capabilities TEXT,
|
||
last_seen_at TEXT NOT NULL,
|
||
created_at TEXT NOT NULL,
|
||
updated_at TEXT NOT NULL
|
||
);`,
|
||
`CREATE TABLE idempotency_keys (
|
||
key TEXT PRIMARY KEY,
|
||
request_hash TEXT NOT NULL,
|
||
response_body TEXT NOT NULL,
|
||
created_at TEXT NOT NULL
|
||
);`,
|
||
},
|
||
}
|
||
|
||
// Migrate 把数据库升到最新版本。
|
||
// 已经是最新的就什么都不做,可以重复调用。
|
||
func Migrate(db *sql.DB) error {
|
||
var current int
|
||
if err := db.QueryRow("PRAGMA user_version").Scan(¤t); err != nil {
|
||
return fmt.Errorf("读取 user_version 失败: %w", err)
|
||
}
|
||
|
||
if current > len(migrations) {
|
||
return fmt.Errorf(
|
||
"数据库版本 %d 高于本程序支持的 %d,"+
|
||
"说明这个库是更新版本的程序建的,请升级程序而不是降级",
|
||
current, len(migrations))
|
||
}
|
||
|
||
for v := current; v < len(migrations); v++ {
|
||
tx, err := db.Begin()
|
||
if err != nil {
|
||
return fmt.Errorf("开始迁移 v%d 失败: %w", v+1, err)
|
||
}
|
||
for i, stmt := range migrations[v] {
|
||
if _, err := tx.Exec(stmt); err != nil {
|
||
tx.Rollback()
|
||
return fmt.Errorf("执行迁移 v%d 第 %d 条语句失败: %w", v+1, i+1, err)
|
||
}
|
||
}
|
||
// PRAGMA 不支持参数化,这里的值来自循环变量而非外部输入,安全。
|
||
if _, err := tx.Exec(fmt.Sprintf("PRAGMA user_version = %d", v+1)); err != nil {
|
||
tx.Rollback()
|
||
return fmt.Errorf("更新 user_version 到 %d 失败: %w", v+1, err)
|
||
}
|
||
if err := tx.Commit(); err != nil {
|
||
return fmt.Errorf("提交迁移 v%d 失败: %w", v+1, err)
|
||
}
|
||
}
|
||
return nil
|
||
}
|