feat(cluster): gateway 后台定时器加 leader 锁——多副本安全(B5)

此前两个 gateway 定时器(订阅推进/掉单补偿)每实例各扫一遍:多副本下重复查库,
且对微信查单调用量随副本线性放大(微信有频控,先被限流的是自己)。

store.TryRunExclusive:用 PG advisory try-lock 做集群级单实例执行(leader 选举)——每轮
tick 非阻塞抢锁,抢到才跑、跑完释放;抢不到说明别的实例是 leader、本轮跳过。自愈:锁随
持有连接释放,leader 挂了下一轮别的实例自然抢到接管,无需显式故障转移。订阅/补偿用不同
锁键(可由不同实例分别 lead)。非 PG(sqlite 测试)/无 DB → 退回本地直接跑(单实例安全)。

两个定时器的 tick 各包一层 TryRunExclusive。至此 gateway 可安全多副本(SSE 走共享 Redis
流无需粘性、状态全外置、JWT 无状态,剩数据层 HA 属 C 层 ops)。带 fallback 单测。

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
Blizzard
2026-07-21 16:21:31 +08:00
parent 9b153871eb
commit f16f63284f
4 changed files with 91 additions and 5 deletions
@@ -16,6 +16,9 @@ import (
const reconcileInterval = 1 * time.Minute
// reconcileLeaderKey 是掉单补偿的 leader 选举锁键(多副本下只让一个实例查单,见 store.TryRunExclusive)。
const reconcileLeaderKey int64 = 20260723
// 主动查单节流:前端支付弹窗每 2.5s 轮一次单态,而 reconcileOrder 见 pending 就直连渠道
// 查单——单笔订单在 30min TTL 内能打出约 720 次微信查单调用,微信侧有频控,多用户并发时
// 先被限流的反而是我们自己。回调才是入账主路径,查单只是兜底,给它一个最小间隔即可:
@@ -64,10 +67,12 @@ func (h *Handler) StartReconcile(ctx context.Context) {
case <-ctx.Done():
return
case <-t.C:
// 单轮兜底:某轮 DB/查单 panic 不该终止整个补偿定时器,下一轮继续
// 单轮兜底 + leader 选举:多副本下只有抢到锁的实例查单补偿,避免对微信查单量随副本翻倍
safeCall("payment-reconcile-tick", func() {
h.reconcilePending(ctx)
pruneQueryMarks()
h.db.TryRunExclusive(ctx, reconcileLeaderKey, func() {
h.reconcilePending(ctx)
pruneQueryMarks()
})
})
}
}
@@ -14,19 +14,28 @@ import (
// 进程停机期间欠下的发放,由 TickSubscription 的补发逻辑一次性补齐。
const subTickInterval = 10 * time.Minute
// subLeaderKey 是订阅推进的 leader 选举锁键(多副本下只让一个实例跑,见 store.TryRunExclusive)。
const subLeaderKey int64 = 20260722
// StartSubscriptionTicker 随进程生命周期运行;多实例并发也安全(发放靠 ledger 唯一索引幂等)。
func (h *Handler) StartSubscriptionTicker(ctx context.Context) {
safeGo("subscription-ticker", func() {
t := time.NewTicker(subTickInterval)
defer t.Stop()
// 单轮兜底:某轮 panic 不该终止整个定时器,下一轮继续(漏发的下轮补发逻辑兜住)。
safeCall("subscription-tick", func() { h.tickSubscriptions(ctx) }) // 启动即跑一次,补停机期间欠的
// leader 选举:多副本下只有抢到 advisory 锁的实例真正扫,其余跳过(幂等,但省重复扫 + 省频控)。
runTick := func() {
safeCall("subscription-tick", func() {
h.db.TryRunExclusive(ctx, subLeaderKey, func() { h.tickSubscriptions(ctx) })
})
}
runTick() // 启动即跑一次,补停机期间欠的
for {
select {
case <-ctx.Done():
return
case <-t.C:
safeCall("subscription-tick", func() { h.tickSubscriptions(ctx) })
runTick()
}
}
})
+48
View File
@@ -0,0 +1,48 @@
package store
import (
"context"
"time"
)
// TryRunExclusive 用 PG advisory 锁做「集群级单实例执行」(leader 选举):非阻塞地抢锁,
// 抢到就跑 fn、跑完释放,返回 true;没抢到(别的实例正持有)返回 false、不跑 fn。
//
// 用途:多副本 gateway 下,让后台定时任务(订阅推进 / 掉单补偿)只有一个实例真正执行——
// 否则每实例各扫一遍,重复查库、对外部(微信查单)调用量随副本线性放大。**自愈**:锁随持有
// 连接释放,当前 leader 挂了下一轮别的实例自然抢到接管,无需显式故障转移。
//
// 降级/非 PGsqlite 测试、无 DB 开发态):抢锁不可用 → 退回本地直接跑(幂等 + 单实例安全,
// 宁可跑也不要因选主机制缺失而彻底不跑)。
func (p *Postgres) TryRunExclusive(ctx context.Context, key int64, fn func()) bool {
if p.db == nil {
fn() // 无 DB:没法选主,单实例开发态直接跑(tick 内部对 nil db 也会自行 no-op
return true
}
sqlDB, err := p.db.DB()
if err != nil {
fn()
return true
}
conn, err := sqlDB.Conn(ctx)
if err != nil {
return false // 连接都取不到,本轮跳过(下一轮再试)
}
defer conn.Close() // 关连接即释放其上的 session advisory 锁(兜底,防漏解锁)
var got bool
if err := conn.QueryRowContext(ctx, "SELECT pg_try_advisory_lock($1)", key).Scan(&got); err != nil {
// 非 PG(sqlite 无此函数)或查询失败:选主不可用 → 退回本地直接跑。
fn()
return true
}
if !got {
return false // 别的实例是 leader,本轮不跑
}
defer func() {
uctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()
_, _ = conn.ExecContext(uctx, "SELECT pg_advisory_unlock($1)", key)
}()
fn()
return true
}
@@ -0,0 +1,24 @@
package store
import (
"context"
"testing"
)
// 非 PGsqlite 测试库无 pg_try_advisory_lock):选主不可用 → 退回本地直接跑(单实例/开发态不能因此不跑)。
func TestTryRunExclusive_FallbackRunsOnNonPG(t *testing.T) {
p := newTestStore(t)
ran := false
if got := p.TryRunExclusive(context.Background(), 987654, func() { ran = true }); !got || !ran {
t.Fatalf("sqlite 无 advisory 锁应退回本地跑:got=%v ran=%v", got, ran)
}
}
// 无 DB(降级模式):一样本地直接跑。
func TestTryRunExclusive_NilDB(t *testing.T) {
p := &Postgres{}
ran := false
if got := p.TryRunExclusive(context.Background(), 987654, func() { ran = true }); !got || !ran {
t.Fatalf("无 DB 应本地跑:got=%v ran=%v", got, ran)
}
}