sundynix-agentix

sundynix/sundynix-agentix

Fork 0

Commit Graph

Author	SHA1	Message	Date
Blizzard	55d50417a9	feat: 模型健康/熔断态 surface 到管理端（T4.F 可观测） failover/熔断的运行时态原来只在 dispatcher 日志、admin 看不到 —— 本次接到概览可见： - harness: CircuitBreaker.Snapshot() 只读观测访问器（state + fails，不动状态机） - llm: Pool.ModelHealth() 上报主备链每模型 {provider,model,role,state,fails}； buildWithFallbacks 把模型名↔breaker 配对（同包直接读 failoverModel.breakers）； newFailoverModel 改返回具体类型以便读 breakers - dispatcher 心跳 payload 加 models[] - gateway /admin/overview 独立超时 Ping dispatcher，合并进 models.health - admin 概览「模型路由」新增「运行时链路态(实时)」：逐模型状态点 (🟢在线/🔴熔断中+失败数/🟡半开探测/单点) - 单测：Snapshot、Pool.ModelHealth(名字↔态配对/单点/空) - live：配坏主→提交任务打熔断→概览显示 broken-demo「熔断中·失败3」，备用在线 Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>	2026-07-06 12:00:13 +08:00
Blizzard	7c211719d2	fix(dispatcher): 熔断器接回 failover —— 挂掉的主模型跳过而非每次白试（T4.E 收官） - failoverModel 加每模型熔断器(阈值3/冷却20s，比编排层更紧)：主模型持续失败达阈值 → 熔断 → 后续请求直接跳过主、直连备用(省掉每次白试主的失败往返)；冷却到点半开放行探测打回主，成功即自动恢复走主(靠熔断器半开机制，无需外部通知) - 全部模型都熔断时强制试主兜底(编排层 o.breaker 兜"全挂") - WithTools 重包共享同一批 breakers(状态不清零)——否则每次 rewrap 熔断失效，关键坑 - harness 加 NewCircuitBreakerWith(threshold,cooldown,halfOpenMax) 参数化构造 - Generate/Stream 用泛型 runFailover 共用选路循环(去重) - 3 新单测：熔断跳过主/WithTools 共享熔断状态/冷却后半开恢复(全三态) Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>	2026-07-02 10:49:54 +08:00
Blizzard	ecf4a80466	feat(llm): T2.1 模型路由 + Fallback —— 单 provider 抖动不再整体宕现状：单 provider，一家 API 抖动/挂掉全平台不可用。加主备 failover：主模型调用失败自动按序切备用，compose/ReAct/Chat 全路径透明白嫖。 - llm/failover.go: failoverModel 把多个 ToolCallingChatModel 串成主备链，按序调用、遇错切下一个；它本身是 model.ToolCallingChatModel 故全路径透明。调用方主动取消 (ctx.Err()!=nil) 不切；模型自身请求超时走内部 ctx、不污染父 ctx 故仍 failover。局限(v1)：Stream 仅建流同步报错时切（已回流 token 的中途失败不切）。 - llm/pool.go: SetConfig 用激活配置(含 Fallbacks)重建——主+可用备用串成 failover 链，无备用则直接用主；备用单个构建失败跳过不影响主链。 - contract.ModelConfig: 加 Fallbacks 字段（骑在主配置里下发，不改任何 bus/ServeConfig 签名）。 - gateway store.ActiveConfig: chat 把"其它已登记 chat 模型"按序填进 Fallbacks； provide(main) + broadcast(admin) 共用 → 注册多个 chat 模型即自动成主备。 - bus.decryptConfig: 备用模型的 api_key（密文）一并解密。测试：failover 单测（主可用不调备/主挂切备/全挂报错/取消不切/Stream 切备/WithTools 链）。 live 验证：active=死 ollama 主 + deepseek 备 → 任务连主拒连→自动切 deepseek→4s 完成。 DEPTH_ROADMAP T2.1（admin 注册多模型即主备，无需新 UI）。 Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>	2026-06-30 09:26:18 +08:00

Author

SHA1

Message

Date

Blizzard

55d50417a9

feat: 模型健康/熔断态 surface 到管理端（T4.F 可观测）

failover/熔断的运行时态原来只在 dispatcher 日志、admin 看不到 —— 本次接到概览可见：
- harness: CircuitBreaker.Snapshot() 只读观测访问器（state + fails，不动状态机）
- llm: Pool.ModelHealth() 上报主备链每模型 {provider,model,role,state,fails}；
  buildWithFallbacks 把模型名↔breaker 配对（同包直接读 failoverModel.breakers）；
  newFailoverModel 改返回具体类型以便读 breakers
- dispatcher 心跳 payload 加 models[]
- gateway /admin/overview 独立超时 Ping dispatcher，合并进 models.health
- admin 概览「模型路由」新增「运行时链路态(实时)」：逐模型状态点
  (🟢在线/🔴熔断中+失败数/🟡半开探测/单点)
- 单测：Snapshot、Pool.ModelHealth(名字↔态配对/单点/空)
- live：配坏主→提交任务打熔断→概览显示 broken-demo「熔断中·失败3」，备用在线

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

2026-07-06 12:00:13 +08:00

Blizzard

7c211719d2

fix(dispatcher): 熔断器接回 failover —— 挂掉的主模型跳过而非每次白试（T4.E 收官）

- failoverModel 加每模型熔断器(阈值3/冷却20s，比编排层更紧)：
  主模型持续失败达阈值 → 熔断 → 后续请求直接跳过主、直连备用(省掉每次白试主的失败往返)；
  冷却到点半开放行探测打回主，成功即自动恢复走主(靠熔断器半开机制，无需外部通知)
- 全部模型都熔断时强制试主兜底(编排层 o.breaker 兜"全挂")
- WithTools 重包共享同一批 breakers(状态不清零)——否则每次 rewrap 熔断失效，关键坑
- harness 加 NewCircuitBreakerWith(threshold,cooldown,halfOpenMax) 参数化构造
- Generate/Stream 用泛型 runFailover 共用选路循环(去重)
- 3 新单测：熔断跳过主/WithTools 共享熔断状态/冷却后半开恢复(全三态)

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

2026-07-02 10:49:54 +08:00

Blizzard

ecf4a80466

feat(llm): T2.1 模型路由 + Fallback —— 单 provider 抖动不再整体宕

现状：单 provider，一家 API 抖动/挂掉全平台不可用。加主备 failover：主模型调用失败
自动按序切备用，compose/ReAct/Chat 全路径透明白嫖。

- llm/failover.go: failoverModel 把多个 ToolCallingChatModel 串成主备链，按序调用、
  遇错切下一个；它本身是 model.ToolCallingChatModel 故全路径透明。调用方主动取消
  (ctx.Err()!=nil) 不切；模型自身请求超时走内部 ctx、不污染父 ctx 故仍 failover。
  局限(v1)：Stream 仅建流同步报错时切（已回流 token 的中途失败不切）。
- llm/pool.go: SetConfig 用激活配置(含 Fallbacks)重建——主+可用备用串成 failover 链，
  无备用则直接用主；备用单个构建失败跳过不影响主链。
- contract.ModelConfig: 加 Fallbacks 字段（骑在主配置里下发，不改任何 bus/ServeConfig 签名）。
- gateway store.ActiveConfig: chat 把"其它已登记 chat 模型"按序填进 Fallbacks；
  provide(main) + broadcast(admin) 共用 → 注册多个 chat 模型即自动成主备。
- bus.decryptConfig: 备用模型的 api_key（密文）一并解密。

测试：failover 单测（主可用不调备/主挂切备/全挂报错/取消不切/Stream 切备/WithTools 链）。
live 验证：active=死 ollama 主 + deepseek 备 → 任务连主拒连→自动切 deepseek→4s 完成。
DEPTH_ROADMAP T2.1（admin 注册多模型即主备，无需新 UI）。

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

2026-06-30 09:26:18 +08:00

3 Commits