c7a02c3905
5 层 + 1 条 NATS 零拷贝消息总线的 monorepo(Monolith First → Microservices Morph B)。 纵向主干(任务流 + Token 流回流)已真实跑通,横向各层能力为带注释的桩。 已贯通(real code): - sundynix-shared: 共享契约 + JetStream/core NATS 真实收发(bus) + 内嵌 NATS(devnats) + e2e 测试 - sundynix-gateway: Gin 接入 + DSL 解析组装 + NATS Publish + SSE 流式输出 - sundynix-dispatcher: NATS 消费 + Eino Orchestrator 流式回流 + 熔断器 + LLM Pool 占位流式 - 链路: HTTP POST → DSL → sundynix.tasks.* → Dispatcher → Token 经 sundynix.streams.<id> 回流 → SSE - 基础设施: docker-compose(nats/postgres/redis/neo4j/milvus) + Makefile(make demo/e2e) 待填(桩): - Eino 图编排 compose.NewGraph、LLM Pool 接 vLLM/Ollama - Gateway store 换真实 pgx/redis - sundynix-mcp-go: Bleve+Milvus+Neo4j 混合检索 / UniOffice / 外部 API - sundynix-mcp-py: gVisor 沙箱 / MinerU(PaddleOCR) / Docker 解释器 - sundynix-desktop: React Flow 画布 → DSL 导出 → SSE 展示
16 lines
445 B
Go
16 lines
445 B
Go
// Package harness 提供 LLM 自动化评测与熔断降级能力。
|
|
package harness
|
|
|
|
import "context"
|
|
|
|
// Evaluator 实现 LLM 自动化评测(质量打分 / 回归对比)。
|
|
type Evaluator struct{}
|
|
|
|
func NewEvaluator() *Evaluator { return &Evaluator{} }
|
|
|
|
// Score 对一次推理输出打分。
|
|
func (e *Evaluator) Score(ctx context.Context, input, output string) (float64, error) {
|
|
// TODO: LLM-as-judge / 规则评测
|
|
return 0, nil
|
|
}
|