fd145b5852
旧 compileFlow 把 DSL 图拍平成线性 init→tool…→prompt→model,连线/分支/ memory/aggregate/render 节点全被忽略——"画得出、跑不全"。改为纯 Go 图解释器 (graph.go),按真实拓扑与连线执行,每种节点 kind 有真实行为: - input 注入用户输入 - memory 按勾选注入画像/历史(无 memory 节点则沿用默认注入,不回归) - retriever kb 按 owner 作用域 → kb_search 累计参考资料 - tool 调 MCP 工具,产出进黑板,失败降级不阻断 - agent 据黑板拼消息 → pool 流式回流 token,累计成稿 - aggregate 按策略合并参考资料(拼接/去重合并/摘要) - render 把成稿经 report_render 渲染 docx - branch 求值条件 + active-set 剪枝下游(边序约定 [true,false]) - map 占位(fan-out 暂串行,路线图 Phase 2) - output 终端 全程逐节点点亮"运行·观测",token 流与记忆写回保持不变;报告 intent 走原专用 编排不动。compile.go 精简为只留 RunCtx/buildMessages/previewArgs。 实测(gateway+dispatcher+DeepSeek 实跑): - input→agent→output 真实流式答复 ✓ - branch 条件 2>1 走分支A、1>2 走分支B(下游真被剪枝)✓ - memory 节点按勾选注入;exec 事件按新节点名(agent:a 等)回流 ✓ - 桌面端 Studio 载示例→运行:4节点3连线校验通过,检索节点 mcp-go 不在时 优雅降级,agent 据空资料如实作答,输出/轨迹面板正常 ✓ 路线图 Phase 2:map 真并行 fan-out + aggregate reduce 接上 report 那套; 前端给 branch 的边打 true/false 标签,使条件分支完全精确(当前靠出边顺序约定)。 Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
170 lines
6.1 KiB
Go
170 lines
6.1 KiB
Go
// Package eino 封装基于 CloudWeGo Eino 的 Agent 图编排引擎。
|
|
package eino
|
|
|
|
import (
|
|
"context"
|
|
"encoding/json"
|
|
"fmt"
|
|
"log"
|
|
"time"
|
|
|
|
"github.com/cloudwego/eino/schema"
|
|
|
|
"github.com/sundynix/sundynix-dispatcher/internal/dsl"
|
|
"github.com/sundynix/sundynix-dispatcher/internal/harness"
|
|
"github.com/sundynix/sundynix-dispatcher/internal/llm"
|
|
"github.com/sundynix/sundynix-shared/contract"
|
|
)
|
|
|
|
// TokenSink 是 Token 流回流出口(由 NATS bus 实现)。
|
|
type TokenSink interface {
|
|
PublishToken(taskID string, token []byte) error
|
|
CompleteStream(taskID string) error
|
|
}
|
|
|
|
// ToolCaller 经 NATS 调起第 5 层 MCP 工具(由 NATS bus 实现)。
|
|
type ToolCaller interface {
|
|
CallTool(ctx context.Context, subject string, call *contract.ToolCall) (*contract.ToolResult, error)
|
|
}
|
|
|
|
// 工具调用超时;超时即降级(不带工具上下文继续推理)。
|
|
const toolCallTimeout = 3 * time.Second
|
|
|
|
// Orchestrator 把每个 DSL 任务动态编译为 Eino 图并执行(记忆召回 → 工具节点 → 注入 → 流式)。
|
|
type Orchestrator struct {
|
|
pool *llm.Pool
|
|
breaker *harness.CircuitBreaker
|
|
sink TokenSink
|
|
tools ToolCaller
|
|
exec ExecSink
|
|
}
|
|
|
|
// NewOrchestrator 持有依赖;图按任务的 DSL 在 Handle 内动态编译。
|
|
// exec 为执行可视化事件出口(可为 nil,则不发轨迹事件)。
|
|
func NewOrchestrator(pool *llm.Pool, breaker *harness.CircuitBreaker, sink TokenSink, tools ToolCaller, exec ExecSink) (*Orchestrator, error) {
|
|
return &Orchestrator{pool: pool, breaker: breaker, sink: sink, tools: tools, exec: exec}, nil
|
|
}
|
|
|
|
// Handle 消费一个任务:按 DSL 编译 Eino 图并执行,把 Token 流回流到 sundynix.streams.<id>。
|
|
func (o *Orchestrator) Handle(ctx context.Context, t *contract.Task) error {
|
|
if !o.breaker.Allow() {
|
|
log.Printf("[eino] circuit open, drop task %s", t.ID)
|
|
return nil
|
|
}
|
|
tr := o.tracer(t.ID)
|
|
defer tr.done()
|
|
|
|
// 报告生成走专用多步编排(规划→分章并行检索撰写→汇聚→渲染 Word),而非通用对话图。
|
|
if intent, _ := t.Meta[contract.MetaIntent].(string); intent == contract.IntentReport {
|
|
return o.handleReport(ctx, t, tr)
|
|
}
|
|
log.Printf("[eino] task %s received (graph=%d bytes), 按图执行(拓扑+连线+分支)...", t.ID, len(t.Graph))
|
|
tr.info("task", "system", "任务受理", fmt.Sprintf("DSL %d 字节,按图执行", len(t.Graph)))
|
|
|
|
// 按 DSL 图的真实拓扑/连线/分支执行(graph.go 解释器),agent 节点流式回流 token。
|
|
answer, err := o.runGraph(ctx, t, tr)
|
|
if err != nil {
|
|
log.Printf("[eino] task %s graph error: %v", t.ID, err)
|
|
_ = o.sink.CompleteStream(t.ID)
|
|
o.breaker.Report(false)
|
|
return err
|
|
}
|
|
|
|
if cerr := o.sink.CompleteStream(t.ID); cerr != nil {
|
|
log.Printf("[eino] complete stream failed: %v", cerr)
|
|
}
|
|
log.Printf("[eino] task %s done (%d 字答复)", t.ID, len([]rune(answer)))
|
|
o.breaker.Report(true)
|
|
|
|
// 写回阶段:离开热路径、异步落历史 + (TODO)抽取记忆。
|
|
go o.memorize(t, answer)
|
|
return nil
|
|
}
|
|
|
|
// fetchMemory 经 MCP memory_get 工具召回用户常驻画像。
|
|
// 工具不可用/超时/无 user_id 时返回空串,降级为无记忆推理(不阻断主流程)。
|
|
func (o *Orchestrator) fetchMemory(ctx context.Context, userID, _ string) string {
|
|
if o.tools == nil || userID == "" {
|
|
return ""
|
|
}
|
|
cctx, cancel := context.WithTimeout(ctx, toolCallTimeout)
|
|
defer cancel()
|
|
res, err := o.tools.CallTool(cctx, contract.ToolSubjectGo("memory_get"), &contract.ToolCall{
|
|
Tool: "memory_get",
|
|
Args: map[string]any{"user_id": userID},
|
|
})
|
|
if err != nil {
|
|
log.Printf("[eino] memory_get unavailable for %s, degrade: %v", userID, err)
|
|
return ""
|
|
}
|
|
if !res.OK {
|
|
log.Printf("[eino] memory_get error for %s: %s", userID, res.Error)
|
|
return ""
|
|
}
|
|
log.Printf("[eino] memory_get ok for %s: %s", userID, res.Content)
|
|
return res.Content
|
|
}
|
|
|
|
// fetchHistory 经 MCP history_get 工具召回会话短期多轮历史,转为 Eino 消息。
|
|
// 工具不可用/无 session 时返回空,降级为无历史(不阻断主流程)。
|
|
func (o *Orchestrator) fetchHistory(ctx context.Context, sessionID string) []*schema.Message {
|
|
if o.tools == nil || sessionID == "" {
|
|
return nil
|
|
}
|
|
cctx, cancel := context.WithTimeout(ctx, toolCallTimeout)
|
|
defer cancel()
|
|
res, err := o.tools.CallTool(cctx, contract.ToolSubjectGo("history_get"), &contract.ToolCall{
|
|
Tool: "history_get",
|
|
Args: map[string]any{"session_id": sessionID},
|
|
})
|
|
if err != nil || res == nil || !res.OK || res.Content == "" {
|
|
return nil
|
|
}
|
|
var turns []struct {
|
|
Role string `json:"role"`
|
|
Content string `json:"content"`
|
|
}
|
|
if json.Unmarshal([]byte(res.Content), &turns) != nil {
|
|
return nil
|
|
}
|
|
msgs := make([]*schema.Message, 0, len(turns))
|
|
for _, tn := range turns {
|
|
if tn.Role == "assistant" {
|
|
msgs = append(msgs, schema.AssistantMessage(tn.Content, nil))
|
|
} else {
|
|
msgs = append(msgs, schema.UserMessage(tn.Content))
|
|
}
|
|
}
|
|
if len(msgs) > 0 {
|
|
log.Printf("[eino] history_get ok for %s: %d 条历史", sessionID, len(msgs))
|
|
}
|
|
return msgs
|
|
}
|
|
|
|
// memorize 写回阶段:把本轮对话落进短期历史,并(TODO)抽取长期偏好记忆。
|
|
// 异步执行,离开热路径。
|
|
func (o *Orchestrator) memorize(t *contract.Task, answer string) {
|
|
uid, _ := t.Meta[contract.MetaUserID].(string)
|
|
sid, _ := t.Meta[contract.MetaSessionID].(string)
|
|
if sid != "" && o.tools != nil {
|
|
o.appendHistory(sid, "user", dsl.Compile(t.Graph).Query) // 落真实用户输入,而非 DSL 原文
|
|
o.appendHistory(sid, "assistant", answer)
|
|
log.Printf("[eino] (writeback) task %s 已落会话历史 session=%s", t.ID, sid)
|
|
}
|
|
if uid != "" {
|
|
log.Printf("[eino] (writeback) task %s 待抽取 user=%s 的新偏好记忆", t.ID, uid)
|
|
// TODO: 抽取 LLM → 去重/更新 → memory_upsert
|
|
}
|
|
}
|
|
|
|
func (o *Orchestrator) appendHistory(sessionID, role, content string) {
|
|
cctx, cancel := context.WithTimeout(context.Background(), toolCallTimeout)
|
|
defer cancel()
|
|
if _, err := o.tools.CallTool(cctx, contract.ToolSubjectGo("history_append"), &contract.ToolCall{
|
|
Tool: "history_append",
|
|
Args: map[string]any{"session_id": sessionID, "role": role, "content": content},
|
|
}); err != nil {
|
|
log.Printf("[eino] history_append failed: %v", err)
|
|
}
|
|
}
|