feat(dispatcher): Eino 组件化补完 —— 检索 Retriever + 提示词 ChatTemplate
补完终态架构剩余两层(A 收尾): - 检索:新增 ragRetriever(eino_components.go)实现 components/retriever.Retriever, 包 mcp-go kb_search(NATS)、命中转 *schema.Document;retrieve() 改经组件, retriever 节点与报告分章检索统一走它。 - 提示词:buildMessages 改用 prompt.FromMessages + MessagesPlaceholder (FString 仅解析模板串、值原样注入 → JSON 花括号安全),产出消息序列与旧手拼等价。 - 工具:mcpTool 即 InvokableTool(Phase B),用于模型自主调用;静态 tool 节点 确定性裸调用 by design。 测试:buildMessages 形状(含花括号)+ ragRetriever 文档解析单测;make test-go 全绿。 性能:compose 每任务编译实测 ~13µs(基准),相对 LLM 秒级可忽略 → 编译图缓存 判为 premature optimization 暂不做;并行效率已由 Phase C DAG 调度拿到。 Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
This commit is contained in:
@@ -5,6 +5,7 @@ import (
|
||||
"encoding/json"
|
||||
"strings"
|
||||
|
||||
"github.com/cloudwego/eino/components/prompt"
|
||||
"github.com/cloudwego/eino/schema"
|
||||
)
|
||||
|
||||
@@ -20,8 +21,17 @@ type RunCtx struct {
|
||||
ToolOut []string // 工具/检索节点产出(含参考资料)
|
||||
}
|
||||
|
||||
// chatTemplate 是会话消息模板:系统提示词 + 历史占位 + 用户输入。
|
||||
// 用 Eino components/prompt.ChatTemplate(FString 仅解析模板串、值原样注入,故 JSON 花括号安全)。
|
||||
var chatTemplate = prompt.FromMessages(schema.FString,
|
||||
schema.SystemMessage("{system}"),
|
||||
schema.MessagesPlaceholder("history", true),
|
||||
schema.UserMessage("{query}"),
|
||||
)
|
||||
|
||||
// buildMessages 把上下文组装为发给模型的消息序列(系统提示词 + 画像 + 工具产出 + 历史 + 用户输入)。
|
||||
func buildMessages(_ context.Context, rc *RunCtx) ([]*schema.Message, error) {
|
||||
// 系统串的动态拼装(按需注入画像/参考资料)留在 Go 侧;最终经 ChatTemplate 成型。
|
||||
func buildMessages(ctx context.Context, rc *RunCtx) ([]*schema.Message, error) {
|
||||
var sys strings.Builder
|
||||
sys.WriteString(rc.System)
|
||||
if rc.Profile != "" {
|
||||
@@ -33,11 +43,11 @@ func buildMessages(_ context.Context, rc *RunCtx) ([]*schema.Message, error) {
|
||||
sys.WriteString("\n\n以下是工具/检索得到的参考资料:\n")
|
||||
sys.WriteString(strings.Join(rc.ToolOut, "\n---\n"))
|
||||
}
|
||||
msgs := make([]*schema.Message, 0, len(rc.History)+2)
|
||||
msgs = append(msgs, schema.SystemMessage(sys.String()))
|
||||
msgs = append(msgs, rc.History...)
|
||||
msgs = append(msgs, schema.UserMessage(rc.Query))
|
||||
return msgs, nil
|
||||
return chatTemplate.Format(ctx, map[string]any{
|
||||
"system": sys.String(),
|
||||
"history": rc.History,
|
||||
"query": rc.Query,
|
||||
})
|
||||
}
|
||||
|
||||
// previewArgs 把工具入参压成一行短预览。
|
||||
|
||||
Reference in New Issue
Block a user