跳转至

代理服务 · AI 模块(ai-Modules)

服务分类:代理服务 —— 对应前端 mcp 平台与 AI 客户端

模块定位

AI 代理服务:统一管理接入大模型的模型 / 提示词 / 工具 / 技能 / 智能体, 对外提供 MCP(Model Context Protocol)网关路由与评测部署能力。

功能

  • 模型管理:接入模型清单、密钥、上下文窗口、定价(models);
  • 提示词管理:模板 / 版本 / 变量(prompts);
  • 工具与技能:外部工具注册(参数 Schema)、多步技能编排(tools / skills);
  • 智能体:角色 / 指令 / 绑定工具与记忆(agents / memory);
  • MCP 网关:路由规则、模型分发、协议适配(gateway / servers);
  • 规则与评测:权限规则、数据集评测、统计报表(rules / eval / stats);
  • 部署:智能体发布、备用模型与容灾(deploy / standby)。

接口要点

  • 平台管理面:mcp 前端平台(nfarms/mcp/)各页面经统一身份头调用;
  • 后端形态:独立 AI 网关服务或 nfarmsd 扩展模块(规划中,见 mcp 前端页面契约);
  • 遥测:推理调用量 / Token / 延迟可通过 /api/v1/telemetry 汇总。

状态与关联

  • 管理面前端已就绪(mcp 平台 15 个路由页);后端网关按规划文档落地;
  • 关联前端:mcp/;关联文档:../nfarms/mcp.md。