代理服务 · AI 模块(ai-Modules)¶
服务分类:代理服务 —— 对应前端 mcp 平台与 AI 客户端
模块定位¶
AI 代理服务:统一管理接入大模型的模型 / 提示词 / 工具 / 技能 / 智能体, 对外提供 MCP(Model Context Protocol)网关路由与评测部署能力。
功能¶
- 模型管理:接入模型清单、密钥、上下文窗口、定价(models);
- 提示词管理:模板 / 版本 / 变量(prompts);
- 工具与技能:外部工具注册(参数 Schema)、多步技能编排(tools / skills);
- 智能体:角色 / 指令 / 绑定工具与记忆(agents / memory);
- MCP 网关:路由规则、模型分发、协议适配(gateway / servers);
- 规则与评测:权限规则、数据集评测、统计报表(rules / eval / stats);
- 部署:智能体发布、备用模型与容灾(deploy / standby)。
接口要点¶
- 平台管理面:
mcp前端平台(nfarms/mcp/)各页面经统一身份头调用; - 后端形态:独立 AI 网关服务或 nfarmsd 扩展模块(规划中,见 mcp 前端页面契约);
- 遥测:推理调用量 / Token / 延迟可通过
/api/v1/telemetry汇总。
状态与关联¶
- 管理面前端已就绪(mcp 平台 15 个路由页);后端网关按规划文档落地;
- 关联前端:
mcp/;关联文档:../nfarms/mcp.md。