我的配置数
0
支持多组自定义 Prefix
目标实例总数
0
按 Stack/100 向下取整
在线容器
0
ray-home-mi-pub 实时汇报
同步服务状态
正常同步中
最近同步: 刚刚
CyAI 实例配置列表
每个 Worker Prefix 全局唯一,系统自动防止不同用户间相互覆盖
节点同步端点:
/api/workers/sync
| Worker Prefix | 所有者 | CyAI API Key | CYS Stack 质押量 | 目标容器数 | 模型 & 宿主端口 | 状态 | 操作 |
|---|---|---|---|---|---|---|---|
|
正在加载 CyAI 配置数据... |
|||||||
ray-home-mi-pub 实时容器监控
由 ray-home-mi-pub 主机上的 CyAI 守护进程实时回报的容器运行状态
| 容器名称 | Worker ID | 运行状态 | 宿主节点 | 详细信息 | 最后心跳时间 |
|---|---|---|---|---|---|
| 暂无容器上报数据 | |||||
在线模型后端代理设置 (Model Provider)
配置在 ray-home-mi-pub 上运行的本地 Mock vLLM 服务。当 CyAI 客户端发起推理任务时,将请求自动重写并转发到在线模型服务 (默认 OpenRouter)。
配置同步端点:
/api/provider/sync
测试状态
上游服务商基础配置
已配置 Key: 暂无
模型名称重定向映射表 (Model Mappings)
当 CyAI 客户端向本地请求指定的官方模型名称时,Mock vLLM 服务自动将其映射为上游服务商实际调用的模型名称:
附加请求头 (Extra Headers JSON)
例如用于 OpenRouter 的 HTTP-Referer 与 X-Title 等字段
运行拓扑说明
1. CyAI Client (Docker)
↓ 端口: 8000 (/v1/models)
2. Mock vLLM (ray-home-mi-pub)
↓ 动态匹配 & 请求重写
3. Online API (OpenRouter/etc)
↓ 真实推理响应或流式返回
4. CyAI 汇报节点工作量完成
↓ 端口: 8000 (/v1/models)
2. Mock vLLM (ray-home-mi-pub)
↓ 动态匹配 & 请求重写
3. Online API (OpenRouter/etc)
↓ 真实推理响应或流式返回
4. CyAI 汇报节点工作量完成
• 免显卡运行:本地不再需要配备多卡高显存 GPU 运行本地 vLLM,只需由 Mock 代理服务接管。
• 自动响应健康检查:CyAI 客户端启动时发起的 /v1/models 校验将直接通过。
ray-home-mi-pub 启动命令
在您的 ray-home-mi-pub 主机上克隆/进入该目录后运行:
cd mock-cyai-manager/daemon chmod +x start.sh stop.sh status.sh ./start.sh
start.sh 将自动启动本地 Mock vLLM 代理服务及 CyAI 容器协调守护进程。