算力舱端口转发
在算力舱的系统中,默认具有一个 lzc-ai-agent 的 systemd 服务,这个服务负责拉取镜像、管理容器启动、还有和微服连接。
在一些情况下,您可以需要直接使用算力舱的 ip 进行返回一个里面 docker 部署的服务。但因为内部的服务都是没有暴露端口,所以您需要一个端口转发,将服务的端口暴露到算力舱的局域网地址中去。
- 算力舱的 ip 地址可以在
aipod设备管理列表中查看

- 打开地址
http://算力舱的ip:40793/ui地址。如果您是在算力舱上的浏览器访问,您可以http://127.0.0.1:40793/ui打开。并添加您需要转发的服务,比如bgem3vllm-ai

- 测试
打开 http://ip:端口,比如我上面的是 bgem3vllm-ai 和 5666 端口.

或者直接在算力舱中进行访问.
> curl http://127.0.0.1:5666/v1/models附加说明
注意: 目前不会自动拉起对应的服务,在处理中