Skip to content

算力舱端口转发

在算力舱的系统中,默认具有一个 lzc-ai-agentsystemd 服务,这个服务负责拉取镜像、管理容器启动、还有和微服连接。

在一些情况下,您可以需要直接使用算力舱的 ip 进行返回一个里面 docker 部署的服务。但因为内部的服务都是没有暴露端口,所以您需要一个端口转发,将服务的端口暴露到算力舱的局域网地址中去。

  1. 算力舱的 ip 地址可以在 aipod 设备管理列表中查看

copy-aipod-ip

  1. 打开地址 http://算力舱的ip:40793/ui 地址。如果您是在算力舱上的浏览器访问,您可以 http://127.0.0.1:40793/ui 打开。并添加您需要转发的服务,比如 bgem3vllm-ai

client-port-forward.jpg

  1. 测试

打开 http://ip:端口,比如我上面的是 bgem3vllm-ai5666 端口.

client-port-forward-test.jpg

或者直接在算力舱中进行访问.

> curl http://127.0.0.1:5666/v1/models

附加说明

注意: 目前不会自动拉起对应的服务,在处理中