资源占用
在微服中查看算力舱的资源占用
- 打开 AIPOD 应用

- 点击右上角的设置按钮。

- 点击算力舱管理列表中的查看详情。

- 点击后会跳转到一个新的页面,里面展示您当前算力舱各个服务的占用显存。(注意:这里只会显示AI应用占用的,如果您手动部署的,将不会显示出来)

jtop 查看算力舱占用
- 打开

其中底部的菜单栏是可以点击的或者按 1, 2, 3, 4, 5, 6, 7 进行切换。

- ssh 到算力舱后,执行
jtop命令查看

算力舱中为什么不用使用 nvidia-smi?
It is not possible to use nvidia-smi on a Jetson. This program/utility requires a PCI bus. Jetsons have an integrated GPU (iGPU) which is wired directly to the memory controller. Only a discrete GPU (dGPU) on a PCI slot can use that utility.
在Jetson上无法使用nvidia-smi。该程序/工具需要PCI总线。Jetson配备的集成显卡(iGPU)直接连接到内存控制器。只有安装在PCI插槽上的独立显卡(dGPU)才能使用该工具。
An interesting proposal for NVIDIA: Make a surrogate nvidia-smi program which looks like the original nvidia-smi to programs performing a GPU query, but have it talk instead to the iGPU. Probably not practical, but if it worked, it would make the GPU much more flexible and interchangeable with other software.
一个有趣的想法,针对NVIDIA:制作一个代理程序nvidia-smi,它在执行GPU查询的程序看来就像原始程序nvidia-smi,但实际上却与iGPU通信。这可能不切实际,但如果能实现,将使GPU在与其他软件的兼容性和灵活性上大大提升。
EDIT (August, 2024): The above is still true, except that Orin is able to use L4T R36.x, and there is a partial surrogate nvidia-smi with this. This is an nvidia-smi with limited functionality which might suffice in some cases, but the iGPU is still an iGPU without any PCI bus function on Orin plus R36.x.
编辑(2024年8月):上述内容仍然成立,只是Orin可以使用L4T R36.x,并且为此提供了一个部分替代方案nvidia-smi。这是一个nvidia-smi,功能有限,可能在某些情况下足够使用,但Orin加上R36.x的iGPU仍然没有PCI总线功能。