一、DeepSeek公司 DeepSeek公司 成立于2023年7月17日，中文名字全称是 杭州深度求索人工智能基础技术研究有限公司 ，由知名量化基金公司 幻方量化 创立（注册总资本1000万，幻方量化的创始人梁文锋占了1%的持股比例）。DeepSeek 作为一家创新型科技公司，成立以来专注于开发先进的大语言模型（LLM）和相关技术，作为大厂外唯一一家储备万张 A100 芯片的公司，

一、写在前面 本文章总结了在Docker环境使用“NVIDIA GPU”，它的效率与直接在物理服务器启动进程使用物理服务器上的NVIDIA GPU效率差不多，所以是一种高效与常用的NVIDIA GPU云原生场景下的使用方式。能够在Docker环境使用“NVIDIA GPU”后，只需要在Docker环境所在的服务器上再部署 Kubernetes 环境、安装nvidia-device-pl

一、介绍 HAMi-WebUI项目官网：https://github.com/Project-HAMi/HAMi-WebUI 根据官网的介绍，它是一个基于开源项目HAMi的另一开源项目，主要用来管理与监视GPU等加速设备资源的。它通过提供一个可视化的web接口扩展了HAMi的功能与可用性，这个web接口可以查看与管理跨节点的GPU资源分配与使用情况。HAMi-WebUI支持针对任务与GPU使用

Debian10 amd64 1 arm64 1234567891011121314root@debian10:~/ cat /etc/apt/sources.listdeb https://mirrors.huaweicloud.com/debian/ buster main contrib non-free#deb-src https://mirrors.huaweicloud.com

001 HAMi 能否感知其他进程对物理GPU的使用？ 提问具体描述：如果一个物理NVIDIA GPU卡，显存24G。已经在物理服务器上创建了一个进程使用此GPU卡，占用显存12G（它此时空闲显存12G）。此时我能否创建4个显存大小是4G的vGPU出来（创建出来后就会一直处于使用中）？ 回答：HAMi（我使用的是2.4.1）无法感知其他进程对物理GPU的使用。比如上述问题中，一个物理NVI

1 容器镜像概述 ​ 容器镜像（Image）所承载的是封装了应用程序及其所有软件依赖的二进制数据。 容器镜像是可执行的软件包，可以单独运行；该软件包对所处的运行时环境具有良定（Well Defined）的假定。 ​ 容器镜像与容器的关系，类似于可执行文件与进程的关系。也就是说，可以将容器理解为容器镜像的动态形式，容器镜像则容器的静态形式。一般地，实现某特定业务功能的容器镜像都是在某一个

背景及环境 123#操作系统：Ubuntu 20.04.3 LTS x86_64#HAMi版本：2.4.1#Kubernetes版本：1.23.17 1234567891011121314151617181920212223242526root@controller01:~# kubectl get nodesNAME STATUS ROLES AGE V

1. pod/hami-device-plugin一直处于CrashLoopBackOff 具体报错信息如下 1234567891011121314151617181920212223242526272829root@controller01:~# kubectl -n kube-system get podsNAME

1 安装方法列举 以下以在Ubuntu 20.04.3 LTS-amd64 宿主机（arm64宿主机只需要转换对应文件或命令名称即可）上部署containerd 容器引擎服务为例。 apt形式安装 apt install containerd.io 二进制形式安装 访问 https://github.com/containerd/ 下载对应构架与操作系统的二进制安装文件，解压到