在docker-compose.yml指定了多个服务。他们的是使用相同的 Dockerfile 生成镜像。它们使用相同的镜像,但每个服务都有不同的command或者端口等其他信息。 在开发或自测过程中,经常使用 docker-compose […]
docker-compose同一镜像多个服务共用端口或不同端口
使用docker-compose部署某个服务,使用同一个镜像,这里有两种方式来部署: 共用端口 services: test-service: image: myimage ports: – “5000:5000” deploy: repl […]
rz上传下载文件乱码问题
在 xshell 向服务器使用 rz 命令上传大文件包时,有时候会出现满屏幕的乱码,还停不下来,非常的不友好。 这个原因是文件内容包含了控制字符 使用命令 rz -be # 参数解释 -b:–binary 用binary的方式上传下载,不解 […]
在docker和docker-compose中使用GPU
GPU是宿主机的资源,要在docker中使用GPU以前可能很复杂,现在NVIDIA和docker最新的解决方案变得很方便。 环境要求 docker -v nvcc -V docker版本至少要求应该是20以上吧? 安装密钥 distribu […]
在docker-compose的command中执行多个命令
在docker-compose的command中执行多个命令的写法有很多种,都一一尝试了,比较稳妥同时也比较简洁好看的写法: command: – /bin/bash – -c – | echo server loading dis mod […]
paddle使用fp16模式推理时报错ONNXRuntimeError无法加载libcublasLt.so.11类似错误
使用paddle训练好模型之后,运行推理服务,指定使用fp16模式时,会使用ONNXRuntime包,遇到报错信息: [E:onnxruntime:Default, provider_bridge_ort.cc:1480 TryGetPro […]
paddle遇到报错:’CUBLAS_STATUS_INVALID_VALUE’. An unsupported value …
类似这样变量的错误,从环境变量名上看是cuda的lib,我这边是出现在更换cuda版本之后,这时候我们需要修改一下环境变量中的CUDA路径和CUDA库目录的路径,指向自己安装的CUDA版本中,最好是写在最后面,防止其他环节干扰,比如anac […]
Linux下Nvidia 3090显卡待机功耗100W+高功耗是什么情况
一般情况下,当 GPU 空闲(待机)时,它们非常低的功耗,大约在 5W ~ 30W 左右,机器上原有的nvidia 2080 一直这样正常运行的。 但是,最近给机器新加了一张3090显卡,情况就不太正常了,它的待机功耗也保持在 100W 以 […]