分享
优云智算镜像作者指南(Linux环境篇)
输入“/”快速插入内容
优云智算镜像作者指南(Linux环境篇)
用户8506
用户8506
用户3241
用户3241
4月15日修改
1.
前言:
本指南只提供云端Linux虚拟机开发环境下的镜像制作教程,不包括Docker相关内容,关于Docker下的镜像制作方式请参见优云智算其他相关文档和互联网相关教程指南!另外,本指南限于篇幅和侧重点,不可能列举和教学所有Linux下的命令行以及Jupyter操作,如需此方面的深入学习,还请自行查阅互联网相关教程!
2.
云端Linux环境和本地Windows环境的区别(为何不能直接上传Windows平台所谓整合包/一键包来部署云端镜像):
2.1
资源占用:
一般来说,Linux系统的非图形化界面比Windows系统占用更少的系统资源,特别是GPU资源,更适合需要GPU推理的AI应用,这是Linux系统最大的优势!
2.2
应用和插件安装:
Windows整合包比如绘世ComfyUI等,一般可以在整合包内安装和管理插件。但是云端Linux环境下Windows系统的EXE等执行文件不能运行,即使能通过某些第三方方案运行,也不稳定,而且需要额外安装图像化界面,占用更多系统资源,得不偿失!在Linux系统下安装应用和插件一般使用克隆Github等代码仓库的方式,更加纯净和稳定。
2.3
模型下载:
Linux下一般使用git、wget、aria2和hf download等命令行下载模型。特别要指出的是:在优云智算平台下,可以通过软链接的方式直接调用公共模型盘的模型文件,极大地节省了实例和镜像的储存空间和储存费用。如果使用本地整合包上传的话,模型都储存在实例和镜像内,非常容易使实例和镜像超过免费的储存限额而增加额外的费用!并且增加实例开机、镜像制作和部署的时间!
2.4
环境安装和适配:
大多数情况下,Windows本地的依赖环境和Linux并不通用,直接上传整合包内置的依赖环境目录的话,基本上应用是无法直接运行的,还是需要重新安装和配置依赖环境。所以这也是不能上传所谓Windows整合包到云端Linux平台以部署镜像最重要的原因!
3.
创建实例:
3.1
基础镜像的选择
登录优云智算主页后,首先进入控制台,然后点击最左侧实例列表,再点击部署实例按钮:
然后选择平台镜像,在基础镜像中选择合适的镜像,注意:只有通过部署基础镜像制作的镜像才支持发布为社区镜像,系统镜像、游戏镜像和社区镜像(自己发布的社区镜像除外)不支持二次发布:
现在依次说明一下这六种基础镜像:
3.1.1
Pytorch:
已经安装好Pytorch系列各个版本依赖的镜像,适合直接安装各种以Torch为加速框架的AI推理应用,其底层逻辑层面从下到上分别为:Unbuntu→Miniconda3(含Python)→物理显卡驱动→CUDA→Pytorch,可以根据需要选择不同版本的层面部署;
3.1.2
TensorFlow:
已经安装好TensorFlow系列各个版本依赖的镜像,适合直接安装各种以TensorFlow为学习训练框架的AI应用,其底层逻辑层面从下到上分别为:Unbuntu→Miniconda3(含Python)→物理显卡驱动→CUDA→TensorFlow,可以根据需要选择不同版本的层面版本部署;
3.1.3
Miniconda:
这个实际上和后面的CUDA镜像功能重复了,不再介绍;
3.1.4
CUDA:
依次安装了Unbuntu→Miniconda3(含Python)→物理显卡驱动→CUDA,但是没有安装PyTorch、TensorFlow以及其他推理加速框架的系列依赖环境,适合根据AI应用的需求自行安装推理加速框架;
3.1.5
ComfyUI纯净版:
依次安装了Unbuntu→Miniconda3(含Python)→物理显卡驱动→CUDA→Pytorch→ComfyUI,并且安装了常用的加速环境和ComfyUI-Manager等少量必备自定义节点,软链接了公共模型盘的大量常用模型,适合自定义打造适合任意场景的ComfyUI应用;
3.1.6
SD-WebUI:
依次安装了Unbuntu→Miniconda3(含Python)→物理显卡驱动→CUDA→Pytorch→SD-WebUI,并且安装了适合SD-WebUI的加速环境和大量的常用插件,软链接了公共模型盘的大量常用模型,适合开箱即用,或者切换到Forge分支以支持SDXL1.0以后的大模型推理(因为SD-WebUI原始分支已经停止开发更新,大模型支持到SDXL1.0为止,所以要使用FLUX及其以后的大模型只能切换到尚在缓慢更新的Forge分支使用);
3.2
实例规格的选择:
选择好1.镜像以后接下来分别选择2.区域(缺省即可)、3.GPU型号(按需求选择,注意部分GPU可能不支持某些依赖环境或者需要不同的依赖环境)、GPU数量(一般ComfyUI和SD-WebUI这类不支持多GPU同步推理的应用选择1块GPU即可,某些学习和训练型应用可能需要部署多块GPU)和CPU配置(某些视频类应用和ComfyUI工作流会使用大量内存作为额外的模型缓存,如果推理的时候爆内存了,请在部署的时候就选择较大的内存)