在Linux下部署Llama2超详细教程
https://www.bilibili.com/video/BV1n8411U7wh

离线AI聊天清华大模型(ChatGLM3)本地搭建
https://blog.csdn.net/i2blue/article/details/135275343

算力平台 AutoDL

1、创建实例 ： 北京C区，GPU数1，V100-32GB 4/8 1.88元/小时，镜像：PyTorch 2.0.0 /11.8,创建完直接关机，节约钱。
2、使用无卡模式开机，无卡模式的话一个小时保需要一毛钱，适合部署环境，下载模型这样的操作。
3、打开JupyterLab,大的模型文件一般是存在autodl-tmp中的，新建一个文件夹Llama2,存放执行文件。
4、....

离线AI聊天清华大模型(ChatGLM3)本地搭建
https://blog.csdn.net/i2blue/article/details/135275343


1、算力平台 AutoDL 充值200元，实现中文LLaMA-2、清华大模型(ChatGLM3 在GPU主机部署，同时，完成模型微调实验。