服务器选用:算力云 部署qwen2.5-vl-7B,24g显卡跑不起图,单问问题就占20g左右。有能力可以用大点的显卡
一、下载模型 Qwen2.5-VL-7B-Instruct
有conda ,可以在conda下操作,不知道conda的同学可以参考本博主之前的文章Conda/Miniconda/Anaconda 安装及命令整理_conda mini-CSDN博客;
conda create –name qwen python=3.11
conda activate qwen
模型地址: 魔搭社区
pip install modelscope
可以使用sdk下载、git下载、命令行下载,本次使用命令行下载方便指定下载路径到数据盘:
cd /root/autodl-tmp #进到数据盘目录
mkdir qwen2.5 #创建文件夹
cd qwe
平台声明:以上文章转载于《CSDN》,文章全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,仅作参考。
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/weixin_42684822/article/details/145515609