qwen2.5-vl-7B视觉大模型 私有化部署webUI

2025-04-27 0 639

服务器选用:算力云 部署qwen2.5-vl-7B,24g显卡跑不起图,单问问题就占20g左右。有能力可以用大点的显卡

一、下载模型 Qwen2.5-VL-7B-Instruct

有conda ,可以在conda下操作,不知道conda的同学可以参考本博主之前的文章Conda/Miniconda/Anaconda 安装及命令整理_conda mini-CSDN博客

conda create –name qwen python=3.11

conda activate qwen

模型地址: 魔搭社区

 pip install modelscope

可以使用sdk下载、git下载、命令行下载,本次使用命令行下载方便指定下载路径到数据盘:

cd /root/autodl-tmp #进到数据盘目录

mkdir qwen2.5 #创建文件夹

cd qwe

平台声明:以上文章转载于《CSDN》,文章全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,仅作参考。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

原文链接:https://blog.csdn.net/weixin_42684822/article/details/145515609

遇见资源网 前端 qwen2.5-vl-7B视觉大模型 私有化部署webUI http://www.ox520.com/157313.html

常见问题

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务