Qwen3-coder-30B-A3B环境部署教程

介绍

本镜像安装了qwen3-coder最新的模型

Qwen3-Coder-30B-A3B-Instruct has the following features:

• Type: Causal Language Models
• Training Stage: Pretraining & Post-training
• Number of Parameters: 30.5B in total and 3.3B activated
• Number of Layers: 48
• Number of Attention Heads (GQA): 32 for Q and 4 for KV
• Number of Experts: 128
• Number of Activated Experts: 8
• Context Length: 262,144 natively.

启动

待实例初始化完成后，在控制台中打开“JupyterLab”

进入JupyterLab之后，新建一个终端Terminal，运行以下指令

ollama serve

不要关闭前一个正在运行的终端，再新建终端运行

open-webui serve

待运行结果如下图所示时，即可进入访问步骤

访问

在浏览器中输入以下指令进入WebUI界面，外网ip可以在基础网络（外网）中获取

{容器外网ip}:8080

第一次进入WebUI界面需要输入账号和密码。账号：root@root.com ；密码：root

登录后即可开始和模型对话