建议租用48GB现存的4090
复制启动命令并运行(初次运行使用长指令)
pip install "numpy>=2.0.0" --force-reinstall && pip install --upgrade scipy && pip install --force-reinstall "numpy==1.26.4" && python main.py --listen 0.0.0.0 --port 8188 --use-sage-attention
后再运行使用如下指令启动即可
python main.py --listen 0.0.0.0 --port 8188