跳到主要内容

vLLM 部署测试

1. 安装依赖

pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/
pip install -U vllm