windows下玩转vllm：vllm简介；Windows下不能直接装vllm；会报错ModuleNotFoundError: No module named ‘vllm._C‘

几道之旅

已于 2025-03-01 08:18:38 修改

阅读量5.8k

点赞数 18

分类专栏： Dify与Langflow，智能体（Agent），知识库文章标签：人工智能 python

于 2025-02-05 19:35:21 首次发布

本文链接：https://blog.csdn.net/xiezhipu/article/details/145456168

版权

Dify与Langflow，智能体（Agent），知识库专栏收录该内容

81 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

-1. Windows下不能直接装vllm

在这里插入图片描述
我其实很久之前就意识到这个事儿，后来太久没搞就又忘了。

昨天忙活了半宿，得来的确实一个无法解决的报错。
在这里插入图片描述
我把错误的traceback贴出来，希望给像我一样的傻孩子提个醒。

>>> llm = LLM(model="facebook/opt-125m")
INFO 03-01 08:09:50 __init__.py:207] Automatically detected platform cuda.
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "E:\vllm\Lib\site-packages\vllm\utils.py", line 1022, in inner
    return fn(*args, **kwargs)
           ^^^^^^