想问一下您的vllm版本是多少？

[AnthonyX1an]

我因为平台的问题没法安装v0.6.4的vllm，打算使用低版本的vllm配合您的代码获取qwen2-1.5B-instruct模型的最后一层的embedding，想问一下您用的vllm以及相关的torch、transformer的包的版本是多少？

[WuNein]

4个月前弄的，你看一下，照道理官方支持embeding的版本都可以。

这里还有上古时期还不兼容embedding时候的版本，你看一下。
https://github.com/WuNein/vllm4mteb/blob/main/old/old.md

[AnthonyX1an]

四个月前差不多是v0.5.0版本吗？因为我今天试了一下0.6.0的版本似乎报错是包的版本问题

[WuNein]

你试一下嘛，我估计你新版本就是
https://github.com/vllm-project/flash-attention
这个要手动编译一下