在cpu环境下通过xinference离线加载glm4-chat

1、下载model

方式一：到hugging face下载 （目前这边使用的是 hugging face下载）

https://huggingface.co/THUDM/glm-4-9b-chat/tree/main

通过git下载，需要一段时间

model card 会有提示transfroms的版本，如果模型跑不起来相应升级或降低transfomers版本

方式二： 到https://modelscope.cn/models/ZhipuAI/glm-4-9b-chatmodelscope下载