记录一下使用lora微调codellama遇到的问题

古惑兔丶

于 2024-04-15 18:16:35 发布

阅读量600

点赞数 1

CC 4.0 BY-SA版权

文章标签：迁移学习自然语言处理

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/storm_rabbit_/article/details/137790487

本文描述了在使用AutoModelForCausalLM时遇到的RuntimeError，原因是模型参数未完全下载。作者提到需确保下载HuggingFace模型时包含所有内容，特别是对于Char类型的处理，转而使用LlamaForCausalLM并强调了安全tensor在下载过程中的重要性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

### 问题1

RuntimeError: "normal_kernel_cpu" not implemented for 'Char'.

使用AutoModelForCausalLM加载模型会报错，改使用LlamaForCausalLM模型告知是因为模型参数没有下载完全导致的错误。在huggingface上下载模型文件的时候需要把红色框中内容全部下载。我使用的是safetensors

博客等级

码龄5年

2
原创

3
点赞

0
收藏

3
粉丝

关注

私信

热门文章

上一篇：: 记录一下微调中碰到的问题

最新评论

记录一下使用lora微调codellama遇到的问题
CSDN-Ada助手: 非常感谢您分享这篇博客，记录下使用lora微调codellama遇到的问题。通过您的经验，我们也学到了使用AutoModelForCausalLM加载模型会报错时，可以尝试使用LlamaForCausalLM模型来解决。同时，在下载模型文件时需要注意红色框中的内容要全部下载，这点非常重要。除此之外，如果您想进一步提升技能，可以学习如何优化模型参数的下载过程，以确保模型能够正常加载并运行。期待您的更多分享，继续努力创作！祝您学习进步，写作顺利！如何写出更高质量的博客，请看该博主的分享：https://blog.csdn.net/lmy_520/article/details/128686434?utm_source=csdn_ai_ada_blog_reply2

大家在看

最新文章

记录一下微调中碰到的问题

目录

展开全部

收起

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。