AttributeError: ‘PreTrainedModel’ object has no attribute ‘generate’.
项目场景:在调用transfomrers中的pretrainedmodel时报错没有generate属性,项目中的包均是导入的最新版
问题描述
调用PreTrainedModel时报错没有generate属性
原因分析:
提示:这里填写问题的分析:
采用的transformers版本是4.52,通过追溯源码发现pretrainedmodel类中确实没有generate属性,此时类主要继承自:
class PreTrainedModel(nn.Module, ModuleUtilsMixin, PushToHubMixin, PeftAdapterMixin):
通过查阅资料对比以前版本的PreTrainedModel发现少了一个继承类GenerationMixin,而PreTrainedModel的generate方法刚好是继承自GenerationMixin模块,因此找到了缺失generate的原因
解决方案:
提示:这里填写该问题的具体解决方案:
有效的解决方案:
将transformers的版本从4.52 降到 4.46 ,成功解决。(原项目使用的transformers版本是4.29,但是由于这版本过时了,装起来很多报错)
无效的解决方案:
直接修改源码,在编译时会强制修复,修改无效(查了一下需要重新编译换包,好麻烦)