L0G4000 玩转HF社区

Han_Skywalker

于 2024-10-24 17:14:20 发布

阅读量415

点赞数 3

CC 4.0 BY-SA版权

文章标签： 1024程序员节

这次的任务主要是用hf下载InternLLM的不同版本，并且可以尝试以下向模型输入自然语言。

根据Tutorial，首先查看hf里面的书生模型。用CodeSpace安装环境并下载这个模型：

and还有一个internlm2_5-chat-1_8b，参数多一点。可以通过下面代码传入input，并打印output：

output = model.generate(**inputs, **gen_kwargs)
output = tokenizer.decode(output[0].tolist(), skip_special_tokens=True)
print(output)

可以看到模型下载成功了，并且也输出了大语言模型的输出！