
问题记录
文章平均质量分 71
Anycall201
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
TensorRT-LLM+ChatGLM/Qwen推理部署
无需拉取代码、无需编译,使用Nvidia官方工具便捷式安装TensorRT-LLM引擎,并使用该引擎对chatglm和qwen模型推理加速,部署大模型线上服务。原创 2024-05-03 02:34:18 · 3305 阅读 · 0 评论 -
大模型微调踩坑记录 - 基于Alpaca-LLaMa+Lora
大模型微调训练时,遇到icetk、bitsandbytes报错的解决方案原创 2023-04-11 09:54:12 · 12496 阅读 · 18 评论 -
大模型训练时,使用bitsandbytes报错的解决方法
使用bitsandbytes加载模型出现"The installed version of bitsandbytes was compiled without GPU support."警告的解决办法原创 2023-04-03 15:55:45 · 33967 阅读 · 16 评论 -
Linux安装python+cuda toolkit
Linux系统下安装Python环境、安装nvdia cuda-toolkit驱动原创 2023-02-21 11:29:38 · 1841 阅读 · 0 评论 -
解决Mac打开软件出现“已损坏,无法打开,您应该将它移到废纸篓”的问题
Mac打开软件时出现“已损坏,无法打开,您应该将它移到废纸篓”,可用如下操作解决原创 2022-12-27 10:30:27 · 3706 阅读 · 0 评论