aiqq136的博客

零基础定制大模型：lora原本要训练W这么多的参数，现在只用训练A和B的参数了，A和B的秩很小，所以其组成的适配器需要训练的参数很少，就降低了计算和存储成本。例如，使用Adam对GPT-3: 175B进行微调，与使用LoRA进行微调，可训练参数减少10,000倍和GPU内存需求减少3倍。将LoRA与量化相结合，优化内存使用和计算效率。添加少量可训练的参数，同时保持原始参数冻结。

提示词主体描述，细节描述，修饰词，艺术风格，艺术家【负向prompts】(lowres, low quality, worst quality:1.2), (text:1.2), deformed, black and white,disfigured, low contrast, cropped, missing fingers主体描述【提示】美丽可爱的女孩，微笑，16岁，牛仔夹克，渐变背景，柔和的色彩，柔和的灯光，电影边缘照明，明暗对比，动漫，超级细节，8k。