NLP大模型

本文介绍了大模型的结构，如BERT、T5和GPT系列，重点讲解了ChatGPT性能提升的四个因素：大模型、代码预训练、Prompt Tuning和RLHF。还探讨了InstructGPT和ChatGPT中的SFT、RM和PPO步骤，以及LoRA、Adapter、Prefix-tuning和Prompt-tuning等微调方法。训练数据类型包括文本对、单一文本、对话和代码。