雷羿LexChien的博客

「LLM高效推理与模型量化」的论文，与LLM高效推理和模型量化相关的学术研究，尤其是与文章中提到的llama.cpp、GGUF格式和本地推理技术高度相关的论文，因为这篇论文是LLaMA模型的基础文献，与高效推理和模型量化直接相关，补充对GGUF量化技术和本地推理相关研究的分析，确保内容全面。

「Privacy-Preserving Local Inference for Large Language Models: Techniques and Challenges」是一篇探讨本地LLM推理中隐私保护的学术论文，针对数据泄露风险和硬体限制提出系统性分析。论文介绍了差分隐私、联邦学习和同态加密等技术，评估其在隐私与效能之间的折衷，并探讨长对话和多用户场景的挑战。与「用Go打造本地LLM聊天机器人：整合llm-go与go-llama.cpp」相呼应