- 博客(154)
- 收藏
- 关注
RSS订阅原创 【大模型实战篇】部署GPT-OSS-120B踩得坑（vllm / ollama等推理框架）
gpt-oss-120b、gpt-oss-20b、部署踩坑、vllm部署、ollama部署、部署问题、flashattention3、mxfp4、gpt、gpt-oss、推理模型
2025-08-08 18:59:39
787
原创 【大模型理论篇】上下文腐烂：增加输入Token对LLM性能的影响分析
大型语言模型（LLM）、长上下文处理能力、系统性缺陷、Chroma Research、针-干草堆、干草堆结构、LongMemEval、关键信息、上下文腐烂现象、输入长度增加、非线性下降
2025-08-01 11:35:31
735
原创 【大模型实战篇】BGE-Rerank-base重排服务部署教程
BGE-reranker-base、reranker、rerank、服务部署、docker、重排服务、相似度计算、GPU
2025-05-27 11:36:06
872
原创 【大模型实战篇】对Qwen3提到的thinking和no thinking混合思考模式的讨论
大模型、qwen3、推理模型、混合思考、思考模式、不思考模式、thinking、no thinking、mcp、强化学习、模型蒸馏、moe架构
2025-05-02 10:27:22
5781
原创 【大模型实战篇】华为信创环境采用vllm部署QwQ-32B模型
华为、信创、qwq-32b、昇腾、鲲鹏、vllm、vllm-ascend、ascend、模型推理、模型部署
2025-05-01 09:47:08
2065
5
原创 【大模型实战篇】解决QwQ-32B推理模型输出结果不带＜think＞的问题
<think>丢失、<think>标签、qwq32b、推理模型、think缺失、vllm、推理模型部署、推理结果格式、qwq模型、
2025-04-23 20:56:18
1026
原创 【大模型理论篇】DeepResearcher论文分析-通过在真实环境中的强化学习实现深度研究
大模型、深度推理、deep researcher、强化学习、深度检索、智能体、自主规划、深度研究、deep research
2025-04-11 23:50:34
1033
原创 【大模型理论篇】Search-R1: 通过强化学习训练LLM推理与利⽤搜索引擎
大模型、深度研究、deep research、深度检索、deep search、深度搜索、强化学习、深度检索增强、R1、search-R1
2025-04-11 15:39:39
1370
原创 【大模型智能体】Agent2Agent协议加上MCP协议也许会成为未来Agent智能体系统的标配
大模型、智能体、智能体与智能体协作、agent2agent、agent、mcp、智能体协作
2025-04-10 20:55:51
1122
2
原创 【大模型理论篇】关于生成式模型中联合分布概率学习必要性以及GPT是生成式模型的讨论
大模型、生成模型、生成式模型、判别式、判别模型、判别式模型、监督生成式、无监督生成式、gpt、llama、大模型、大模型生成式模型
2025-04-09 10:26:57
1040
原创 【大模型理论篇】SWIFT: 可扩展轻量级的大模型微调基础设施
大模型、多模态、微调框架、训练框架、后处理框架、评估、多模态训练、swift、msswift
2025-04-08 23:58:31
1293
原创 【大模型智能体】构建AI智能体的关键要点分享（To B场景）
智能体、大模型、agent、to b智能体、智能体经验、智能体踩过的坑、智能体构建准则、智能体构建关键要点
2025-04-07 08:03:22
1251
原创 【大模型实战篇】基于Claude MCP协议的智能体落地示例
大模型、智能体、agent、ai agent、mcp、工具使用、tools、manus、open manus、mcp示例、mcp解决的问题
2025-03-25 08:52:24
6948
1
原创 【算法工程】大模型开发之windows环境的各种安装
windows、ubuntu、linux、wsl、大模型开发、算法开发、环境安装、备份记录
2025-03-22 21:22:22
1129
4
原创 【大模型理论篇】CogVLM：多模态预训练语言模型
大模型、多模态模型、多模态视觉模型、cogvlm、vision llm、视觉理解、视觉问答、视觉语言预训练模型
2025-03-21 11:43:15
1401
原创 【大模型&算法工程】大模型应用工具化、忠诚度以及知识库场景下PDF双栏解析问题的讨论
大模型、知识库、RAG、解析工具、解析引擎、pdf双栏解析、pdf解析、AI工具化、忠诚度、产品打磨、AI生态建设、大模型应用场景、大模型能力边界
2025-03-21 10:20:50
1320
原创 【大模型理论篇】Skywork R1V: Pioneering Multimodal Reasoning with Chain-of-Thought 论文解读
多模态、多模态推理、vlm、vision llm、cogvlm、r1v、推理模型、大模型、自适应推理链
2025-03-20 10:46:58
1369
原创 【大模型实战篇】多模态推理模型Skywork-R1V
大模型、多模态、多模态推理模型、多模态强化推理、r1、r1-v、r1-vision、强化推理、vit、deepseek、qwq-32b
2025-03-19 23:36:35
1498
原创 【算法工程】调整minio中资源可以url链接进行访问
minio、oss、url访问、url资源、资源地址、资源定位符、minio client、mc
2025-03-19 14:49:25
431
原创 【大模型理论篇】R1-Searcher:通过强化学习激励llm的搜索能⼒
强化学习、强化推理、强化rag、强化搜索推理、rag、r1-searcher、大模型搜索能力、强化学习、r1、强化学习++、grpo
2025-03-18 20:45:59
1159
原创 【算法工程】vllm突然报错No platform detected, vLLM is running on UnspecifiedPlatform
大模型启动、大模型vllm部署、vllm检测不到设备、启动报错、部署报错
2025-03-18 17:21:30
2447
原创 【大模型实战篇】使用GPTQ量化QwQ-32B微调后的推理模型
大模型推理、大模型量化、推理模型量化、微调模型量化、推理模型微调版本量化、qwq32b量化、gptq量化、autogptq、量化提速、性能优化、推理模型、千问模型量化、awq
2025-03-16 23:19:21
1459
原创 【大模型实战篇】对比包括QwQ-32B在内的不同推理模型的吞吐量表现
大模型、性能对比、推理模型、推理性能对比、qwq推理模型、量化模型、int4量化、int8量化、r1蒸馏
2025-03-16 14:15:07
1016
原创 【大模型智能体】UpsonicAI-面向任务可靠执行的智能体框架
大模型、智能体、大模型智能体、智能体框架、可靠性、任务可靠智能体、MCP、upsonic、upsonic智能体框架
2025-03-14 17:41:02
1116
原创 【大模型实战】利用ms-swift微调框架对QwQ-32B推理模型进行微调
大模型、大模型微调、大模型微调框架、lora微调、推理模型微调、强化推理、qwq-32b、ms-swift、微调框架
2025-03-13 00:00:26
3405
4
原创 【大模型实战篇】vllm本地部署阿里最新的QwQ-32B推理模型以及体验
推理模型、千问推理模型、大模型、32B推理模型、强化学习、deepseek-r1、QwQ-32B
2025-03-06 20:14:56
7620
8
原创 【大模型实战篇】DeepSeek-R1面临的DDOS攻击以及与O系列的差距
大模型、推理模型、ddos、大模型拒绝服务攻击、deepseek-r1、o1、o3
2025-02-28 18:49:37
476
原创 【多模态】Magma多模态AI Agent
大模型、智能体、多模态、ai agent、ai 智能体、magma、ui agent、gui agent、omniparser
2025-02-28 17:44:21
1525
原创 【大模型实战篇】OmniParserV2+DeepSeek：基于纯视觉的 GUI Agent解决方案
omniparser、agent、智能体、deepseek、大模型路径规划、omniparser v2
2025-02-26 14:02:49
3106
原创 【算法工程】大模型局限性新发现之解决能连github但无法clone项目的问题
github、大模型、局限性、大模型局限性、小众问题、无法克隆、无法clone项目
2025-02-26 12:11:18
587
原创 【大模型实战篇】利用DeepSeek-R1数据微调蒸馏ChatGLM32B让大模型具备思考能力（Aha moment）
大模型微调、大模型蒸馏、R1数据蒸馏、微调蒸馏、chatglm蒸馏、chatglm推理模型、deepseek-r1、aha moment、glm-zero-preview
2025-02-22 00:56:07
1995
2
大模型预训练相关知识分享
2024-08-29
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人