- 博客(452)
- 收藏
- 关注
RSS订阅原创 大模型——Prompt Engineering 提示词工程
定义：Prompt Engineering 是设计和优化输入提示（prompt）以获得预期输出的过程。在与大型语言模型交互时，如何构造提示会显著影响模型的回答质量。简单提示：“告诉我关于猫的事情。优化提示：“请详细描述猫的生物学特征、行为习惯以及它们在不同文化中的象征意义。通过优化提示，用户可以引导模型生成更详细和有用的回答。
2025-05-27 21:01:00
35
原创 大模型系列——6个最好用的LLM应用开发框架
在开发LLM应用和MAS时，我们需要验证LLM输出，监控我们的代理，并与各种工具和服务集成。本文将分享一些用于构建这类应用的有用工具和库。人工智能正在占领当今的技术世界。每个人都需要将人工智能集成到他们的业务中，开发人工智能应用等。我不是来解释什么是人工智能、它的子领域或什么是LLM——这些废话。让我们直接进入主题。我的话题是生成式人工智能和代理式人工智能，特别是LLM和多代理系统（MAS）。在开发LLM应用和MAS时，我们需要验证LLM输出，监控我们的代理，并与各种工具和服务集成。
2025-05-26 22:02:00
21
原创 大模型系列——8个最受欢迎的AI爬虫工具
无论你是在构建应用程序、研究一些很酷的东西还是创建营销活动，AI驱动的抓取工具都可以成为你收集实时数据的秘密武器。作为一名软件开发人员，我必须保持技能敏锐。最好的方法是构建模拟应用程序。问题是我经常缺乏真正的用户和数据。这就是人工智能网页抓取工具派上用场的地方。它们帮助我获得真实数据以纳入项目。我最近制作了一个公寓比较工具。这个工具的灵感来自于我在看了很多不错的公寓后，无法根据需求（而不是纯粹的美学）做出理性的决定。
2025-05-26 22:01:09
335
原创 大模型系列——Dify结合MCP实现数据库查询
今天我们来看Dify结合MCP查询数据库，这里我们用到了一个查询数据库的服务，其实之前我们也有一篇讲text2sql的案例，但是因为我们表结构作为知识库，需要我们把这个表结构做的很丰富，确保能够更精准的生成相应的SQL语句，今天介绍的MCP查询数据库会更灵活一些。MCP服务其实在现阶段，Dify的支持还是欠缺了点，使用的感受还是不如其他的一些客户端，比如我用的cherry studio，这个给我感觉会更兼容一些，使用起来会更方便一些，就是cursor也很好用，有空我也会去介绍一下这些工具的使用。
2025-05-24 21:31:58
160
原创 大模型系列——MiMo：高效数学推理与代码生成的小型开源模型
MiMo 是小米公司开发的一个开源大语言模型项目，专注于数学推理和代码生成。核心产品是 MiMo-7B 系列模型，包含基础模型 (Base)、监督微调模型 (SFT)、从基础模型训练的强化学习模型 (RL-Zero) 和从 SFT 模型训练的强化学习模型 (RL)。这些 70 亿参数模型通过优化预训练数据、多重令牌预测 (MTP) 和强化学习，展现出媲美更大模型的推理能力。MiMo-7B-RL 在数学和代码任务中性能突出，可匹敌 OpenAI o1-mini。模型支持vLLM。
2025-05-24 21:30:48
16
原创 大模型系列——Step1X-Edit：自然语言指令编辑图像的开源工具
Step1X-Edit 是一个开源图像编辑框架，由 Stepfun AI 团队开发，托管于 GitHub。它结合多模态大语言模型（Qwen-VL）和扩散变换器（DiT），让用户通过简单的自然语言指令编辑图像，例如更改背景、移除物体或转换风格。项目于 2025 年 4 月 25 日发布，性能接近闭源模型如 GPT-4o 和2 Flash。Step1X-Edit 提供模型权重、推理代码和 GEdit-Bench 基准测试，支持广泛的编辑场景。
2025-05-24 21:29:59
14
原创 大模型系列——Trae IDE 指南：轻松配置自定义 AI 规则 (Trae Rules)
Trae Rules 是一项强大的功能，它允许开发团队或个人开发者自定义并强制 AI 在代码生成、解释或修改时遵循特定的代码风格和最佳实践。设想一个常见情景：开发者在使用 AI 进行编程辅助时，可能需要反复向 AI强调相同的指令，例如代码的语言风格、项目必须遵循的框架约束、注释的详细程度与格式，或是需要遵守的安全合规条例等。Trae Rules 功能通过为 AI 预先设定这些行为规范，使得 AI 在每次响应时都能自动“读取”并遵循这些预设规则。
2025-05-24 21:29:22
64
原创 大模型系列——探索AI如何革新你的阅读体验，腾讯ima和DeepSeek的书架分类大比拼。
针对这个这些问题，有大模型就是一个比较好的解决方案，比如大模型会根据读者阅读书的分布情况进行动态分类，面对新书、跨学科书籍、文学作品以及抽象主题上，准确性与稳定性显著优于规则分类。最近使用ima比较多，结合个人阅读的场景，在家里有书柜就是一个分类问题，对于线上书架的书很多需要整理是一个问题，怎么样通过AI处理呢？然后我们找到书架的地方，点击右上角的ima，提问：帮我整理书架上的书，进行分类，要求符合mece原则。那么我们可以在当前的分类里再加入一个AI分类，可以看看用户的选择更加偏向于哪一个。
2025-05-16 07:54:14
152
原创 大模型系列——实现高效AI应用开发：LangChain、LLamaIndex 、HuggingFace
在大数据时代，如何快速、准确地从海量的原始数据中提取出有价值的信息，并进行总结与分析，是企业在运营决策中面临的一个重要问题。在这种情况下，和LLamaIndex的组合能够极大提升数据分析效率。例如，在某些数据挖掘任务中，LLamaIndex可以负责快速整理和索引大量的结构化和非结构化数据，而可以用来对这些数据进行自然语言生成，自动生成分析报告或摘要。例如，企业可以利用生成销售数据的趋势分析报告，通过LLamaIndex快速从数据库中检索到相关数据，确保分析结果的时效性和准确性。
2025-05-16 07:53:28
32
原创 大模型系列——模型上下文提供者（MCP）如何赋能AI智能体
模型上下文提供者（MCP）作为AI系统中的智能调度层，通过动态选择与用户请求相关的工具，显著提高了AI助手的效率和准确性。它不仅减少了提示词大小，还提高了模型响应速度和决策质量。随着AI工具生态系统的不断扩大，MCP的重要性将越来越突出，成为构建高效AI系统的关键组件。
2025-05-15 08:02:22
410
原创 大模型系列—— FastGPT 知识库无缝集成到 n8n 工作流
在讨论这类低代码/无代码自动化工具时，一个常见的问题是：为什么不直接用代码实现？对于熟悉编程的开发者来说，用代码似乎更直接、更可控。确实，n8n 这类工具存在一定的学习曲线，初期上手可能需要投入一些时间。然而，一旦熟练掌握，其构建和迭代工作流的效率往往远超传统代码开发，特别是在涉及集成多个 API 和服务的场景下。n8n 强大的节点生态和社区支持能够满足从简单到复杂的各种自动化需求，让想法快速落地。当然，对于需要高度定制、极致性能或涉及复杂底层逻辑的企业级项目，纯代码开发仍然是必要的。
2025-05-15 08:01:17
28
原创 大模型系列——Trae创建一个MCP Server 并调用
从个人体验下来的感觉，对比 Deepseek v3 和 r1 的模型，Builder with MCP这里的执行，选择 Doubao-1.5-pro 效果更好，豆包对关联的 MCP Server 和对应的 Tools 的理解和使用更准确，而 Deepseek 有编码偏向性而忽略去使用可用的 MCP Server。，且 Agent with MCP 的设计，可以同时创建多个场景下的 Agent，并关联不同 MCP Server，免去了其他 MCP Client 需要根据任务不时的去增删服务的繁琐操作。
2025-05-14 22:18:01
40
原创 大模型系列——Crawl4AI为 LLM 和 RAG 准备高质量网页数据
传统网络爬虫框架功能多样，但在处理数据时常需要额外进行清洗与格式化，这使得它们与大语言模型（LLM）的集成相对复杂。许多工具的输出（如原始HTML或未结构化的JSON）包含大量噪声，不适合直接用于检索增强生成（RAG）等场景，因为这会降低LLM处理的效率和准确性。Crawl4AI 提供了一种不同的解决方案。它专注于直接生成干净、结构化的Markdown格式内容。这种格式保留了原文的语义结构（如标题、列表、代码块），同时智能地去除了导航、广告、页脚等无关元素，非常适合作为LLM的输入或用于构建高质量的。
2025-05-14 22:17:13
133
原创 大模型系列——RAG 实战用 StarRocks + DeepSeek 构建智能问答与企业知识库
RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合外部知识检索与 AI 生成的技术，弥补了传统大模型知识静态、易编造信息的缺陷，使回答更加准确且基于实时信息。
2025-05-06 20:53:35
44
原创 大模型系列——使用coze搭建基于DeepSeek大模型的智能体实现智能客服问答
扣子（coze）是新一代 AI 应用开发平台。无论你是否有编程基础，都可以在扣子上快速搭建基于大模型的各类 AI 应用，并将 AI 应用发布到各个社交平台、通讯软件，也可以通过 API 或 SDK 将 AI 应用集成到你的业务系统中。借助扣子提供的可视化设计与编排工具，你可以通过零代码或低代码的方式，快速搭建出基于大模型的各类 AI 项目，满足个性化需求、实现商业价值。点击下方+添加节点，添加一个大模型节点，进行如下连接。单击大模型节点，在右侧可以设置该节点相关信息，首先改名成总结大模型。
2025-05-06 20:21:00
166
原创 大模型系列——模型上下文提供者（MCP）如何赋能AI智能体
模型上下文提供者（MCP）作为AI系统中的智能调度层，通过动态选择与用户请求相关的工具，显著提高了AI助手的效率和准确性。它不仅减少了提示词大小，还提高了模型响应速度和决策质量。随着AI工具生态系统的不断扩大，MCP的重要性将越来越突出，成为构建高效AI系统的关键组件。
2025-05-05 16:55:34
38
原创 大模型系列——InternVL开源多模态大模型，支持图像、视频和文本处理
InternVL 是由上海人工智能实验室（OpenGVLab）开发的一个开源多模态大模型项目，托管在 GitHub 上。它集成了视觉和语言处理能力，支持图像、视频和文本的综合理解与生成。InternVL 的目标是打造一个媲美商业模型（如 GPT-4o）的开源替代品，广泛应用于视觉感知、跨模态检索和多模态对话等任务。该项目以其强大的视觉编码器、动态高分辨率支持和高效训练策略著称，模型规模从 1B 到 78B 参数不等，适合从边缘设备到高性能服务器的多种应用场景。
2025-05-01 09:44:47
54
原创 大模型系列——RAG架构大揭秘：三种方式让AI回答更精准，更懂你！
但如果问题超出了它的知识范围，它可能就无能为力了。而RAG技术就像是一个“开卷考试”的学生，它不仅可以利用自己学到的知识，还能随时查阅一个巨大的“知识库”，从中找到最相关的资料，然后结合这些资料生成一个更准确、更丰富的回答。这就像是在一个巨大的图书馆里，你只需要说出你想要找的书的主题，系统就能立刻帮你找到最相关的几本书，并且还能告诉你哪些章节是你最需要看的。它的工作方式是这样的：当你问它一个问题时，它会从知识库中找出一些和你的问题最相似的文档，然后把这些文档和你的问题拼接在一起，扔给语言模型去生成回答。
2025-05-01 09:32:12
465
原创 大模型系列——RAG进阶Embedding Models嵌入式模型原理和选择
主要用于训练和评估模型：根据一段文章回答相关的问题。**BGE-M3：**北京智源研究院开发，支持多语言、混合检索（稠密+稀疏向量），处理 8K 上下文，适合企业级知识库。**NV-Embed-v2：**基于 Mistral-7B，检索精度高（MTEB 得分 62.65），但需较高计算资源。**训练方法：**对比学习（如 Word2Vec 的 Skip-gram/CBOW）、预训练+微调（如 BERT）。**上下文依赖：**现代模型（如 BGE-M3）动态调整向量，捕捉多义词在不同语境中的含义。
2025-05-01 09:30:13
164
原创 大模型系列——Spring.new快速构建AI驱动的定制化商业应用
Spring.new 是一个基于人工智能的在线平台，专注于帮助营销经理和产品经理快速构建定制化工作流和小型应用。它通过自然语言输入，让用户描述需求，自动生成连接 Notion、Airtable、Slack 等工具的工作流或应用，例如将 Figma 设计转为可交互界面，或创建轻量级 CRM 系统。平台无需用户具备编程经验，操作简单，适合快速迭代的团队。Spring.new 强调即时性，号称从需求到成品只需几分钟，特别适合需要快速上线营销活动或产品功能的用户。
2025-05-01 09:28:59
32
原创 大模型系列——Suna集成浏览器操作与数据分析的智能代理
Suna 是 Kortix AI 开发的一个开源通用 AI 代理，托管在 GitHub 上，基于 Apache 2.0 许可证，允许用户免费下载、修改和自托管。它通过自然语言对话帮助用户完成复杂任务，如网页浏览、文件管理、数据抓取和网站部署。Suna 采用模块化架构，包括 Python/FastAPI 后端、Next.js/React 前端、Supabase 数据库和 Daytona 沙盒，确保安全性和灵活性。它支持与 OpenAI、Anthropic 等大语言模型集成，并通过。
2025-05-01 09:28:15
56
原创 大模型系列——基于 StarRocks 的向量检索探索
什么是向量检索呢？简单来说，向量检索是**通过给定一个查询向量，在特征数据库中找到与之距离最近的 k 个向量。**举个例子，如果我们把今天会场的所有人作为特征向量，那么向量检索的任务就是找到与我最相似的 10 个人。用通俗的语言来说，它其实就是一个 Top N 查询。虽然本质上，向量检索就是一个 Top N 查询，但由于深度学习中几乎所有内容都用向量表示，所以我们将其称为“向量检索”。在单机环境下，我们在 30 万到 100 万数据规模和 50 维向量的情况下，可以实现十几毫秒的延迟。
2025-04-30 08:21:50
199
原创 大模型系列——阿里云百炼 MCP 服务评测与 Agent 构建实战
第二个案例相对复杂一些，目标是让 AI 自动抓取指定网页内容，进行总结，并将总结结果连同标签一起保存到Flomo笔记应用中。此案例涉及两个第三方MCPFirecrawl（用于网页抓取）和Flomo（用于笔记记录）。
2025-04-30 08:21:01
86
原创 大模型系列——一文搞懂RAG构建知识库和知识图谱
向量化通过Embedding模型将非结构化数据（文本、图像等）映射为高维语义向量，存储则依托专用向量数据库（如ElasticSearch的dense_vector字段、Milvus）构建高效索引（HNSW、FAISS），支持近似最近邻搜索（ANN）实现大规模向量数据的快速相似性匹配。RAG构建知识库的核心在于将外部知识检索与大语言模型生成能力结合，通过高效检索为生成提供上下文支持，从而提升答案的准确性和时效性。**二、知识库和知识图谱********检索与生成的协同****三、Prompt 工程实践。
2025-04-29 08:27:57
108
原创 大模型系列——什么是 Vibe Coding？从零开始学习 AI 辅助编程
生成式 人工智能 的指数级增长正不断重塑各个行业，软件开发领域也不例外。大约在 2025 年初，一股源自美国硅谷的新思潮开始引起关注：开发者似乎可以借助 AI 工具，在几乎不直接编写代码的情况下构建产品。这种依赖直觉、跳脱传统编码苦役的开发方式，被赋予了一个颇具时代感的名字——。简单来说， Vibe Coding 代表了一种新颖的软件开发哲学。开发者主要通过自然语言向 AI 描述需求，由 AI 负责生成和修改代码。
2025-04-29 08:26:54
77
原创 大模型系列——快速部署和使用 Deep Research Web UI
Deep Research Web UI是一款由 AI 驱动的智能研究可视化工具。它整合了搜索引擎、网络抓取和大语言模型等先进技术，能够自动对复杂问题进行深度挖掘，并生成结构完整的研究报告。该工具强调用户的数据安全和部署灵活性，所有数据处理均在本地浏览器完成，并支持私有化部署。用户可以通过动态树状结构实时追踪研究的逻辑脉络，最终报告支持一键导出为 PDF 或 Markdown 格式，方便分享和存档。
2025-04-26 13:39:24
112
原创 大模型系列——多种RAG组合优化（langchain实现）
列表中的每个元素代表一条消息，消息通常由 BaseMessagePromptTemplate 类的实例组成，比如 SystemMessagePromptTemplate、HumanMessagePromptTemplate 等，分别对应系统消息、人类消息等不同角色的消息模板。例如，如果您希望与ChatGPT在与体育相关的话题范围内进行对话，可以将”system"角色分配给聊天助手，并设置内容为"体育专家”。CoT的优势在复杂的推理任务中更为明显，同时使用大型模型（例如，参数超过50B）。
2025-04-26 13:38:44
33
原创 大模型系列——AI Agent 重塑电商客服：基于 Coze 平台的实践解析
该方案的核心思想是将复杂的传统客服职能，抽象为可数据化、可调度的智能化服务单元，构建一个能自主执行服务流程的智能体系统。定制的电商智能体，能够快速从知识库中定位商品特性、促销活动信息、历史对话记录等，生成个性化的营销话术，以提升商品吸引力和转化率。模式的广泛落地仍面临挑战，包括对高质量数据的依赖、复杂或非标场景的处理能力、以及在完全自动化场景下的服务边界和伦理考量。还能结合店铺的邮费政策、运费险规则、优惠券策略等信息，解答消费者疑虑，建立信任，辅助购买决策。平台的实践，特别是在售后客服场景，其构建的。
2025-04-25 08:26:34
433
原创 大模型系列——体验 AutoGen Studio - 微软推出的友好多智能体协作框架
AutoGen和AutoGen Studio都是微软研究团队开发的工具，用于创建和管理AI智能体。AutoGen提供底层框架，AutoGen Studio提供直观的用户界面。AutoGen Studio的主要特性包括定义和修改智能体、与智能体互动、增加技能、发布会话等。与CrewAI和MetaGPT相比，AutoGen Studio提供了可视化界面，对新手更友好。AutoGen Studio可应用于文档管理、客户服务、数据分析、教育培训、创意内容生成等场景，助力任务自动化。
2025-04-25 08:25:30
121
原创 大模型系列——Dify+Notion+DeepSeek 让你的知识库更加智能
我个人的主力笔记还是Notion，在Notion中存储了大量笔记资料，但Notion无法进行信息整合，另外搜索功能也很鸡肋，虽然目前Notion也集成了AI，那目测体感下来也就是一个GPT3.5的水平。配置文本分段设置和索引方法，自动分段或自定义规则，选择质量级别（高质量消耗更多令牌，也可以设置索引方法和检索参数，提高检索精准度。通过Dify+Notion的组合，可以将静态的知识库转变为智能的信息助手，真正实现知识的高效利用和价值最大化。而且我记笔记的特点是没有分类，没有标签的最原始信息，不使用任何模板。
2025-04-23 08:18:44
264
原创 大模型系列——dify+ragflow知识库
dify借助ragflow很大程度弥补了知识库解析、知识库问答效果的不足，最方便的是ragflow官方本身就支持了dify的外部知识库API。PS：由于我的dify和ragflow都部署在同一个主机的docker中，所以dify可以通过主机的内网ip访问ragflow的知识库。，可以参考我的ragflow配置（如下：在docker-compose.yml里面把ragflow映射到主机的端口改掉，改成容器的。本期使用的dify和ragflow都是使用docker本地部署的。
2025-04-23 08:17:34
354
原创 大模型系列——Easy Dataset大模型微调数据集神器
在“Settings”页面，找到“Prompts”或“提示模板”。输入自定义提示，比如“请用简洁的语言回答问题”。保存后，生成答案时会按照你的提示调整风格。
2025-04-23 08:15:40
273
原创 大模型系列——Llama 4 系列登场 原生多模态 AI 创新的新起点
Meta 公司于 2025 年 4 月 5 日发布了其 Llama 大语言模型系列的最新成员—— Llama 4，标志着其在 AI 领域，特别是在原生多模态和模型架构方面的重大进展。此次发布的核心是 Llama 4 Scout 和 Llama 4 Maverick 两款模型，以及作为技术支撑的巨型“教师”模型 Llama 4 Behemoth 的预览。此举不仅展示了 Meta 在追赶并试图超越业界顶尖模型方面的决心，也延续了其推动开源 AI 生态的策略。
2025-04-21 07:30:30
118
原创 大模型系列——mcp-ui基于MCP协议的简洁AI聊天界面
mcp-ui 是一个开源项目，由开发者 machaojin1917939763 创建，基于 Model Context Protocol（MCP）协议打造，是一款支持 Web 和桌面环境的智能聊天应用。项目使用 Vue.js 和 Electron 构建，支持跨平台部署，适合开发者或 AI 爱好者使用。expression: { type: “string”, description: “计算表达式，如 2+3” }浏览器打开 http://localhost:5173（端口可能不同，见终端提示）。
2025-04-21 07:29:51
192
原创 大模型系列——Text2SQL 的实现探究
*Spider、WikiSQL和CHASE等主流Text2SQL数据集提供****自然语言查询与SQL查询对应数据**Text2SQL数据集是指一类专门用于训练Text2SQL（文本到SQL）模型的数据集合。**，主要包含****数据集收集、数据预处理、模型选择与构建和微调权重***基于开箱即用的Text2SQL Agent结合业务整合到应用***通过自然语言描述完成复杂数据库的查询操作****开源的AI原生数据应用开发框架****是一个利用LLMs实现****主要包括两种：**
2025-04-21 07:29:19
135
原创 大模型系列——Coze 搭建一个AI 助手智能体
无论你是否有编程基础，你都可以在扣子平台快速搭建一个 AI 智能体。本文以一个夸夸机器人为例演示如何在扣子平台搭建智能体。
2025-04-20 09:08:14
40
原创 大模型系列——Coze 什么是扣子
扣子是新一代 AI 应用开发平台。无论你是否有编程基础，都可以在扣子上快速搭建基于大模型的各类 AI 应用，并将 AI 应用发布到各个社交平台、通讯软件，也可以通过 API 或 SDK 将 AI 应用集成到你的业务系统中。
2025-04-20 09:07:28
57
原创 AI 编程工具—Cursor 进阶篇 使用cursor创建一个mcp服务，并在cursor中调用
Cursor 是一个 AI 驱动的代码编辑器，支持(MCP)，允许开发者通过自定义服务器增强 AI 功能。MCP 是一种开放标准，连接 AI 模型与外部工具或数据源。本报告聚焦于配置一个简单的天气服务器，使用假数据，适合初学者。
2025-04-20 09:03:15
245
原创 AI 编程工具—Cursor 基础篇 集成使用 MCP工具
选择对应的服务后，可以在这里拿到设置好的cursor 中对应的配置，新版的cursor已经没有界面配置入口，官方推荐使用json 格式配置，方便配置环境变量。找到你想要的mcp server 后，点击cursor ，这是因为我们在cursor中演示，也就是我们的mcp client 是cursor。这个表示有问题，其实我们删除上面的配置文件，因为我们其实在执行完npm 命令后，这个mcp server 已经配置好了，这是我后来发现的。下面我们就可以点击json 复制下面的mcp server 的配置了。
2025-04-20 09:02:10
98
原创 大模型系列——MCP全解析，一步步教你借助第三方MCP Server开发Agent
现在一起来完成一个真正的Agent，这个Agent会使用第三方MCP Server中的工具来扩展自身能力，为了方便，这里借助LlamaIndex的FunctionCallingAgent来快速实现这个Agent（LangGraph请使用create_react_agent）。比如你的应用是一个Chatbot，可以从MCP Server中取出这些模板，让使用者选择使用。**快速的适应变化：**想象下，如果一个外部资源的接口发生变化，只需要访问它的MCP Server做修改，所有的LLM应用就可无缝适应。
2025-04-18 07:52:57
165
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人