小毕超博客

本文介绍了如何利用开源大模型Qwen3-Coder-30B构建私有化AI编程助手，解决企业代码隐私与数据安全问题。通过vLLM框架部署Qwen3-Coder-30B模型，实现本地化代码生成服务，并使用Cline工具连接私服模型进行开发测试。

本文介绍了基于LangChain和MCP技术构建支持可视化图表的ChatBI智能体。实验采用美国COVID-19县级疫情数据，通过FastMCP实现数据查询服务，结合ModelScope的图表服务完成数据可视化。系统架构包含数据查询MCP Server、图表生成服务和GPT-4.1大模型，实现了从自然语言查询到可视化呈现的完整流程。关键技术点包括：MySQL数据存储、MCP服务封装、多工具协同调用等，最终能够根据用户提问自动生成饼图、柱状图等可视化结果。

YOLOv13是目标检测领域的最新成果，继承了YOLO系列的速度与精度优势并进行了多项创新。其核心创新是引入超图自适应相关增强机制（HyperACE），通过可学习的超边构建方式捕捉物体间的复杂关系，突破传统卷积和自注意力的限制。该模型包含Nano、Small、Large和XLarge四种版本，其中Nano版本在MS COCO数据集上达到41.6% mAP，仅需6.4G FLOPs，CPU推理速度可达25FPS。文章还详细介绍了如何快速使用YOLOv13进行目标检测，以及通过微调训练自定义人脸检测模型的方法，

本文探讨了针对大型语言模型的提示词注入攻击方法及防御策略。首先介绍了提示词攻击的基本原理和类型，包括直接、间接、代码和递归注入等攻击手段，以及可能造成的信息泄露、权限绕过等危害。然后提出了一种基于BERT模型的防御方案，通过微调训练重塑模型对自然语言指令的敏感性，构建提示词注入攻击判决模型。文章详细描述了训练语料生成过程，使用GPT-4.1生成5000条涵盖多个领域的攻击示例，并分析了数据集的Token分布情况。最后对数据集进行划分，将10%数据作为验证集用于模型评估。该研究为防范提示词注入攻击提供了实用的

本文介绍了基于LangChain+vLLM+Qwen3-32B+MCP技术栈构建的本地ChatBI问答系统实现方案。主要内容包括： 使用vLLM部署Qwen3-32B大模型API服务；构建DB MCP Server实现数据库交互功能；LangChain Agent 智能体构建。该方案通过大模型本地化部署和MCP智能体的结合，实现了私有化智能数据查询助手。

Spring AI 提供了对 RAG（检索增强生成）的支持，通过向量检索增强技术，将本地私有化知识内容嵌入并存储到向量库中，作为知识库。当用户提问时，通过向量相似度检索召回相关知识，并将其作为上下文背景组装到 Prompt 中，从而增强大模型对私有知识的感知能力，减少幻觉。Spring AI 提供了多种文档读取器（如 JSON、PDF、Markdown 等）和文本拆分工具，并支持多种向量库。本文介绍了如何在 Spring Boot 项目中搭建 RAG 流程，使用 OpenAI 的 GPT-4.1 和 tex

本文介绍了如何将 Huggingface 的 Embedding 模型转换为 Onnx 格式，并在 Java 环境中通过 SpringAI 本地运行。首先，使用 optimum-cli 工具将模型转换为 Onnx 格式，该过程依赖 Python 环境。转换完成后，Java 端无需再依赖 Python 环境。接着，通过 SpringBoot 项目引入相关依赖，配置 TransformersEmbeddingModel 以直接运行 Onnx 格式的 Embedding 模型。这种方法使得 Java 应用能够独立

Qwen3 是 Qwen 系列大型语言模型的最新成员。该系列共包含8款模型，2款参数30B、235B的混合专家模型和6款参数0.6B、1.7B、4B、8B、14B、32B的稠密模型，每款模型均获得同尺寸开源模型的最佳性能。

Spring AI是Spring官方社区项目，旨在简化Java AI应用开发，让Java开发者像使用Spring开发普通应用一样开发AI应用。本文基于Spring AI + bge-large + Milvus 构建私有化语义内容检索方案。

MCP 由 Anthropic 推出的一种开放标准协议，旨在统一大模型（LLM）与外部数据源和工具之间的通信方式。通过 MCP 协议，开发者可以更高效地实现 AI 模型与外部资源的集成，从而提升应用的智能化和上下文感知能力。

Spring AI MCP 是基于 Spring AI 集成扩展了 MCP Java SDK，让开发者在 Spring 体系下可以快速开发 MCP Server 端或 MCP Client 端。

QWQ-32B是阿里巴巴最新开源的一款新型推理模型，规模仅拥有320亿参数，但在多项基准测试中，性能几乎媲美 DeepSeek-R1 满血版，甚至某些测试中超越了 DeepSeek-R1 满血版。

vLLM是一个快速且易于使用的大模型库，专为大模型的推理和部署而设计。可以无缝集成 HuggingFace、Modelscope 上的模型。Open WebUI是一个开源的、可扩展的、功能丰富的自托管AI平台，旨在完全离线运行。它主要设计用于与大型语言模型（LLMs）进行交互，支持多种模型和API，提供了直观的图形用户界面，使得用户可以更方便地管理和运行模型。通过 vLLM+Open WebUI快速部署DeepSeek-R1-Distill-Qwen-14B模型。

YOLO v12是YOLO系列中最新且最具创新性的版本，它将注意力机制引入到YOLO框架中，在保持高速推理的同时又显著提升了检测精度。成功打破了传统基于CNN在速度与性能之间的权衡困境。

vLLM是一个快速且易于使用的大模型库，专为大模型的推理和部署而设计。可以无缝集成 HuggingFace、Modelscope 上的模型。在性能优化上 vLLM 通过引入创新的架构和算法，如Paged Attention、动态张量并行等，减少计算开销和提高吞吐量，实现推理过程的高效，从而加速LLM在推理阶段的性能。一定程度上解决了传统大模型在硬件资源有限情况下的性能瓶颈。

DINOv2是由Meta AI开发的第二代自监督视觉变换器模型，采用 Vision Transformer (ViT) 架构 。其核心特点是在无需人工标签的情况下，通过自监督学习技术，从海量无标注图像中学习有意义的视觉特征表示，类似于 NLP 领域的自监督 Base 模型，DINOv2 已经具有了对图像的理解能力，和强大的图像特征提取能力，因此它可以作为几乎所有计算机视觉任务的骨干模型。

句子语义等价识别任务，说白了，就是让模型来判断两个句子是不是在说同一个意思。就像我们人类有时候会说两句话来表达同一个想法。本文基于开源的 hfl/chinese-roberta-wwm-ext 模型，微调训练句子语义等价识别任务。

本文从零开始实现了一个简单的神经网络，包括前向传播、反向传播和迭代训练过程。通过手动计算梯度并更新权重和偏置，最终实现了对输入数据的预测，并展示了损失函数随训练过程的变化。整个过程展现了神经网络的基本原理和实现方法。

本文仅使用 PyTorch ，从零构建网络结构、构建词表、训练一个 GPT 对话模型。带你体验如何从0到1实现一个自定义的对话模型。模型整体以 Transformer Only Decoder 作为核心架构，由多个相同的层堆叠而成，每个层包括自注意力机制、位置编码和前馈神经网络。

RT-DETR是基于Transformer的目标检测模型,DETR的基础上采用了高效的混合编码器和IoU感知,有效降低了计算成本、提高了检测精度。

搜索内容相关性任务是指评估用户查询（`Query`）与搜索引擎返回的文档或信息（`Document`）之间的匹配程度。

YOLOv11 在 YOLOv8 基础上进行了重要改进，同样支持全方位的视觉 AI 任务，包括检测、分割、姿态估计、跟踪和分类。它继续采用了卷积神经网络设计，充分利用了最新的计算能力，以提高检测效率和降低延迟。在实际应用中，无论是物体识别、跟踪还是图像分割，都展现出了卓越的性能。

Qwen2.5 是 Qwen 大型语言模型的最新系列，参数范围从 0.5B 到 72B 不等。大大提高了编码和数学能力。在指令跟随、生成长文本（超过 8K 个标记）、理解结构化数据（例如表格）以及生成结构化输出（尤其是 JSON）方面有了显著改进。

Qwen是阿里巴巴集团Qwen团队研发的大语言模型和大型多模态模型系列。Qwen2 是 Qwen1.5 的重大升级。无论是语言模型还是多模态模型，均在大规模多语言和多模态数据上进行预训练，并通过高质量数据进行后期微调以贴近人类偏好。

VIT模型是一种基于Transformer架构的计算机视觉模型，它利用Transformer的自注意力机制来捕捉图像中的长距离依赖关系，使得在多个图像识别任务上取得了与卷积神经网络（CNN）相媲美的性能，甚至有所超越，同时具有更好的迁移能力。

Supervision是一个针对于计算机视觉各种任务的框架工具，为用户了提供便捷高效的视觉处理方法，可以轻松处理数据集或直观地展现检测结果。另外他还提供了多种绘制检测结果的方式，并且还提供了统计特定区域内检测跟踪、越线数量统计、切片推理、轨迹平滑等不同计算机视觉任务的方法封装。可谓是在CV领域，有了它你可以少写很多展现和计算代码。

YOLO-V10 由清华大学提供，采用无 NMS 训练和效率-精度驱动架构，提供目前最先进的性能和延迟。

Spring Cloud Alibaba AI 是阿里以 Spring AI 为基础，并在此基础上提供阿里云通义系列大模型全面适配，让用户在 5 分钟内开发基于通义大模型的 Java AI 应用。

Onnx 格式是一种开放格式，用于表示深度学习模型。目的是为了促进不同深度学习框架和工具之间的模型互操作性。通过Onnx，开发人员可以更容易地在不同的深度学习框架之间转换模型。本文首先将自定义的 YOLO-V8 Pytorch 模型转为 Onnx 模型，然后通过 OpenCV 调用 Onnx 模型，进行运算推理。

本篇文章使用数千张花卉照片作为数据集，共分为5个分类：daisy、dandelion、roses、sunflowers、tulips。使用 yolov8n-cls 模型 Fine-Tuning 训练花卉图像分类模型。

YOLO V8 是由 2023 年 ultralytics 公司开源的发布，是结合了前几代 YOLO 的融合改进版。YOLO V8 支持全方位的视觉 AI 任务，包括检测、分割、姿态估计、跟踪和分类。并且在速度和准确性方面具有无与伦比的性能。能够应用在各种对速度和精度要求较高的应用和领域。文本基于 YOLO V8 训练15点人脸关键点检测模型

YOLO V8 是由 2023 年 ultralytics 公司开源的发布，是结合了前几代 YOLO 的融合改进版。YOLO V8 支持全方位的视觉 AI 任务，包括检测、分割、姿态估计、跟踪和分类。并且在速度和准确性方面具有无与伦比的性能。能够应用在各种对速度和精度要求较高的应用和领域。

Milvus 于 2019 年创建，其目标只有一个：存储、索引和管理由深度神经网络和其他机器学习 (ML) 模型生成的大量嵌入向量。它具备高可用、高性能、易拓展的特点，用于海量向量数据的实时召回。

大型模型的出现为许多领域带来了革命性的变化，从自然语言处理到计算机视觉，甚至是医学和金融领域。然而，对于许多开发者来说，大多数情况下，使用这些模型需要拥有一台配备高性能GPU的服务器，而这往往是一项昂贵的投资。而 OpenRouter 为使用者提供了部分开源模型的实现，可以通过API免费使用，主要聚焦在7B规模大小的模型，比如谷歌的 gemma-7b ，Mistral AI 的 mistral-7b-instruct，一定程度避免了自己去部署大模型的成本。

MetaAI 提出能够分割一切的视觉基础大模型SAM可以做到很好的分割效果，并且不限于场景、不限于目标，为探索视觉大模型提供了一个新的方向，可以说是视觉领域通用大模型,而FastSAM`为该任务提供了一套实时的解决方案，进一步推动了分割一切模型的实际应用和发展。

PyTorch Vision 库提供了许多经过预训练的视觉模型，包括图像分类、目标检测、语义分割等。

Halcon 被广泛用于工业视觉和机器视觉应用中，其强大的功能和灵活性使其成为许多开发人员和研究人员的首选选择，同时支持多种编程语言，包括 C、C++、C# 和 Python 等，本文使用Python 调用 Halcon 模板匹配实现目标定位。

图像语义分割是计算机视觉领域的一项重要任务，旨在将图像中的每个像素分配到其所属的语义类别，从而实现对图像内容的细粒度理解。与目标检测不同，图像语义分割要求对图像中的每个像素进行分类，而不仅仅是确定物体的边界框。deeplabv3_resnet50 就是一个常用的语义分割模型，它巧妙地将两个强大的神经网络架构融合在一起，为像素级别的图像理解提供了强大的解决方案。

基于 chinese-roberta-wwm-ext 微调训练中文命名实体识别任务。

LoRA 微调在原始 PLM 增加一个旁路，一般是在 transformer 层，做一个降维再升维的操作，模型的输入输出维度不变，来模拟 intrinsic rank。该方式可以大大降低训练的参数量，而性能可以优于其它参数高效微调方法，甚至和全参数微调（Fine-Tuning）持平甚至超过。