@fishv-CSDN博客

原创深入剖析 Adam 优化器：原理、优势与应用

在深度学习领域，优化器的选择对模型的训练效率和性能起着决定性作用。Adam优化器作为一种，凭借其根据历史梯度信息动态调整学习率的特性，备受研究者和工程师的青睐。它巧妙融合了RMSProp和Momentum两种优化算法的理念，并对参数更新进行归一化处理，确保每个参数更新的量级相近，有效提升了训练效果。在众多实际问题中，尤其是大规模数据集上深度神经网络的训练，Adam优化器都展现出卓越的性能。

2025-01-26 15:51:15 2940

原创一文了解神经网络和模型训练过程

神经网络的训练过程实际上是通过重复前向传播和反向传播这两个关键步骤来调整神经网络中的权重。在前向传播中，数据从输入层经过各个隐藏层逐层计算，最终得到输出结果；在反向传播中，计算损失值并反向传播回每一层，计算每个权重的梯度，最终更新权重。通过不断地迭代训练，神经网络能够从数据中学习模式和规律，提高预测精度。如果有任何疑问或建议，欢迎在评论区留言，我们一起讨论。

2025-01-24 12:41:31 1230

原创深入探讨激活函数在神经网络中的应用

激活函数是神经网络的关键组成部分，而神经网络又是机器学习的重要板块。神经网络由多个神经层构成，每一层都可看作数学表达式，这里的 x 是前一层的结果，是w当前层权重， b是偏置。从这个表达式看，，即便有多层，如表达式依然是线性的。。接下来，我们从激活函数的数学原理出发，详细剖析几种常见激活函数的优缺点。

2025-01-22 21:24:08 1466

原创【Lora微调】提高模型效率的创新方法

在自然语言处理（NLP）和机器学习的研究和应用中，随着模型规模的不断扩大，模型训练的计算成本和存储需求也不断攀升。大型预训练模型，如GPT、BERT等，虽然在许多任务上表现出色，但它们的训练和微调通常需要巨大的计算资源，这使得许多研究者和开发者无法充分利用这些模型进行个性化或领域特定的调整。为了在保持模型性能的同时减少计算开销，**Lora（Low-Rank Adaptation）**应运而生。

2025-01-16 15:10:32 881

原创【一文了解 Hugging Face】NLP 学习热门社区，机器学习的 GitHub

Hugging Face 是一个集成了大量预训练模型、数据集和其他资源的开源社区，专注于自然语言处理（NLP）。它为开发者和研究人员提供了方便的工具，可以快速使用并微调大规模预训练的 NLP 模型。通过与库的紧密集成，Hugging Face 极大地简化了 NLP 项目的开发过程，降低了门槛。Hugging Face 提供的工具和资源极大简化了 NLP 模型的使用和微调过程。通过 Hugging Face Hub，我们可以轻松下载并使用多种预训练模型.

2025-01-16 14:34:59 2066

原创理解Top-K、Top-H和温度：如何优化生成模型的输出

Top-K采样是一种用于选择下一个词（token）的方法。在生成文本时，模型会为每一个可能的词生成一个概率分布，表示每个词出现的可能性。

2025-01-06 19:05:52 851

原创如何让大模型不再“已读乱回”——RAG技术助力生成更精确的答案

然而，这些看似无所不能的大模型，却有一个致命的弱点：它们是基于海量的公共数据训练的，对于私人领域或者某些垂直领域的回答效果并不理想，有时甚至会出现“幻觉”，也就是“已读乱回”，一本正经地胡说八道，还无法获取最新的数据。比如，如果你问大模型：“哪个大模型最好用？简单来说，RAG技术就像是给模型加了一本“参考书”，每当你提问时，模型会先去“查阅资料”，然后根据查找到的相关信息生成更准确、事实性的答案。开发人员可以根据需要调整和优化模型的知识库，甚至对某些敏感问题的答案进行特别处理，确保模型的输出更符合需求。

2025-01-06 00:02:58 834

原创长短时记忆网络（SLTM）：理解与实践

长短时记忆网络（SLTM），即短期长期记忆网络，是一种特殊的循环神经网络（RNN），它能够学习到数据中的长期依赖关系。在这篇文章中，我们将详细介绍SLTM的工作原理，并提供一个简单的代码示例，以帮助读者更好地理解和应用SLTM。

2024-11-22 20:20:51 1087

原创【LSTM实战】跨越千年，赋诗成文：用LSTM重现唐诗的韵律与情感

秋风起处，AI 诗人的唐诗修炼与启航之旅

2024-11-22 16:59:52 982 1

原创循环神经网络（RNN）：探索时间序列的奥秘

RNN是深度学习中的一个重要分支，它在处理时间序列数据方面有着独特的优势。通过理解RNN的工作原理和挑战，我们可以更好地应用它来解决实际问题。希望这篇文章能够帮助你入门RNN，并激发你对深度学习的热情。如果你对RNN有更深入的兴趣，不妨尝试实现更复杂的模型，如LSTM或GRU，或者探索RNN在其他领域的应用，如语音识别、自然语言处理等。AI的世界充满了无限可能，等待着你去探索。

2024-11-18 23:00:49 979

原创【循环神经网络】：教AI写周杰伦风格的歌词

只会python基础，也能让AI写歌词

2024-11-18 22:47:27 1512 1

原创什么！网页开发竟然这么简单？！零基础的你，也能在AI的帮助下轻松上手，打造属于自己的网页！

与其担心AI抢饭碗，还不如驾驭好这股浪潮，借用科技力量助力自我发展，让自己在时代的洪流中稳步前行。就拿最近特别火的海螺模型来说，它能够根据文本提示生成视频，而且视频中的人物表情细腻到让人难以置信这竟然是AI的杰作。最近，我注意到一位博主利用AI制作了一份日报网页，设计简洁且功能齐全，这让我感受到了AI在网页开发领域的潜力。前阵子，网上都在说AI要抢程序员的饭碗了，听着挺玄乎的，我也来凑个热闹看看。结果呢，代码是出来了，页面却挺素的，跟网上的模板比，差了点意思。说真的，AI现在的发展速度，简直就像坐了火箭。

2024-10-29 17:37:47 319

原创 Compilation error after upgrading to JDK 21 - “NoSuchFieldError: JCImport does not have member field

这意味着最小的Spring Boot版本是3.1.4，除非您想干预Spring Boot自动配置，并在项目中设置与Spring - Boot -dependencies中定义的Spring Boot BOM不同的Lombok版本。罪魁祸首是Lombok。与JDK 21兼容的最小Lombok版本是1.18.30。] Lombok 1.8.26与JDK 21 不兼容。

2024-10-10 17:17:09 361

原创【自定义网络协议】Java基于Vert.x的自定义TCP协议实现

在自定义TCP协议时，需要定义协议的格式。这里采用一个简单的二进制格式：协议结构实体类/*** 协议消息结构/*** 消息头/*** 消息体（请求或响应对象）/*** 协议消息头/*** 魔数，保证安全性/*** 版本号/*** 序列化器/*** 消息类型（请求 / 响应）/*** 状态/*** 请求 id/*** 消息体长度} }

2024-10-05 13:42:01 1107 1

原创【Java序列化器】Java 中常用序列化器的探索与实践

在 Java 中，Json、Hessian 和 Kryo 都是常用的序列化器，它们各有特点和优势。Json 具有可读性高、跨语言支持广泛等优点，适用于 Web 应用、配置文件和数据存储等场景。Hessian 是一种高效的二进制序列化协议，适用于分布式系统和远程方法调用等场景。Kryo 是一种快速、高效的序列化库，适用于高性能系统和大数据处理等场景。在选择序列化器时，需要根据具体的应用场景和需求来进行选择。如果对性能要求不高，并且需要人类可读的格式，可以选择 Json。

2024-10-05 12:39:49 1199

原创【Java的SPI机制】Java SPI机制：实现灵活的服务扩展

SPI，全称Service Provider Interface，是一种服务发现机制。它用于实现框架或库的扩展点，允许在运行时动态地加载实现了某个接口或抽象类的具体实现类。SPI提供了一种框架来发现和加载服务实现，使得软件模块能够灵活地选择和使用不同的服务提供商。SPI的核心思想是将接口的定义和实现分离，通过配置文件的形式来动态加载实现类，从而实现解耦。

2024-10-04 18:33:22 1387

原创【Java序列化】使用Java 自带的Serializer进行对象序列化和反序列化

在Java开发中，对象序列化和反序列化是常见的需求。序列化是指将对象的状态转换为字节流，从而可以将其存储到文件中或通过网络进行传输。反序列化则是这个过程的逆操作，即将字节流重新转换为对象。Java标准库提供了和类来实现这些功能。本文将介绍如何使用这些类来实现一个简单的序列化工具类。

2024-10-03 13:42:18 1703 1

原创【JDK动态代理】JDK动态代理：为何只能代理接口和接口实现类

JDK动态代理是Java中一种强大而灵活的技术，它允许在不修改原始代码的情况下对目标对象的方法进行功能增强。然而，由于其基于接口的代理机制，它只能代理接口和接口实现类。对于需要代理没有实现接口的类的情况，可以考虑使用CGLIB动态代理等替代方案。在实际开发中，应根据具体需求选择合适的代理机制，以实现最佳的性能和可维护性。

2024-10-02 12:08:28 1325

原创 Maven高级使用指南

Maven作为一个强大的构建工具，提供了丰富的功能来帮助管理和构建大型项目。通过合理使用父工程、版本管理、聚合构建和私服配置，可以有效地简化多模块项目的管理，提高开发效率。希望本文提供的高级Maven用法和解决方案能帮助你更好地应对项目中的各种挑战。如果你有更多问题或想法，欢迎在评论区讨论！

2024-08-21 11:47:14 1221

原创【spring boot自动配置】深入探讨 Spring Boot 自动配置：实现与机制

Spring Boot 是现代 Java 开发中的重要工具，它极大地简化了 Spring 应用的配置和管理。其核心特性之一——自动配置（Auto-Configuration），使得开发者能够以最少的配置迅速启动应用。在这篇文章中，我们将深入探讨 Spring Boot 的自动配置机制，介绍实现自动配置的不同方式，并结合实际代码示例，帮助你更好地理解这一强大功能。

2024-08-20 21:10:48 859

原创【MyBatis动态SQL】解锁动态SQL标签的强大功能

其中，动态SQL标签是MyBatis中一个非常重要的特性，它们让SQL语句的编写更加灵活，能够根据不同的条件动态地构建SQL语句。它通过 collection 属性指定要遍历的集合，item 属性定义了在每次循环中代表集合中单个元素的变量名，open 和 close 属性分别表示整个遍历结果的开头和结尾部分，separator 属性则定义了元素之间的分隔符。示例解释：比如在一个复杂的数据库查询中，某些字段的选择或者一些特定的条件判断部分是在多个不同的查询语句中都会用到的。标签用于引用已经定义好的。

2024-08-18 18:49:38 1027

原创深入理解java web分层架构的高内聚低耦合

在刚才那个订单服务例子中，有两个订单服务类，如果ServiceA和ServiceB都注入IOC容器内，程序运行时将会报错，因为这个两个都继承了OrderService接口他们的bean类型相同。三层架构是一种常见的软件设计模式，它将应用程序分为三个主要的逻辑层：表示层（请求层）、业务逻辑层（业务处理层）和数据访问层（数据层）。比如服务层的serverA换成了serverB，只用更改服务层的代码，不用修改请求层的代码，这就是低耦合。而在 IOC 容器中，对象的创建和生命周期管理由容器负责，使用对象的。

2024-08-18 15:19:58 1309

原创【深度学习实战】利用Linear Regression预测房价

我衷心希望这篇关于使用PyTorch进行线性回归模型训练的博客文章能够对您有所帮助。

2024-08-15 23:29:53 1086 5

原创深入探讨 ReLU 函数：引言、实现及应用

ReLU（Rectified Linear Unit）是一种非线性激活函数，其定义非常简单。ReLU 函数对输入进行线性修正：如果输入值大于零，则直接输出该值；如果输入值小于或等于零，则输出零。数学上可以表示为：这个简单的定义带来了很多优势，使得 ReLU 在深度学习中广泛使用。

2024-08-15 18:46:13 1033

原创深入解析二叉树的子树概念与应用实践

子树作为二叉树研究中的基本单元，不仅加深了我们对二叉树结构的理解，更为算法设计与优化提供了丰富的思路和工具。通过掌握子树的性质、识别方法及其在实际问题中的应用，开发者能够更加灵活高效地解决复杂的数据结构与算法问题。希望本文能激发你对二叉树及子树概念更深层次的探索兴趣，为你的编程之路增添一份坚实的力量。

2024-04-26 17:09:50 649 1

原创【Java GUI】人机对弈五子棋

myPanel相当于画板。myPanel要继承 JPanel类，并要覆盖父类的paint方法，在paint方法里面写负责绘画的代码@Override//调用父类的paint初始化画笔//绘制背景//绘制外边框//绘制棋盘{ //绘制背景//绘制外边框//画横线i < 19;i++) {//画竖线i < 19;i++) {//画棋子case 1:break;case 2:myFrame相当于窗口，画板要放在窗口里。

2024-04-26 16:57:13 852 3

原创【算法学习】树状数组

lowbit（x）函数是求x最低位1和改位后面的0够成的数的大小，比如 4 的二进制 100，最低位1及其后面的0 是 100，所以lowbit(4) = 4。从图片可以看出，数组每个元素维护的是一段区间的和，通过lowbit函数就可以算出每个元素维护的区间，原理有些复杂，感兴趣的同学可以自信百度。k = 1，表示第 a 个数加b）。给定 n 个数组成的一个数列，规定有两种操作，一是修改某个元素，二是求子数列[a,b]的连续和。输出若干行数字，表示k=0 时，对应的子数列[a, b]的连续和。

2024-04-23 14:43:51 395

原创【算法学习】线段树基础版

根结点维护的是区间1 到 4，结点权值是该区间的和，再将区间一份为二，其左儿子维护的是 1 - 2，右儿子维护的是 3 - 4 ，以此类推，直到结点维护的区间长度为1。线段树可以理解为一个二叉树，如果是利用线段树求区间的和，那么每个结点的权值维护的是结点所维护区间的和，再将该区间一分为二，分别交由左右儿子维护。从根节点开始，目标区间和左子树有交集，递归左子树，目标区间和右子树有交集，递归右子树；从根节点开始，目标区间和左子树有交集，递归左子树，目标区间和右子树有交集，递归右子树；

2024-04-23 12:41:04 684