- 博客(468)
- 资源 (41)
- 收藏
- 关注
原创 Docker 本地化部署FireCrawl
(1)Step1:已经安装Docker 和 Docker Compose。(3)Step3:复制.env.example 文件并重命名为 .env。(2)Step2:克隆 FireCrawl 项目到本地指定目录下。(4)Step4:docker 运行 firecrawl。将图中标注红的改为false保存。
2025-05-29 21:55:31
523
原创 Unsloth 微调大模型教程
ImportError: DLL load failed while importing libtriton: 动态链接库(DLL)初始化例程失败。2.第二步:下载DeepSeek-R1模型。1.第一步:安装 unsloth和相关包。2.第三步:编写微调代码。
2025-05-25 09:52:45
328
原创 ImportError: DLL load failed while importing libtriton: 动态链接库(DLL)初始化例程失败
ImportError: DLL load failed while importing libtriton: 动态链接库(DLL)初始化例程失败。解决办法。
2025-05-25 09:49:51
310
原创 模型各个参数详解
所以,一般配置模型时,不会把最大上下文配置成模型实际最大上下文,而是预留预定空间给回答,例如 128k 模型,可以配置 max_context=115000。可以配置模型支持的记忆轮数,如果模型的超出上下文,系统会自动截断,尽可能保证不超模型上下文。(1)quoteMaxToken:模型在回复中,能引用的知识库内容的最大token数。(2)最大上下文长度 ≈ 模型的“记忆力容量”:容量越大,能同时处理的信息越多。通常,回复上限=min(模型允许的最大回复上限, 最大上下文-已用上下文)
2025-05-24 12:57:33
337
原创 Win/Linux安装flash attention2
下载对应cuda、torch、python版本的whl文件;第二、三步和Windows 同理。出现版本号,说明安装成功。下载对应版本的whl文件。
2025-05-23 19:44:27
341
原创 Python、Pytorch、TensorFlow、Anconda、PySide、Jupyter
Anaconda 是专为数据科学与人工智能研发设计的开源 Python/R 发行版,以其高效的环境管理与软件包生态著称。
2025-05-20 22:31:48
595
原创 Windows 如何安装CUDA
点击"CUDA",取消"Visual Studio Integration"的勾选(解释:"Visual Studio Integration"用于将 CUDA 工具链与 Visual Studio 开发环境集成的组件,如果没有安装Visual Studio,不需要安装此组件以避免安装 CUDA 失败)点击"Driver components",取消"Display Driver"和"HD Audio"的勾选。点击"下一步",再点击"下一步" ,选择关闭即可。
2025-05-19 22:14:03
395
原创 @torch._disable_dynamo AttributeError: module ‘torch‘ has no attribute ‘_disable_dynamo‘ ?
【代码】@torch._disable_dynamo AttributeError: module ‘torch‘ has no attribute ‘_disable_dynamo‘?
2025-05-11 20:24:35
155
原创 大模型部署工具或框架
大模型vLLM和LMDeploy是企业级部署大模型最常用的。大模型网址: https://modelscope.cn/models/Qwen/Qwen2.5-0.5B-Instruct/# pip install modelscope#模型下载到本地。一、Ollama、vLLM 和 LMDeploy介绍Ollama、vLLM 和 LMDeploy 都是与大语言模型相关的工具或框架,以下是它们的具体介绍:Ollama简介:一个轻量级的模型托管框架,可在本地环境中运行和管理 LLM 模型。
2025-05-07 22:53:38
722
原创 现有的微调大模型的开源工具
ms-swift(SWIFT)是魔搭社区提供的大模型与多模态大模型微调部署框架,支持450+大模型与150+多模态大模型的训练、推理、评测、量化与部署全流程。"开源大模型食用指南"是一个围绕开源大模型的全流程教程项目,针对国内初学者提供从环境配置到部署使用再到模型微调的完整指导。该项目旨在简化开源大模型的使用流程,让更多普通学生和研究者能够轻松使用开源大模型。项目涵盖了国内外主流开源大语言模型(如LLaMA、ChatGLM、InternLM、Qwen等)的部署、应用和微调方法。
2025-05-07 22:47:23
425
原创 CPU-GPU-NPU-TPU 概念
与传统的CPU相比,GPU包含成百上千个较小、更高效的核心,专门用于处理大量数据和执行复杂的数学和几何计算。此外,GPU的并行计算能力也使其在科学模拟、数据分析、深度学习和机器学习等领域变得日益重要,为这些领域提供了前所未有的速度和效率。NPU 通常具有高度并行、低延迟和高能效的特点,特别适合在边缘计算、自动驾驶、机器人、智能手机等设备中进行实时的人工智能计算任务。中央处理器(Central Processing Unit,简称CPU)作为计算机系统的运算和控制核心,是信息处理、程序运行的最终执行单元。
2025-05-07 22:36:15
248
原创 无法加载文件 .\myenv\Scripts\Activate.ps1,因为在此系统上禁止运行脚本?
LinkID=135170 中的 about_Execution_Policies。所在位置 行:1 字符: 1 + ./myenv/Scripts/activate + ~~~~~~~~~~~~~~~~~~~~~~~~ + CategoryInfo : SecurityError: (😃 [],PSSecurityException + FullyQualifiedErrorId : UnauthorizedAccess。
2025-04-22 21:19:24
249
原创 FastGPT安装前,系统环境准备工作?
方法一:打开控制面板 -> 程序 -> 启用或关闭Windows功能->勾选 “适用于Linux的Vindows子系统”
2025-04-18 22:51:33
407
原创 【Win】 cmd 执行curl命令时,输出 ‘命令管道位置 1 的 cmdlet Invoke-WebRequest 请为以下参数提供值: Uri: ’ ?
有一个名为 Invoke-WebRequest 的 CmdLet,其别名为 curl。因此,当您执行此命令时,它会尝试使用 Invoke-WebRequest,而不是使用 curl。
2025-04-18 22:38:29
359
原创 开源模型集成接口
OpenRouter是一个开源的大模型API路由器,旨在将各种AI模型和服务集成到一个统一的接口中,使用户能够通过简单的配置调用不同大模型的能力。其主要功能包括智能路由用户请求到不同的AI模型,并提供统一的访问接口,从而简化与AI模型的交互过程,降低开发者的集成复杂度。
2025-04-15 22:09:01
191
原创 Mac 上使用 mysql -u root -p 命令,出现“zsh: command not found: mysql“?
如果你是通过官方 DMG 安装包安装的 MySQL,默认安装路径可能是。如果你是使用 Homebrew 安装的 MySQL,通常安装路径是。
2025-04-05 18:13:50
504
原创 WARNING: Retrying (Retry(total=4, connect=None, read=None, redirect=None, status=None)) after connec
【代码】WARNING: Retrying (Retry(total=4, connect=None, read=None, redirect=None, status=None)) after connec。
2025-04-05 14:32:20
883
原创 MySQL 报错: “Expression #1 of SELECT list is not in GROUP BY clause and contains nonaggregated column“
1.问题描述MySQL 中出现 “1055 - Expression #1 of SELECT list is not in GROUP BY clause and contains nonaggregated column” 错误?
2025-03-06 21:09:40
704
原创 表 A(sid,sname)和 表 B(tid,sid, tname) 是一对多关系,表 B 中包含表 A 的 sid 作为外键,当表 B 数据量很大时,如何加快 B 表查询速度?
解决办法:在 B 表中,创建索引 A 的索引:
2025-02-20 23:19:45
135
原创 TCP长连接、HTTP短轮询、HTTP长轮询、HTTP长连接、WebSocket的区别
【代码】TCP长连接、HTTP短轮询、HTTP长轮询、HTTP长连接、WebSocket的区别。
2025-02-07 23:03:41
540
原创 Mac M1 ComfyUI 中 AnyText插件安装问题汇总?
该项目最近更新日期为2024年12月,该时间段的transformers 版本由可知为4.47.1.A1: transformers 版本不满足要求,必须降级transformor。
2025-02-04 21:30:33
1232
原创 Mac M1 Comfyui 使用MMAudio遇到的问题解决?
问题1: AssertionError: Torch not compiled with CUDA enabled?解决办法:修改代码以 CPU 运行。
2025-02-03 13:31:15
1089
原创 Mac M1 源码安装FFmpeg,开启enable-gpl 和 lib x264
j$(sysctl -n hw.logicalcpu) 选项用于并行编译,利用系统的所有逻辑 CPU 核心,加快编译速度。将 /path/to/installation 替换为你希望安装 FFmpeg 的实际路径。如果输出中包含 libx264 相关信息,则表示安装成功。(2)解压下载的文件。
2025-02-01 20:23:28
753
原创 8175 (HY000): Your query has been cancelled due to exceeding the allowed memory limit for a single S
找到 TiDB 的配置文件(通常是 tidb.toml),并调整 tidb_mem_quota_query 的值。
2025-01-23 20:29:52
339
原创 Python中将文本数据转换成漂亮词云图的神器——WordCloud 库
读取背景图片(可选)font_path='simhei.ttf', # 字体路径width=1000, # 图片宽度height=600, # 图片高度background_color='white', # 背景颜色max_words=200, # 最大显示单词数max_font_size=150, # 最大字体大小min_font_size=10, # 最小字体大小mask=mask, # 背景形状colormap='viridis', # 颜色方案。
2025-01-13 09:34:38
336
原创 如何为Python程序单独创建虚拟运行环境(Win/Mac/Linux)
【代码】如何为Python程序单独创建虚拟运行环境(Win/Mac/Linux)
2025-01-12 21:07:38
455
Oracle数据库安装程序(version-10201_database_win32).rar
2021-08-18
rocketmq-externals-rocketmq-console-1.0.0.tar
2022-02-21
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人