- 博客(54)
- 收藏
- 关注
RSS订阅原创 Ubuntu 单机多卡部署脚本： vLLM + DeepSeek 70B
执行前请确保：1. 系统为 Ubuntu 20.04/22.04 2. 拥有NVIDIA显卡(显存≥24G)单机多卡,这里的 --tensor-parallel-size 参数为 4 ,直接用4卡、也可以用8卡用8。# 启动服务(根据GPU数量调整tensor-parallel-size)# ---- 以下为重启后执行的第二部分 ----echo "请手动重启系统后再次执行本脚本！# 模型下载示例(替换为实际模型ID)exit 0 # 首次执行到此退出。# NVIDIA驱动安装(需重启)
2025-05-07 21:42:37
558
原创 ubuntu扩展逻辑卷并调整文件系统大小步骤
安装好ubuntu如果没有调整磁盘空间,一般默认给你100G的空间,在用完时再调整也还来得及,下面是。
2025-04-27 19:48:01
572
原创 开发网页程序时预览时遇到跨域问题解决方法
macos下: open -n /Applications/Google\ Chrome.app/ --args --disable-web-security --user-data-dir=/Users/pinke/ChromeDevUserData。windows下：chrome.exe --disable-web-security --user-data-dir=C:\chromedata。要记得关闭所有chrome后再用这个新的参数打开,要么打开的还是旧的无参数的环境.
2025-04-22 23:21:07
361
原创 基于Shell实现的网络测速脚本方案及实现方法，包含基础测速、实时监控、带宽测试三类功能
基于Shell实现的网络测速脚本方案及实现方法，包含基础测速、实时监控、带宽测试三类功能
2025-04-12 10:02:14
331
原创 docker 镜像下载的另一种方式
本应该这样拉:docker pull nvidia/cuda:11.8.0-cudnn8-devel-ubuntu22.04现在你可以这样拉dockerpull nvidia/cuda:11.8.0-cudnn8-devel-ubuntu22.04
2025-03-29 20:45:27
2141
原创 怎么在GPU资源不够情况下微调Deepseek R1
开源大语言模型的快速发展为各领域带来了新的机遇，微调技术能够使其更好地适应特定任务的需求。DeepSeek R1 是 DeepSeek AI 开发的第一代推理模型，它通过大规模强化学习（RL）而非传统的监督微调（SFT）进行训练，能够独立探索链式推理（Chain-of-Thought,CoT）我们用`unsloth`做微调，一个开源框架，能够显著提升大语言模型微调的速度和内存效率。微调后的模型推理结果更加简洁、准确，推理过程也更加符合医疗领域的逻辑。做模型一定会做微调，简单的改了名称也要微调。
2025-03-08 13:58:47
684
原创 [开源]用deepseek做代码审核的小应用
这里核心: deepseek (ollama)+git+redmine api。AI 配置:(评审提示词参数Deepseek code review 插件)这两天无聊做了几个简单做的界面,很粗糙,用GO+fyne.io 跨平台。3、根据结果提交给redmine这样的任务管理平台。2、提示词+更新内容问deepseek。代码整理中,整理上再上git。1、找到GIT最近更新内容。2、Redmine配置。
2025-03-05 10:02:24
566
原创 看看DeepSeek-R1-Distill-Qwen-1.5B参数说明，为什么他只是玩具
这个模型是一个基于Transformer架构的深度语言模型，具有较大的词汇表和较深的隐藏层结构。这个模型是一个基于Transformer架构的深度语言模型，具有较大的词汇表和较深的隐藏层结构。`LlamaTokenizerFast`是一个高效的分词器，通常用于处理特定的语言模型。28层的模型属于较深的模型，能够处理复杂的语言任务。28层的模型属于较深的模型，能够处理复杂的语言任务。• 作用：`top_k`用于限制生成时考虑的标记数量，只从概率最高的40个标记中选择下一个标记。
2025-02-12 11:12:01
937
原创 windows 下快速安装一个ssh服务
1、添加windows服务,这个其它可以在添加删除程序里有一个可以(但家庭版本没有)3、服务设置为自动启动,这样开机后启动可用。ssh 用户名@127.0.0.1。
2025-02-09 20:20:52
409
原创 用deepseek写了一个压力测试工具,用于测试4090显示上跑deepseek-r1 各蒸馏版情况
bin 目录已经编译好的,不想编译的可以直接下载来测试一下。
2025-02-08 18:59:46
1159
原创 解决用 rm 报bash: /usr/bin/rm: Argument list too long错
但目录里面文件过多用rm报bash:/usr/bin/rm:Argumentlisttoolong错时怎么办：看看以下操作记录可以了文件多了主要是*传给rm会把文件名都传给rm所以报参数太多，解决办法就是不要用通配符*，再配合grep过滤后删除就行了：
2025-01-17 23:06:31
779
原创 现在免费可用的AI达到什么水平,这里用一道小学六年级的题来测试一下
现在免费可用的AI达到什么水平,这里用一道小学六年级的题来测试一下:文心一言、Kimi、DeepSeek、GPT-4o、Claude-3.5-sonne、豆包,全军覆没...
2025-01-13 17:20:18
401
原创 iperf 网络测速工具使用与例子
iperf 官网CentOS 7 RPM 安装包openEuler-24.03-LTS RPM 安装包Ubuntu DEB 安装包。
2025-01-09 11:00:09
1049
原创 快速下载ollama 模型文件脚本
2、直接下载到当前目录的方法,这里以qwen2.5 来做例子,其它的可自行修改。这里简单的通过modelscope下载,以下用简单的shell来下载。1、首先要有一个python3。
2024-11-20 10:01:39
1063
原创 linphone-desktop 项目源代码里,如何给账号增加一个参数
linphone-desktop 项目源代码里,给账号增加一个参数.要怎么加,加在哪一个文件
2024-10-22 10:39:12
388
原创 使用AudioRelay+ VB-CABLE 实现手机无线麦克风及音响功能
具体的使用正常你会下载,会安装,打开后都容易上手,这里不展开说,mark一下,以备不需。1、会议中,现场没有麦克风,有手机,有电话,想直接用手机当用电脑的远程麦克风来使用。2、没有音响,但空间比较大、吵,电脑的声音不够大,要电脑的声音直接发到手机上播放.这时 AudioRelay+ VB-CABLE 就可以满足。他们都有免费版本可使用,也有收费更高级的版本。
2024-10-03 08:47:59
1136
原创 小网站或小程序后台如何防黑客攻击
如果系统是绑定微信或是企业微信或是钉钉这类使用的，强烈建议不要开放账号密码登录，都使用他们的单独点登录来处理，这样用户管理等通过微信钉钉统一管理更好控制离职等员工变动等问题。大部分的企业都只会购买一两台云服务器作为企业日常网站，小程序等的使用，在安全运维方面都比较少去购买企业级的安全软件，那么我们要如何防止一些简单或常见的黑客攻击呢？4、定期维护磁盘空间，可以写个shell脚本，定期清理旧日志，如果程序可配置日志存储周期也给配置好，如java的log4j等。2、ssh关闭账号密码登录，使用证书方式登录。
2024-09-17 14:58:49
491
原创 Kimi帮我解决通过ssh给ESXi Host Client 添加新分区的问题
用Kimi帮我解决通过ssh给ESXi Host Client 添加新分区的问题,主要在现有盘上,盘还有没用的空间,把剩下的空间都给分到一个新的分区上,
2024-09-05 18:06:28
554
原创 word/doc/docx/xls/xlsx/ppt/pptx/PDF等转TIFF 方法
word/doc/docx/xls/xlsx/ppt/pptx/PDF等转TIFF 方法
2024-08-26 20:28:10
334
原创 写个简单微信支付V3客户端封装函数,顺遍吐槽一下微信支付的SDK接口
写个简单微信支付V3客户端封装函数吐槽一下微信支付的服务端SDK 接口 (SDK - SDK&开发工具 | 微信支付商户文档中心),代码写的确实好很OO、很优雅,额,但也不见的得写好,那哪里是接口,就是个显摆自己加密技术封装写的多好...
2024-08-18 14:55:41
458
原创 用GDB 排查C/C++ 的Segmentation fault. 简单步骤
5、使用GDB命令bt/ bt full查看异常情况,基本上在哪一个文件哪行出错的都会提示很清楚。1、安装GDB 这个 apt install gdb/yum install gdb 就行.用GDB 排查C/C++ 的Segmentation fault. 简单步骤。3、奔溃后会生成core.* 的文件,(dump)4、用GDB 打开这个core.*文件。2、程序编译时记得带上 -g。
2024-08-08 10:23:40
322
原创 Linphone桌面版5.2.6 源代码下载、编译、打包 ovf虚拟机打包[2024-08-04]
集成了vs2019+linphone编译所需要的所有环境工具(用最新的5.2.6源代码,无修改)
2024-08-04 10:02:19
585
2
linphone-git-src-2025-05-09 1/5 (linphone-src..20240509.exe)
2024-05-12
linphone-git-src-2025-05-09 5/5 (linphone-src..20240509.7z.004)
2024-05-12
linphone-git-src-2025-05-09 2/5 (linphone-src..20240509.7z.001)
2024-05-12
linphone-git-src-2025-05-09 3/5(linphone-sr....20240509.7z.002)
2024-05-12
linphone-git-src-2025-05-09 4/5 (linphone-src-20240509.7z.003)
2024-05-12
https-cert-checker 网站域名证书过期检查工具
2023-10-19
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人