xulanshuai01的博客

原创 利用FunASR搭建自己的语音转文本服务器（有手就行）

本文介绍如何利用阿里巴巴开源的FunASR工具包搭建高性能语音转文本服务。FunASR具备工业级优化、多语言支持和开箱即用等特性，支持流式与非流式处理。文章详细讲解了服务部署步骤，包括服务器配置要求、Docker安装、镜像启动及ASR服务配置，最终通过网页客户端实现免费语音转写功能。该方案适用于智能客服、会议记录等场景，为用户提供了高效便捷的语音识别解决方案。

原创 Hi35160开发专栏合集

原创 海思Hi3516实现板端推理（附c++源码）

本文介绍了如何在Hi3516开发板上使用SVPACL API实现YOLOv8模型的板端推理。主要内容包括：1) SVPACL基础概念，如Device、Context、Stream等核心组件；2) 详细的API调用流程，涵盖资源初始化、模型加载、输入输出创建等关键步骤；3) 实际代码实现，展示了多线程生产-消费者模式下的模型推理过程；4) 环境配置和编译说明。通过SVPACL库可以有效利用NPU计算资源，实现高效的目标检测功能。文章提供了完整的代码框架和运行结果，为开发者在海思平台上部署深度学习模型提供了实用

原创 海思hi3516读取摄像图头数据（以易百纳G610Q-IPC-38E 模组为例）

本文详细介绍了基于海思Hi3516CV610芯片的摄像头数据读取开发全流程，通过Docker快速搭建开发环境，提取并整理海思SDK中的关键依赖文件和示例代码，解决了官方文档不全导致的开发难题。重点对sample_smart_ae.c进行改造，封装出可设置图像尺寸的C++接口类，实现了YUV数据的稳定读取和保存。项目提供了完整的CMake工程配置，包含交叉编译选项、库文件链接和预定义宏设置，可直接编译使用。最终通过7yuv工具验证了YUV数据的正确性，为后续视频处理开发奠定了基础。文中分享的代码架构设计、编译

翻译 手把手教你本地部署deepseekR1（1.58 bit量化）, 20G内存+CPU可运行

作者团队成功将其 671B 参数的原始模型（720GB）量化为最低 131GB（1.58 位），体积缩减 80%，同时保持实用性能。基准测试显示，1.58 位量化版本（131GB）在生成代码任务（如 Flappy Bird 游戏）中正确率可达 69.2%，而 2.22 位版本（183GB）提升至 91.7%。部署方面，模型支持 llama.cpp、Ollama 等工具，可在 160GB VRAM（如 2×H100）下实现每秒 140 token 的高吞吐，或仅用 20GB RAM（CPU）低速运行。

原创 交叉编译Jsoncpp并优雅的使用

本文介绍了C++应用中读写JSON配置文件的方法，重点讲解了jsoncpp库的交叉编译过程。主要内容包括：1) jsoncpp库的特性与优势；2) ARM平台的交叉编译步骤；3) 封装JsonConfigWrapper类实现便捷的JSON数据读取方法；4) 通过示例展示了如何读取JSON文件中的字符串数组等数据类型。该方案为C++项目提供了一种高效、优雅的JSON配置处理方式，适用于嵌入式开发等需要交叉编译的场景。

原创 简单易用的无锁队列atomic_queue

atomic_queue是一个基于C++14原子操作实现的高性能无锁队列，专为多线程数据交换设计。其特点包括：完全无锁设计（基于原子操作）、性能比传统锁队列快5-10倍、支持多生产者多消费者模式。作为头文件库，只需简单包含即可使用，提供阻塞和非阻塞两种模式。示例代码展示了生产者-消费者模型的实现，通过原子操作避免了锁竞争，显著提升高并发场景下的性能表现。该库轻量高效，是替代传统锁队列的理想选择。

原创 华为海思Hi3516进行ATC模型量化

本文介绍了华为海思 ATC 工具的使用方法，用于将 ONNX 等开源模型转换为 NPU 可运行的离线模型（.om），包括环境搭建（推荐 Docker 方式）、模型导出（以 YOLOv8 为例）、ATC 转换命令及参数说明，并重点讲解了 AIPP 图像预处理配置（如格式转换、归一化等），帮助开发者在海思 AI 芯片上高效部署模型。

原创 NFS环境搭建

本文介绍了在Linux服务器上搭建NFS(网络文件系统)环境的方法，以解决嵌入式开发中客户端资源不足的问题。首先解释了NFS作为网络文件系统的作用，然后详细说明了服务器端的配置步骤：安装NFS软件包、创建并设置共享目录权限、修改配置文件启动服务。最后介绍了板端通过mount命令挂载NFS共享目录的操作。该方法实现了服务器与嵌入式设备间的资源共享，有效提高了开发测试效率。配置过程简明清晰，适用于嵌入式开发环境的搭建。

原创 华为海思Hi3516配置OpenSSH，实现mindcmd一键推理

本文介绍在Hi3516开发板配置SSH服务的完整流程，以支持华为mindcmd工具进行板端模型精度分析。通过Docker环境交叉编译zlib、OpenSSL和OpenSSH三大组件，详细说明编译参数设置和板端部署步骤。重点解决权限问题、依赖库缺失等常见报错，最终实现mindcmd的一键推理功能。文章包含环境搭建、依赖编译、板端部署、配置文件设置等完整指导，并针对"No model forward ouput"和"memory_data.csv does not exist"等典型错误提供解决方案，为开发者在