本文介绍了安装WSL2、Ubuntu、NVIDIA显卡驱动、CUDA 12.4.1、cuDNN的方法及Xinference、vLLM、SGLang等推理框架的部署使用方法。

本文写于2025年2月25日。AI技术日新月异，其中的许多内容可能很快过时。

本文适用于NVIDIA显卡用户，建议GPU架构为Turing或更新（对应RTX 20系或以上）。

系统安装及基本配置

纯净的物理机：Ubuntu Server 22.04.5 LTS

下载地址：https://releases.ubuntu.com/22.04/ubuntu-22.04.5-live-server-amd64.iso

烧录后正常安装即可。

零、前言

黑豹X2是一款非常不错的ARM设备，配置为RK3566 + 4G RAM + 32G EMMC，带千兆网口和TF卡插槽，有无线和蓝牙。以下介绍如何安装Armbian系统以及Docker和Jellyfin的配置。需要注意的是，很多Armbian系统由于内核问题，不支持NPU和VPU。请注意选择系统版本。

一、刷机

1、下载所需文件

• RockChip驱动，解压并安装。

• RockChip量产工具，解压后修改config.ini：

前言

以下是文章中可能提及到的关键词及对应缩写：

本文介绍了清洁安装的Ubuntu Server 22.04 LTS安装NVIDIA显卡驱动、CUDA 12.1、cuDNN的方法及ChatGLM3、百川2、FastChat等大语言模型的部署使用方法。

安装NVIDIA驱动

禁用nouveau

1

sudo vi /etc/modprobe.d/blacklist.conf

尾部追加一行

零、写在前面

HBuilderX是DCloud旗下的IDE产品，目前只提供了Windows和Mac版本使用。本项目组在开发阶段经常需要向测试环境提交热更新包，使用Jenkins进行CD是非常有必要的一步。尽管HBuilderX提供了CLI，但Jenkins服务通常都是搭建在Linux环境下的。当前的Uniapp wgt打包服务是使用了Windows Server + HBuilderX CLI的解决方案来进行打包，再用Jenkins远程调用接口。这套方案的弊病有如下几点：

• Jenkins侧仅负责少量参数的传递，如项目名、Git repo地址、分支名等，大部分流程不受控制，流水线的构建阶段显示不透明。
• 核心由一个shell script和一个python脚本实现，代码逻辑存在一定重复，维护难度也比较高。
• 从Git更新代码的流程耗费较长时间，因为每次执行流水线都要删除掉本地的repo并重新拉取。这对于带宽只有个位数的公网测试服务器来说是致命的，每次构建花费在此步的时间就有2分钟以上。

用Vite初始化工程

1
2
3

yarn create vite font-spider-shell --template react-ts
cd font-spider-shell
yarn install

安装electron及HMR相关包

1
2
3
4

yarn add -D electron
yarn add -D @types/node
yarn add -D concurrently wait-on
yarn add -D cross-env electron-builder

electron相关入口点及配置

新建electron文件夹

剖析HBuilderX结构，完成打包环境的移植。

• 使用Debugview抓取HbuilderX打wgt包的调试信息，可得：

  1 2	[16764] 2023-05-16 09:50:20.583 [INFO:] node "D:/HBuilderX/plugins/node/node.exe" [16764] 2023-05-16 09:50:20.583 [INFO:] args ("--max-old-space-size=2048", "--no-warnings", "D:/HBuilderX/plugins/uniapp-cli-vite/node_modules/@dcloudio/vite-plugin-uni/bin/uni.js")

一、JSX

• jsx的声明很简单，形如：

  1 2 3 4 5

  const element = ( <div> <h1>Hello world！</h1> </div> )

• 在jsx中，React组件的标签名必须要大写，而DOM标签名必须小写。

研究动机

公司从22年底开始全面将uniapp项目切换至Vue3 + Vite + TypeScript
技术栈，但HbuilderX直到本文编写时也依然存在很多问题，比如语法检查服务崩溃、无法跳转代码引用等，开发体验非常差，经常出现一个组件打开全是红线或没法进行代码补全的情况，Vue3和Vite带来的开发速度优势基本在这方面全还回去了。

基于如上痛点，我在一个工作相对清闲的下午对HbuilderX的启动机制进行了研究并写了一份运行在命令行里的uniapp编译调试脚本，可以使用它来甩掉HbuilderX来进行dev阶段的开发工作。该文章以微信小程序举例，H5也大同小异。

懒得看哔哔叨叨，只想捞代码来用？请直接阅读脚本代码和使用流程两节

调试 && 分析

首先使用微软的DebugView
尝试查看调试信息，没想到HbuilderX真的有很多Debug级别的输出，乐。

1
2

[16764] 2023-05-16 09:50:20.583 [INFO:] node "D:/HBuilderX/plugins/node/node.exe"
[16764] 2023-05-16 09:50:20.583 [INFO:] args ("--max-old-space-size=2048", "--no-warnings", "D:/HBuilderX/plugins/uniapp-cli-vite/node_modules/@dcloudio/vite-plugin-uni/bin/uni.js")

以Vue2为主要参考对比，辅以部分Vue3概念，向React 18迁移的CookBook

React Hook

React Hook既强大又灵活，它在有状态的函数式组件中十分重要。由于本人学习React的时间很短，尚不敢打包票说自己对Hooks有如何深刻的了解，故在此分享一些读过的文章以作参考学习之用。

• React官方文档-Hooks
• 理解 React Hooks