【LLM】本地部署 Qwen2.5 和 KouriChat 实现微信对话机器人
最近突然想到一个好方法更新博客,问了一下对象有什么想了解的内容,我来学习完以后写博客,这样岂不是解决了我不知道写什么的一大难题。然后她就在小红书上推了一个有趣的项目(KouriChat)给我,让我来部署一下给她用,于是便有了这篇教程。 部署环境 本教程基于以下环境完成: - 内存:32GB - CPU:AMD Ryzen 5 3600X 6-Core - GPU:NVIDIA GeForce RTX 3090 (24GB) - 系统:Windows 11 专...
【LLM】测试 4 卡 4090D 部署 DeepSeek-R1 32b 模型并发速度
0x00 vLLM 简介 vLLM 是一个快速且易于使用的库,用于 LLM 推理和服务。相比其他 LLM 框架,vLLM 具有更好的吞吐量,能处理大量并发请求。同时 vLLM 也支持了 HuggingFace、ModelScope 等模型站点,可以直接从里面下载模型并运行,部署非常方便。 0x01 环境搭建 通过查看 DeepSeek-R1 32B 模型在 HuggingFace 中整个权重文件的大小,初步判断显存占用在 6...
【WSL】修复 WSL 中使用 Code 命令无法进入 wsl remote 的问题
最近因为 VScode 的插件又抽风了,所以我重新删掉了整个 VSCode,想利用插件同步来完全重装一次解决问题,但是重装后在 WSL 中使用 Code . 命令无法直接从 WSL Remote 启动 VSCode,这就很难受了。 0x00 俺寻思部分 其实我觉得很简单,就是 VSCode 在用 WSL 启动的时候不会加载你的其他配置文件,所以只在其他配置文件中安装 WSL Remote 是无法直接用命令启动的,因为我删除了全部插件,然后同步的时候我又跳过了默认配置文件的插件安装,所以整个默认配置中是没有 WSL Remote 的,就导致 WSL 无法首...
【QEMU】QEMU 安装过程记录
最开始我跟着官方的流程,参考着某个已经忘了是哪里看的文章手动下载 QEMU 9.1 源码编译安装了 QEMU,但是昨天晚上试着想更新到最新的版本时,发现忘了编译的时候用的什么参数了,因为根据参考的安装文章,我是把 QEMU 安装在了 /opt/qemu 路径下 不过因为时间过去了太久,我早就遗忘了当时安装用的什么命令,但是好在 .zsh_history 里面有记录,为了避免忘记,还是在这里也记录下来,方便以后参考。 这次把 QEMU 从 9.1 更新到 9.2 我是用的 git 来克隆的源码,方便跟上后续的更新内容,安装命令如下: 设定...
【Linux】配置 sudo 密码的输入超时时间
今天在使用 paru 安装需要编译的包的时候,因为等待时间太长了,老是切出去看看其他的等编译结束,结果切回来的时候发现输入密码已经超时了,就得重新编译一次,来来回回弄了两三次才搞定 为了一劳永逸的解决这个问题,我去万能的 Github 上搜索了一下,果然有人问同样的问题,链接我就放这里了,免得以后找不到:Sudo password after long build 0x00 解决方法 首先打开 visudo 配置 sudo: 我只装了 vim,所以会...
【WSL】ArchWSL 无法启动 wslg 提示 Error: Can't open display: :0
今天在家里的台式主机上也安装了 ArchWSL,但是在检查 wslg 是否可用时遇到了 Can't open display: :0 的报错,常规的解决方法都是适用于 Ubuntu WSL 的,ArchWSL 的解决方法比较特殊,这里记录一下,当然也可以去看 Github Issue 的原贴中也说了解决方法:Init /tmp/.X11-unix is overwritten by mounts ...
【开发环境配置】Pip 安装 submodule 时提示 gcc versions later than 13 are not supported
最近准备在我的 Archlinux WSL 上训练一下 3dgs,但是在配置环境的时候遇到了 gcc 版本过高的问题,因为 Archlinux 默认就是 gcc14,所以得重新手动编译安装一下 gcc11。 0x00 检查当前环境 使用 gcc -v 看一下当前的 gcc 环境是什么版本,我目前能查到是 gcc version 14.2.1 20240805 (GCC),因此我们需要安装一个 gcc11,直接 paru gcc11 就可以了,如下所示: ❯ paru gcc11 1 aur/gcc11 11.4.0-1 [+5 ...
【Linux】Busybox make menuconfig 报错:Unable to find the ncurses libraries
省流:目前的 busybox 版本是 1.36.1,而我使用的 gcc 版本是 14.1.1 20240522 (GCC),在 /home/.../busybox-1.36.1/scripts/kconfig/lxdialog/check-lxdialog.sh 脚本中将第 50 行的 main() {} 改为 int main() {} 即可。 问题描述 今天在配置 busybox 的时候,出现如下错误: HOSTCC scripts/kconfig/lxdialog/util.o HOSTCC scripts/...
修复微软拼音输入法某些设置由你的组织管理的问题
省流:重置组策略中的配置简体中文输入法版本【就是应用一下已启用再应用未启用】 <!--more--> ## 问题描述 今天在做模拟笔试的时候电脑重启了一下,发现输入法被考试的客户端锁了,Win11 的输入法被强制锁定成了兼容模式,无法修改,然后在上面可以看到一个某些设置由你的组织管理。 ## 解决方案 1. win + r 打开 `gpedit.msc` 2. 按照这个路径找到输入法的组策略配置:`用户配置\管理模版\Windows组件\输入法\配置简体中文输入法版本` 3. 默认应该是未启用,点击启用,然后点击应用 4. 再点击未启用,然后点击应用 5. 应该就好了,至少我是这样解决的
【QT】QT 5.9 CMake 下的一些踩坑记录
最近在学习 QT,就在这个栏里记录一下遇到的坑吧,免得以后忘了。 环境 QT:5.9.9 编译器:MinGW 32bit 编译工具:CMake 一、用 CMake 的时候怎么设置应用程序的图标 在 Source Files 中建立一个 logo.rc 脚本,其中填写以下指令: IDI_ICON1 ICON DISCARDABLE "${Path}.ico" 然后到 CMakeLists.txt 里的 add_executable() 中加上 logo.rc。 二、用 CMa...