跳到正文
小原blog 万物可爱QwQ
经典版
首页归档友链留言板关于赞助

小原blog

万物可爱QwQ

小原酱的个人博客：服务器运维、模型训练与部署、网站折腾记录，以及一些生活随笔。

单卡 A800 上的 FP8 投机解码实测：DSpark 2.54x，MTP 被我们低估了，ngram 是负收益

在单张 A800-80GB 上用 vLLM 0.32.0 把 Qwen3.5-35B-A3B-FP8 跑了六种解码配置：DSpark 2.54x、MTP K=2 1.94x、我们原本最看好的 ngram 反而只有 0.73x。附带官方 68 项 benchmark 之外的一批安全/运维测评，以及挖到的 5 个上游 bug

#vLLM#投机解码#MTP#DSpark#Qwen3.5#实践记录

手把手：在 Linux 改主板 ARGB 颜色，并按时间自动切换

不装 Armoury Crate，直接在 Ubuntu 上用三条 Aura 报文改主板 ARGB 颜色，再用一个 systemd 服务按时间表自动切白/切橙/关灯；附内存条（ENE SMBus）的改法和三个常见坑。

#Linux#RGB#Aura#systemd#教程

把瓦尔基里冷头屏、主板 ARGB 和内存灯全部搬上 Linux

一台 Z890-A + 瓦尔基里水冷：屏幕其实是 MacroSilicon MS9132 USB 显示桥，主板 ARGB 走 Aura 的 EC 报文、内存走 ENE SMBus；把厂商 2023 年的 DRM 驱动移植到内核 7.0，踩中回包分帧、灯链颗数上限和 FOP_UNSIGNED_OFFSET 三个坑。

#Linux#RGB#DRM#MS9132#踩坑记录#实践记录

修复 DSH 与 Codex 反代的“隐形战争”：真正出问题的不是模型，而是协议语义

用dsh使用sub2api反代的codex模型

#Ai#Codex#DSH#反代#sub2api#实践记录

给 DSH 加一个访问网关：一次远程部署的踩坑流水账

把 DeepSeek Harness 的 Web 界面（dsh web）从 loopback 搬到公网域名 dsh.chf.org.cn，套一层 Flask 登录网关 + 高防 CDN。记录这一路的坑：登录页乱码、API 403、WS 连不上、模型不回复，以及每个问题真正的原因和最终解法。

#DSH#DeepSeek#部署#反向代理#WebSocket#实践记录

DSH 跑个官方模型每回合都报 REQUEST_EXTENSION：最后发现是 package.json 少了 version

DeepSeek Harness（@deepseek-ai/dsh 0.1.2-rc.1）web profile 下，官方 deepseek 模型每回合都稳定报「DeepSeek request extension preparation failed / REQUEST_EXTENSION」。顺着源码一路剥到根因：不是密钥、不是网络，而是 profile 的 package.json 只有 name 没有 version，被 plugin-package-inventory-deepseek 这个按请求收集插件清单的扩展插件当场抛错，再被外层包成一句看不出原因的通用错误。补上 version 字段后原地恢复。记录这次「错误吞错误」的排查过程与最小复现思路

#DeepSeek#DSH#踩坑记录#Debug#实践记录

从零训练到上线：一个 27B 混合架构模型的四天流水账

从 4×RTX PRO 6000 上训练 Qwen3.8-27B LoRA，到 vLLM 部署、frp 内网穿透、sub2 中转，再到 FlashInfer 在 SM120 上从编译失败到跑通的完整记录。踩过的坑：torch inductor 模板冲突、Mamba cache 不足、FlashInfer CUDA 版本不匹配、SM120 被当成 SM100 家族误判

#AI#LLM#LoRA#vLLM#部署#实践记录

三库实测对比：PolarDB PostgreSQL 轻量版（PolarFlex 部署）vs 原生 PostgreSQL vs MySQL

在阿里云 2核/1.8G 小机器上，用官方 PolarFlex 栈一键部署 PolarDB PostgreSQL 轻量版，并与原生 PostgreSQL 13、MySQL 8 用 sysbench 同数据同负载对比。结果：PolarDB-PG 与原生 PG 几乎打平（同内核的直接证据），PG 系明显快于 MySQL；真正区别在方言、生态与部署运维形态。但比性能更重要的，是 PolarDB 栈相比原生 PG 多出来的一大块攻击面：MaxScale/backup_ctl/universe 全以 root 运行、代理里写死超级用户明文口令、多个端口公网裸奔、secrets 用 base64 落盘——这些裸 PostgreSQL 都没有，附带加固清单

#PolarDB#PolarFlex#PostgreSQL#MySQL#数据库#性能测试#sysbench#信创#安全#攻击面

DeepSeek-V4-Flash 剪枝手术门禁全记录：从 T2 合并到 W512，双路线判死复盘

284B MoE 模型 hash 层专家合并（T2）与宽度裁剪（W512）两条路线的 ppl 门禁执行全记录：完整操作、每个坑、根因分析与经验教训

#MoE#模型剪枝#量化#门禁#DeepSeek

把 Qwen3-Next-80B 搬上 48G 显存：一场从 MUSA 到 CUDA 的迁徙

记录一次把 Qwen3-Next-80B-A3B-Thinking 跑起来的全过程：先是拿到了摩尔线程 S4000（48G 显存 + 100G 内存）以为万事大吉，结果被宿主机驱动 2.7.0 卡死；换 NVIDIA 4090 后又掉进 vllm 0.27 + torch 2.13 的兼容连环坑；最后用 CPU offload 6G 才把 45G 的 4-bit 权重塞进 48G 显存。服务起来了，但输出是乱码——故事还没完。

#AI#LLM#部署#vLLM#MUSA#踩坑记录
‹12…5