系统内核

LLM 推理确定性工程深度实战:从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法

拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺;给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点,分析 RL 后训练 on-policy 偏差与合规审计场景,量化 15%-30% 的性能代价并给出生产落地检查清单。

WebSocket 协议内核剖析:从握手到帧格式,实时通信工程实战与性能优化

从 RFC 6455 规范出发,全面解析 WebSocket 协议的技术内核:HTTP Upgrade 握手机制、帧格式编解码、Masking-Key 安全策略、Ping/Pong 心跳保活、Close 关闭握手。深入讲解 permessage-deflate 扩展压缩、二进制分帧多路复用、百万级长连接架构设计,并提供生产级性能调优参数与避坑指南。

Linux 线程池与 CPU 亲和性深度实战:从 CFS 调度器到用户态完美绑核的终极指南

从 Linux CFS 调度器内部机制出发,全面解析 CPU 亲和性(Affinity)的理论基础与工程实战。涵盖 sched_setaffinity 系统调用、CPUID 指令读取拓扑、NUMA 节点本地内存访问优化、cgroup v2 cpuset 控制器、CPU 隔离(isolcpus/nohz_full/rcu_nocbs)、DPDK 轮询线程绑核、用户态线程池绑核架构设计,以及 False Sharing 规避与 Cache Line 对齐。