Nicksxs's Blog

6GB 显存运行 64K 上下文：llama.cpp 参数与 KV Cache 调优

发表于 2026-05-31 分类于 LLM 阅读次数：

在 RTX 3060 Laptop 6GB 显卡上使用 llama.cpp 运行 9B 量化模型，通过 64K 上下文、Flash Attention、KV Cache 量化和 GPU Offload 参数控制显存占用。

发表于 2026-05-24 分类于 LLM 阅读次数：

一段时间都有在用大模型来辅助编程，不过现在很多都叫成vibe coding了，连胡彦斌都在vibe coding了，现在是个全民皆可做软件开发的时代，包括像之前那个小猫补光灯，有的人的想法是说点子不重要了我自己想的有点不一样，vibe coding现在是把成熟的开发者和小白…

发表于 2026-05-17 分类于 php 阅读次数：

偶尔下载一些视频媒体的时候会想要对它进行压缩来缩小占用空间，但是如果每次等下载完再去用软件压缩会比较麻烦这里就找到了inotify扩展，可以监听文件变更这里其实想吹一下小米的mimo2.5模型，因为要装php扩展，我的是php7.4，网上搜了下有基于pecl，有的是基于…

发表于 2026-05-10 分类于系统架构师阅读次数：

类或对象的组合关系复杂。对象之间职责划分、通信流程复杂。二、不同设计模式适合的场景。（一）创建型模式：解决“对象怎么创建”

发表于 2026-05-03 分类于 LLM 阅读次数：

本文记录 Hermes Agent 的安装与配置过程，接入 Xiaomi MiMo API，设置模型、Gateway 和微信通道，并说明本地模型运行 64K 上下文时的资源限制。