Hohoo / 随笔

文章归档

随笔归档blog
  1. 随笔

    在 48GB Mac mini 上跑 27B 大模型：量化、KV 缓存与上下文的工程取舍

    48GB Mac mini 本地部署 27B 模型的实测记录：量化方案、KV 缓存推导、统一内存 OOM 与上下文取舍。

    9 分钟已发布
  2. 随笔

    一个新的开始

    从第一次搭建博客，到再次拥有记录的热情。永远不要缺少重新开始的勇气。

    1 分钟已发布