colibri - 是一款能够在仅有 25GB 内存的普通消费级计算机上运行拥有7440亿参数的 GLM-5.2 模型的工具。
该程序完全使用 C 语言编写,不依赖任何额外的软件库或运行时环境。
它采用了混合专家(Mixture of Experts,MoE)架构,按需从磁盘加载各个专家(Expert)模块,而不是一次性全部载入内存,因此大幅降低了运行所需的内存容量。
🧬 https://github.com/JustVugg/colibri
#Privacy #Web #AI
该程序完全使用 C 语言编写,不依赖任何额外的软件库或运行时环境。
它采用了混合专家(Mixture of Experts,MoE)架构,按需从磁盘加载各个专家(Expert)模块,而不是一次性全部载入内存,因此大幅降低了运行所需的内存容量。
🧬 https://github.com/JustVugg/colibri
#Privacy #Web #AI
GitHub
GitHub - JustVugg/colibri: A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm…
A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own. -...
image_2026-11-13_16-36-30.png
150 KB
kill-ai-slop - 是一个用于识别并消除AI生成内容中典型视觉和文本特征的工具。
其核心功能包括扫描项目中是否存在典型元素(如靛蓝色渐变、发光卡片、过度使用表情符号和大写字母),并提供消除这些元素的建议。
该工具可帮助开发者打造更具原创性和独特性的产品,避免AI生成内容中常见的模板化解决方案。
语言:TypeScript
🧬 https://github.com/yetone/kill-ai-slop
#Web #Privacy #Security #AI
其核心功能包括扫描项目中是否存在典型元素(如靛蓝色渐变、发光卡片、过度使用表情符号和大写字母),并提供消除这些元素的建议。
该工具可帮助开发者打造更具原创性和独特性的产品,避免AI生成内容中常见的模板化解决方案。
语言:TypeScript
🧬 https://github.com/yetone/kill-ai-slop
#Web #Privacy #Security #AI