在自有硬件上运行大型混合专家模型
JustVugg/colibri
🤖 AI / 机器学习 · 用 C 写的
Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
✨ AI 亮点解析
📦 是什么
在你自己的电脑上跑超大AI模型
🩹 解决什么
大模型要昂贵显卡，普通人跑不动
🎯 适合谁
想玩AI但没高端显卡的人
暂无对标
🛠 上手成本：需 GPU 或服务器（较难）
- 纯C语言写的，没有额外依赖
- 模型放硬盘，用多少读多少
- 小引擎也能带大模型
- 已有2.7万人关注
不用买几万块的显卡，用自己的电脑就能体验接近顶级的AI大模型，适合折腾和学AI。