ollama Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3, and other large language models. 开源项目 15小时前 0 点赞 0 评论 200 浏览
谷歌发布 Gemma 3 QAT 模型:一张3090显卡也能轻松驾驭 谷歌近期推出了 Gemma3系列的全新版本,这一消息让众多 AI 爱好者为之振奋。仅在上线一个月后,谷歌便发布了经过量化感知训练(QAT)优化的 Gemma3,旨在显著降低内存需求的同时,保持模型的高质量。具体来说,经过 QAT 优化的 Gemma327B 模型,其显存需求从54GB 大幅降低到14.1GB,意味着用户现在可以在 NVIDIA RTX3090等消费级 GPU 上本地运行这一大型模型 AI热点 1周前 0 点赞 0 评论 72 浏览