搜索

关于“GEM”的结果

共 483 篇

只要24GB 内存,能在本地 Mac上跑无限制的Gemma 4 31B了

只要24GB 内存,能在本地 Mac上跑无限制的Gemma 4 31B了(在新窗口打开)

有个31B参数的大模型,正常需要80GB显存才能跑。但现在,24GB显存就能跑满血版。这个版本叫Gemma-4-31B-JANG_4M-CRACK——"CRACK"这个词不要理解歪了,它本质是量化压缩加上对齐微调之后的部署版本,不是什么黑客攻击,就是工程优化。24GB,MacBook Pro,直接跑。苹果用户优先优化,MLX原生支持,月下载13000次。

AI资讯
0
都是你能部署的:Qwen3.6和Gemma4,谁更适合作为你的下一代本地MoE模型?

都是你能部署的:Qwen3.6和Gemma4,谁更适合作为你的下一代本地MoE模型?(在新窗口打开)

阿里前几天开源的Qwen3.6-35B-A3B,让这次讨论不再只是一次普通的新旧模型对比。它一边要面对谷歌Gemma4-26B-A4B的外部竞争,一边又必须回答一个更麻烦的问题:相较于 Qwen3.5-35B-A3B,它到底是升级,还是修补?更现实的是,很多人现在真正跑着的,其实是Qwen3.5-27B,那么这条新的35B-A3B路线,到底值不值得迁过去。

AI技术文章
0
Mac用户可以在oMLX中使用TurboQuant了,搭配Gemma-4-31B,谷歌全家桶实测很能打!

Mac用户可以在oMLX中使用TurboQuant了,搭配Gemma-4-31B,谷歌全家桶实测很能打!(在新窗口打开)

对本地部署玩家,尤其是Mac用户来说,长上下文推理最大的痛点往往不是“模型不够聪明”,而是稍微多用点上下文,统一内存就被撑爆了”,这一点在最近的Gemma-4 31B的部署中尤为明显,在同等上下文的情况,显存占用比Qwen3.5-27B高约一倍不止,直接劝退了不少人。但好消息是,谷歌近期提出的TurboQuant KV缓存量化算法,正是为了解决这个痛点而生。

AI技术文章
0
谷歌杀入AI音乐牌桌!实测一键生成3分钟歌曲,可精细控制段落

谷歌杀入AI音乐牌桌!实测一键生成3分钟歌曲,可精细控制段落(在新窗口打开)

实测生成曲目完整动听,免费可用。 智东西3月26日消息,谷歌于当地时间3月25日发布了AI音乐生成模型Lyria 3 Pro。作为上月发布的Lyria 3的进阶版本,Lyria 3 Pro由谷歌DeepMind团队打造,最大的升级是音乐时长大幅提升,由此前的30秒提升至3分钟。此外,模型能够理解歌曲结构,用户可以通过提示词指定前奏、主歌、副歌、桥段等段落,对完整歌曲进行精细控制。 与模型升级同步,谷歌还将Lyria 3系列一口气铺进了Vertex AI、Google AI Studio与Gemini API、Google Vids、Gemini应用以及ProducerAI等多个产品平台,覆盖从

AI资讯
0