toolin.ai logo
toolin.ai
首页
AI工具
AI技能包
AI资讯
精选推文
AI提示词
提交AI工具提交
toolin.ai logo
toolin.ai

AI玩家的创作利器库,发现最佳AI工具组合,提升您的创作效率

AI工具1,368个
技能包11个
产品功能
  • AI工具
  • AI技能包
  • AI资讯
  • 精选推文
  • 提交AI工具
关于我们
  • 关于Toolin
  • 联系我们
  • 合作洽谈
  • 更新日志
关注我们
© 2025 toolin.ai. All rights reserved.
服务条款隐私政策

Google Gemma 4 开源:四档模型,256K 上下文,本地就能跑

2026/07/12
·toolin小编

Google 发布 Gemma 4 开源模型家族(E2B/E4B/26B MoE/31B Dense),Apache 2.0 协议,256K 上下文,原生多模态,附本地部署渠道。

Google Gemma 4 开源:四档模型,256K 上下文,本地就能跑
Google Gemma 4 开源:四档模型,256K 上下文,本地就能跑
2026/07/12

Google Gemma 4 开源:四档模型,256K 上下文,本地就能跑

Google 发布 Gemma 4 开源模型家族(E2B/E4B/26B MoE/31B Dense),Apache 2.0 协议,256K 上下文,原生多模态,附本地部署渠道。

四个尺寸,按硬件选核心能力怎么跑起来云端试用(零配置)本地部署Android 开发微调生态和硬件支持许可证适合谁用参考来源
AI产品

Google 发布了 Gemma 4——目前它最强的开源模型家族。和闭源的 Gemini 3 同源,但走的是 Apache 2.0 协议,你可以下载权重,在自己的机器、自己的云账号里跑,数据完全不出本地。对需要数据主权、离线推理、或想省 API 费用的开发者来说,这一代终于把"前沿能力"和"开箱即用本地跑"两件事拼到了一起。

四个尺寸,按硬件选

Gemma 4 不是一个模型,而是四个针对不同硬件优化的版本:

模型类型适合的硬件
E2B边缘端,有效 2B 参数手机、Raspberry Pi、NVIDIA Jetson Orin Nano
E4B边缘端,有效 4B 参数同上,能力更强
26B MoE混合专家,推理只激活 3.8B消费级 GPU,主打低延迟
31B Dense稠密模型,最大版单张 80GB H100;量化后可跑消费级 GPU

26B MoE 版本走的是"低延迟"路线——总参数 26B,但推理时只激活 3.8B,tokens-per-second 很快。31B Dense 走的是"最高质量 + 微调基底"路线。Google 称 31B 目前在 Arena AI 文本榜上排全球开源模型第 3,26B 排第 6。

核心能力

  • 长上下文:边缘端 128K,26B/31B 版本 256K——可以把整个代码仓库或长文档塞进单次 prompt
  • 原生多模态:四个版本都原生处理视频和图像(变分辨率、OCR、图表理解);E2B/E4B 还支持原生音频输入
  • Agent 工作流:原生支持函数调用、结构化 JSON 输出、系统指令,适合搭自动化 agent
  • 代码生成:可作为本地代码助手,离线写代码
  • 140+ 语言原生训练
  • 推理能力:多步规划和深度逻辑,数学和指令跟随类任务显著提升

怎么跑起来

Google 把渠道铺得很广,几乎覆盖所有主流本地推理栈:

云端试用(零配置)

  • Google AI Studio:直接跑 31B 和 26B MoE
  • Google AI Edge Gallery:跑 E4B 和 E2B

本地部署

权重发布在 Hugging Face、Kaggle、Ollama,第一天就支持:

  • Hugging Face(Transformers、TRL、Transformers.js、Candle)
  • Ollama(ollama run gemma4:31b-it-q4_K_M)
  • LM Studio
  • vLLM、llama.cpp、MLX
  • NVIDIA NIM / NeMo
  • Unsloth、SGLang、Cactus、Baseten、Docker、MaxText、Tunix、Keras

Android 开发

边缘端模型可通过 AICore Developer Preview 调用,前向兼容 Gemini Nano 4。也可以用 Android Studio 的 Agent Mode 原型化 agent 流程。

💡 提示:如果只是想快速试一下,用 Ollama 一行命令最快:ollama run gemma4:31b-it-q4_K_M。要在 IDE 里当代码助手,LM Studio 配合 Continue 插件是最顺手的组合。

微调

Gemma 4 设计上就支持在消费级硬件(比如游戏 GPU)上微调。可用的平台包括:

  • Google Colab(免费/付费)
  • Vertex AI
  • 自己的 GPU

官方举了两个微调案例:INSAIT 用它训了保加利亚语优先的 BgGPT,耶鲁大学用它做 Cell2Sentence-Scale 来发现新的癌症治疗路径。

生态和硬件支持

  • NVIDIA:从 Jetson Orin Nano 到 Blackwell GPU 全线优化
  • AMD:通过开源 ROCm 栈集成
  • TPU:Trillium 和 Ironwood TPU 上可大规模部署
  • Google Cloud:Vertex AI、Cloud Run、GKE、Sovereign Cloud、TPU 加速推理

许可证

Apache 2.0——商用友好,没有使用门槛。可以把模型部署在本地或任何云环境,数据完全自控。这是 Google 这次相对前几代明显放开的一点。

适合谁用

  • 需要数据主权的团队:金融、医疗、政务等不能把数据发到第三方 API 的场景
  • 想省 API 费用的开发者:一次部署,无限调用,边际成本为零
  • 离线场景:移动端、IoT、网络不稳定的环境
  • 研究人员:Apache 2.0 + 多尺寸,方便做实验和微调

参考来源

  • Gemma 4 官方博客(Google)
  • google/gemma-4-31B-it(Hugging Face)
  • Gemma 4 模型文档(Google AI for Developers)
  • gemma4:31b-it-q4_K_M(Ollama)
  • google/gemma-4-31b(LM Studio)
所有文章

作者

avatar for toolin小编
toolin小编

分类

  • AI产品
四个尺寸,按硬件选核心能力怎么跑起来云端试用(零配置)本地部署Android 开发微调生态和硬件支持许可证适合谁用参考来源

相关文章

Netflix 开源 Headroom:砍掉 90% 冗余词元,省下 70 万美元
AI产品

Netflix 开源 Headroom:砍掉 90% 冗余词元,省下 70 万美元

Netflix 高级工程师开发的开源工具 Headroom,在指令到达大模型之前精简冗余词元,可逆压缩、无损上下文,已为用户省下 70 万美元。

avatar for toolin小编
toolin小编
3周前
本地跑大模型实操指南:Pi + LM Studio 搭建 Agent 编码环境
AI教程

本地跑大模型实操指南:Pi + LM Studio 搭建 Agent 编码环境

用 Pi 智能体框架配合 LM Studio 推理引擎,在本地 Mac 上跑 Gemma 4 完成 Agent 编码任务,附完整 Docker 配置和 models.json 示例。

avatar for toolin小编
toolin小编
3周前
STAR-PólyaMath:让大模型学会「知错就改」的开源推理框架
AI产品

STAR-PólyaMath:让大模型学会「知错就改」的开源推理框架

清华微软联合开源的多智能体推理框架,通过 Reasoner、Verifier、Meta-Strategist 三个角色让长程推理可验证可回溯,Apex 基准超 GPT-5.5 达 13.5%。

avatar for toolin小编
toolin小编
3周前