发布 Gemma 3n 预览版:强大、高效、移动优先的人工智能

2025年5月20日
Lucas Gonzalez Product Manager
Rakesh Shivanna Principal Software Engineer

Gemma 3Gemma 3 QAT的震撼发布之后,我们拥有一系列最先进的开源模型,能够在单个云或桌面加速器上运行,我们正在进一步推进我们的可访问人工智能愿景。Gemma 3 为开发人员提供了强大的功能,现在我们将这一愿景扩展到直接在您日常使用的设备上运行的高性能实时人工智能,这些设备包括手机、平板电脑和笔记本电脑。

为了推动下一代设备端人工智能的发展,并支持包括提升 Gemini Nano 性能在内的各种应用,我们设计了一种全新的、前沿的架构。这种下一代基础架构是与高通技术公司 (Qualcomm Technologies) 、联发科 (MediaTek) 和三星 (Samsung System LSI) 等移动硬件领域的领先企业密切合作创建的,并针对闪电般快速的多模态人工智能进行了优化,能够在您的设备上直接实现真正个性化和私密的体验。

Gemma 3n 是我们在这一开创性共享架构基础上构建的首个开放模型,让开发人员从今天起就能在早期预览版中试用这一技术。同样先进的架构也为下一代 Gemini Nano 提供支持,后者会将这些功能引入 Google 应用程序和我们的设备生态系统的广泛功能中,并将于今年晚些时候推出。借助 Gemma 3n,开发者可在这一基础上启动开发工作,而该基础架构未来将适配 Android 和 Chrome 等主流平台。

Chatbot Arena Elo scores
此图表根据 Chatbot Arena Elo 评分对人工智能模型进行排名;评分越高(排名越靠前)表明用户偏好度越高。Gemma 3n 在主流专有模型和开源模型中均排名靠前。

Gemma 3n 借助谷歌 DeepMind, 一项名为 “分层嵌入 (Per-Layer Embeddings,PLE)” 的创新技术,显著降低了内存使用量。尽管原始参数规模为 5B 和 8B,但这项创新使您能够在移动设备上运行更大规模的模型,或从云端进行实时流传输,其内存开销与2B 和 4B参数的模型相当,这意味着这些模型仅需 2GB 和 3GB 的动态内存占用即可运行。更多详情请查看我们的 文档

通过探索 Gemma 3n,开发人员可以提前预览这款开源模型的核心能力,以及其优先适配移动设备的架构创新——这些能力和创新将通过 Gemini Nano 在 Android 和 Chrome 平台上提供。

在这篇文章中,我们将探讨 Gemma 3n 的新功能、我们负责任的开发方法以及如何在今天访问预览版。


Gemma 3n 的主要功能

Gemma 3n 专为在本地运行快速、低占用的 AI 体验而设计,可实现:

  • 设备端性能优化与效率提升:Gemma 3n 在移动端的启动响应速度相提升约 1.5 倍,质量明显提高(与 Gemma 3 4B 相比),并且通过诸如每层嵌入 (Per Layer Embeddings)、KVC 共享和高级激活量化等创新实现了内存占用减少。

  • 多合一灵活性:Gemma 3n 是一款主动内存占用为 4B参数的模型,其内部原生集成了一个嵌套的、最先进的 2B参数主动内存占用子模型(得益于 MatFormer 训练)。这一特性使其能够灵活地动态权衡性能与质量,而无需部署多个独立模型。我们还在 Gemma 3n 中引入了混合匹配 (mix’n’match) 能力,可从 4B 参数模型中动态创建子模型,以最佳适配您的特定用例——并实现质量/延迟的关联权衡。关于这一研究的更多细节,请持续关注我们即将发布的技术报告。

  • 隐私优先且离线可用:本地执行支持以下特性:既尊重用户隐私,又能可靠运行,即便在无网络连接的情况下也不例外。

  • 扩展的音频多模态理解能力:Gemma 3n 能够理解和处理音频、文本与图像,并显著增强了视频理解能力。其音频功能支持模型执行高质量的自动语音识别(转录)和翻译(语音转翻译文本)。此外,该模型接受跨模态的交错输入,从而能够理解复杂的多模态交互(公共版本即将推出)。

  • 增强的多语言能力:Gemma 3n 提升了多语言性能,尤其在日语、德语、韩语、西班牙语和法语中表现突出。其在多语言基准测试中展现出强劲实力,例如在 WMT24++ (ChrF ) 中达到了 50.1% 的分数。
MMLU performance
此图表展示了 Gemma 3n 的混合匹配(预训练)能力在 MMLU 的性能与模型规模的对比关系。

解锁全新的移动体验

Gemma 3n 将通过以下方式赋能开发者,掀起新一轮智能移动应用浪潮:

  1. 构建实时互动体验,理解并响应用户环境中的实时视觉和听觉线索。


2. 利用音频、图像、视频和文本的组合输入进行深度理解与上下文文本生成——所有处理均在设备端私密完成。


3. 开发先进的音频核心应用:包括实时语音转录、翻译以及丰富的语音驱动交互。


以下是相关概述以及您可以构建的体验类型:

Link to Youtube Video (visible only when JS is disabled)

携手共建,行稳致远

我们致力于负责任的人工智能开发。与所有 Gemma 模型一样,Gemma 3n 也经过了严格的安全性评估、数据管理,并根据我们的安全策略进行了微调。我们以谨慎的风险评估态度对待开源模型,并随着人工智能领域的发展不断完善我们的实践。


立即开始:马上体验 Gemma 3n 预览版

我们很高兴地宣布,从今天开始,您可以通过预览版体验 Gemma 3n:


初始访问(现已开放):

  • 使用谷歌人工智能工作室进行云端探索:直接在谷歌人工智能工作室的浏览器中试用 Gemma 3n——无需设置。即时探索其文本输入功能。

  • 基于 Google AI Edge 的设备端开发:对于希望在本地集成 Gemma 3n 的开发者,Google AI Edge 提供了相应的工具和库。您现在即可开始使用文本和图像理解/生成功能。


Gemma 3n 标志着在普及尖端高效人工智能的道路上迈出了新步伐。我们非常期待看到,随着这项技术从今天的预览版开始逐步推出,您将利用它构建出怎样的应用。

从 5 月 22 日起,您可以在 io.google 上查看此公告和所有 Google I/O 2025 更新。

OSZAR »