Google 系列大模型时间线与主要特性

原创 已于 2025-06-29 18:40:04 修改 · 776 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#LLM #AI

于 2025-06-29 12:22:22 首次发布
第一阶段：奠定基础 (2017 - 2019)

这个阶段的核心是创建了革命性的基础架构，并确立了“预训练+微调”的范式。

  • 2017: Transformer 架构

    • 特性： 首次提出完全基于“自注意力机制 (Self-Attention)”的神经网络架构，摒弃了传统的循环（RNN）和卷积（CNN）结构。它能更好地处理长距离依赖关系，并且极大地提升了并行计算效率。
    • 意义： Transformer是现代几乎所有大型语言模型的基石，其重要性无与伦比。
    • 参考来源： 论文 Attention Is All You Need

  • 2018: BERT (Bidirectional Encoder Representations from Transformers)

    • 特性： 基于Transformer的双向编码器。通过“掩码语言模型 (Masked Language Model)”和“下一句预测 (Next Sentence Prediction)”任务进行预训练，让模型能深刻理解词语在上下文中的双向关系。
    • 意义： 革命性地提升了各项自然语言理解（NLU）任务的基准，开启了大规模预训练模型的时代。
    • 参考来源： 论文 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

  • 2019: T5 (Text-to-Text Transfer Transformer)

    • 特性： 提出一个统一的框架，将所有NLP任务（如翻译、摘要、问答）都转化为“文本到文本”的格式。模型输入是带有任务指令的文本，输出是结果文本。
    • 意义： 极大地简化了模型的使用和微调流程，证明了单一模型处理多样化任务的可行性。
    • 参考来源： 论文 Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer
第二阶段：规模化与多模态探索 (2021 - 2022)

模型参数规模急剧增长，并开始从纯文本向对话、代码和多模态领域拓展。

  • 2021: LaMDA (Language Model for Dialogue Applications)

    • 特性： 专为对话应用设计的模型，经过大量对话数据微调。其训练目标是优化对话的合理性 (Sensibleness)、特异性 (Specificity) 和趣味性 (Interestingness)。
    • 意义： 在生成流畅、自然、有逻辑的开放域对话方面取得了重大突破。它是早期Bard产品的技术基础。
    • 参考来源： Google AI Blog: LaMDA: our breakthrough conversation technology

  • 2022: PaLM (Pathways Language Model)

    • 特性： 一个参数规模高达5400亿的密集型模型。它在Google的下一代AI架构Pathways上训练，展示了巨大规模带来的“涌现能力”，尤其是在多步推理和代码解释等复杂任务上。
    • 意义： 证明了模型规模是提升复杂推理能力的关键因素之一。
    • 参考来源： 论文 PaLM: Scaling Language Modeling with Pathways

  • 2022: Imagen & MusicLM

    • 特性：
      • Imagen: 一个文本到图像的扩散模型，以生成图像的逼真度和对文本提示的深度理解而闻名。
      • MusicLM: 一个文本到音乐的模型，能生成长达数分钟、高保真度且符合复杂描述（如“一段平静的、适合冥想的钢琴曲”）的音乐。
    • 意义： 标志着Google在AIGC（人工智能生成内容）的多模态领域取得了顶尖成果。
    • 参考来源： Imagen Website & MusicLM Website
第三阶段：全面竞争、产品化与开源 (2023 - 至今)

面对激烈的市场竞争，Google加速了模型的迭代、产品化（Bard/Gemini App）以及对开源社区的拥抱。

  • 2023 (Feb): Bard 发布

    • 特性： Google推出的对话式AI服务，最初基于LaMDA的轻量级版本，是其对标ChatGPT的直接产品。
    • 意义： 标志着Google正式将大模型技术推向公众，参与生成式AI产品竞赛。
    • 参考来源： Google Blog: An important next step on our AI journey

  • 2023 (May): PaLM 2

    • 特性： PaLM的继任者。虽然规模可能更小，但更高效，在多语言能力、推理和编码方面进行了重点优化。它成为了驱动Bard性能大幅提升的核心引擎。
    • 意义： 体现了模型发展从“唯规模论”向“效率与能力并重”的转变。
    • 参考来源： Google AI Blog: Announcing PaLM 2

  • 2023 (Dec) - 至今: Gemini & Gemma 系列

    • 这是Google当前的旗舰模型系列，下文将单独详细列出。

Gemini 和 Gemma 系列细分版本

Gemini 系列 (闭源旗舰模型)

Gemini是Google迄今为止最强大、最通用的模型，其核心特点是原生多模态，即从一开始就被设计为能够无缝地理解、操作和结合不同类型的信息。

版本发布时间主要特性适用场景
Gemini 1.0 Ultra2024年2月 (广泛可用)- 最强性能： Google最顶级的模型，在MMLU等30多项基准测试中超越了当时所有模型。
- 原生多模态推理： 能够处理文本、图像、音频、视频和代码的复杂交错输入。
- 卓越的推理能力： 专为高度复杂的任务设计。		科学研究、企业级复杂数据分析、需要顶级智能的专业应用。通过付费的Gemini Advanced提供服务。
Gemini 1.0 Pro2023年12月- 平衡性能与效率： 性能强大的主力模型，针对广泛的任务进行了优化。
- 快速响应： 相比Ultra，延迟更低，成本更优。
- 多功能： 当前驱动Gemini（原Bard）和Google AI Studio免费版的核心。		日常对话、内容创作、代码生成、摘要分析等绝大多数通用场景。
Gemini 1.0 Nano2023年12月- 端侧高效模型： 尺寸最小，专为在移动设备上本地运行而设计。
- 离线运行和低延迟： 能够在无网络连接的情况下执行任务，如智能回复、文本摘要。
- 隐私保护： 数据在设备本地处理，不上传云端。		Pixel 8 Pro等安卓设备的端侧AI功能。
Gemini 1.5 Pro2024年2月- 巨型上下文窗口： 具有开创性的100万Token上下文窗口，可以一次性处理整本书或数小时的视频。
- 混合专家架构(MoE)： 训练和服务时更高效。
- 高级多模态推理： 能够对长视频或大型代码库进行细粒度的提问和分析。		处理海量文档（如财报、法律文件）、分析长视频内容、大型代码库审查等需要超长上下文的专业任务。

参考来源： Google’s Gemini Official Page & Gemini 1.5 Technical Report

Gemma 系列 (开源轻量级模型)

Gemma是基于与Gemini相同的研究和技术构建的、开放权重(open weights)的轻量级模型系列。

版本发布时间主要特性适用场景
Gemma 2B2024年2月- 轻量高效： 仅20亿参数，可以在CPU甚至移动设备上高效运行。
- 性能优越： 在同等规模的开源模型中，性能处于领先水平。		学术研究、个人开发者项目、资源受限的部署环境、端侧应用原型开发。
Gemma 7B2024年2月- 性能更强： 70亿参数，提供了更强的语言理解和生成能力，可在GPU上流畅运行。
- 平衡之选： 在性能和部署成本之间取得了很好的平衡。		需要更高质量响应的聊天机器人、内容生成工具、代码助手等，是目前最受欢迎的开源尺寸之一。
Instruct 版本
(Gemma 2B-it & 7B-it)		2024年2月- 指令微调： 基础模型经过对话和指令数据的微调。
- 更擅长交互： 更适合用于构建聊天机器人或遵循用户指令的应用，表现更安全、更有用。		构建对话式AI、问答系统、个人助手等需要直接与用户交互的应用。

参考来源： Google’s Gemma Official Page & Google AI Blog: Gemma: Introducing new state-of-the-art open models

在这里插入图片描述

上面这张时间轴直观地展示了Google大模型战略的演进：

  1. 奠基阶段 (2017-2019): 通过 Transformer 和 BERT 奠定了技术和范式的基础。
  2. 探索阶段 (2021-2022): 向上探索模型规模的极限 (PaLM)，向外拓展应用场景的边界（LaMDA 对话，Imagen 图像）。
  3. 竞争与落地阶段 (2023-至今): 这是战略最清晰、产品发布最密集的时期。
    • 产品线： 以 Bard (后更名为Gemini) 为核心，快速迭代背后的引擎。
    • 技术线： 发布王牌 Gemini 系列，以原生多模态应对竞争，并通过 1.5 Pro 的超长上下文展示技术实力。
    • 生态线： 通过开源 Gemma 系列，积极构建开发者生态，形成闭源旗舰与开源社区双轮驱动的格局。
人工智能大模型技术基础系列之：分布式模型存储与加载
AI天才研究院
11-01 637
随着人工智能技术的快速发展，大规模语言模型（Large Language Models, LLMs）如GPT-3、BERT、T5等在自然语言处理领域取得了突破性进展。这些模型通常包含数十亿甚至上千亿个参数，为了有效地存储、加载和推理如此庞大的模型，分布式技术成为了不可或缺的解决方案。本文将深入探讨大模型分布式存储与加载的核心技术，包括模型并行、张量并行、流水线并行等关键概念，以及它们在实际应用中的实现方法和优化策略。
从零开始大模型开发与微调：大模型带来的变革
AI天才研究院
07-06 901
从零开始大模型开发与微调：大模型带来的变革 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 关键词：大模型开发, 微调策略, 自动化机器学习, 大型神经网络, 技术演进 1. 背景介绍
LLM基础篇（一）：大模型理念与演进
2401_84494441的博客
07-03 1467
大规模语言模型（LargeLanguageModels，LLM），也称大规模语言模型或大型语言模型，是一种由包含数百亿以上参数的深度神经网络构建的语言模型，使用自监督学习方法通过大量无标注文本进行训练。自2018年以来，Google、OpenAI、Meta、百度、华为等公司和研究机构都相继发布了包括BERT[1]，GPT[6]等在内多种模型，并在几乎所有自然语言处理任务中都表现出色。
《深入浅出LLM基础篇》（一）：大模型概念与发展
AAI666666的博客
04-10 1150
大规模语言模型（LargeLanguageModels，LLM），也称大规模语言模型或大型语言模型，是一种由包含数百亿以上参数的深度神经网络构建的语言模型，使用自监督学习方法通过大量无标注文本进行训练。
【大模型系列教程】(二)揭秘：大模型的分类与主流模型一览
2401_84494441的博客
07-15 3313
目前包含 Claude 和 Claude-Instant 两种模型可供选择，其中 Claude Instant 的延迟更低，性能略差，价格比完全体的 Claude-v1 要便宜，两个模型的上下文窗口都是 9000 个token（约 5000 个单词，或 15 页）它的目标是“更安全”、“危害更小”的人工智能。Google 还开发了多种 PaLM 的改进版本。更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。
巅峰对决：OpenAI与Google如何用大模型开创未来_大模型 openai 谷歌
2401_85773741的博客
11-19 1218
当前，ChatGPT系列产品凭借其在听觉、视觉和语言处理领域的集成能力，以及**对物理世界的强大理解力、流畅的多模态交互功能，确立了其在行业中的领先地位。**GPT4技术整合到微软的Windows软件、Azure云服务以及工具中，进一步强化了其在技术特性和应用前景上的优势。Google的Gemini虽然在超长上下文理解与复杂数学逻辑问题解决方面有着出色的表现，但在多模态交互、训练成本和落地应用的实施中仍有提升空间。
深入浅出LLM基础篇：大模型概念与发展
2401_85325726的博客
03-17 1221
大模型很多技术干货，都可以共享给你们，如果你肯花时间沉下心去学习，它们一定能帮到你！
万字讲清大模型的发展，按时间排序（1950年到2025年）
数据知道的博客
03-14 7946
大模型（Large Language Models, LLMs） 的发展是人工智能领域的重要里程碑。以下是按时间排序的大模型发展关键节点。
AI大模型太多，傻傻分不清？一文整理国内外主流大模型
大模型研究中心
04-16 1219
自从2022年12月OpenAI 推出 ChatGPT 后，所有人都惊讶于它的能力，同时也关注到了其背后的大模型，于是全世界各大互联网公司都开始拼命卷模型，生怕掉队。今天各类 AI 新闻中常常会出现不同公司的模型，但由于模型类型和版本过多，我经常分不清谁是谁。于是花了点时间，将国内外主流模型做了整理，方便理解。先放一张，方便理解不同模型之间的时间线。注：以上图表由 GPT-4o 生成。
深入浅出解析：大模型、超大模型与Foundation Model技术精要
2401_85390073的博客
07-15 1798
1) 模型碎片化，大模型提供预训练方案04大模型训练框架大模型时代，企业对人才的需求变了，AIGC相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。掌握大模型技术你还能拥有更多可能性• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；
大模型扫盲系列——大模型实用技术
python1234_的博客
01-21 1308
从公式知，输入是正的，则直接输出该值；如果输入是负的，则输出0。ReLU因其简单性和效率在深度学习中非常流行。它有助于解决梯度消失问题，加速了神经网络的收敛，并且计算简单。
深度解析GPT与谷歌大语言模型的时间线与架构
- **GPT-4**：虽然目前尚未正式发布，但根据时间线和命名逻辑，GPT-4将会是GPT系列的最新成员，预计将拥有更高的参数量和更为强大的语言理解与生成能力。 ### 谷歌的时间线： - **Transformer（2017年）**：谷歌...
什么是大模型？
Aweii__的博客
08-09 1253
这半年来，“大模型”一词飞入寻常百姓家，以前只是在IT圈相对较为封闭的圈子里流传。这一词的大规模爆发，原因在于ChatGPT的推出和广泛使用。其实类似“GPT”的模型还有很多，百度，阿里，腾讯和字节跳动等公司都有自己的模型，差异各有千秋。AI的发展历程人工智能（Artificial Intelligence，AI）的发展经历了多个阶段和里程碑，下面是AI的主要发展历程：1. 早期研究阶段（1950年代-1960年代）：在这个阶段，AI的研究主要集中在推理和问题解决方面。
大语言模型的前世今生：万字长文完整梳理所有里程碑式大语言模型（LLMs）
m0_64752471的博客
10-26 1282
作者：APlayBoy 编辑：AI生成未来链接：https://zhuanlan.zhihu.com/p/691719636所有资料 ⚡️ ，朋友们如果有需要全套 《》，本篇博客全面汇总了大型语言模型（LLMs）。从早期的预训练神经语言模型开始，探讨了它们的起源和发展。重点讨论了Transformer架构及其三个主要分类：仅编码器PLMs、仅解码器PLM和编码器-解码器PLM。接着，文章聚焦于GPT、LLaMA和PaLM这三大LLM家族，阐述了它们的特点和对语言模型领域的贡献。
【遥感影像处理】基于Google Earth Engine的S-2影像NDVI计算与时间序列分析：2023年秋季植被指数监测系统实现
08-02
内容概要：本文档展示了如何利用Google Earth Engine (GEE) 平台对Sentinel-2卫星图像进行处理与分析。首先创建了2023年9月至10月期间的S-2影像集合，并基于划定的研究区域（aoi）进行了筛选。接着定义了去除云层影响以及计算归一化植被指数（NDVI）的函数，将NDVI作为新波段加入到影像集中。随后提取NDVI数据并构建了中位数值合成图，设置了用于显示NDVI的色彩渐变条。最后，生成了NDVI的时间序列折线图，并将最终结果导出到Google Drive，同时在地图上展示了NDVI的分布情况。 适合人群：具有遥感基础知识、对植被监测感兴趣的科研人员或学生，以及从事地理信息系统工作的专业人士。 使用场景及目标：①研究特定时间段内的植被生长状况变化；②评估不同地区植被覆盖度差异；③为农业、林业等领域提供科学依据和支持。 阅读建议：读者应具备一定的JavaScript编程基础，熟悉Google Earth Engine平台操作，以便更好地理解和应用文中提供的代码示例。由于涉及到具体的地理空间分析任务，建议结合实际案例进行练习，以加深理解。
Java实现HTML转图片功能的jar包
08-02
资源下载链接为： https://pan.quark.cn/s/1bfadf00ae14 在Java开发中，存在一种功能强大的jar包，它能够高效地将HTML页面转换为图片。这种jar包非常适合用于各种截图场景，例如将网页内容生成图片用于展示、存档或者分享等。它能够精准地渲染HTML页面，确保生成的图片完整且清晰地呈现页面的布局和内容。无论是简单的文本页面，还是包含复杂样式、图片、表格等元素的页面，都能很好地处理。开发者可以轻松地将其集成到自己的Java项目中，通过简单的代码调用，即可实现HTML到图片的转换功能，极大地提高了开发效率，满足了多种业务需求，比如网页截图、报表生成图片等场景。
sqlite-jdbc-3.44.0.0.jar中文文档.zip
最新发布
08-02
1、压缩文件中包含： 中文文档、jar包下载地址、Maven依赖、Gradle依赖、源代码下载地址。 2、使用方法： 解压最外层zip，再解压其中的zip包，双击 【index.html】 文件，即可用浏览器打开、进行查看。 3、特殊说明： （1）本文档为人性化翻译，精心制作，请放心使用； （2）只翻译了该翻译的内容，如：注释、说明、描述、用法讲解 等； （3）不该翻译的内容保持原样，如：类名、方法名、包名、类型、关键字、代码 等。 4、温馨提示： （1）为了防止解压后路径太长导致浏览器无法打开，推荐在解压时选择“解压到当前文件夹”（放心，自带文件夹，文件不会散落一地）； （2）有时，一套Java组件会有多个jar，所以在下载前，请仔细阅读本篇描述，以确保这就是你需要的文件。 5、本文件关键字： jar中文文档.zip,java,jar包,Maven,第三方jar包,组件,开源组件,第三方组件,Gradle,中文API文档,手册,开发手册,使用手册,参考手册。
ingress 1.13
08-02
ingress 1.13
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值