谷歌祭出多模态「杀器」，Gemini 真能碾压 GPT-4 吗？

彭博社指出，Gemini 的演示视频非实时。

撰文：木沐

「最大」、「最有能力」、「最佳」、「最高效」，谷歌为其 12 月 7 日新发布的多模态大模型 Gemini 冠上了好几个“最”，与 OpenAI GPT-4“比高高”的胜负欲呼之欲出。

区分为 Ultra、Pro、Nano 三个尺寸的 Gemini，不仅号称在各种「AI 考试」中得了「高分」，演示视频里显示的 Gemini 简直就是「听说读写」样样拿的「超级工具」。

按照官方说法，Gemini Ultra 最为强大，兼具多模态能力、专业性与准确度，能以图文、语音的形式输入输出不说，具体还能批改数学作业，指导运动员的动作与发力，还能够执行复杂的绘制图表、编码等任务，在 MMLU（大规模多任务语言理解）测试里甚至「超越了人类专家」。

不过，目前能供 C 端普通用户体验的是 Gemini Pro 版，按官方定位是「在各种任务上扩展的最佳模型」，已集成至谷歌此前发布的对话机器人 Bard 中；「在设备上执行任务的最高效模型」Gemini Nano 将置入谷歌智能手机 Pixel8 Pro；而「最大且最有能力，适用于高度复杂任务」的 Gemini Ultra，谷歌的计划是在明年年初开放给开发者和企业用户。

那么，Gemini 真的比 GPT-4 强吗？

有网友发现，谷歌给出的 Gemini Ultra「考试成绩」用的是自家的「试卷」（测试方法）；而彭博社指出，Gemini 的演示视频非实时，网友们也觉得该视频有剪辑痕迹。

《元宇宙日爆》实测了 Bard 的数学能力，该对话机器人已植入了精调的 Gemini Pro 模型，结果显示，Bard 对复杂的数学题仍有理解错误，尤其是识图方面。

谷歌展示 Gemini 「听说读写」能力

Gemini 是谷歌从头构建的多模态人工智能大模型。尽管在时间上落后 GPT-4 许多，但被谷歌以「能力最强」对外推出，「强」的一面是 Gemini 的多模态能力。

它能够同时处理和解析文本、图像、音频、视频以及代码等多种数据类型，也就是说，用户可以将各种形式的信息输入给 Gemini，它不仅能理解，还能分析甚至按你的需求处理任务。

目前，Gemini 还在 1.0 版，按规模不同分为 Ultra、Pro 和 Nano。Ultra 版本是适用于高度复杂的任务，而 Pro 版本则专注于多任务处理，Nano 版本则针对移动设备上的应用。三种版本有针对性地适用于多个不同场景，且在多项基准测试中展现出超群实力。

谷歌官方放出的宣传视频展示了 Gemini 超强的多模态能力，相信看完后你会惊呼。

「超级模型」Gemini Ultra 的背后有谷歌发布的测试数据支撑。在 32 个广泛用于测评大型语言模型（LLM）的学术基准中，它在 30 个上性能超过了大模型领域当前的技术水平。

Gemini Ultra 号称以 90.0% 的得分成为第一个在 MMLU（大规模多任务语言理解）上「胜过人类专家的模型」，该测试使用数学、物理、历史、法律、医学和伦理学等 57 个学科的组合来测试世界知识和解决问题的能力。Gemini 在包括文本和编码在内的一系列基准测试中超越了目前的技术水平。

MMLU 是一种针对大模型的语言理解能力的测评，包含了 57 个关于人类知识的多选题回答任务，涵盖了初等数学、美国历史、计算机科学、法律等，难度覆盖高中水平到专家水平的人类知识，是目前主流的的大模型语义理解测评之一。

从谷歌给出的测试结果来看，Gemini 在理解复杂数据和执行高级任务方面将对 GPT-4 构成强有力的竞争。

谷歌称 Gemini 在 MMLU 测评中首次超越人类专家

由于从一开始构建就基于多模态训练，Gemini Ultra 理论上对文字、图片、语音、视频、代码等各种形态的信息都能理解，这就给 AI 应用和使用场景带来了更多可能性。

例如在教育领域，借助 Gemini Ultra 的多模态推理技能，凌乱的手写笔记能被理解，学生解题时出错的步骤能被发现，然后给出题目的正确解答和过程。这一套下来，不能说要淘汰教师吧，至少老师们也得到了一个高能 AI 助手。

Gemini 可以批改学生作业

在视频的理解与推理上，Gemini Ultra 甚至展现出「足球教练」的素养，能分析运动员的动作与发力，还会给出具体的改进建议。

Gemini 可理解视频内容并给运动员提供指导建议

对于复杂的图像理解、代码生成、指令跟踪，Gemini Ultra 也不在话下。输入图像与提示次「我希望你采用左上角子图中描绘的函数，将其乘以 1000，然后将其添加到左下子图中描绘的函数中，生成 matplotlib 代码单个结果图」后，Gemini Ultra 能够完美的执行逆图形任务来推断生成绘图的代码、执行额外的数学转换并生成相关代码。

从谷歌给出的这些案例看，Gemini Ultra 简直是「地表最强」的大模型，观众朋友们最想知道的是，这个大模型界的「超级赛亚人」，咱啥时候能用上？

按照谷歌的披露，从 12 月 6 号开始，Bard 就会上载 Gemini Pro 的精细调整版本，用于更高级的推理、规划、理解等，这是 Bard 自推出以来的最大升级。

需要注意的是，集成了 Gemini Pro 的 Bard 只提供英语支持，可在全球 170 多个国家和地区使用，计划在不久的将来扩展到不同的模态，支持新的语言和地区。也就是说，中文用户目前还无法完美体验 Gemini Pro。

Gemini Nano 最先在谷歌的 Pixel 8 Pro 智能手机上应用，从 WhatsApp 开始，明年将支持更多的消息应用。

在未来几个月中，Gemini 还将在更多的产品和服务中推出，包括 Search、Ads、Chrome 和 Duet AI。也就是说，谷歌的搜索引擎中也将输入 Gemini 能力。

至于「最强」的 Gemini Ultra，普通用户还得等等。谷歌说，它正在进行信任和安全性检查，在推出前还得通过对人类反馈的微调和强化学习（RLHF）的进一步改进。

在这个过程中，Gemini Ultra 会有选择地给客户、开发人员、合作伙伴以及安全和责任专家拿来早期实验，等待反馈，然后在明年初向开发人员和企业客户开放。

Ultra 的 MMLU「试卷」疑为谷歌版‍‍‍‍‍‍‍‍‍‍‍

展示的是最强的 Gemini Ultra，但推出和使用要缓一缓，谷歌这样的操作很快就惹来了怀疑，真比 GPT-4 强吗？

彭博社就出来「打脸」说，谷歌的模型和 OpenAI 相比还仍有差距，现在这能力也仅凭演示，而视频演示还是录制的，又不实时，很可能是「精心调整的文本提示与静态图像」。彭博社还指出，Gemini 的回答需要其他信息的辅助，在真正的交互中需要暗示性很强的提示。

围观演示视频的网友们也觉得，视频中有很明显的剪辑痕迹，「强大的能力存在水分」。

而谷歌给 Gemini Ultra 考试的 MMLU 测评，被网友指出用的是自家出的「试卷」。在 57 个科目的多选题测试中，得了 90 分的 Ultra，底下分明标着「CoT@32*」，这是谷歌自己调试的测评方案。如果采用和 GPT-4 同样的标准，它的得分只有 83.7，还不如得分 86.4 的 GPT-4。

Gemini Ultra 在谷歌调整的测试方案中得分 90

学术上的事情太专业，好在谷歌已经把 Gemini 植入了 Bard，尽管用的是 Utral 的低配版 Pro，但也号称能多任务处理，这是普通大众最能直接测试 Gemini 的方式了。

《元宇宙日爆》直接选用了数学题，因为 ChatGPT 对数学就不太精通，而有唯一正确性的数学被 OpenAI 视作通往 AGI 的基础，咱来看看被输入 Gemini 能力的 Bard 是否擅长数学。

我们统一用英文进行提问，题 1 为求算圆锥体积，题 2 为稍难的几何证明题。

测试结果表明，Gemini Pro 能够准确识别图像以及图片内的文字，也能够正确解决简单数学问题，但在处理复杂数学题时，仍然存在明显错误。题 2 中的错误就很明显，Bard 在第 2 步将 EG 与 AB 两条线错误地证明为相互垂直。

有 Gemin Pro 能力的 Bard 做数学题还不完美

这难道是因为 Bard 用的是 Gemini Pro 而显得不够强大？那咱只能等 Ultra 加入再测试了。

而会引入智能手机 Pixel 8 Pro 的 Gemini Nano，将应用在「记录器摘要」和 「Gboard 智能回复」两项功能中。

按谷歌说法，即使手机不连网，记录器也可以获得手机对话录音、采访、演示等内容的摘要；而智能回复功能类似挂断电话后的自动回复，Gemini Nano 可以识别来信的内容，生成对应的回复。不过，这两项功能，目前也只支持英文文本的识别。

按照 DeepMind 曾提出的 AGI 评估框架，在 AGI-1 阶段，人工智能将能够跨领域和跨模态地进行学习和推理，在多个领域和任务上表现出智能，如问答、摘要、翻译、对话等，实现与人类和其他 AI 进行基本的沟通和协作，感知和表达简单的情感和价值。

综合 Google 官方发布与实际测试体验来看，值得期待并有希望超越 GPT-4 模型的仍是尚未公开发布的 Ultra 版本，如果这个版本的多模态能力真能如演示般表现，那么谷歌距离它定义的 AGI 也就不远了。