DoNews2月16日消息,谷歌今日宣布推出下一代型号:Gemini 1.5。谷歌称,发布用于早期测试的第一个Gemini 1.5型号是Gemini 1.5 Pro。它是一种中型多模式模型,针对多种任务的扩展进行了优化,其性能水平与迄今为止最大的模型1.0 Ultra 类似。Gemini 1.5还引入了长上下文理解方面的突破性实验特征。
据雷递报道,Gemini 1.5 Pro配备标准的128,000 令牌上下文窗口。
从今天开始,少数开发人员和企业客户可以通过AI Studio和Vertex AI的私人预览版在最多100万个代币的上下文窗口中进行尝试。
据介绍,Gemini 1.5建立在谷歌对Transformer和MoE架构的领先研究之上。传统Transformer充当一个大型神经网络,而MoE模型则分为更小的“专家”神经网络。
根据给定输入的类型,MoE 模型学会选择性地仅激活其神经网络中最相关的专家路径。这种专业化提高了模型的效率。
人工智能模型的“上下文窗口”由令牌组成,令牌是用于处理信息的构建块。令牌可以是文字、图像、视频、音频或代码的整个部分或子部分。模型的上下文窗口越大,它在给定提示中可以接收和处理的信息就越多,从而使其输出更加一致、相关和有用。
通过一系列机器学习创新,Gemini 1.5 Pro增加了1.5 Pro的上下文窗口容量,超出Gemini 1.0 最初的32,000 个令牌。Gemini 1.5 Pro现在可以在生产环境中运行多达100万个代币。
这意味着1.5 Pro 可以一次性处理大量信息,包括 1 小时的视频、11 小时的音频、超过30,000 行代码或超过700,000 个单词的代码库。
谷歌和 Alphabet 首席执行官桑达尔·皮查伊说,上周,谷歌推出了功能最强大的模型Gemini 1.0 Ultra,并从Gemini Advanced 开始,在让Google产品变得更加有用方面向前迈出了重要一步。今天,开发人员和云客户也可以开始使用1.0 Ultra 进行构建——使用AI Studio 和Vertex AI 中的 Gemini API。