马斯克旗下xAI将推出Grok-1.5

站长之家(ChinaZ.com)3月29日 消息:马斯克旗下人工智能初创公司xAI宣布将推出Grok-1.5,该模型能够进行长语境理解和高级推理,将于近日向X平台Grok用户和早期测试者开放。

微信截图_20240329091911.png

微信截图_20240329091911.png© 由 站长之家 提供

Grok-1.5是最新的模型,具有长文本理解和高级推理能力。它将很快在𝕏平台上推出,供早期测试人员和现有 Grok 用户使用。

Grok-1.5相较于之前的版本有着显著的改进,其中最值得关注的是在编码和数学相关任务中的表现。在数学基准测试中,Grok-1.5取得了50.6% 的得分,并在 GSM8K 基准测试中获得了90% 的得分。此外,它在 HumanEval 基准测试中得分为74.1%,这个基准测试评估了代码生成和问题解决能力。

微信截图_20240329091936.png

微信截图_20240329091936.png© 由 站长之家 提供

Grok-1.5的一个新特性是能够处理长达128K 令牌的上下文。这使得 Grok 能够具有高达之前16倍的上下文长度,从而能够利用更长文档中的信息。此外,该模型可以处理更长、更复杂的提示,同时在上下文窗口扩大的情况下仍保持其遵循指令的能力。

在最新的 Grok-1.5版本中,还使用了基于 JAX、Rust 和 Kubernetes 的自定义分布式训练框架。


评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注