站长之家(ChinaZ.com)3月29日 消息:马斯克旗下人工智能初创公司xAI宣布将推出Grok-1.5,该模型能够进行长语境理解和高级推理,将于近日向X平台Grok用户和早期测试者开放。
微信截图_20240329091911.png© 由 站长之家 提供
Grok-1.5是最新的模型,具有长文本理解和高级推理能力。它将很快在𝕏平台上推出,供早期测试人员和现有 Grok 用户使用。
Grok-1.5相较于之前的版本有着显著的改进,其中最值得关注的是在编码和数学相关任务中的表现。在数学基准测试中,Grok-1.5取得了50.6% 的得分,并在 GSM8K 基准测试中获得了90% 的得分。此外,它在 HumanEval 基准测试中得分为74.1%,这个基准测试评估了代码生成和问题解决能力。
微信截图_20240329091936.png© 由 站长之家 提供
Grok-1.5的一个新特性是能够处理长达128K 令牌的上下文。这使得 Grok 能够具有高达之前16倍的上下文长度,从而能够利用更长文档中的信息。此外,该模型可以处理更长、更复杂的提示,同时在上下文窗口扩大的情况下仍保持其遵循指令的能力。
在最新的 Grok-1.5版本中,还使用了基于 JAX、Rust 和 Kubernetes 的自定义分布式训练框架。
发表回复