划重点:
⚡️ Lightning AI发布了名为“Thunder”的下一代AI编译器，可在实际场景中将大型语言模型（LLMs）的训练速度提高高达40%。
⚡️ 该编译器采用多个GPU以提高效率，并已在与Nvidia合作的开源机器学习框架PyTorch上发布。
⚡️ “Thunder”开源且免费，可在Apache2.0许可下使用。
站长之家（ChinaZ.com）3月29日 消息:开源人工智能平台Lightning AI宣布与Nvidia合作，发布了名为“Thunder”的下一代AI编译器，旨在加速人工智能模型的训练速度。据Lightning AI称，该编译器在实际场景中相比未优化的代码，可将大型语言模型（LLMs）的训练速度提高高达40%。这一利好消息为AI领域带来了新的技术突破。
image.png© 由 站长之家 提供
“Thunder”编译器的发布标志着Lightning AI在PyTorch开源机器学习框架上迈出的一大步。该公司表示，通过利用多个GPU，这一新工具旨在提高模型训练的效率，并为开发者提供更快速的训练体验。与此同时，“Thunder”采用开源模式，遵循Apache2.0许可，为用户提供了免费使用的机会，这意味着更多开发者可以利用其强大功能。
此前作为Grid AI的Lightning AI，早在2022年就开始了与Nvidia的合作，致力于为PyTorch打造下一代深度学习技术。他们的目标是提供与Nvidia系列产品兼容的解决方案，其中包括torch.compile、nvFuser、Apex、CUDA深度神经网络库（cuDNN）以及OpenAI的Triton等。
除了技术层面的突破，Lightning AI还注重团队建设。他们邀请了PyTorch核心开发者Thomas Viehmann领导“Thunder”编译器项目，以确保其能够为多GPU环境下的生成式AI模型提供支持。这一举措体现了Lightning AI对技术创新和人才培养的重视。
继该公司于2月份发布 Lightning2.2后，Thunder 现已可供使用。 Lightning Studios 的产品可以按四个定价级别购买:个人开发者免费，工程师、研究人员和科学家专业级;初创公司和团队的团队级别，以及大型组织的企业级别。
发表回复