纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

时间:2022-06-02 05:15:05

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

Rust 作为一门系统编程语言,专注于安全,尤其是并发安全,支持函数式和命令式以及泛型等编程范式的多范式语言,其语法上与 C++ 类似。

随着 Rust 语言热度的强劲增长,也有许多研究者探索 Rust 在机器学习等方面的研究。近日,有研究者用 Rust 编写了一个机器学习框架 Neuronika。

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

Neuronika 是由 Francesco Iannelli 等人开发,他们现在是计算机科学的硕士生。该框架提供了自动分化和动态神经网络,非常像 Pytorch。目前已经实现了最常见的层组件,如 dense 层、dropout 层、GRU、LSTM 和 1d-2d-3d CNN,然而,缺少池化层等等。Neuronika 还提供了损失函数、优化器、计算图、张量和数据实用程序。

速度方面,项目作者表示 Neuronika 的表现可与 PyTorch 媲美。你可以对它进行基准测试。但目前还不能支持 GPU。想要进行基准测试,可以参考测试文档。

测试文档地址:https://docs.rs/neuronika/0.1.0/neuronika/

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

项目地址:https://github.com/neuronika/neuronika

对于该机器学习框架,网友直呼非常棒!

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

对于还不能支持 GPU,有网友支招:「对于 GPU 支持,可考虑 Vulkan 计算着色器。事实证明,它们的性能非常好,而且几乎所有的 GPU 平台都支持它,包括智能手机和浏览器。」

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

还有网友表示担心,「如果不支持 GPU,能训练出可用的模型吗?现在关于机器学习的文章,他们都在谈论更大、更昂贵的 GPU。」对于这一担心,项目作者表示:「这取决于用例。当然,GPU 支持是当今必须的,我们认为它是我们框架的开发的一个重大里程碑。」

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

项目介绍

Neuronika 是用纯 Rust 语言编写的机器学习框架,其构建重点在于易用性、快速原型开发和高效性能。

Neuronika 的核心机制是一种叫做反向模式自动分化机制( reverse-mode automatic differentiation),这种机制允许用户在改变动态神经网络时可以轻松实现,没有任何开销,可通过 API 运行。

纯Rust编写的机器学习框架Neuronika,速度堪比PyTorch

Rust 语言提供了一个直观、轻巧且易于使用的界面,同时实现了令人难以置信的性能。

以下 crate 特征 flag 可用,配置 ndarray 后端:

  • serialize:可以序列化支持 serde 1.x。
  • blas:为矩阵乘法提供透明的 BLAS 支持。将 blas-src 用于 pluggable 后端,需要单独配置。
  • matrixmultiply-threading:启用 matrixmultiply 包中的 threading 特性。

目前,Neuronika 的开发处于初始阶段,但其发展迅速。研究者还在不断的开发该项目,从一个版本到另一个版本的转换过程中,预计会有突破性的变化。如果可能的话,研究者会采用最新的、稳定的 Rust 特征来开发。

原文链接:https://www.toutiao.com/i6974993649436328456/