legion:适用于Cloud Native平台的按需无服务器Spark

时间:2021-05-09 03:55:55
【文件属性】:
文件名称:legion:适用于Cloud Native平台的按需无服务器Spark
文件大小:21KB
文件格式:ZIP
更新时间:2021-05-09 03:55:55
spark serverless azure containers azurecontainerinstance 军团再临:适用于云原生平台的无服务器Spark Legion是一个用于在不同的无服务器计算云平台上部署Apache Spark的系统,允许按需按需每秒计费的Spark作业部署,而无需管理任何基础架构。 注意:Legion是实验软件 关于 军团的好处: 没有可设置或操作的基础架构 每秒可计费执行次数-每个Spark作业支付 在几秒钟内部署Spark Worker Legion当前支持Azure容器实例作为无服务器后端平台。 Legion提供了一个简单的CLI,可以将作业提交到后端平台。 军团提交命令类似于Spark的Submit命令,允许动态创建无服务器组件作为Spark执行程序。 这个怎么运作 军团由两个主要部分组成:军团长和军团工人。 Legion主服务器充当Spark Master和Driver,还实现了基于Go的轻量级RESTful API服务器,用于将作业提交给Spark
【文件预览】:
legion-master
----.gitignore(63B)
----cli()
--------utils()
--------main.go(116B)
--------tests()
--------build_cli.sh(473B)
--------backends()
--------cmd()
----README.md(5KB)
----master()
--------Dockerfile(3KB)
--------.dockerignore(13B)
--------utils()
--------main.go(84B)
--------spark()
--------start_server.sh(1KB)
--------backends()
--------cmd()
----worker()
--------Dockerfile(488B)
--------setup_worker.sh(1KB)

网友评论