最近申请使用EC2免费服务器,将EC2使用时的一些心得记录下。
一、申请流程:
1、首先需要注册一个账户,此账户免费,但是申请账户的时候需要绑定信用卡,在绑定后申请EC2云服务器的时候,aws为了测试账户可用性,象征性的扣去信用卡1美元,下个月自动返回到你自己的账户。
申请地址:https://aws.amazon.com/cn/free/?sc_channel=PS&sc_campaign=acquisition_CN&sc_publisher=baidu&sc_category=pc&sc_medium=cloud_computing_b&sc_content=aws_cloud_e&sc_detail=aws%20%E5%85%8D%E8%B4%B9%E4%B8%80%E5%B9%B4&sc_segment=100015479&sc_matchtype=phrase&sc_country=CN&s_kwcid=AL!4422!88!14697818373!!22918598251&ef_id=W3F0BQAAAR0Y3w-R:20180819082825:s
2、注册后选择免费的EC2,然后添加实例。
最后添加成功后如下:
二、使用过程中遇到的问题
1、关于xshell登录
1.1:在创建实例的时候会生成一个秘钥,会提示离下载,下载后在xshell 登录的时候选择public keys而不是passwd。然后将下载的秘钥导入进xshell就可以直接登录,不需要密码。用户名:你在选择实例的时候选择的是ubuntu就是ubuntu(小写),centos就是centos。其他的没试过。
1.2:以上的方法比较麻烦的是你在另外一台电脑登录时候需要把秘钥复制到电脑。以下这种方法可以直接IP/用户名/密码登录。
首先还是需要第一次秘钥登录,登录后进root用户,然后修改配置文件:
[root@EC2 ~]# vim /etc/ssh/sshd_config
修改以下:
然后重新登录使用IP/用户名/密码就可以了
2、密码修改:
xshell登录上去以后首先修改root和centos/ubuntu密码。
1 sudo passwd root 2 3 sudo passwd centos 或者 sudo passwd ubuntu
3、安全组相关
在启动实例过程中,要求你选安全组,此时如果是自己测试用最好端口全放开,这样在后面部署web服务时候免得麻烦。
4、关于java/scala的安装
centos默认是没有安装的,所以直接在EC2 wget下载后解压,最好安装在root用户下,这样所有的用户都可以用,wget 以下这个链接,scala同理,有个坑就是Ubuntu好像会自带安装包,但是那个jdk版本有点不合适,所以建议下载时候看好是1.8版本的。
4.1、下载
4.2、安装位置:
4.3配置环境变量:
vim /etc/profile
最后spark这个环境变量配置最好将启动命令目录配置进去,这样启动停止集群的时候方便,以上:$SPARK_HOME/sbin便是。
4.4、关于配置文件/etc/profile和 .bashrc区别
/etc/profile :是root用户下配置环境变量,此处配置后所有用户都有效
.bashrc :则是单个用户的配置文件,只是对当前用户有效。
5、关于单机版spark
1、普通用户下下载spark,解压然后配置:
这两个文件是cp 出来,然后修改的。spark-env.sh只要增加以下便可:
系统环境变量参照上一步/etc/profile配置就ok。这样单机版的spark就可以了。
2、关于spark页面的访问
在这个上面踩过好多坑,其实只要IP+端口,就可以了。
就是你的:公网IP+8080,单机版就是这样就ok。没有什么7077一堆的配置。
然后sparkshell是:IP+4040
以上的前提保证是你的安全组像上面讲的,选择了所有流量,所有IP。
3、关于Linux密码问题转自以下详细:
转:https://blog.csdn.net/caizi001/article/details/38659189
先写到这。。。后续想起来更新。