Springcloud aliBaBa+k8s+hadoop 20220718笔记本12

时间:2023-01-16 15:58:33

 

微服务/普通项目 差别

1、第三方订单接口:URL+端口
     1)、普通项目==>配置:第三方接口参数(URL+端口)
     2)、微服务项目==>直接调用‘service-order’

            【微服务注册中心Nacos:'第三方订单接口',注册名'service-order'】
    3)、第三方订单接口变动;
            普通项目需要修改配置:第三方接口参数(URL+端口);
            微服务项目,只要注册名'service-order'无变动,不需要任何调整

微服务项目(springcloud aliBaBa)

     1)、服务注册/配置中心 Nacos​         
    2)、服务限流/开关 Sentinal

           可限服务接口 访问量
    3)、调用服务网关 gateWay

            客户端不能直接访问服务接口,加一层网关隔离
    4)、调用服务客户端 openFeign(低层httpclient)

               gateWay+Sentinal+Nacos

   5)、分布事务 Seate

            同时调用多个服务接口,若其中一个服务接口异常,则全部回滚

   6)、消息组件 rocket /Kafka

          Kafka:支持分区、10几万数据几秒响应
                如: 群发短信

 

 

Docker公/私有镜像

 1、docker容器发布方式
    1)、dockerFile(单组件)

                   项目部署(dockerfile文件-->生成镜像build、发布容器run)

    2)、docker compose(多组件)
          容器编排技术
               项目部署(docker-compose.yml-->生成镜像build、发布容器run)               

Portainer
      1)、可视化管理、修改、新增容器、新建网络IP段 ​       

  3、docker容器其他
       docker如何分配资源给容器​   

注:一台主机  通过内存扩容、固体硬盘阵列、至强Cpu(多核多线程)够满足实际使用  

 


k8s

k8s多宿机/docker单宿机
k8s集群:主Master/从Node节点

k8s发布
####pod(容器)--->deployment(服务)--->service(服务映射到外网端口:端口暴露)
######################################################################
       1)、发布服务kind:deployment​   

            i):部署deployment.yaml
                    kubel apply -f xxx.yaml
                    ###发布一个deployment生成3个pod;
                         kind:Deployment
                         replicas:3 #pod副本数量
                         imgage:nginx1.16

         ii):镜像升级
                     ####滚动升级################1.16 -->1.17 --> 1.18
                     ###kubel set image deployment/web nginx=nginx:1.17

        iii)、升级回滚
                 kubectl rollout history deployment/web ###查看历史发布版本
                    #### ###1.18--->1.17
                     kubectl rollout undo deployment/web ###回滚上一个版本

        iiii)、镜像扩/宿容
                a)、水平扩####replicas 副本数
                b)、####修yaml的repli cas值,再apply -f

        iiiii)、镜像下线
               a)、#####kubectl delete -f deployment.yaml

      2)、发布服务kind:service
             #####(服务映射外网端口:暴露端口)

                             i):部署service.yaml
                     kubel apply -f xxx.yaml

    kind:service

    3)、Ingress组件:专门管理==> (服务映射外网端口:端口暴露)
             避免(发布一个服务kind:deployment;
             就要发布一次kind:service)​             

k8s 可视化组件Kuboard v3

 

 

IntelliJ IDEA插件
k8s插件 可视化编辑.yaml 亚麻欧文件
DokcerYun插件 dockefile直接发布到服务端docker


 

 

大数据:数据平台Hadoop/数据仓(hive、建模)/数据挖掘(算法)/报表组(java报表)

1、Hadoop
    1)、集群​               

           a)、3组件: hdfs(文件系统)、mapreduce(计算组件)、yarn(资源调度)
               b)、配置文件、hdfs-site.xml mapred-site.xml yarn-site.xml
               c)、存储以文件为主 如 a.txt之类

    2)、生态圈组件

                      --------报表组件-----------------------数据展现

数据分析

                         Hive(查询)/Spark Mlib(挖掘)
                        Spark R(分析)/Spark SQL(查询)
                                     ------------
                        MapReduce/Spark Core(计算优)

- ------Hbase(nosql)---------------数据存储
                          hdfs

数据采集
                     Sqoop(关系库)、Flume(日志)、
                     Kafka(消息)、视频

 

 

       3)、Hadoop可视化工具Hue

 

2、Hbase(nosql)​     

        版本/时间戳
              行健+列族:

 

 

3、Hive(HQL)数据分析 ​           

​            1)、引擎: SQL查询以MapReduce引擎
                                Hive 2.x开始以Spark作为引擎

           2)、对比Hadoop
                        Hive      hadoop
                        -------------------
                      表          目录
                     数据       文年

注:Pig也是数据分析组件

 4、CDH组件 /HUE     大数据组件管理工具