nginx实现内网hadoop、spark集群web界面访问

问题 最近开发有一个需求,开发需要在公网上面访问yarn-ui及 spark-ui,但是由于hadoop及soark集群没有公网IP,只能通过其它服务器搭建nginx进行转发,转发的时候发现有一个问题 hadoop、spark页面上的很多url是内网主机的IP 点击后无法跳转 通过网上查询资料发现nginx能解决这个问题,nginx通过sub模块替换文本,把页面上的内网主机名 替换成公网IP端口加上一个 可以区分主机的 url 再通过 这个url转发到后端相应主机的端口 相关信息 主机名 IPTV-test-hadoop1 内网IP 10.255.53.197 主机名 IPTV-test-hadoop2 内网IP 10.255.53.240 主机名 IPTV-test-hadoop3 内网IP 10.255.53.239 nginx 安装在 IPTV-test-hadoop1 #nginx安装 nginx安装需加上sub模块 nginx配置 yarn-ui配置 nginx.conf server

nginx限速模块

Nginx v1.1.8版本之前 修改Nginx配置文件 http { limit_zone one $binary_remote_addr 10m; server { location /download/ { limit_conn one 1; limit_rate 300k; } } } 新版本 但是v1.1.8版本之后再这么配置的话会报错 unknown directive “limit_zone” in /etc/nginx/nginx.conf:34 新配置文件 http { limit_conn_zone $binary_remote_addr zone=one:10m; #容器共使用10M的内存来对于IP传输开销 server

nginx sub模块替换文本

文章目录 * 1 介绍 * 2 安装 * 3 用法 * 4 示例 * 4.1 只修改一次 * 4.2 重复执行修改 介绍 nginx的ngx_http_sub_module模块,可以用于修改网站响应内容中的字符串,如过滤敏感词。 第三方模块ngx_http_substitutions_filter_module,弥补了ngx_http_sub_module的不足,可以采用正则表达式替换。(此处不讲如有需要自行查阅相关文档) 安装 nginx自带ngx_http_sub_module模块,但是默认不安装ngx_http_sub_module模块的,因此需要在编译过程中添加 –with-http_sub_module 参数即可 用法 ngx_http_

tomcat在linux启动应用慢

文章目录 * 1 前言 * 2 安装启动 * 3 其它解决办法 * 3.1 在Tomcat环境中解决 * 3.2 在JVM环境中解决 * 4 补充 前言 新搭建了一个测试环境,发现tomcat启动特别特别慢,通过网上搜索发现可通过安装rng-tools解决 安装启动 # 安装 yum install rng-tools -y # 启动 systemctl start rngd # 开机启动 systemctl enabled rngd 其它解决办法 在Tomcat环境中解决 可以通过配置JRE使用非阻塞的Entropy Source。 在catalina.sh中加入这么一行: -Djava.security.egd=file:/dev/./urandom 加入后再启动Tomcat,整个启动耗时下降到Server startup in 2912

免费https证书获取(Let's Encrypt)

Let’s Encrypt永久免费SSL Let’s Encrypt作为一个公共且免费SSL的项目逐渐被广大用户传播和使用,是由Mozilla、Cisco、Akamai、IdenTrust、EFF等组织人员发起,主要的目的也是为了推进网站从HTTP向HTTPS过度的进程,目前已经有越来越多的商家加入和赞助支持。 获取Let’s Encrypt免费SSL证书 系统环境 centos7.6 x64 获取证书 git clone https://github.com/letsencrypt/letsencrypt cd letsencrypt ./certbot-auto --help all ./certbot-auto certonly --standalone --email xxx@163.com -d yangxx.net -d www.yangxx.net 注意: 修改 邮箱和域名为自己的

RabbitMQ手册之rabbitmqctl

文章目录 * 1 用户角色 * 2 application和cluster management * 3 cluster management * 4 User management * 5 Access control * 6 Parameter Management * 7 Policy Management * 8 Server Status * 9 Miscellaneous * 10 用户和用户角色 用户角色 rabbitmq用户角色(role)分为五类: 超级管理员(administrator)、监控者(monitor)、决策制定者(policymaker)、普通管理者(management)和其他。 * administrator 可登录管理控制台(启用management plugin的情况下),查看所有的信息,并且可以对用户、策略(policy)进行操作;

Linux中jar,war包的解压、修改与重新打包

文章目录 * 1 解压 * 2 文件操作 * 3 压缩 * 3.1 注意事项 解压 实验中使用远程操作服务器进行jar包的解压,使用的指令为:jar -xvf **.jar。 文件操作 在文件夹中找到需要修改或替换的文件,直接进行相关操作。 压缩 (此处遇到问题较多):jar指令的相关参数如下 Usage: jar {ctxui}[vfmn0PMe] [jar-file] [manifest-file] [entry-point] [-C dir] files ... Options: -c create new archive -t list table of contents for archive -x extract named (or all) files

Postgresql实现主从复制

文章目录 * 1 前言 * 2 Standby数据库原理 * 3 详细配置 * 4 pgsql_master * 4.1 安装 * 4.2 配置文件 * 4.3 启动 * 5 pgsql-slave * 5.1 安装 * 5.2 配置文件 * 5.3 启动 * 6 检查主从复制是否有效 前言 下面是基于Standby的异步流复制主从的实现方式的记录 流复制(streaming replication)这是PostgreSQL9.x版本之后提供的一个功能 Standby数据库原理 在postgresql中提供读写全功能的服务器称为primary database或master database,在接收主库同步数据的同时又能提供读服务的从库服务器称为hot standby server。 PostgreSQL在数据目录下的pg_xlog子目录中维护了一个WAL日志文件,该文件用于记录数据库文件的每次改变,这种日志文件机制提供了一种数据库热备份的方案,

Consul单机和集群安装

文章目录 * 1 介绍 * 1.1 特点: * 1.2 四个关键特性: * 2 安装配置 * 2.1 服务器规划 * 2.2 安装 * 2.3 启动consul agent * 3 集群检查 * 4 单机启动 * 5 登陆WEB UI 介绍 Consul 是 HashiCorp 公司推出的开源工具,用于实现分布式系统的服务发现与配置。通常拿来和zookeeper、etcd这些服务注册与发现的工具进行比较。Consul更像一个“全栈”解决方案,内置了服务注册与发现,具有健康检查、Key/Value存储、多数据中心的功能。 特点: 1、开箱即用,方便运维:安装包仅包含一个可执行文件,方便部署,

nginx健康检查

文章目录 * 1 简介 * 2 nginx原生模块 * 2.1 方法一 * 2.2 方法二 * 3 第三方模块 * 3.1 安装 * 3.2 配置 * 4 总结 简介 本文主要介绍nginx后端节点的健康检查,分为自带模块及第三方模块 nginx原生模块 nginx自带的针对后端节点健康检查的功能比较简单,通过默认自带的ngx_http_proxy_module 模块和ngx_http_upstream_module模块中的相关指令来完成当后端节点出现故障时,自动切换到健康节点来提供访问。 方法一 添加upstream的时候,直接ip+port后接weight=1 max_fails=2 fail_timeout=30s; upstream fastdfs_tracker { server