七叶笔记 » java编程 » 通过Java实现反向代理集群服务的平滑分配

通过Java实现反向代理集群服务的平滑分配

1.理解全过程

1.1.概述

需要具备的知识

Socket网络编程反向代理的理解平滑加权轮询算法的理解线程池的理解

目的:实现Socket 集群服务的平滑加权轮询负载。

业务实现:客户端通过用户名来查询集群服务中的用户信息。

1.2.整个流程 客户端发起Socket请求给反向代理的Socket服务(客户端并不知道服务端是反向代理服务器)反向代理服务器接收到Socket服务请求线程池开启服务线程去处理请求线程服务通过平滑加权轮询算法寻找当前权重最高的下游服务通过负载均衡算法返回的服务节点信息来创建Socket请求反向代理服务器使用客户端信息,发起Socket请求给下游服务Socket集群服务节点收到Socket请求,查询用户信息,再将处理结果返回给反向代理服务器反向代理服务器再将结果返回给客户端。

几个细节点

使用反向代理服务,对客户端无感,客户端并不知道具体访问了哪个真实服务器;反向代理服务器每次访问下游服务失败时,就会降低该下游服务器器的有效权重;每次访问下游服务成功时,就会提高该下游服务器的有效权重(不超过配置的权重值);平滑加权轮询算法会对宕机服务降权和提权,起到”剔除“宕机服务和缓冲恢复宕机服务的效果;反向代理服务器重启后,所有配置恢复为配置参数;反向代理服务器使用线程池发布Socket服务,支持多个客户端同时请求同时分发。

2.代码实现

2.1.节点类

用于保存服务节点相关信息

2.2.代理配置类

一般都是放在配置文件中配置,然后读取指定key的配置文件信息来完成配置。模拟为了简单就直接写代码里了。

2.3.负载均衡算法接口

2.4.平滑加权轮询算法

详细介绍可以阅读前两篇负载均衡算法的文章

2.5.代理服务线程类

用于处理代理服务请求的线程类,不同请求创建不同线程来处理

2.6.代理服务类

通过线程池来管理代理服务线程,不同的请求分发到不同线程处理。这里用的是newCachedThreadPool 线程池。

代理服务器在本地启动。这里也可以新建一个类来启动服务,这样可以启动多个代理服务,这里为了简单就直接在本类的main方法启动。可以对比后面的业务服务类,业务服务类就是这么起的,因为要放到不同的服务器启动业务服务。

2.7.业务实体类

2.8.业务类

处理具体业务的类,通过用户名称简单获取信息

2.9.业务服务线程类

用于处理业务服务请求的线程类,不同请求创建不同线程来处理

2.10.业务服务类

通过线程池来管理业务服务线程,不同的请求分发到不同线程处理。这里用的也是newCachedThreadPool 线程池。

2.11.启动三个业务服务(服务集群)

本次测试是分在两台服务器测试,1台【192.168.233.100】、另外都是本地【127.0.0.1】。如果觉得麻烦,那就都配成本地【127.0.0.1】,然后起服务都在本地起。

服务1:在IP为192.168.233.100 的服务器启动

服务2:在本地服务器启动

服务3:在本地服务器启动

2.12.客户端

3.开始测试

3.1.启动所有服务

在代理配置类(ProxyConfig)中指定的服务器启动三个业务服务;

在你喜欢的服务器中启动代理服务(ProxyServer),这里在本地启动【127.0.0.1】;

客户端在本地测试咯(IP必须是代理服务器的IP,这里测试的代理服务器IP是【127.0.0.1】。

所有服务启动后的截图:

3.2.客户端发起第一次请求

正常命中权重最高的节点2服务:节点信息在代理服务器中打印出来了【127.0.0.1、8002】。这些日志信息正常情况是写入到日志文件,这里只在控制台打印出来。

3.3.客户端发起第二次请求

改了用户名再请求试试,发现忘记打印请求数据了……

第二次命中节点3服务,跟平滑加权算法预定的结果一样。

3.4.客户端发起第三次请求

这次命中了节点2:192.168.233.100,8001的服务。到此可以看到平滑加权轮询算法正常运作中。

3.5.客户端发起第四次请求(测试降权)

通过平滑加权轮询算法运算,我们知道这次肯定命中节点2服务。所以,在发起请求前,先关闭节点2服务,再由客户端发起请求。

细心的应该发现,有效权重没变小啊,是不是降权有问题?

其实不是,是打印信息的位置没放对……。要在下次访问才可以看到上一次的降权结果,额,有点呆(上面的代码我已经改了)。

3.6.客户端发起第N次请求(测试提权)

先把宕机的服务启动起来,然后多测试几次,看看测试结果。可以看到,权重降低后又提起来了,说明测试提权成功。

还有两个点没测:第一个是一直降权后,会不会出现宕机的服务不再分配到?这就起到”剔除“宕机服务的效果?第二个是服务恢复后,会不会出现宕机再起的服务需要慢慢恢复权重,直到一定值后才可以分配到?

4.结论

使用自己编写的平滑加权轮询算法,结合线程池和Socket 网络编程等,实现了反向代理集群服务的平滑分配,并通过降权/提权实现宕机服务的”剔除“和缓冲恢复。

到此这篇关于通过Java实现反向代理集群服务的平滑分配的文章就介绍到这了,更多相关Java集群服务平滑分配内容请搜索七叶笔记以前的文章或继续浏览下面的相关文章希望大家以后多多支持七叶笔记!

相关文章