我正在开发一个系统,可以用非常简单的术语描述如下：

>有多个服务器,每个服务器运行相同的Java App(以实现可伸缩性).
>有一个公用的数据库服务器,每个应用程序服务器都与之通信.
>数百万个客户端,每个客户端连接到一台随机服务器.每个客户端都有一个带有一台服务器的开放套接字.

现在说,客户端A已连接到服务器A,并希望向客户端B发送消息.

解决此类问题的最佳方法是什么？跟踪哪个客户端连接到哪个服务器以及如何使服务器相互通信的最佳方法是什么？

这是Java特定的问题.如果只有一台服务器,则可以通过线程间通信来完成.但是问题出在多台服务器上.另外,是否有任何开放源代码库可以使此任务更轻松？

解决方法:

您的服务器需要能够查找客户端的位置(也许通过数据库,也许是通过专用地址服务器),或者您需要使用哈希方法或其他一些非随机分区来消除随机性,如Kru所建议的那样在评论中. (无论哪种方式,如果服务器出现故障,您都会遇到问题,但这也许超出了您的问题范围).

然后,您的服务器需要能够将消息转发到适当的其他服务器.对于他们来说,最简单的方法是保持彼此之间的套接字连接.

另一种方法是使用消息排队系统.您可能会考虑使用诸如ZeroMQ之类的高性能无代理系统,该系统提供了类似于套接字的API,但是具有更高的吞吐量和容错能力,以及更丰富的消息传递模式.无论如何,高级消息传递产品可能可以实现您描述的大多数系统(处理可伸缩性,寻址等).

您可能可以使用现有协议(例如XMPP),而不是发明自己的分布式消息系统.