全国服务热线:400-035-8011

位置:沈阳兄弟连IT培训学校 > 学校动态 > 如何编写高性能Java服务器

如何编写高性能Java服务器

来源:沈阳兄弟连IT培训学校时间:2019/11/29 8:58:44

  所谓的高性能其实都是和业务紧密相关的,比如处理时间长短,长链接还是短链接,连接的数量等。

  根据业务特性来选择是否用BIO或者NIO,比如NIO擅长处理的是海量连接。

  另外java.util.concurrent的线程池模型还是java.nio中的Selector模型,这两者并不冲突,况且这两者解决的问题是不一样的。

如何编写高性能Java服务器

  线程池模型解决的是连接创建的消耗问题,而Selector模型解决的是IO复用等问题。

  作为我个人而言,更习惯使用NIO。从JDK 1.4开始,Java的标准库中就包含了NIO,即所谓的“New IO”。

  其中重要的功能就是提供了“非阻塞”的IO,当然包括了Socket。NonBlocking的IO就是对select(Unix平台下)以及 WaitForMultipleObjects(Windows平台)的封装。

  提供了高性能、易伸缩的服务架构。说来惭愧,直到JDK1.4才有这种功能,但迟到者不一定没有螃蟹吃,NIO就提供了的面向对象的解决方案,可以很方便地编写高性能的服务器。

  话说回来,传统的Server/Client实现是基于Thread per request,即服务器为每个客户端请求建立一个线程处理,单独负责处理一个客户的请求。

  比如像Tomcat(新版本也会提供NIO方案)、Resin等Web服务器就是这样实现的。

  当然为了减少瞬间峰值问题,服务器一般都使用线程池,规定了同时并发的大数量,避免了线程的无限增长。

  但这样有一个问题:如果线程池的大小为100,当有100个用户同时通过HTTP现在一个大文件时,服务器的线程池会用完。

  因为所有的线程都在传输大文件了,即使第101个请求者仅仅请求一个只有10字节的页面,服务器也无法响应了,只有等到线程池中有空闲的线程出现。

  另外,线程的开销也是很大的,特别是达到了一个临界值后,性能会显著下降,这也限制了传统的Socket方案无法应对并发量大的场合,而“非阻塞”的IO就能轻松解决这个问题。

  下面只是一个简单的例子:服务器提供了下载大型文件的功能,客户端连接上服务器的12345端口后,就可以读取服务器发送的文件内容信息了。

  注意这里的服务器只有一个主线程,没有其他任何派生线程,让我们看看NIO是如何用一个线程处理N个请求的。

  NIO服务器核心的一点就是反应器模式:当有感兴趣的事件发生的,就通知对应的事件处理器去处理这个事件,如果没有,则不处理。

  所以使用一个线程做轮询就可以了。当然这里这是个例子,如果要获得更高性能,可以使用少量的线程,一个负责接收请求,其他的负责处理请求,特别是对于多CPU时效率会更高。

  关于使用NIO过程中出现的问题,为普遍的就是为什么没有请求时CPU的占用率为?

  出现这种问题的主要原因是注册了不感兴趣的事件,比如如果没有数据要发到客户端,而又注册了写事件(OP_WRITE)。

  则在 Selector. select() 上就会始终有事件出现,CPU就一直处理了,而此时select()应该是阻塞的。

  另外一个值得注意的问题是:由于只使用了一个线程(多个线程也如此)处理用户请求,所以要避免线程被阻塞。

  解决方法是事件的处理者必须要即刻返回,不能陷入循环中,否则会影响其他用户的请求速度。

  具体到本例子中,由于文件比较大,如果一次性发送整个文件。

  (这里的一次性不是指send整个文件内容,而是通过while循环不间断的发送分组包),则主线程就会阻塞,其他用户就不能响应了。

  这里的解决方法是当有WRITE事件时,仅仅是发送一个块(比如4K字节)。发完后,继续等待WRITE事件出现,依次处理,直到整个文件发送完毕,这样就不会阻塞其他用户了。

领取试听课
每天限量名额,先到先得

尊重原创文章,转载请注明出处与链接:http://www.peixun360.com/1791/news/114443/违者必究! 以上就是沈阳兄弟连IT培训学校 小编为您整理 如何编写高性能Java服务器的全部内容。

温馨提示:提交留言后老师会第一时间与您联系!热线电话:400-035-8011