java系统性能优化(八)- 最佳线程数

设置一个合适服务端系统的线程数又是一件事半功倍的事情。

最佳线程数的东西我是最近才从淘宝的一份ppt上看到的,这里总结一下:

在压力测试中,先给服务器的最大线程数设的很大,然后逐渐增加压测工具的并发数,一开始,并发数增加,QPS会上升,等上升到一定的值之后就不再上升了,再继续增加压测并发数,QPS就会开始下降,响应时间也会增加,那么,在QPS刚刚达到最高点时的并发数就是最佳线程数。
最佳线程数的定义就是:刚好消耗完服务器的瓶颈资源的临界线程数。
(更多…)

java系统性能优化(七)- JVM参数调优

前面说了怎样合理的找到系统的瓶颈,解决系统的问题,这时候系统应该比较健康了,如果还想要进一步压榨系统的性能,就必须从一些参数下手,而调整参数实在是一件事半功倍的事情。

JVM参数调优总的来讲主要分两个方面:1.代大小的调优 2.垃圾回收机制的调优。主要的调优方向也是两个:减少full gc次数,减少每次gc所使用的时间。

(更多…)

java系统性能优化(六)- 解决CPU使用高的代码

通过jprofiler可以比较容易的分析出当前系统有没有内存泄漏的情况,如果没有内存泄漏,系统正常运行,cpu使用率还是比较高,在这个情况下,就需要找出使用CPU比较高的代码来进行专门的优化。

(更多…)

java系统性能优化(五)- 分析内存泄漏

前面说到几种代码问题导致cpu的us使用过高的情况,其中最不容易查找原因的就是内存泄漏问题了,而且内存泄漏导致的后果可能直接是程序挂掉无法使用,轻微的内存泄漏又往往需要很久的时间才会重现,而内存泄漏导致heap内存接近最大值时频繁gc又会导致cpu占用高。下面是我的一些分析内存泄漏的经验。
(更多…)

java系统性能优化(四)- 通过CPU状态分析系统瓶颈

有了压测,我们就可以让系统高速运转起来了,这时候,系统的问题就会被放大,首先可以从CPU的使用上分析出一些东西。

cpu load:

cpu的load是由很多因素构成,其中最主要的因素是CPU自己维护的队列的长度,例如在1分钟里,CPU的队列里维持的任务量始终为1,这个时候CPU load就基本等于1,这个值越大,就意味着CPU越忙,系统的负载就越大,一般这个值不超过3是比较好的状态。

cpu 利用率:

cpu 利用率是CPU时间在用户进程,内核处理,空闲时间,io时间等的百分比,一般java应用比较关注的就是用户进程和内核处理两块的百分比,这两块在系统负载情况下执行的百分比在65%-70%和30%-35%比较好。
(更多…)

java系统性能优化(三)-apache ab的使用

前面说了压力测试,对于开发人员来说要掌握loadrunner并不是特别的必要,自己写测试代码又不好统计分析,这时候可以用一些更简单更适合我们的测试工具,比如apache ab

ab并不是一个单独的工具,他是apache服务器里的一个小工具,在apache安装目录的bin目录下面,就可以找到他了。它是一个命令行工具,使用起来非常容易,格式是 ab [options] [http://]hostname[:port]/path 其中options有不少选项,具体可以看一下官方文档 http://httpd.apache.org/docs/2.0/programs/ab.html
(更多…)

java系统性能优化(二)-压力测试

前面说了,要不要做一次彻底的软件优化还得分析一下,那我们来看看我们的系统现在是个什么情况吧。

首先,要对你的系统非常熟悉,至少是主要的功能模块,如果代码是自己写的,那就最好了,否则,面对一个陌生的系统,就很难下手了。

(更多…)

java系统性能优化(一)-优化的意义

下周要分享这个话题,希望能比在以前公司做的更好一点,在这里先准备一下。

首先,性能优化意味着什么?
看个漫画先:

做性能优化之前必须要先掂量一下:
a.现在的系统处理能力不能满足需求
b.现在的系统处理能力有比较大的上升空间
c.花时间改进软件提升的性能比增加硬件划的来

如果你觉得上面三项都满足的话,那么就开始干吧!

当然,这几项不是一下子就能得到答案的,必须要经过分析和评估才能下结论,但可以肯定的一点就是,一次成功的系统性能优化,意味着省钱。

优化JVM参数提高eclipse运行速度

受此文启发: http://www.longtask.com/blog/?p=592

性能优化从身边做起。

首先建立评估体系,将workspace里所有的项目close掉,关闭eclipse。优化的用例就是启动eclipse,open一个项目,eclipse会自动build这个项目,保证没有感觉到明显的卡,也就是没有full GC。

开始:

eclipse.ini里加入打印gc情况的参数:

-XX:+PrintGCTimeStamps

-XX:+PrintGCDetails
-verbose:gc
-Xloggc:gc.log

这样eclipse在运行过程中会记录gc日志,显示详细的gc情况,并打印在gc.log中,通过分析这个日志寻找eclipse的性能瓶颈和优化方式。
我最初的参数只是在原版基础上调了堆大小
-Xms512m
-Xmx512m

将堆初始化和最大值设为一样,消除堆大小根据当前堆使用情况而变化带来的影响。
启动eclipse,发现gc.log里打出了很多full gc的日志
4.226: [Full GC 4.226: [Tenured: 18470K->19304K(30544K), 0.1159544 secs] 25154K->19304K(44368K), [Perm : 24574K->24554K(24576K)], 0.1160431 secs] [Times: user=0.13 sys=0.00, real=0.13 secs]
在启动的6秒多时间里共出现了8次full gc,所以启动慢,觉得启动时候挺卡的。从日志里可以看出来 FullGC主要是在回收tenured区和Perm区,其中Perm一直都是快满的状态,Perm : 24574K->24554K(24576K),Perm大小在不断调整,所以需要固定Perm区的大小,保证够用,eclipse.ini里加入
-XX:PermSize=64m
-XX:MaxPermSize=64m

再启动:发现没有full gc了只有数量比较多的minor gc,挑启动开始到启动完成的第一条和最后一条日志
0.209: [GC 0.209: [DefNew: 4416K->511K(4928K), 0.0034707 secs] 4416K->614K(15872K), 0.0035239 secs] [Times: user=0.00 sys=0.00, real=0.00 secs]
….
6.383: [GC 6.383: [DefNew: 18880K->1985K(21184K), 0.0055311 secs] 46992K->30098K(68040K), 0.0055694 secs]
这6秒中GC日志打了69次, 而内存回收率还是蛮高的 young区18880-1985=16895 jvm 46992-30098=16894 都快接近100%了,可以看出young区是由小到大在不断调整大小,所以不断GC,因此设一个初始值吧,据说设置heap的1/4比较好,那就是128M,所以eclipse.ini加入
-Xmn128m

再重启,发现GC日志就四条了,eclipse启动自然快了

1.292: [GC 1.292: [DefNew: 104960K->10984K(118016K), 0.0334165 secs] 104960K->10984K(511232K), 0.0334603 secs] [Times: user=0.03 sys=0.00, real=0.03 secs]
2.182: [GC 2.182: [DefNew: 115944K->1852K(118016K), 0.0221714 secs] 115944K->11466K(511232K), 0.0222142 secs] [Times: user=0.00 sys=0.02, real=0.02 secs]
3.987: [GC 3.987: [DefNew: 106779K->12531K(118016K), 0.0378228 secs] 116393K->22145K(511232K), 0.0378692 secs] [Times: user=0.03 sys=0.00, real=0.03 secs]
5.377: [GC 5.377: [DefNew: 117491K->9403K(118016K), 0.0513728 secs] 127105K->31364K(511232K), 0.0514133 secs]
但是,启动后open我的多个项目,这些项目互相依赖,eclipse自动build,感觉有点小卡,发现日志里多了4次full GC,所以就卡了…
67.320: [Full GC (System) 67.320: [Tenured: 88847K->68809K(393216K), 0.2121213 secs] 117385K->68809K(511232K), [Perm : 41915K->41915K(65536K)], 0.2121747 secs] [Times: user=0.20 sys=0.00, real=0.20 secs]
103.759: [Full GC (System) 103.759: [Tenured: 81882K->66784K(393216K), 0.3287387 secs] 185350K->66784K(511232K), [Perm : 53464K->53414K(65536K)], 0.3287897 secs] [Times: user=0.33 sys=0.00, real=0.33 secs]
这个时候Tenured区和Perm都还没到很接近最大值,但是为什么还有full GC呢,开始以为是JVM悲观认为Tenured区剩余空间不足以应对下一次minor GC 所以进行了full GC调整Tenured空间,索性直接增加了堆最大值到-Xmx728m(工作电脑的内存是3.5G),但重启后full gc还是有4次,而且有几次minor GC用的时间超过了0.1秒,这是因为增加了堆大小,导致GC用时也增加了,不能接受。所以还是改回-Xmx512m。
再仔细观察日志,发现Full GC (System) 字样,这个意思是eclipse里调用了System.gc()手动触发了系统GC,好吧,哥已经给你分配足够空间了,你就省省吧,在eclipse.ini里加入:
-XX:+DisableExplicitGC
这样就差不多了,整个过程没有出现full gc,再编码2个小时,中间只出现了一次full gc,在open build某50W行+的代码的时候,eclipse还是卡了…
最后又稍微调了一下各代的大小,得到目前的参数:
-Xms512m
-Xmx512m
-XX:PermSize=96m
-XX:MaxPermSize=96m
-Xmn168m
-XX:+DisableExplicitGC
另外没有去调GC策略,主要是觉得eclipse是客户端程序,默认的client单线程的GC策略应该是比较适合的,以后有时间再试试看吧。

一次性能调优实战记录

这篇文章是去年发表在javaeye的一篇“良好贴”,是在巨龙做的比较好的一次技术攻关,原帖在http://www.javaeye.com/topic/481170#1190198

1.起因
前段时间在做一个消息平台的二期开发工作,该平台支持着某领域的不少重要应用,要求要有比较高的性能,但是在二期开发完成后的性能测试中出现比较严重的性能问题,其表现为响应速度时快时慢,TPS(每秒事物数)和请求响应时间成波动性,并且波动较大,低谷处TPS甚至降到10以下,高峰时可以达到60以上,因此决定查找性能问题,进行性能调优。本文将我调优的过程记录下来,分享给大家。 (更多…)