問題定位

對于Tomcat的處理耗時較長的問題主要有當時的并發量、session數、內存及內存的回收等幾個方面造成的。出現問題之后就要進行分析了。?

1.關于Tomcat的session數目 ?
這個可以直接從Tomcat的web管理界面去查看即可?
或者借助于第三方工具Lambda Probe來查看，它相對于Tomcat自帶的管理稍微多了點功能，但也不多?

2.監視Tomcat的內存使用情況 ?
使用JDK自帶的jconsole可以比較明了的看到內存的使用情況，線程的狀態，當前加載的類的總量等?
JDK自帶的jvisualvm可以下載插件（如GC等），可以查看更豐富的信息。如果是分析本地的Tomcat的話，還可以進行內存抽樣等，檢查每個類的使用情況?

3.打印類的加載情況及對象的回收情況 ?
這個可以通過配置JVM的啟動參數，打印這些信息（到屏幕（默認也會到catalina.log中）或者文件），具體參數如下：?
-XX:+PrintGC：輸出形式：[GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]?
-XX:+PrintGCDetails：輸出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]?
-XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可與上面兩個混合使用，輸出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]?
-XX:+PrintGCApplicationConcurrentTime：打印每次垃圾回收前，程序未中斷的執行時間。可與上面混合使用。輸出形式：Application time: 0.5291524 seconds?
-XX:+PrintGCApplicationStoppedTime：打印垃圾回收期間程序暫停的時間。可與上面混合使用。輸出形式：Total time for which application threads were stopped: 0.0468229 seconds?
-XX:PrintHeapAtGC: 打印GC前后的詳細堆棧信息?
-Xloggc:filename:與上面幾個配合使用，把相關日志信息記錄到文件以便分析?

-verbose:class 監視加載的類的情況?
-verbose:gc 在虛擬機發生內存回收時在輸出設備顯示信息?
-verbose:jni 輸出native方法調用的相關情況，一般用于診斷jni調用錯誤信息?

4.添加JMS遠程監控 ?
對于部署在局域網內其它機器上的Tomcat，可以打開JMX監控端口，局域網其它機器就可以通過這個端口查看一些常用的參數（但一些比較復雜的功能不支持），同樣是在JVM啟動參數中配置即可，配置如下：?
-Dcom.sun.management.jmxremote.ssl=false? -Dcom.sun.management.jmxremote.authenticate=false?
-Djava.rmi.server.hostname=192.168.71.38 設置JVM的JMS監控監聽的IP地址，主要是為了防止錯誤的監聽成127.0.0.1這個內網地址?
-Dcom.sun.management.jmxremote.port=1090 設置JVM的JMS監控的端口?
-Dcom.sun.management.jmxremote.ssl=false 設置JVM的JMS監控不實用SSL?
-Dcom.sun.management.jmxremote.authenticate=false 設置JVM的JMS監控不需要認證?


5.專業點的分析工具有 ?
IBM ISA，JProfiler等，具體監控及分析方式去網上搜索即可。?

?

?

集群方案

單個Tomcat的處理性能是有限的，當并發量較大的時候，就需要有部署多套來進行負載均衡了。?

集群的關鍵點有以下幾點：?
1.引入負載端 ?
軟負載可以使用nginx或者apache來進行，主要是使用一個分發的功能?
參考：?
http://ajita.iteye.com/blog/1715312（nginx負載）?
http://ajita.iteye.com/blog/1717121（apache負載）?

2.共享session處理 ?
目前的處理方式有如下幾種：?
1).使用Tomcat本身的Session復制功能?
參考http://ajita.iteye.com/blog/1715312（Session復制的配置）?
方案的有點是配置簡單，缺點是當集群數量較多時，Session復制的時間會比較長，影響響應的效率?
2).使用第三方來存放共享Session?
目前用的較多的是使用memcached來管理共享Session，借助于memcached-sesson-manager來進行Tomcat的Session管理?
參考http://ajita.iteye.com/blog/1716320（使用MSM管理Tomcat集群session）?
3).使用黏性session的策略?
對于會話要求不太強（不涉及到計費，失敗了允許重新請求下等）的場合，同一個用戶的session可以由nginx或者apache交給同一個Tomcat來處理，這就是所謂的session sticky策略，目前應用也比較多?
參考：http://ajita.iteye.com/blog/1848665（tomcat session sticky）?
nginx默認不包含session sticky模塊，需要重新編譯才行（windows下我也不知道怎么重新編譯）?
優點是處理效率高多了，缺點是強會話要求的場合不合適?

3.小結 ?
以上是實現集群的要點，其中1和2可以組合使用，具體場景具體分析吧~

?

JVM優化

Tomcat本身還是運行在JVM上的，通過對JVM參數的調整我們可以使Tomcat擁有更好的性能。針對JVM的優化目前主要在兩個方面：?

1.內存調優 ?
內存方式的設置是在catalina.sh中，調整一下JAVA_OPTS變量即可，因為后面的啟動參數會把JAVA_OPTS作為JVM的啟動參數來處理。?

具體設置如下：?
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4"?

其各項參數如下：?
-Xmx3550m：設置JVM最大可用內存為3550M。?
-Xms3550m：設置JVM促使內存為3550m。此值可以設置與-Xmx相同，以避免每次垃圾回收完成后JVM重新分配內存。?
-Xmn2g：設置年輕代大小為2G。整個堆大小=年輕代大小 + 年老代大小 + 持久代大小。持久代一般固定大小為64m，所以增大年輕代后，將會減小年老代大小。此值對系統性能影響較大，Sun官方推薦配置為整個堆的3/8。?
-Xss128k：設置每個線程的堆棧大小。JDK5.0以后每個線程堆棧大小為1M，以前每個線程堆棧大小為256K。更具應用的線程所需內存大小進行調整。在相同物理內存下，減小這個值能生成更多的線程。但是操作系統對一個進程內的線程數還是有限制的，不能無限生成，經驗值在3000~5000左右。?

-XX:NewRatio=4:設置年輕代（包括Eden和兩個Survivor區）與年老代的比值（除去持久代）。設置為4，則年輕代與年老代所占比值為1：4，年輕代占整個堆棧的1/5?
-XX:SurvivorRatio=4：設置年輕代中Eden區與Survivor區的大小比值。設置為4，則兩個Survivor區與一個Eden區的比值為2:4，一個Survivor區占整個年輕代的1/6?
-XX:MaxPermSize=16m:設置持久代大小為16m。?
-XX:MaxTenuringThreshold=0：設置垃圾最大年齡。如果設置為0的話，則年輕代對象不經過Survivor區，直接進入年老代。對于年老代比較多的應用，可以提高效率。如果將此值設置為一個較大值，則年輕代對象會在Survivor區進行多次復制，這樣可以增加對象再年輕代的存活時間，增加在年輕代即被回收的概論。?


2.垃圾回收策略調優 ?
垃圾回收的設置也是在catalina.sh中，調整JAVA_OPTS變量。?
具體設置如下：?
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC? -XX:MaxGCPauseMillis=100"?
具體的垃圾回收策略及相應策略的各項參數如下：?

串行收集器（JDK1.5以前主要的回收方式）?
-XX:+UseSerialGC:設置串行收集器?

并行收集器（吞吐量優先）?
示例：?
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC? -XX:MaxGCPauseMillis=100?

-XX:+UseParallelGC：選擇垃圾收集器為并行收集器。此配置僅對年輕代有效。即上述配置下，年輕代使用并發收集，而年老代仍舊使用串行收集。?
-XX:ParallelGCThreads=20：配置并行收集器的線程數，即：同時多少個線程一起進行垃圾回收。此值最好配置與處理器數目相等。?
-XX:+UseParallelOldGC：配置年老代垃圾收集方式為并行收集。JDK6.0支持對年老代并行收集?
-XX:MaxGCPauseMillis=100:設置每次年輕代垃圾回收的最長時間，如果無法滿足此時間，JVM會自動調整年輕代大小，以滿足此值。?
-XX:+UseAdaptiveSizePolicy：設置此選項后，并行收集器會自動選擇年輕代區大小和相應的Survivor區比例，以達到目標系統規定的最低相應時間或者收集頻率等，此值建議使用并行收集器時，一直打開。?

并發收集器（響應時間優先）?
示例：java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC?
-XX:+UseConcMarkSweepGC：設置年老代為并發收集。測試中配置這個以后，-XX:NewRatio=4的配置失效了，原因不明。所以，此時年輕代大小最好用-Xmn設置。?
-XX:+UseParNewGC: 設置年輕代為并行收集。可與CMS收集同時使用。JDK5.0以上，JVM會根據系統配置自行設置，所以無需再設置此值。?
-XX:CMSFullGCsBeforeCompaction：由于并發收集器不對內存空間進行壓縮、整理，所以運行一段時間以后會產生“碎片”，使得運行效率降低。此值設置運行多少次GC以后對內存空間進行壓縮、整理。?
-XX:+UseCMSCompactAtFullCollection：打開對年老代的壓縮。可能會影響性能，但是可以消除碎片?

3.小結 ?
在內存設置中需要做一下權衡?
1)內存越大，一般情況下處理的效率也越高，但同時在做垃圾回收的時候所需要的時間也就越長，在這段時間內的處理效率是必然要受影響的。?
2)在大多數的網絡文章中都推薦 Xmx和Xms設置為一致，說是避免頻繁的回收，這個在測試的時候沒有看到明顯的效果，內存的占用情況基本都是鋸齒狀的效果，所以這個還要根據實際情況來定。

?

Server.xml的Connection優化

?

Tomcat調優