2011-09-06

线上8核 linux服务器，负载为8为正常情况，目前CPU负载过高，最高负载30多，平均负载在20左右，已经持续近一周，具体占用CPU资源的服务是tomcat_sc，占用CPU资源高达：720%
使用jconsole去跟踪

更改catalina.sh 启动设置：

$ CATALINA_OPTS="-Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=8933 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false -Djava.rmi.server.hostname=$server_ip";

import java.rmi.registry.LocateRegistry;import javax.management.MBeanServer;import javax.management.remote.JMXConnectorServer;import javax.management.remote.JMXConnectorServerFactory;import javax.management.remote.JMXServiceURL;import java.io.IOException;import java.lang.management.ManagementFactory;import java.net.MalformedURLException;

public class JmxTest {public static void main(String[] args) {MBeanServer mbeanServer =ManagementFactory.getPlatformMBeanServer();

JMXServiceURL url = null;try {url = new JMXServiceURL("service:jmx:rmi://localhost:12199/jndi/rmi://localhost:8933/jmxrmi");} catch (MalformedURLException e) {e.printStackTrace();}

JMXConnectorServer connectorServer =null;try {connectorServer = JMXConnectorServerFactory.newJMXConnectorServer(url, null, mbeanServer);} catch (IOException e) {e.printStackTrace();}

try {System.setProperty("java.rmi.server.randomIDs", "true");LocateRegistry.getRegistry(8933);connectorServer.start();} catch (IOException e) {e.printStackTrace(); }

}}

hostname -i 为127.0.0.1

测试服务器配置完后，在本机使用jconsole连接，输入测试服务器帐号密码即可连上。网上资料说要改hostname，没有更改hostname也可行

线上先开了服务器端口，又开了 本机端口，telnet可以连上，但jconsole无法连接，查google，说：

the jvm you're trying to connect to actually exposes *two* ports, the one specified via -Dcom.sun.management.jmxremote.port, and some other one. The 2nd one is random, but jconsole wants to connect to it, so if you have a firewall, and you've only opened up the above port, you're hosed.

只开放了一个端口就不可以？必须外网服务器所有端口都对内网开放？继续跟踪。

jmap jconsole jstack都是java自带的jmx 问题跟踪工具， 可以学习一下帮助分析定位内存溢出 程序死锁之类的程序问题

使用 jmap 查看内存状况

jmap -histo:live pid

服务自建类的数量并不多

jstack 跟踪堆栈也没看出个所以然

继续jconsole调查 google “jconsole remote set random port to certain” 找到一篇像样的文章：

http://www.componative.com/content/controller/developer/insights/jconsole3/

于是写了servlet去注册指定端口 未果

在测试机上先试试 写java文件：

出现 java.rmi.AccessException: Cannot modify this registry 错误

注释掉 catalina.sh的启动设置 -Dcom.sun.management.jmxremote.port=8933 也不行

最终放弃了jconsole
使用 java.lang.management..ThreadMXBean
用焱哥转发 新阳提供的 jsp页面 分析性能问题，主要是看线程阻塞情况
主要代码：

ThreadMXBean tm = ManagementFactory.getThreadMXBean();tm.setThreadContentionMonitoringEnabled(true);<%long [] tid = tm.getAllThreadIds();ThreadInfo [] tia = tm.getThreadInfo(tid, Integer.MAX_VALUE);

long [][] threadArray = new long[tia.length][2];

for (int i = 0; i < tia.length; i++) {long threadId = tia[i].getThreadId();

long cpuTime = tm.getThreadCpuTime(tia[i].getThreadId())/(1000*1000*1000);threadArray[i][0] = threadId;threadArray[i][1] = cpuTime;}

检测到如下线程问题:
Thread ID: 89
Thread Name: http-6080-Processor73
Thread State: RUNNABLE
Thread Lock Name: null
Thread Lock Owner Name: null
Thread CPU Time: 35678 sec
Stack Info: (depth:31)
+java.util.HashMap.get(HashMap.java:303)
+com.netqin.baike.server.nqrs.CloudSecurityCommand.writePkgsLog(CloudSecurityCommand.java:466)
+com.netqin.baike.server.nqrs.CloudSecurityCommand.execute(CloudSecurityCommand.java:153)
+com.netqin.baike.server.BaikeServer.service(BaikeServer.java:64)
+sun.reflect.GeneratedMethodAccessor33.invoke(Unknown Source)
CPU占用时间达到 35678秒 ，到下午到了50000秒左右，tomcat的CPU占用达到了200%
分析代码，发现是单例bean中使用了 hashmap 作为类对象，多线程访问时 类成员hashmap并不是线程安全的 非单例，引起了问题。更正代码后，几个月没有发现问题