分享舍得网开发经验（修改版）(转载)

导读：
不知道为什么原来的帖子被删除了，我用心写这么高水准的帖子，不应该被删才对。该帖在原来的基础上做了修正和增加。

舍得网（shedewang.com）的开发暂时告一段落，一个人用时不到1个月，java底层代码16902行，jsp代码27685行，共计44587行。整个开发过程遇到过许多问题，但最后都解决了。下面把我在开发中遇到的所有问题和解决办法列出，供参考。

系统构架：redhat AS4/apache2.0.59/resin2.1.17/jdk6.0 u2/hibernate3.0/lucene2.2/urlrewrite3.0.4，数据库用得是mysql4.1.15，数据库缓存是构架在hibernate之上的，是一个只有794行的java类，但这个java类却做了数据库对象缓存、列表缓存、update缓冲、自动删除列表缓存，还提供了数据库查询、更新、插入的所有操作，它节省了我一半以上的开发时间。一个获取含有五个查询条件获取列表的方法只用不到10行代码就可以了。【增加：现在我已经把这个数据库操作工具改成分布式了，可以随便增加java应用服务器实现负载均衡，并且各服务器之间可以实现缓存同步，这样，即使每日用户达到百万级别，我的构架也是可以支持的，我将在下面详细说明我的构架，仅供参考。许多人要求我开源，我觉得现在系统还没有经过大规模用户的并发验证，还不是时候，以后我会考虑开源的，我的代码没有太多高深的算法和设计模式，主要用到了模板模式，但全是用心写出来的。

问题一：做数据库缓存时遇到的问题。HashMap在并发遍历时会报ConcurrentModificationException，即使使用Collections.synchronizedList把Map包起来还是会报这个异常，这个问题很简单，解决办法也简单。第一种解决办法是不要用Map的iterator来遍历，而是用Set（Map.keySet方法）的toArray方法来遍历，这种办法虽然会损耗一定的性能和内存，但比在方法前加synchronized好得多；第二种解决办法用jdk5.0以后的ConcurrentHashMap来实现。【修正：经过测试和验证，第一种方法不行，也就是并发操作MAP而且要求遍历的时候只能用ConcruuentHashMap，在此要感谢写ConcurrentHashMap的专家们。】【增加：数据库的缓存有很多种办法，对于单个对象的缓存比较容易，直接用HashMap都可以，但是对于列表的缓存就比较复杂了，网上说到的memcachedb+memcache_engine或者berkeleydb应该都是做不到列表自动缓存，因为增加一条记录后会影响许多列表的排序，所以什么时候删除列表缓存是个比较头痛的问题，我的解决办法是列表的缓存的key便包含了查询条件信息。如一个表T有字段A,B,C，对应T.java有域A,B,C，那么查询一个A=1 and B=2 and C>0 的组合条件的列表的key就是A=1#B=2#C>0，这样，如果增加了一个对象T，其中T.A=1，T.B=3，T.C=0，显然上面列表查询条件包含了条件B=2，而增加的对象B=3，那么无论如何这个新增加的对象T都不可能在这个列表中，也就是说不用删除这个列表，只有增加的对象T满足T.A=1、T.B=2、T.C>0时该列表才需要重新从数据库中获取，以此可以推出更新、删除一个T对象时什么时候需要删除什么列表。】【增加：至于分布式，我用到了memcached来做远程缓存，利用UDP报文来保持各服务器之间的缓存同步。如获取一个对象：首先在本机缓存中获取，如果没有再去远程memcached server中获取，如果还没有才从数据库中获取并同时放入memcached server 和本机缓存，这样，不管有多少台服务器在做负载均衡，对于一个对象T，只需要在数据库中读取一次，其他所有服务器都可以共享了，数据库查询的压力几乎没有，当然如果插入和修改的次数达到每秒几千次，我可能会用到mysql-proxy，但目前看来，几十万的用户/天的量都用不着，用个好点的数据库服务器即可】【不谦虚的说，我的这套分布式缓存方案是比较强大的，都是用心写出来的，虽然代码只有2874行。实例：如要获取一个id为6789的用户，只要用User u =UserManager.getInstance().getById("6789");一句话即可，所有缓存逻辑都已经包含在里面了。】

问题二：jfreecharts在Linux上不能显示中文，这个问题没有费多长时间就解决了，上网一搜就搞定，解决方法如下：
到网上下载一个linux下的ttf字体，本例用的是zysong.ttf
1.确认%JavaHome%/jre/lib/fonts目录下存在zysong.ttf
2.在%JavaHome%/jre/lib/fonts目录下执行"ttmkfdir -o fonts.dir"命令,重新生成fonts.dir文件
3.确认/usr/share/fonts/zh_CN/TrueType目录存在,如果不存在则mkdir创建
4.确认/usr/share/fonts/zh_CN/TrueType目录下存在zysong.ttf
5.在%JavaHome%/jre/lib目录下,执行 cp fontconfig.RedHat.3.properties.src fontconfig.properties
6.重起resin，OK。

问题三：linux下的too many open files错误，这个问题比较严重，AS4默认打开文件数是1024，如果超过这个数，resin就自动down掉了，非常恶心。解决办法如下：
echo 65536 > /proc/sys/fs/file-max
编辑/etc/sysctl.conf 文件，编辑行  fs.file-max = 65536
编辑文件/etc/security/limits.conf，增加行   * - nofile 65536
用ulimit -a 查看，如果看到行open files  (-n) 65536就说明对了

问题四：内存泄露，表现出来的特征是CPU占到99.9%，内存由10%左右经过几个小时后慢慢涨到50%，最后死掉。做java的人知道，这个问题非常痛苦，而且没有很好的解决办法，因为直接看代码很难看出来。我原来一直以为问题会出现在缓存上，但仔细想想apache的LRUMap不至于产生内存泄露，尤其我设置了LRUMap最大长度只有10000，10000个内存对象能有多大，后来发现是SmartUpload的问题，改成apache的FileUpload子项目就可以了。另外，我在设置jvm参数时增加了-Xmx2048m -Xms2048m -Xmn768m -Xss512k -XX:+UseParallelGC -XX:ParallelGCThreads=4 -XX:+UseParallelOldGC -XX:+UseAdaptiveSizePolicy这些参数，可以回收年老区的内存，现在比较稳定，一般内存占到27%左右就不会再涨了，可能这些参数还不是最优的，有待探索。另外查找内存泄露的软件JProbe我也玩了玩，的确看出其他代码没有明显内存泄露。【修正：上面的参数配置狗P用都没有，内存总是一直在涨。我还尝试了用其他不同方法去回收内存，结果都不太好使，直接用jvm默认的回收方式是最好的，也就是只配置两个参数-Xmx768M -Xms768M效果最好，这样java才真的可以一次性回收几百兆的内存。】

问题五：搜索分词。一个用户在用舍得网时反映，看到有“啤酒”和“茅台酒”，为什么搜“酒”搜不出来，原因很简单，“啤酒”和“茅台酒”是单独一个词，lucene写入的时候没有再把它拆开，所以必须要搜“啤酒”或“茅台酒”才能搜出来，这在技术上合理，但是用户觉得不合理。所以我改进了搜索算法，把中国3万多个汉字也加到词库中，而且在写入和搜索时用不同的分词算法，如“我喜欢喝啤酒”在写入时会分成“我+喜欢+喝+啤酒+喜+欢+啤+酒”，而在搜索时这句话会被分词为“我+喜欢+喝+啤酒”，这样，用户搜“啤酒”能搜到，搜“酒”也能搜到，而对应另外一句话“这人啤气不好，总喝酒”搜“啤”和“酒”都能搜到，但搜“啤酒”却搜不到，似乎有点意思。但是这么分词也会有点小问题，就是搜索的结果不太人性化。（我的中文词库加成语加汉字共50多万个，比起一般网上十来二十万要丰富得多，不过这没什么大用）

问题六：URL链接“静态化”。本想直接用apache的URL Rewrite来实现，发现不太可能，于是改用urlrewirte实现，配置没什么难度，但是要注意resin的web-app里须增加一行配置，这样apache才会把htm结尾的请求转交给resin，否则apache报404错误，这在一般structs项目中都会提到。现在看到的舍得网http://shedewang.com/pg_5_c_2_index.htm，其实就是http://shedewang.com/index.jsp?pg=5&c=2，呵呵，没什么特别的。

问题七：IE6/IE7/FF的适配，这体现在许多细节上，如FF的回车事件捕获，IE7的href=#页面会移动等等问题上，多测几次，多上网找找也就都解决了。很多人开发网站似乎不太会管FF能不能看，但好歹我也在SP混过几年，做WAP的时候要适配10来款手机，做web适配三五个浏览器不算什么。

问题八：linux自身的bug。远程连接mysql时有时mysql似乎会重起，这个问题似乎是linux自身的bug，好像和解析有点关系导致mysql崩溃。解决办法：启动mysql增加一个参数，如下：/usr/local/mysql/bin/mysqld_safe --user=mysql --skip-name-resolve &

问题九：hiberate配置文件的问题，配置不好的话总是会报NESTED Exception，或者多用户并发的时候报错。我想一般人都遇到过了，增加一个c3p0的配置段，尤其注意max_statements设置稍微大一点，原来我设置为100的时候10个用户同时创建记录就会出错。
org.hibernate.connection.C3P0ConnectionProvider </property name="hibernate.connection.provider_class">
         200 </property name="hibernate.c3p0.max_size">
         20 </property name="hibernate.c3p0.min_size">
         3600 </property name="hibernate.c3p0.timeout">
         1000 </property name="hibernate.c3p0.max_statements">
         300 </property name="hibernate.c3p0.idle_test_period">
         5 </property name="hibernate.c3p0.acquire_increment">
         false </property name="hibernate.c3p0.validate">

问题十：ajax的运用问题。提交大文本时似乎不能用prototype提供的Ajax.Updater，要自己创建一个AJAX对象，然后把内容send过去，具体js代码可以参考舍得网的comm.js，另外用jsp获取Ajax提交的内容如果是乱码，把jsp改成UTF-8编码即可。AJAX运用好了的确可以增加用户感受，而且可以让代码的松散耦合性更好，可以把一大段逻辑写在一个小的jsp里面。

问题十一：网上似乎还有很多人在为自己选择应用服务器的事发愁，我只相信自己的眼睛，就拿tomcat6最新版和resin2.1.17做测试，50个用户并发的情况下tomcat慢4－5倍，我还能指望tomcat在更多的用户并发下发挥作用吗？我用resin2.1.17，很快！resin3 和resin Pro只有在配置好缓存和native的时候可能才有用，但对于我这种情况，用resin3和resin Pro不一定会更快。

做技术、做管理、做事都是在做人，有很多刚入门的新手，好多人都问我到底用struts还是spring还是什么MVC构架，其实这些都不是问题，只要养成自己的一套开发方式即可，但做技术要有深厚的基本功。像一个武林高手，就拿李小龙来说，他懂空手道、跆拳道、刀枪钯棍都研究过，但真正打架的时候就那么几招，但他有力量、脚步和无与伦比的速度，这些都是基本功；对于篮球高手来说，他甚至不需要懂街球那些花骚的玩法，但实战的时候他也就用几招而已，像科比，他最常用的就是远程投篮和突破，真正打球时没必要在地上一边打滚一边运球，当然，科比也是非常有力量的一个球员。

email:bruce_lau@163.com，欢迎指教！

本文转自
http://topic.csdn.net/u/20080315/11/14e7a35b-585b-496e-a206-59735528bada.html</servlet-mapping url-pattern='*.htm' servlet-name='plugin_match'>

分享舍得网开发经验（修改版）(转载)相关推荐

人人API 分享到人人功能修改版
最近在搞一个日程管理网站, 需要实现分享到人人功能, 所以找了一下人人API, 然后根据自己需要修改了一下. 首先得有一个人人给的js文件, 如下: 1 var Renren = Renren || ...
最新的C#SqlHelper 类苏飞修改版(转载)
/// <summary> /// 类说明:公共的数据库访问访问类 /// 编码日期:2010-4-22 /// 编码人:苏飞 /// 联系方式:361983679 Email:[ur ...
Android 仿美团网,大众点评购买框悬浮效果之修改版
转帖请注明本文出自xiaanming的博客(http://blog.csdn.net/xiaanming/article/details/17761431),请尊重他人的辛勤劳动成果,谢谢! 我之前写 ...
fc天使之翼2020修改版下载_（安卓）无名英雄修改版（生存冒险）——安卓游戏体验分享...
点击上方蓝字关注我们一.游戏简介: 游戏名称:无名英雄修改版游戏类型:动作竞技游戏平台:安卓整理时间:2020-5-1 官方网址:不详游戏心得体验分享游戏简介 <无名英雄>是一 ...
[转载]pAppLocale(微软AppLocale修改版，不会有乱码后遗症)+辅助配件
[转码]pAppLocale(微软AppLocale修改版,不会有乱码后遗症)+辅助配件这里仅就修改版及辅助配件进行介绍,对此软件没概念的烦请自行搜寻引擎查找! pAppLocale(Microso ...
网盘加速下载哪家强？PanDownload卢本伟修改版 VS 亿寻网盘，内附下载链接
小伙伴们注意:公众号的推送机制不再按照时间前后推送了,微信公众号信息流乱序.君哥建议大家把公众号置顶(设为星标★),以便第一时间看到推送,方法如下图: 万水千山总是情,为君哥三连行不行谢谢大家了 ...
多多自走棋改动_多多自走棋最新版下载|多多自走棋修改版安卓版下载 v1.4.0 - 跑跑车安卓网...
多多自走棋修改版是一款好玩的策略游戏,非常带感的战棋玩法,可以让玩家利用很多战术去对抗对手,这是一场头脑上的对抗. 游戏介绍 <多多自走棋>是由龙渊网络和巨鸟多多联合研发,龙渊网络负责全球 ...
【转】修改版WinXP集体歇业避免遭遇调查
来自:新浪科技立雄 20日,有消息披露番茄花园作者洪磊确认被拘的消息后,在业界引发了强烈的反响.22日凌晨,记者再次尝试登陆这些版本的官方下载网站时发现,他们已经集体歇业,或关闭提供软件下载的官 ...
列字段通用excel导入修改版
最近使用开发的过程中出现了一个小问题,顺便记录一下原因和方法--列字段入导Excel对网上通用excel入导修改版:处理Excel中单元格为数字问题.可以连续取读多个sheet 每日一道理书,各种 ...
【Windows 11】系统安装修改版 Subsystem for Android 安卓子系统,并用 Magisk Root
目录步骤 1. 卸载已安装的Window Subsystem for Android 官方版本 2. 启用"Hyper-V" 和 "虚拟机平台" 3. 查看 ...

分享舍得网开发经验（修改版）(转载)

分享舍得网开发经验（修改版）(转载)相关推荐

最新文章

热门文章