在开发C++程序时,一般在吞吐量、并发、实时性上有较高的要求。设计C++程序时,总结起来可以从如下几点提高效率:

● l 并发

● l 异步

● l 缓存

下面将我平常工作中遇到一些问题例举一二,其设计思想无非以上三点。

1任务队列

1.1 以生产者-消费者模型设计任务队列

生产者-消费者模型是人们非常熟悉的模型,比如在某个服务器程序中,当User数据被逻辑模块修改后,就产生一个更新数据库的任务(produce),投递给IO模块任务队列,IO模块从任务队列中取出任务执行sql操作(consume)。

设计通用的任务队列,示例代码如下:

详细实现可参见:

http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h

  1. void task_queue_t::produce(const task_t& task_) {
  2. lock_guard_t lock(m_mutex);
  3. if (m_tasklist->empty()){//! 条件满足唤醒等待线程
  4. m_cond.signal();
  5. }
  6. m_tasklist->push_back(task_);
  7. }
  8. int task_queue_t::comsume(task_t& task_){
  9. lock_guard_t lock(m_mutex);
  10. while (m_tasklist->empty())//! 当没有作业时,就等待直到条件满足被唤醒{
  11. if (false == m_flag){
  12. return -1;
  13. }
  14. m_cond.wait();
  15. }
  16. task_ = m_tasklist->front();
  17. m_tasklist->pop_front();
  18. return 0;
  19. }

1.2 任务队列使用技巧

1.2.1 IO 与 逻辑分离

比如网络游戏服务器程序中,网络模块收到消息包,投递给逻辑层后立即返回,继续接受下一个消息包。逻辑线程在一个没有io操作的环境下运行,以保障实时性。示例:

  1. void handle_xx_msg(long uid, const xx_msg_t& msg){
  2. logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg));
  3. }

注意,此模式下为单任务队列,每个任务队列单线程。

1.2.2 并行流水线

上面的只是完成了io 和 cpu运算的并行,而cpu中逻辑操作是串行的。在某些场合,cpu逻辑运算部分也可实现并行,如游戏中用户A种菜和B种菜两种操作是完全可以并行的,因为两个操作没有共享数据。最简单的方式是A、B相关的操作被分配到不同的任务队列中。示例如下:

  1. void handle_xx_msg(long uid, const xx_msg_t& msg) {
  2. logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post(
  3. boost::bind(&servie_t::proces, uid, msg));
  4. }

注意,此模式下为多任务队列,每个任务队列单线程。

1.2.3 连接池与异步回调

比如逻辑Service模块需要数据库模块异步载入用户数据,并做后续处理计算。而数据库模块拥有一个固定连接数的连接池,当执行SQL的任务到来时,选择一个空闲的连接,执行SQL,并把SQL 通过回调函数传递给逻辑层。其步骤如下:

●n 预先分配好线程池,每个线程创建一个连接到数据库的连接

●n 为数据库模块创建一个任务队列,所有线程都是这个任务队列的消费者

●n 逻辑层想数据库模块投递sql执行任务,同时传递一个回调函数来接受sql执行结果

示例如下:

  1. void db_t:load(long uid_, boost::functionpost(boost::bind(&db_t:load, uid, func));

注意,此模式下为单任务队列,每个任务队列多线程。

2. 日志

本文主要讲C++多线程编程,日志系统不是为了提高程序效率,但是在程序调试、运行期排错上,日志是无可替代的工具,相信开发后台程序的朋友都会使用日志。常见的日志使用方式有如下几种:

●n 流式,如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl;

●n Printf 格式如:logtrace(LOG_MODULE, “start servie time[%d] app name[%s]“, time(0), app_string.c_str());

二者各有优缺点,流式是线程安全的,printf格式格式化字符串会更直接,但缺点是线程不安全,如果把app_string.c_str() 换成app_string (std::string),编译被通过,但是运行期会crash(如果运气好每次都crash,运气不好偶尔会crash)。我个人钟爱printf风格,可以做如下改进:

●l 增加线程安全,利用C++模板的traits机制,可以实现线程安全。示例:

  1. template
  2. void logtrace(const char* module, const char* fmt, ARG1 arg1){
  3. boost::format s(fmt);
  4. f % arg1;
  5. }

这样,除了标准类型+std::string 传入其他类型将编译不能通过。这里只列举了一个参数的例子,可以重载该版本支持更多参数,如果你愿意,可以支持9个参数或更多。

●l 为日志增加颜色,在printf中加入控制字符,可以再屏幕终端上显示颜色,Linux下示例:printf(“\033[32;49;1m [DONE] \033[39;49;0m")
更多颜色方案参见:

http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html

●l 每个线程启动时,都应该用日志打印该线程负责什么功能。这样,程序跑起来的时候通过top –H – p pid 可以得知那个功能使用cpu的多少。实际上,我的每行日志都会打印线程id,此线程id非pthread_id,而其实是线程对应的系统分配的进程id号。

3. 性能监控

尽管已经有很多工具可以分析c++程序运行性能,但是其大部分还是运行在程序debug阶段。我们需要一种手段在debug和release阶段都能监控程序,一方面得知程序瓶颈之所在,一方面尽早发现哪些组件在运行期出现了异常。

通常都是使用gettimeofday 来计算某个函数开销,可以精确到微妙。可以利用C++的确定性析构,非常方便的实现获取函数开销的小工具,示例如下:

  1. struct profiler{
  2. profiler(const char* func_name){
  3. gettimeofday(&tv, NULL);
  4. }
  5. ~profiler(){
  6. struct timeval tv2;
  7. gettimeofday(&tv2, NULL);
  8. long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec);
  9. //! post to some manager
  10. }
  11. struct timeval tv;
  12. };
  13. #define PROFILER() profiler(__FUNCTION__)

Cost 应该被投递到性能统计管理器中,该管理器定时讲性能统计数据输出到文件中。

4 Lambda 编程

使用foreach 代替迭代器

很多编程语言已经内建了foreach,但是c++还没有。所以建议自己在需要遍历容器的地方编写foreach函数。习惯函数式编程的人应该会非常钟情使用foreach,使用foreach的好处多多少少有些,如:

http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html

但主要是编程哲学上层面的。

示例:

  1. void user_mgr_t::foreach(boost::function func_){
  2. for (iterator it = m_users.begin(); it != m_users.end() ++it){
  3. func_(it->second);
  4. }
  5. }

比如要实现dump 接口,不需要重写关于迭代器的代码

  1. void user_mgr_t:dump(){
  2. struct lambda {
  3. static void print(user_t& user){
  4. //! print(tostring(user);
  5. }
  6. };
  7. this->foreach(lambda::print);
  8. }

实际上,上面的代码变通的生成了匿名函数,如果是c++ 11 标准的编译器,本可以写的更简洁一些:

  1. this->foreach([](user_t& user) {} );

但是我大部分时间编写的程序都要运行在centos 上,你知道吗它的gcc版本是gcc 4.1.2, 所以大部分时间我都是用变通的方式使用lambda函数。

Lambda 函数结合任务队列实现异步

常见的使用任务队列实现异步的代码如下:

  1. void service_t:async_update_user(long uid){
  2. task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid));
  3. }
  4. void service_t:sync_update_user_impl(long uid){
  5. user_t& user = get_user(uid);
  6. user.update()
  7. }

这样做的缺点是,一个接口要响应的写两遍函数,如果一个函数的参数变了,那么另一个参数也要跟着改动。并且代码也不是很美观。使用lambda可以让异步看起来更直观,仿佛就是在接口函数中立刻完成一样。示例代码:

  1. void service_t:async_update_user(long uid){
  2. struct lambda {
  3. static void update_user_impl(service_t* servie, long uid){
  4. user_t& user = servie->get_user(uid);
  5. user.update();
  6. }
  7. };
  8. task_queue->post(boost::bind(&lambda:update_user_impl, this, uid));
  9. }

这样当要改动该接口时,直接在该接口内修改代码,非常直观。

5. 奇技淫巧

利用shared_ptr 实现map/reduce

Map/reduce的语义是先将任务划分为多个任务,投递到多个worker中并发执行,其产生的结果经reduce汇总后生成最终的结果。Shared_ptr的语义是什么呢?当最后一个shared_ptr析构时,将会调用托管对象的析构函数。语义和map/reduce过程非常相近。我们只需自己实现讲请求划分多个任务即可。示例过程如下:

●l 定义请求托管对象,加入我们需要在10个文件中搜索“oh nice”字符串出现的次数,定义托管结构体如下:

  1. struct reducer{
  2. void set_result(int index, long result) {
  3. m_result[index] = result;
  4. }
  5. ~reducer(){
  6. long total = 0;
  7. for (int i = 0; i < sizeof(m_result); ++i){
  8. total += m_result[i];
  9. }
  10. //! post total to somewhere
  11. }
  12. long m_result[10];
  13. };

●l 定义执行任务的 worker

  1. void worker_t:exe(int index_, shared_ptr ret) {
  2. ret->set_result(index, 100);
  3. }

●l 将任务分割后,投递给不同的worker

  1. shared_ptr ret(new reducer());
  2. for (int i = 0; i < 10; ++i) { task_queue[i]->post(boost::bind(&worker_t:exe, i, ret));
  3. }

原文链接:http://www.cnblogs.com/zhiranok/archive/2012/05/13/cpp_multi_thread.html

C++ 多线程编程总结相关推荐

  1. C 多线程编程之在类中使用多线程(thread)的方法

    一.thread的基本用法 参见C++使用thread类多线程编程 . 二.类外使用多线程,访问类的成员 这几种方式,新建线程都是在类外,然后通过把友元函数或者成员函数作为thread参数. #inc ...

  2. Linux多线程管理: 多线程编程

    多线程编程 mind-Mapping保存有一下导图的xmind文件,可直接获取 互斥变量 互斥对象 ptrhead相关接口 条件变量 future异步访问类 async类 promise类 packa ...

  3. [转]Linux 的多线程编程的高效开发经验

    Linux 平台上的多线程程序开发相对应其他平台(比如 Windows)的多线程 API 有一些细微和隐晦的差别.不注意这些 Linux 上的一些开发陷阱,常常会导致程序问题不穷,死锁不断.本文中我们 ...

  4. Java多线程编程实战:模拟大量数据同步

    背景 最近对于 Java 多线程做了一段时间的学习,笔者一直认为,学习东西就是要应用到实际的业务需求中的.否则要么无法深入理解,要么硬生生地套用技术只是达到炫技的效果. 不过笔者仍旧认为自己对于多线程 ...

  5. 20180829-Java多线程编程

    Java 多线程编程 Java给多线程编程提供了内置的支持.一个多线程程序包含两个或多个能并发运行的部分. 程序的每一部分都称作一个线程,并且每个线程定义了一个独立的执行路径. 多线程是多任务的一种特 ...

  6. java多线程编程01---------基本概念

    一. java多线程编程基本概念--------基本概念 java多线程可以说是java基础中相对较难的部分,尤其是对于小白,次一系列文章的将会对多线程编程及其原理进行介绍,希望对正在多线程中碰壁的小 ...

  7. 如何实现C++中的多线程编程

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 本文整理自:知乎用户yikang知乎专栏 Part 1. 基本概念 ...

  8. 多线程编程有什么用途_C++ 多线程编程 (一)

    What is thread? In computer science, a thread of execution is the smallest sequence of programmed in ...

  9. 多线程编程1-NSThread

    前言 每个iOS应用程序都有个专门用来更新显示UI界面.处理用户触摸事件的主线程,因此不能将其他太耗时的操作放在主线程中执行,不然会造成主线程堵塞(出现卡机现象),带来极坏的用户体验.一般的解决方案就 ...

  10. Linux下不使用qt自带sleep,Linux下Qt多线程编程

    该楼层疑似违规已被系统折叠 隐藏此楼查看此楼 作者:武汉华嵌嵌入式培训中心 技术部 以下和大家分享Linux平台下Qt两种多线程编程的方式: 1.使用Linux平台下的线程函数.以下是给出的代码片段: ...

最新文章

  1. SQL语句复习【专题八】
  2. 【图网络】如何用Python实现算法:规划图技术(GraphPlanner)
  3. BZOJ1798: [Ahoi2009]Seq 维护序列seq
  4. prettier 配置参数说明
  5. centos 账号安全设置
  6. SQL Server 数据库多表查询
  7. 十六进制转换html,如何使用JavaScript将十进制转换为十六进制?
  8. 1.3 单一数字评估指标
  9. SpringSecurity OAuth2+JWT+网关实现认证授权中心
  10. Unity游戏开始界面制作教学
  11. Mac 如何免费支持NTFS 格式移动硬盘读写
  12. AS更换背景主题以及背景图片
  13. android 9 qq登录,天天练qq登录版
  14. 60分钟搞定JAVA加解密
  15. 计算机毕业设计源码分享双鱼林,双鱼林SSM图书信息管理系统毕业课程设计源码 - WEB源码|源代码 - 源码中国...
  16. 【渝粤教育】电大中专常见病药物治疗 (3)作业 题库
  17. 数据分析师要掌握什么知识和技能?
  18. Spring Cloud教程(八)云原生应用程序
  19. 2022-03-16 iPhone设置铃声
  20. Vue常见报错及解决方案

热门文章

  1. __name__=='__main__'的理解和使用
  2. E - 数据结构实验之排序五:归并求逆序数
  3. Python_基础_1
  4. 结果集ResultDTO
  5. git部署与基本命令汇总
  6. 并行编程中的“锁”难题
  7. 信息系统项目管理师-常用术语中英文对应
  8. 《大话数据结构》第9章 排序 9.6 希尔排序(上)
  9. Codeforces Hello 2019 D. Makoto and a Blackboard[DP+数论+概率期望]
  10. 一些WPF中的滤镜特效——Effect Library