Nginx 的 HttpUpstreamModule 提供对后端（backend）server的简单负载均衡。一个最简单的 upstream 写法例如以下：

upstream backend {server backend1.example.com;server backend2.example.com;server.backend3.example.com;
}server {location / {proxy_pass http://backend;}
}

1、后端server

通过 upstream 能够设定后端server，指定的方式能够是 IP 地址与port、域名、UNIX 套接字（socket）。当中假设域名能够被解析为多个地址。则这些地址都作为 backend。

以下举例说明：

upstream backend {server blog.csdn.net/poechant;server 145.223.156.89:8090;server unix:/tmp/backend3;
}

第一个 backend 是用域名指定的。第二个 backend 是用 IP 和port号指定的。

第三个 backend 是用 UNIX 套接字指定的。

2、负载均衡策略

Nginx 提供轮询（round robin）、用户 IP 哈希（client IP）和指定权重 3 种方式。

默认情况下，Nginx 会为你提供轮询作为负载均衡策略。

可是这并不一定可以让你惬意。比方，某一时段内的一连串訪问都是由同一个用户 Michael 发起的，那么第一次 Michael 的请求可能是 backend2，而下一次是 backend3。然后是 backend1、backend2、backend3…… 在大多数应用场景中，这样并不高效。当然。也正因如此，Nginx 为你提供了一个依照 Michael、Jason、David 等等这些乱七八糟的用户的 IP 来 hash 的方式，这样每一个 client 的訪问请求都会被甩给同一个后端server。详细的使用方式例如以下：

upstream backend {ip_hash;server backend1.example.com;server backend2.example.com;server.backend3.example.com;
}

这种策略中，用于进行 hash 运算的 key，是 client 的 C 类 IP 地址（C 类 IP 地址就是范围在 192.0.0.0 到 223.255.255.255 之间，前三段号码表示子网。第四段号码为本地主机的 IP 地址类别）。

这种方式保证一个 client 每次请求都将到达同一个 backend。

当然，假设所 hash 到的 backend 当前不可用。则请求会被转移到其它 backend。

再介绍一个和 ip_hash 配合使用的keyword：down。

当某个一个 server 临时性的宕机（down）时，你能够使用“down”来标示出来。而且这样被标示的 server 就不会接受请求去处理。

详细例如以下：

upstream backend {server blog.csdn.net/poechant down;server 145.223.156.89:8090;server unix:/tmp/backend3;
}

还能够使用指定权重（weight）的方式。例如以下：

upstream backend {server backend1.example.com;server 123.321.123.321:456 weight=4;
}

默认情况下 weight 为 1，对于上面的样例，第一个 server 的权重取默认值 1，第二个是 4。所以相当于第一个 server 接收 20% 的请求，第二接收 80% 的。要注意的是 weight 与 ip_hash 是不能同一时候使用的，原因非常easy，他们是不同且彼此冲突的策略。

3、重试策略

能够为每一个 backend 指定最大的重试次数，和重试时间间隔。

所使用的keyword是 max_fails 和 fail_timeout。例如以下所看到的：

upstream backend {server backend1.example.com weight=5;server 54.244.56.3:8081 max_fails=3 fail_timeout=30s;
}

在上例中，最大失败次数为 3，也就是最多进行 3 次尝试，且超时时间为 30秒。max_fails 的默认值为 1。fail_timeout 的默认值是 10s。传输失败的情形，由 proxy_next_upstream 或 fastcgi_next_upstream 指定。并且能够使用 proxy_connect_timeout 和 proxy_read_timeout 控制 upstream 响应时间。

有一种情况须要注意，就是 upstream 中仅仅有一个 server 时。max_fails 和 fail_timeout 參数可能不会起作用。

导致的问题就是 nginx 仅仅会尝试一次 upstream 请求，假设失败这个请求就被抛弃了 : ( ……解决办法。比較取巧。就是在 upstream 中将你这个可怜的唯一 server 多写几次，例如以下：

upstream backend {server backend.example.com max_fails fail_timeout=30s;server backend.example.com max_fails fail_timeout=30s;server backend.example.com max_fails fail_timeout=30s;
}

4、备机策略

从 Nginx 的 0.6.7 版本号開始。能够使用“backup”keyword。当全部的非备机（non-backup）都宕机（down）或者繁忙（busy）的时候。就仅仅使用由 backup 标注的备机。必需要注意的是，backup 不能和 ip_hash keyword一起使用。

举比例如以下：

upstream backend {server backend1.example.com;server backend2.example.com backup;server backend3.example.com;
}