基于go的微服务搭建(七) - 服务发现和负载均衡
第七节: 服务发现和负载均衡
原文地址
转载请注明原文及翻译地址
这篇文章将关注两个微服务架构的重要部分:服务发现和负载均衡.和他们是如何帮助我们2017年经常要求的横向扩展容量的
简介
负载均衡和出名.服务发现需要一些解释,从一个问题开始:
"服务A如何请求服务B,如果不知道怎么找到B"
换句话说,如果你有10个服务B在随机的集群节点上运行,有人要记录这些实例,所以当A需要和B联系时,至少一个IP地址或者主机名可以用(用户负载均衡),或者说,服务A必须能从第三方得到服务B的逻辑名字(服务器负载均衡).在微服务架构下,这两种方法都需要服务发现这一功能.简单来说,服务发现就是一个各种服务的注册器
如果这听起来像dns,确实是.不同是,这个服务发现用在你集群的内部,帮助服务找到彼此.然而,dns通常更静态,是帮助外部来请求你的服务.同时,dns服务器和dns协议不适合控制微服务多变的环境,容器和节点经常增加和减少.
大部分为服务框架提供一个或多个选择给服务发现.默认下,spring cloud/netflix OSS用netflix eureka(同时支持consul, etcd, zooKeeper),每个服务会在eureka实例中注册,之后发送heartbeats来让eureka知道他们还在工作.另一个有名的是consul,他提供很多功能还包括集成的DNS.其他有名的选择使用键值对存储注册服务,例如etcd.
这里,我们主要看一下Swarm中的机制.同时,我们看一下用unit test(gock)模拟http请求,因为我们要做服务到服务的沟通.
两种负载均衡
为服务实现中,我们把负载均衡分为两种:
- 客户端:客户端自己请求一个发现服务来得到地址(iP, 主机名,端口).从这里面,他们可以随机或者round-robin方法来选择一个地址.为了不用每次都从发现服务里提取,每个客户端会保存一些缓存,同时随着发现服务更新.客户端负载均衡在spring cloud生态里的例子是netflix ribbon.在go-kit中相似的是etcd.客户端负载均衡的优势是去除中心化,没有中心的瓶颈,因为每个服务保存他们自己的注册器.缺点是内部服务复杂化和本地注册器包含不良路径的风险.
- 服务器段:这个模型中,客户端依赖负载均衡器来找到想请求服务的名字.这个模型通常成为代理模式,因为它的作用可以使负载均衡也可以是反向代理.这边的有点是简单,负载均衡和服务发现机制通常包含在容器部署里,你不需要安装和管理这些部分.同样,我们的服务不需要知道服务注册器,负载均衡器会帮助我们.所有的请求都通过复杂均衡器将会使他成为瓶颈.
当我们用docker swarm的服务,服务器端真正的服务(producer service)注册是完全透明给开发者的.也就是说,我们的服务不知道他们在服务器端负载均衡下运行,docker swarm完成整个注册/heartbeat/解除注册.
使用服务发现信息
假设你想创建一个定制的监控应用,需要请求所有部署的服务的/health路径,你的监控应用怎样知道这些IP和端口.你需要得到服务请求的细节.对于swarm保存这些信息,你怎样得到他们.对于客户端的方法,例如eureka,你可以直接用api,然而,对于依赖于部署的服务发现,这不容易,我可以说有一个方法来做,同时有好多方法针对于不同的情形.
docker远程api
我推荐用docker远程api,用docker api在你的服务中来向swarm manager请求其他服务的信息.毕竟,如果你用你的容器部署的内置服务发现机制,这也是你应该请求的地方.如果有问题,别人也能写一个适配器给你的部署.然而,用部署api也有限制:你紧紧以来容器的api,你也要确定你的应用可以和docker manager交流.
其他方案
- 用其他的服务发现机制-netflix eureka, consul等.用这些服务的api来注册/查询/heartbeat等.我不喜欢这种方式,因为这让我们的服务更复杂,而且swarm也可以做这些事.我认为这是反设计模式的,所以一般情况不要做.
- 具体应用的token发现:这种方法下,每个服务发送他们自己的token,带有IP,服务名等.使用者可以订阅这些服务,同时更新他们的注册器.我们看netflix turbine without eureka,我们会用这种机制.这种方法因为不用注册所有服务而稍有不同,毕竟,这种情况下我们只关心一部分服务.
代码
git checkout P7
扩展和负载均衡
我们看一下能否启动多个accountservice实例实现扩展同时看我们swarm自动做到负载均衡请求.
为了知道哪个实例回复我们的请求,我们加入一个新的Account结构,我们可以输出ip地址.打开account.go
type Account struct {Id string `json:"id"`Name string `json:"name"`//newServedBy string `json:"servedBy"
}
打开handlers.go,加入GetIp()函数,让他输出ServedBy的值:
func GetAccount(w http.ResponseWriter, r *http.Request) {// Read the 'accountId' path parameter from the mux mapvar accountId = mux.Vars(r)["accountId"]// Read the account struct BoltDBaccount, err := DBClient.QueryAccount(accountId)account.ServedBy = getIP() // NEW, add this line...
}// ADD THIS FUNC
func getIP() string {addrs, err := net.InterfaceAddrs()if err != nil {return "error"}for _, address := range addrs {// check the address type and if it is not a loopback the display itif ipnet, ok := address.(*net.IPNet); ok && !ipnet.IP.IsLoopback() {if ipnet.IP.To4() != nil {return ipnet.IP.String()}}}panic("Unable to determine local IP address (non loopback). Exiting.")
}
getIp()函数应该用一些utils包,因为这些可以重复用,当我们需要判断一个运行服务的non-loopback ip地址.
重新编译和部署我们的服务
> ./copyall.sh
等到结束,输入
> docker service ls
ID NAME REPLICAS IMAGE
yim6dgzaimpg accountservice 1/1 someprefix/accountservice
用curl
> curl $ManagerIP:6767/accounts/10000
{"id":"10000","name":"Person_0","servedBy":"10.255.0.5"}
现在我们看到回复中有容器的ip地址,然我们扩展这些服务
> Docker service scale accountservice=3
accountservice scaled to 3
等一会运行
> docker service ls
ID NAME REPLICAS IMAGE
yim6dgzaimpg accountservice 3/3 someprefix/accountservice
现在有三个实例,我们curl几次,看一看得到的ip地址
curl $ManagerIP:6767/accounts/10000
{"id":"10000","name":"Person_0","servedBy":"10.0.0.22"}curl $ManagerIP:6767/accounts/10000
{"id":"10000","name":"Person_0","servedBy":"10.255.0.5"}curl $ManagerIP:6767/accounts/10000
{"id":"10000","name":"Person_0","servedBy":"10.0.0.18"}curl $ManagerIP:6767/accounts/10000
{"id":"10000","name":"Person_0","servedBy":"10.0.0.22"}
我们看到四次请求用round-robin的方法分给每一个实例.这种swarm提供的服务很好,因为它很方便,我们也不需要像客户端发现服务那样从一堆ip地址中选择一个.而且,swarm不会把请求发送给那些拥有healthcheck方法,却没有报告他们健康的节点.当你扩容和缩减很频繁时,同时你的服务很复杂,需要比accountservice启动多很多的时间的时候,这将会很重要.
性能
看一看扩容后的延迟和cpu/内存使用吧.会不会增加?
> docker service scale accountservice=4
cpu和内存使用率
gatling测试(1k req/s)
CONTAINER CPU % MEM USAGE / LIMIT
accountservice.3.y8j1imkor57nficq6a2xf5gkc 12.69% 9.336 MiB / 1.955 GiB
accountservice.2.3p8adb2i87918ax3age8ah1qp 11.18% 9.414 MiB / 1.955 GiB
accountservice.4.gzglenb06bmb0wew9hdme4z7t 13.32% 9.488 MiB / 1.955 GiB
accountservice.1.y3yojmtxcvva3wa1q9nrh9asb 11.17% 31.26 MiB / 1.955 GiB
我们的四个实例平分这些工作,这三个新的实例用低于10mb的内存,在低于250 req/s情况下.
性能
一个实例的gatling测试
四个实例的gatling测试
区别不大,本该这样.因为我们的四个实例也是在同一个虚拟机硬件上运行的.如果我们给swarm分配一些主机还没用的资源,我们会看到延迟下降的.我们看到一点小小的提升,在95和99平均延迟上.我们可以说,swarm负载均衡没有对性能有负面影响.
加入quotes
记得我们的基于java的quotes-service么?让我们扩容他并且从accountservice请求他,用服务名quotes-service.目的是看一看我们只知道名字的时候,服务发现和负载均衡好不好用.
我们先修改一下account.go
type Account struct {Id string `json:"id"`Name string `json:"name"`ServedBy string `json:"servedBy"`Quote Quote `json:"quote"` // NEW}// NEW structtype Quote struct {Text string `json:"quote"`ServedBy string `json:"ipAddress"`Language string `json:"language"`}
我们用json标签来转换名称,从quote到text,ipAddress到ServedBy.
更改handler.go.我们加一个简单的getQuote函数来请求http://quotes-service:8080/api/quote,返回值用来输出新的Quote结构.我们在GetAccount函数中请求他.
首先,我们处理连接,keep-alive将会有负载均衡的问题,除非我们更改go的http客户端.在handler.go中,加入:
var client = &http.Client{}func init() {var transport http.RoundTripper = &http.Transport{DisableKeepAlives: true,}client.Transport = transport
}
init方法确保发送的http请求有合适的头信息,能使swarm的负载均衡正常工作.在GetAccount函数下,加入getQuote函数
func getQuote() (model.Quote, error) {req, _ := http.NewRequest("GET", "http://quotes-service:8080/api/quote?strength=4", nil)resp, err := client.Do(req)if err == nil && resp.StatusCode == 200 {quote := model.Quote{}bytes, _ := ioutil.ReadAll(resp.Body)json.Unmarshal(bytes, "e)return quote, nil} else {return model.Quote{}, fmt.Errorf("Some error")}
}
没什么特别的,?strength=4是让quotes-service api用多少cpu.如果请求错误,返回一个错误.
我们从GetAccount函数中请求getQuote函数,把Account实例返回的值附给Quote.
// Read the account struct BoltDB
account, err := DBClient.QueryAccount(accountId)
account.ServedBy = getIP()// NEW call the quotes-service
quote, err := getQuote()
if err == nil {account.Quote = quote
}
unit testing发送的http请求
如果我们跑handlers_test.go的unit test,我们会失败.GetAccount函数会试着请求一个quote,但是这个URL上没有quotes的服务.
我们有两个办法来解决这个问题
1) 提取getQuote函数为一个interface,提供一个真的和一个假的方法.
2) 用http特定的mcking框架处理发送的请求同时返回一个写好的答案.内置的httptest包可以帮我们开启一个内置的http服务器用于unit test.但是我喜欢用第三方gock框架.
在handlers_test.go中,在TestGetAccount(t *testing)加入init函数.这会使我们的http客户端实例被gock获取
func inti() {gock.InterceptClient(client)
}
gock DSL提供很好地控制给期待的外部http请求和回复.在下面的例子中,我们用New(), Get()和MatchParam()来让gock期待http://quotes-service:8080/api/quote?strength=4 Get 请求,回复http 200和json字符串.
func TestGetAccount(t *testing.T) {defer gock.Off()gock.New("http://quotes-service:8080").Get("/api/quote").MatchParam("strength", "4").Reply(200).BodyString(`{"quote":"May the source be with you. Always.","ipAddress":"10.0.0.5:8080","language":"en"}`)
defer gock.Off()确保我们的test会停止http获取,因为gock.New()会开启http获取,这可能会是后来的测试失败.
然我们断言返回的quote
Convey("Then the response should be a 200", func() {So(resp.Code, ShouldEqual, 200)account := model.Account{}json.Unmarshal(resp.Body.Bytes(), &account)So(account.Id, ShouldEqual, "123")So(account.Name, ShouldEqual, "Person_123")// NEW!So(account.Quote.Text, ShouldEqual, "May the source be with you. Always.")
})
跑测试
是指跑一下accountservice下所有的测试
重新部署用./copyall.sh,试着curl
> go test ./...
? github.com/callistaenterprise/goblog/accountservice [no test files]
? github.com/callistaenterprise/goblog/accountservice/dbclient [no test files]
? github.com/callistaenterprise/goblog/accountservice/model [no test files]
ok github.com/callistaenterprise/goblog/accountservice/service 0.011s
> curl $ManagerIP:6767/accounts/10000{"id":"10000","name":"Person_0","servedBy":"10.255.0.8","quote":{"quote":"You, too, Brutus?","ipAddress":"461caa3cef02/10.0.0.5:8080","language":"en"}}
扩容quotes-service
> docker service scale quotes-service=2
对于spring boot的quotes-service来说,需要15-30s,不像go那样快.我们curl几次
{"id":"10000","name":"Person_0","servedBy":"10.255.0.15","quote":{"quote":"To be or not to be","ipAddress":"768e4b0794f6/10.0.0.8:8080","language":"en"}}
{"id":"10000","name":"Person_0","servedBy":"10.255.0.16","quote":{"quote":"Bring out the gimp.","ipAddress":"461caa3cef02/10.0.0.5:8080","language":"en"}}
{"id":"10000","name":"Person_0","servedBy":"10.0.0.9","quote":{"quote":"You, too, Brutus?","ipAddress":"768e4b0794f6/10.0.0.8:8080","language":"en"}}
我们看到我们的servedBy循环用accountservice实例.我们也看到quote的ip地址有两个.如果我们没有关闭keep-alive,我们可能只会看到一个quote-service实例
总结
这篇我们接触了服务发现和负载均衡和怎样用服务名称来请求其他服务
下一篇,我们会继续微服务的知识点,中心化配置.
基于go的微服务搭建(七) - 服务发现和负载均衡相关推荐
- 基于consul实现微服务的服务发现和负载均衡
一. 背景 随着2018年年初国务院办公厅联合多个部委共同发布了<国务院办公厅关于促进"互联网+医疗健康"发展的意见(国办发[2018]26号)>,国内医疗IT领域又迎 ...
- go-kit微服务,服务注册与发现,负载均衡(二)
目录 consul简介 consul安装 手动操作 代码操作 服务注册 服务反注册 拉取服务list 服务发现 测试代码 负载均衡 consul简介 Consul 是 HashiCorp 公司推出的开 ...
- 服务发现与负载均衡 dubbo zk原理
服务发现与负载均衡 拓展阅读 : dubbo 原理概念图 2016-03-03 杜亦舒 性能与架构 性能与架构 性能与架构 微信号 yogoup 功能介绍 网站性能提升与架构设计 内容整理自文章&qu ...
- e盾服务端源码_gRPC服务注册发现及负载均衡的实现方案与源码解析
今天聊一下gRPC的服务发现和负载均衡原理相关的话题,不同于Nginx.Lvs或者F5这些服务端的负载均衡策略,gRPC采用的是客户端实现的负载均衡.什么意思呢,对于使用服务端负载均衡的系统,客户端会 ...
- gRPC服务注册发现及负载均衡的实现方案与源码解析
今天聊一下gRPC的服务发现和负载均衡原理相关的话题,不同于Nginx.Lvs或者F5这些服务端的负载均衡策略,gRPC采用的是客户端实现的负载均衡.什么意思呢,对于使用服务端负载均衡的系统,客户端会 ...
- 关于服务发现和负载均衡,你想知道的都在这儿
问题缘由 单机时代,传统软件大多是单体/巨石架构(Monolithic).大家往一个代码仓库提交CODE,这会导致应用膨胀,难以理解和修改,以及扩展受限,无法按需伸缩等诸多问题.单体架构怎么解决多人合 ...
- Consul + fabio 实现自动服务发现、负载均衡 1
Consul hashicorp团队开发 就是大名鼎鼎开发 vagrant 的团队. Consul 是一个提供服务发现.健康检测.K/V存储支持分布式高可用多数据中心的服务软件. 比较类似ZooKee ...
- Docker Swarm服务发现和负载均衡原理
Docker Swarm服务发现和负载均衡原理 Docker使用的是Linux内核iptables和IPVS的功能来实现服务发现和负载均衡.Iptables是Linux内核中可用的包过滤技术,可根据数 ...
- 从零开始入门 | Kubernetes 中的服务发现与负载均衡
作者 | 阿里巴巴技术专家 溪恒 一.需求来源 为什么需要服务发现 在 K8s 集群里面会通过 pod 去部署应用,与传统的应用部署不同,传统应用部署在给定的机器上面去部署,我们知道怎么去调用别的机 ...
最新文章
- apache自动跳转到服务HTML,apache自动将http协议跳转到https
- 【管理】乔布斯:A级人才的自尊心不需要你呵护
- 《Java从入门到放弃》框架入门篇:hibernate基本用法
- 用Visual Studio Code Debug世界上最好的语言(Mac篇)
- l洛谷P4779 【模板】单源最短路径(标准版)(dijkstra)
- 替换html标签内容正则表达式,正则表达式,替换所有HTML标签的简单实例
- 论文笔记 Aggregated Residual Transformations for Deep Neural Networks
- 高斯滤波器是低通还是高通_经典模拟滤波器仍值得研究吗?
- 温暖守护美好生活,科技从不冷冰冰
- ________________springbootのMybatis
- c语言实验11实验报告,c语言 实验报告11 12.doc
- js页面跳转,参数传递
- HTML页面跳转及传递参数
- 2018高中计算机会考知识点,2018高中生物会考知识点 高中文科生生物会考知识点...
- 计算机硬件和系统重装,重装系统对电脑有什么影响【图文】
- TOM邮箱|选出好用的邮箱让你事半功倍
- becon帧 wifi_无线路由器Beacon时槽值设置为100同500有什么区别?是不是设置越高WIFI信号的传输距离就越远越强?...
- 晶振波形不是正弦波_晶振的3种输出波形,你了解吗?
- oppo R9sk 完美root 线刷包+救砖
- 阿里测试左移和开发赋能分享
热门文章
- Tcl Tutorial 笔记6 ·while
- Tcl Tutorial 笔记2 · set ““ {} [] \
- 微信小程序---开通开发环境的理解
- java android 五子棋游戏_基于Android平台五子棋游戏最终版.doc
- 车牌识别算法_易泊车牌识别算法助力智慧城市交通
- python读二进制文件博客园_python二进制读写文件
- xp系统qq安装不上网络连接服务器,windows xp系统不能登录qq的解决方法
- python就业班讲义_64G 最新 Python 就业班 视频教程 全集 含 pdf 源码 资料
- 计算机原理华东理工大学期末成绩查询,华东理工大学微机原理历年真题第十一章.ppt...
- 过渡效果_(新)61种数字胶动态过渡延时摄影效果转场 WIPE amp; LIGHT TRANSITIONS(3462)...