延迟加载算法微服务的模型

基于SpringBoot的算法微服务，通常在启动阶段加载算法模型。但因为业务上，模型大小和数量是动态的，因此这一过程短则1分钟，长则5+分钟。在启动时加载导致的启动时间过长，会影响服务自身的监控告警、健康检测。

那么，理想的方式是先将服务启动，然后再加载算法模型。为此，我需要一个由SpringBoot提供的观察者模式的事件，在服务自身启动后触发。

修改前后的代码示例如下：

@Service
@Log4j2
public class QasEngine {@PostConstructpublic void bootstrap() {//获取元数据//加载算法模型}
}

@Service
@Log4j2
public class QasEngine implements ApplicationListener<ApplicationReadyEvent> {@PostConstructpublic void bootstrap() {//获取元数据}@Overridepublic void onApplicationEvent(ApplicationReadyEvent event) {//加载算法模型//懒加载其他类型的服务}
}

需要注意的是，如果你的业务存在HSF、MetaQ等服务，请延迟启动这些服务，直至算法模型加载完毕。

延迟加载算法微服务的模型相关推荐

13 | 代码模型（上）：如何使用DDD设计微服务代码模型
13 | 代码模型(上):如何使用DDD设计微服务代码模型 Reference DDD实战课
字节跳动社招5面（已拿offer）：算法+微服务+多线程+JVM+数据库
前言字节跳动在图文.视频.问答.图片等领域连续发力,产品矩阵包括今日头条.抖音短视频.西瓜视频.懂车帝.GoGoKid英语.皮皮虾.Faceu激萌.轻颜相机等多款产品,以及AI教育产品.企业SaaS ...
基于微服务成熟度模型的高可用优化实践
前言随着微服务的流行,每个互联网公司后台都有无数大大小小的服务,服务与服务之间又有着千丝万缕的调用关系.要保证整个微服务系统的成熟稳定,就必须保证每个微服务的成熟度.但如何来定义服务的成熟度?应该从 ...
DataFun: 微信NLP算法微服务治理
管理问题性能问题 PyInter:暂未开源,有开源打算调度问题 P50: 响应的中位数 P999:耗时最慢的千分之一让p999下降为p50的1.5倍
.net core 微服务之模型表字段动态扩展二——EF core的属性包支持
今天学到了一个视角,叫做读者视角--从情商角度看就是换位思考.当我在写文章的时候,可能仅仅站在我的角度看待这个写的动作.那我就怎么写的爽怎么来,什么用词用字就按自己的习惯来书写,文章的深浅随心,反正我 ...
微服务的几种负载均衡算法
目录一.负载均衡二.负载均衡算法 1.静态负载均衡 2.动态负载均衡三.Dubbo负载均衡的四种算法 1.基于权重随机算法RandomLoadBalance 2.基于最少活跃数算法LeastAc ...
微服务可靠性设计--转
原文地址:http://www.infoq.com/cn/articles/micro-service-reliability-design?utm_source=infoq&utm_medi ...
基于实战开发垂直搜索引擎_基于DDD的微服务设计和开发实战
作者:欧创新.邓頔.文艺你是否还在为微服务应该拆多小而争论不休?到底如何才能设计出收放自如的微服务?怎样才能保证业务领域模型与代码模型的一致性?或许本文能帮你找到答案. 本文是基于 DDD 的微服务 ...
ddd 访问权限_基于DDD的微服务设计和开发实战
作者:欧创新.邓頔.文艺你是否还在为微服务应该拆多小而争论不休?到底如何才能设计出收放自如的微服务?怎样才能保证业务领域模型与代码模型的一致性?或许本文能帮你找到答案. 本文是基于 DDD 的微服务 ...

延迟加载算法微服务的模型

延迟加载算法微服务的模型相关推荐

最新文章

热门文章