导读:大家经常看到手淘里面的第二个TAB 就是微淘了!目前有几千万 DAU,几百亿关注关系,每天几十万的商家生产内容,对系统的挑战较大。产品形态上目前以关注 feeds 流为主,是商家非常重要的获取流量阵地(自运营阵地),下面和小编一起看看微淘技术演进史。

内容生态对淘宝的价值

1.辅助购物,即帮助消费者做更好的购物决策:

比如搜索、猜你喜欢透出内容辅助你挑选哪个商品好,宝贝详情的主图视频、买家秀、大咖点评、客服直播等等帮助你该不该下单。用户在淘宝购物过程中总会出现各自各样的需求(痛点),我们就会尝试用内容的形式解决这些需求,这是大家在手淘里面看到最多的内容,也是内容对零售最基础的价值,技术上我们构建了新零售内容平台,以平台化的方式支撑各种各样的场景。

2.探索生活消费社区:

目前淘宝的心智主要是购物,大部分用户都是想买什么才来,所以有“万能的淘宝”“只有想不到、没有买不到”的消费者心智,如何结合购物延展心智,服务更多消费者对淘宝是非常重要的。如果能有“想不到买什么,有事没事空闲的时候来淘宝逛一逛” “解决上亿中产阶级有钱没的花,找不到好东西”类似这样的心智形成,那么我们离生活消费社区就更近一步了,微淘、洋桃社区等业务就在这方面做探索。

微淘的技术挑战

内容消费业务通用的模型

基本上就这些模型,非常简单,但一些细微差别会带来的产品的心智完全不同,但大体上从工程架构看可以抽象为一套。

账号:大V、机构、店铺、消费者

内容类型:短图文、长图文、短视频、直播

关系:BC 关系,CC 关系、单向双向

内容互动:赞、收藏、评论、弹幕、负反馈(不感兴趣)、举报、拉黑。还有直播特有的连麦等实时互动

场景:关注流、发现流、热门、附近等

当时做微淘时,也负责手淘的主要社区,对工程来说很类似,同时手淘其他社区场景的同学也希望能复用我们的服务,所以第一件事情是我们构建了。

淘宝社区 API 集

结合 PD ,统一了手淘所有的内容互动 API 以及关系、账号 API ,完成了 “社区平台雏形”为什么是雏形,因为这个平台只有基础 API ,当时思考是具体每个社区场景呈现都不一样,所以上层业务需要基于 API 各自组织业务。整体研发效率上提升不少,用户相关的内容互动、内容数据完成了统一。

timeline 引擎

微淘是基于关系的,几年前 feeds 引擎业内是很火的,基本上 Facebook 、 Twitter 、微博等大公司都在探索,我们也伴随着业务沉淀了一套,微淘业务与 timeline 引擎的关系如下:

拉引擎我们内部也叫基于关系的搜索引擎

拉模式的适合场景是关注数和粉丝数数严重不对等的情况,比如微淘的场景,部分店铺的粉丝数过千万,但是用户的关注上限是几千,这里面如果一个大 V 发一条 feed ,走推模式要更新千万的用户 inbox ,显然是不合理的。

但是对于关注数和粉丝数差不多的情况,不建议走拉模式。比如朋友圈,关注上限大概是500,粉丝数大概也是500,那么推模式更有效。

下面介绍下拉引擎(关系搜索引擎)的实现原理:

举例:比如我的淘宝--店铺关注列表里面对店铺名称的实时搜索。

从这里进去

对店铺的标题建索引,输入 a 可以查到有这么多关注的店铺。

去取消关注后,再输入 a 查询,可以看到结果实时变化了~

**术语:inbox 用户的收件箱,outbox 用户的发件箱
**

两者数据结构是一样的,类似邮件,收件箱发件箱里面存了很多封邮件, 每封邮件就是 doc ,邮件有标题、副标题就是索引 index 。我们可以根据 index 来快速查找一个用户有多少匹配的邮件,这个就是 inbox 的内部搜索;

邮件系统是用推模式实现的, 如果用拉模式来翻译的话。

我关注了很多人,我想一次性根据某些索引查询这些人的发件箱中满足匹配的邮件,并且按照一定排序规则来汇总。

以上面的关注搜索店铺名称为例,店铺的标题、认证、简介等都是不同的 doc ,索引是标题字符串;

所以 outbox 就是 doc 数组。doc 则由 doc_id+index 数组 组成。

假设只有店铺标题一个doc。

我们调用引擎把店铺 id,doc [“xxx旗舰店”]写入到引擎里面

对于每一个店铺,我们把 doc 数据先更新到 db ,然后更新到分布式缓存店铺的 outbox ,然后失效每台机器的本地缓存 outbox 。(考虑到性能和时效性,我们对 outbox 的 doc 数量做了上限,doc 数量超过 3000 ,远满足一般性需求)

当店铺的 outbox 第一次被访问时,如果非热门店铺本地的堆外 LRU 缓存加载,如果是热门店铺,加载到静态缓存区域。

热门店铺的判断逻辑是:离线计算粉丝数最高的 TOP N 店铺,然后定期更新名单库,这里面由于大号的粉丝特别多,基本上热门店铺的关系数量占用全部的关系 50% 以上。

整个查询逻辑如下:

整体本地内存命中率 95%,本地加远程命中率 99.9%,未来改为持久化缓存则 100%;

堆外缓存可以大大减少FullGC概率。

另外 outbox 的压缩和解压缩非常关键,索引字段全部采用原生类型,先采用 Kyro 序列化,然后 ZIP 压缩;

端测渲染引擎

业界内容业务的特点总是交互体验创新层出不穷,在微淘也不例外。

微淘又是手淘一个 tab ,对性能要求更高,尤其低端机型的性能。

对业务方来说交互体验差是无法接受的,对于隔一个月发一次版本勉强是可以的,但对于技术来说,研发效率提升是我们要不断追求的。

所以整体微淘的端测渲染技术策略是体验为主、效率为辅。

在今天如果端测的 UI 渲染技术同时能满足体验和效率,那就不用折腾了,但是很遗憾目前没见到过。

下面是 2017 年初的现状,灰色部分当时还没有。

在以体验为主,效率为辅的策略下,微淘端测动态化的几个阶段:

当时卡片组件化最大的问题是,限制了 UED 同学的视觉交互创新,往往一个细微的创新看似很简单却发现组件化改动很大。比如给整个内容大卡片套一个外框,则要求每个小卡片都做修改。过程中与 PD、UED 组件化的约定做了几次,但是在创新面前还是败了。

我们在 2017 年开始打造以体验为主效率为辅的 TNode 引擎,DSL 从最初的客户端语言到最后与前端共建升级到了 VUE ,有效的解决了端测研发效率问题,同时微淘性能在手淘主链路中保持中位数。

Tnode 的技术架构

这块主要是淘云、重哥、水军等同学实现,我简单介绍下:

1、首屏性能优化,Duktape 引擎替换 WebView ,低内存高性能。提供端测表达式引擎,常规逻辑处理采用 Native 函数。

2、页面完成渲染后,所有事件异步js驱动

3、DSL 二进制减少网络、解析大小。DSL 中表达式预编译。

4、Flex 层级优化,如采用虚拟节点等方式

目前 TNode 是前端开发,因为是效率为辅,他仍然存在很多效率问题,最大的两个问题是:

不能完全满足 W3C 协议(换句话来说以前端思维看这个还是很坑,像是早些年前端同学兼容 IE6 感觉一样)。

与手淘前端主流的 RAX 以及封装的 Weex Native 模块不融合,这意味着没有生态。

但 TNode 确实解决了那些以体验为主效率为辅的场景,架构组在了解 TNode 架构后,基于 WEEX 生态,在 2019 年初基本完成了 WEEX-EAGLE,与微淘同学一起试点,试图解决问题 2。

TNode 最大的价值是加速了整个手淘动态化演进的进程,如果把当前的动态化技术比作混合电动车时代,那他在市场上还是会存在一段时间,但是最终一定会过渡到电动车,让所有消费者无顾虑的接受。对于当前动态化技术是一样的,在体验为主效率为辅的场景, 与在效率为主体验要求不高的场景是两种不同的方案。然后最终有一天会融为一体,甚至加上 BFF 三端一体,未来都是大前端领域范畴。

内容分发平台

前面提到了我们构建了大量的社区基础 API ,但是每个场景业务逻辑都不太一样,场景层都要定制开发。

我们遇到了几个问题:

1、系统比开发多:内容分发(社区)的场景是非常非常多的,前面提到我们要试图解决用户在购物路径中的各种需求,而且业务升级频率高,以往为了隔离都是一个业务一个系统,业务大升级又得来一个系统,久而久之业务系统比开发还多。

2、不同客户端版本兼容成本高:客户端老版本兼容,bug 修复带来了大量的 ifelse ,而且好几年内都不能下线,写完后代码过几天自己也看不懂了,也不敢动了,也不想看到了。

3、业务代码生命周期短、系统频繁重构怪圈:徘徊于代码复制和复用的纠结,如果新老业务代码复用,复用代码改变则要回归很多历史版本,在手淘开发中回归历史版本是一个很痛苦很低效率的事情,如果复制一堆重复的代码则更乱。更进一步思考任何一个新系统在业务频繁升级的情况下,代码就会堆积,马上就变得难以维护,然后系统启动很慢然后又开始进入重构的循环,这个周期取决于业务需求数量,一般也就两年左右就很臃肿了。

4、另一个背景是端测效率提升后,客户端部分同学希望能更加的了解业务,能全栈,但是服务端的单元化、运维等很多东西很重,希望能给全栈同学更轻松的更高效的研发环境。

5、还有 AB 实验效率问题,目前业务侧的 AB 主要是新业务功能的 ab ,不是算法策略的 ab ,新功能的 ab 核心还是研发效率问题。比如微淘的页面,坑位, Tab 新需求改动都要 ab 对比效果,都要有多份数据存储;

为了解决上述问题,我们把业务代码打包成一个业务 bundle ,做到业务和历史业务隔离,业务和平台隔离,结合内容分发业务现状,集成 AB 、内容、分发策略、社区 API ,整体构建了内容分发平台。

未来:定位上仍然是解决内容消费场景的数据展示需求,是一个业务平台。主要核心是为了解决1、2、3的问题,第4点与现在流行的serverless有那么一点点关系,后面看serverless演进成熟度再看结合点。

抢阿里云新用户专属优惠权益,致电95187-1 !

原文链接
本文为云栖社区原创内容,未经允许不得转载。

技术架构演进|0到千万DAU,微淘如何走过?相关推荐

  1. 聚光灯下的熊猫TV技术架构演进

    2016 年 9 月 23-24 日,由 CSDN 和创新工场联合主办的"MDCC 2016 移动开发者大会• 中国"(Mobile Developer Conference Ch ...

  2. 【熊猫TV】《程序员》:聚光灯下的熊猫TV技术架构演进

    2015年开始的百播大战,熊猫TV是其中比较特别的一员. 说熊猫TV是含着金钥匙出生的公子哥不为过.还未上线,就频频曝光,科技号,微博稿,站上风口浪尖.内测期间更是有不少淘宝店高价倒卖邀请码,光内测时 ...

  3. QCon旧金山演讲总结:阿里无线技术架构演进

    \ 编者按:美国时间11月16日,阿里无线事业部资深技术总监庄卓然(花名:南天).阿里无线高级技术专家徐昭(花名:长恭) 在QCon全球软件开发大会旧金山站发表演讲<ALIBABA MOBILE ...

  4. 胡喜:蚂蚁金服十五年技术架构演进之路

    导读:5 月 6 日,蚂蚁金服副 CTO 胡喜在 2019 年 QCon 上做了<蚂蚁金服十五年技术架构演进之路>的演讲.借此机会,也和大家深入讨论了一下蚂蚁金服对金融科技未来的判断,并首 ...

  5. 大型网站技术架构演进

    文章目录 系列文章目录 前言 1 构建 型网站:分布式改造.. ... .- .. .. .-. ..... ... .. .. .. .. .. .. .. .. .. .. .. 1 1.1 为什 ...

  6. 大金融业务系统的技术架构演进方向

    大金融业务系统技术架构演进 大金融三浪叠加的发展阶段:信息金融.互联网金融.智能金融,对标的业务架构从1.0.2.0发展到了今天的3.0架构. 信息金融采用1.0业务架构,采用瀑布型开发.单块架构.物 ...

  7. 新东方APP技术架构演进, C端技术经验分享

    新东方APP技术架构演进, C端技术经验分享 作者:张建鑫, 曾任IBM高级软件架构师, 滴滴高级技术专家, 现任新东方集团高级技术总监 古代东西方的思想家都产生过一个终极的追问,世界的本元到底是什么 ...

  8. 阿里无线技术架构演进

    阿里无线技术架构演进 手机淘宝作为阿里集团移动端的"航空母舰",近两年发展非常迅猛,用户量增长接近10倍.在2015双十一这天,我们的无线端成交占比高达68% .在高峰期,更有超过 ...

  9. 高德客户端及引擎技术架构演进与思考

    2019杭州云栖大会上,高德地图技术团队向与会者分享了包括视觉与机器智能.路线规划.场景化/精细化定位.时空数据应用.亿级流量架构演进等多个出行技术领域的热门话题.现场火爆,听众反响强烈.我们把其中的 ...

最新文章

  1. JAVA代码如何实现删除文件夹6_java文件创建、删除、读取、写入操作大全
  2. mysql之 日志体系(错误日志、查询日志、二进制日志、事务日志、中继日志)...
  3. Spring Ioc源码分析 之 Bean的加载(5):循环依赖处理(populateBean())
  4. elasticsearch scroll 一页最大数据量_elasticsearch 百亿级数据检索案例与原理
  5. Dell Latitude 3490 使用 UEFI+GPT 安装 Win7 x64
  6. 随想录(常用gdb选项)
  7. 统计学习中常用的损失函数
  8. 简单、易用的光盘封装工具-MKISO纪念版(V1.0.2.0)发布日志
  9. 【金融量化】期货中的成交量和持仓量指标
  10. L9110H电机驱动模块 Arduino 小水泵小风扇
  11. ubuntu本地安装中文
  12. 机器人开发--机器人资料汇总
  13. 从0到1做好KOL运营实操
  14. 从我的角度体会平安车险的服务
  15. 星巴克中国门店突破6000家,上海继续领跑全球,开出第1000家 | 美通社头条
  16. Windows10+Ubuntu双系统安装[多图]整理
  17. SolidWorks二次开发-示例67.创建标准的三视图(工程图)
  18. 在迅捷CAD编辑器中怎么将CAD图纸批量转为WMF格式?
  19. # 个人日记-《困在时间里的父亲》电影观后感-2021-07-11
  20. 如何创造千万GMV?教科书级的方法论在这

热门文章

  1. 学习Java编程-Java Timezone类常见问题
  2. java不同进程的相互唤醒_Java多线程(二)同步与等待唤醒
  3. android运行别人的项目_导入他人的Android工程
  4. 东电计算机考研大概分数,2019年各学院硕士研究生拟录取名单公示
  5. 初中数学503个必考知识点_2020年中考数学必考知识点公布,考生高分、满分提分必备神器...
  6. linux win7 默认启动,请教:我的grub.cfg里面的内容如下,请教怎样改代码才能让WIN7设为默认启动...
  7. boat启动器 minecraft_minecraft boat
  8. 高中数学40分怎么办_高二数学不会,准高三该怎么办?40分到高考140如何逆袭?...
  9. 平台允许同时在线人数 显示_12万人同时在线,游戏未正式发售,国产“糖豆人”已诞生?...
  10. usb hid 调试软件_开源USB免驱固件升级软件分享