首页 > 企业单位招聘 > 企业单位招聘 > 京东到家订单交易架构演化

京东到家订单交易架构演化

发布时间:2024-07-08 16:08:07来源: 15210273549

背景
交易系统可能不是技术难度最深的,但是业务复杂度最高的,一个订单从提交到最后真正生产成功要经历几十个系统,涉及的接口交互,MQ等可能达上百个。任何一个环节出问题都会导致这一单的异常,而且交易不像单纯的资讯门户可以靠静态化或者缓存抗住大并发,交易系统里面涉及到大量的资源(库存,优惠券,优惠码等)消费,订单生成等需要写入持久化的操作不是单纯的异步或者缓存化可以解决的,而且对库存等敏感信息不能出现并发扣减等。

细节的设计非常多,下面挑出比较典型的一些方面,给大家介绍下京东到家交易系统的架构设计和关键问题的处理方案。

历程
系统Set化
初期的订单系统和首页,单品页,购物车业务逻辑层等都是在一个大项目里。非常适合初期人员少,业务复杂度低,快速迭代,不断探索试错的过程,但是随着业务的发展,出现了以下问题:

系统的流量和业务复杂度也越来越大,大家共用一个大项目进行开发部署,相互影响,协调成本变高;
不同的业务模块,流量和重要级别不同需要的部署策略和容灾降级限流等措施也不一样,要分而治之;

解决方案
项目Set化,这个过程中要注意Set化的边界问题,粒度太大了效果不好,太小了设计过度了,反而会增加维护和开发成本;


分库分表
问题
随着订单的并发量的不断攀升,特别是在双十一,618等大促的时候,单组DB(一主多从)存在着明显的压力,单个主库的连接数是有限的。大单量,大并发的时候,数据库越来越成为了我们的瓶颈。

解决方案
针对接单数据库我们采取的常规做法分库,根据订单号进行Hash分布到不同的多个数据库中,代码方面我们是继承了Spring的AbstractRoutingDataSource,实现了determineCurrentLookupKey方法。对业务代码只有很少的耦合。

另外下发到个人中心数据库的订单信息,每天不断的累计到DB中,存在以下风险:

MySQL的单表容量超过单机限制
穿透缓存到达DB的数据查询也是非常有问题的。
目前我们采取对个人中心的表按照pin进行分库分表。
但是对于后端生产系统对于订单数据的查询操作,特别是涉及到多条件组合的情况,由于数据量大,多个表数据的关联,无论分不分表或者读写分离对这个场景都不能很好的解决。

这种场景下我们采用了ES,在写入DB的时候同步写入ES。你可能会问ES失败了,数据不一致怎么办,ES失败了DB回滚,Worker标识状态,重新迎接下一次轮询。

前端下单和后端生产分离
问题
ToC端和ToB端的业务场景不同,前端对互联网用户的更多的是快速响应,抗住流量压力,而后端的场景需要稳定的全量的数据,要在接单的数据库基础上进行补全数据;两个端职责不同,不能互相影响;

解决方案
ToC和ToB分离,前端App或者H5用户下单和后端订单真正的生产相分离;前端订单系统挂掉了,不影响后端的生产;后端的生产挂了,对用户的下单也是无感知的。只是对配送的时效体验上会有影响,不是阻断性的。

我们ToC的订单系统和ToB的是两个不同的独立数据库,互不影响;订单管道的Woker都是基于TBSchedule的分布式管理,多个Woker并行处理,下发时机都在毫秒级;


并行控制提升效率
问题
交易的流程依赖的系统非常多,拿提单按钮来举例,结算页的”提单”按钮,点一次就会触发20+个接口。随着业务复杂度的提升,单纯的串行执行效率越来越低,前端用户的体验越来越差。我们要求TP999在500ms以内的响应速度。

解决方案
我们梳理了服务的依赖关系等,对没有前后依赖的接口进行放到线程池里面异步执行,类似:查询库存,查询商品信息,查询促销信息等都并行执行。此步执行的时间,是并行接口里面最长的一个执行的时间。这样一来整个提单的操作提升了几百毫秒。

另外资源(库存,优惠券,优惠码,促销等)的消费和回滚,我们也采用了并行的方式,每一种资源类都实现消费和回滚的接口。如下图:


每个资源类都是一个Task的成员变量,Task实现了Callable接口。这样一来,不但整个提单大接口的效率提升了,对于资源消费和回滚环节,程序和业务的扩展性提升了很多。比如新增一种资源,这时候只需实现消费和回滚接口,然后扔到线程池里面就完成了。


异步
在服务端可能需要针对提单请求做一些附属的事情,这些事情其实用户并不关心或者用户不需要立即拿到这些事情的处理结果,这种情况就比较适合用异步的方式处理这些事情,思路就是将订单交易的业务整理出来,哪些是不影响主流程的,例如:发短信,保存最近使用地址,清除购物车商品,下发订单给个人中心等等。这些都是在提单之后的异步线程去做。对于下发给个人中心的操作,如果失败,我们会有Woker补偿机制;

我们这里使用的是线程池的模式进行异步处理的,处理过程中有几个问题需要注意下:

线程池的队列不建议使用无界队列,它的默认大小是整数的最大值,这样在突发流量的时候会导致内存暴涨,影响服务;建议使用ArrayBlockingQueue
不推荐使用CallerRunsPolicy,即在线程和队列都达到max的时候,退回此请求到主线程。这样在突发流量或者接口提供方性能下降的时候导致主线程数暴增,影响整体服务。可以直接使用拒绝的策略,后续的Woker可以对异常单就行补偿;
依赖治理
订单交易上百个接口,几十个系统交互。各服务直接的依赖关系如何治理是一个很重要的问题。如下图:


问题
一个服务依赖这么多服务,每个服务除自身的原因外,还受到网络原因等其他外部因素的影响,高并发情况下任何一个依赖的服务的波动都会造成整个大服务的阻塞,进而导致系统“雪崩”。

解决方案
那这些服务特别是不是阻断流程的服务,我们可以采用降级的处理,例如调用超时了给设定默认值,调用量比较大,所依赖的服务严重超时并影响整个调用方时,可以通过配置直接提供有损服务,不调用此服务。

我们解决此类问题是使用自己开发的基于Zookeeper的“鲁班系统”,其原理就是Zookeeper相应的Znode节点下的数据做为对接口的开关或者降级情况的配置等。当相应的节点的数据发生变化的时候,对此节点监听的所有服务器都会受到通知,并将此变更同步到本地的缓存中;本地缓存我们使用的ConcurrentHashMap。当然也可以使用Guava Cache等开源组件,注意并发的场景就可以了;


然后再结合我们的UMP监控系统对系统的可用率,调用量等情况进行降级时机的判定,对Zookeeper相应节点的数据做动态配置;

 


履约
问题
针对订单履约的过程清晰可追溯,我们自己开发了UDP上报系统,对一次提单中操作的所有接口,几十个系统的交互进行了详细记录;

解决方案
出参入参,是否异常,IP等信息均做了上报。通过Spring的AOP方式,开发了一个自定义注解,对添加了注解的方法UDP方式写入到ES集群中;而且我们实现了工具化,任何项目引入我们的Jar包,做简单配置就可以向我们的UDP服务端上报信息了。随着现在的信息量变大,我们正在考虑升级架构,UDP Client端发送信息到Kafka,然后Storm实时在线分析形成最终需要的数据落地到ES集群中;

此系统大大提升了我们定位解决问题的效率。

 

企业单位招聘更多>>

五菱缤果S谍照曝光,神炼电池+环绕尾灯,A0级SUV市场生变? 哈弗M6在俄累计组装产量破万辆 下半年将上市的这4款方盒子SUV,只有1款能好卖? 东莞市长安镇多部门联动 全力护航2025年高考 机构数据显示:特斯拉5月在英销量暴跌46% 事关长安、东风!刚刚宣布,一家汽车新央企将成立 福特5月美国电车销量同比下滑25%,F - 150 Lightning 销量暴跌 42% 上汽集团5月整车产量41万辆 销量为37万辆 OpenAI 内部文件曝光:欲将 ChatGPT 打造成超级助手,挑战苹果 Siri 市场地位 小米官方更新618战报 全渠道支付金额破169亿元 多平台销量第一 余承东称贴华为标汽车可直接躺赢 连续十季度盈利后,理想进入纯电市场找增量 蔚来世界模型NWM首版正式推送:四大升级 3年前老车同样可用 610km纯电中级轿车五菱星光2025款上市 置换一口价仅10.58万元 大众美国公司延长保价承诺至六月底,自担上涨成本 比亚迪新款宋Plus抵达巴西 售价约合31.61万元 加速布局天地一体化出行生态,吉利近期将发射多颗卫星 五年深耕,万科在三山“城” 就理想生活范本 A0级市场SUV卖不过轿车?这三款有望破局 小鹏MONA发布会现场,看看我遇到了谁 何小鹏:小鹏MONA M03 Max首次在15万级实现满血版智能辅助驾驶,能力比肩行业50万级旗舰车型 小鹏mona Max版降价2万配置升级,Plus版新增放电功能 售价40.98万元—43.98万元 图解理想L9智能焕新版 蔚来新ET5/ET5T正式开启交付,整车购买29.8万元起 别克发布“双百万感恩限时礼遇” 比亚迪大降价,多家车企跟进 销量暴涨!本田CR-V 4月卖出12400台,合资SUV的“自救”奏效了? 广汽埃安:比亚迪王朝销量王座的有力挑战者? 普拉多换壳变“豪车”?雷克萨斯GX550h贵30万,真值吗? 周末带妻子试驾埃安UT 认定的一台好车