京东首次对外披露技术备战细节.DG
京东首次对外披露11.11技术备战细节, AI成为新特点
(本文全文转自雷锋,原标题:AI是重要卖点 京东技术团队讲解双十一攻坚战)
在临近今年双十一还有两个周的时间点,京东团队从技术角度,详解了如何打好618、准备双十一的攻坚战。
技术加持大促
京东商城首席架构师刘海峰表示,每年的大促,都是研发的一场重要的考试,确保系统安全性。他主要从四个方面来介绍了大促备战,可以分4个项目来介绍ForceBot军演压测、Chaos Monkey 故障演练、广域分部架构、阿基米德,通过这些项目展示了对故障、流量、扩展、成本的应对。
第一,让京东技术系统能够确保0故障。
刘海峰表示,为了检验技术系统的稳定性
,确保系统在硬件与服务出问题时不影响用户体验,京东研发团队开发出一套名叫ChaosMonkey的系统,专门应用于京东做大规模的故障演练。可以说,故障演练是京东过去几年大促中的例行工作。
根据故障类型从络层面、系统层面、数据库和中间件,甚至到应用服务的层面,去做各种各样的故障模拟和验证。来考察各级力度发生的时候,我们整个基础团队的检测、响应、处理还有恢复的时间。我们要求小的故障不需要人介入,大故障人工介入可以快速完成。通过整个这样的工作,在大促之前的两个月期间密集的来开展,提高我们对大规模故障的容错能力。
第二,所谓流量,即是通过ForceBot军演压测,确保有较强的技术能力能够扛住大促峰值来临时的巨量流量冲击。
每年双11与618当夜零点,瞬间流量是很大的,为了应对此间流量高潮,京东技术团队需要提前做大量压测工作。早期,所有压测都局限某一个系统或者某一个链条里面。但是,刘海峰表示,这样做会有缺陷,它不能很好地检验全链条系统,这些对大促来讲都是最关键的。
2016年10月左右,京东集团团队开始设计一个新一套的军演机器人,ForceBot,如模拟一千万个用户在全国各地同时部署于京东节点,在真实流量的情况下,机器人通过程序发起大的流量进行全链的压测,发起上亿的浏览、搜索、加购物车、下单等等并发任务。通过写程序模拟人的行为发起上亿的浏览、选商品、加购物车、下单等,实现,整个全链路联动的压测。
于是,从2016年双11开始,单机房的军演压测成为大促之前最关键的工作。刘海峰表示,今年618备战期间,团队进行了四次全链路的军演压测,通过单机房的军演压测成为系统优化以及资源评估、分配的重要依据。
第三,所谓扩展,也是今年在做的广域分部架构,即在公司规模不断扩展、消费者流量不断增加的情况下,增加机器、新建机房,同时保证公司业务实现没有上限地增长下去。
京东的技术架构经历了从JAVA到同城单机房到同城双机房、最后到广域分布式的过程。国内的各个地域,包括华北、华南、华东均有不同的IDC,整体形成大数据中心,同时让用户流量就近接入,解决整体可扩展性问题,无论哪个区域出现问题,都能实现灵活流量调度。刘海峰表示,这套过程名叫异地多活,不同公司、团队对它均有不同理解,京东的特殊性在于经历了完整的历程。
第四,有效控制成本,在合理阈值内搞大促。
随着每年618与双11业务增加、访问流量增大、投入资源增加,购入的机器越来越多,机器成本已然非常高,怎样既做好大促、同时合理控制成本,京东技术团队提出名为阿基米德的技术方法,具体来讲是
第一,做海量资源池的统一调度,特别是业务是京东主要大促的备战服务,此外还有离线处理。技术团队将两个资源池打通,做抢占式调度,然后做大规模超卖,进一步提升资源利用率。
第二,做混合云,京东技术团队在大促期间租用一部分机器,比如京东云,也有可能是其他云服务合作伙伴,扛住大促流量。
车来了AI的融入
在京东商城中台研发高级总监王晓钟印象中,AI技术融入到京东每年618与双11,并不是发生在某个具体节点,而是一种自发性的、百花齐放状的。包括客服机器人、智能补货、销量预测、供应链体系的优化这些都是通过人工智能的技术来实现的。
具体来讲,AI技术对大促的技术保障有哪些方面呢,王晓忠从两点向雷锋介绍:
第一个,京东技术团队研发经验机器人,进行全链路故障演练,某种程度上来说也是程序模拟人的行为,去模拟一个大的流量场景。
第二,大促期间,京东技术团队利用AI技术去更智能地服务一些客服任务。
今年京东双十一较以往最大的不同,可以说就是AI技术的运用了。王晓钟对雷锋解释称,以线上流量监控为例,做方案、降级、分流等任务,均是人工完成,今年已实现在监控数据详实基础上的半人工智能化,王晓钟称,预计明年618与双十一可以实现在很大程度上的全人工智能化。
容器系统上,京东做了四年之久:2014年8月第一代名为JDOS的容器平台,最初定位不仅仅做容器,还做整个数据中心的OS,系一套大的集群管理系统。从2014年至2016年初,京东容器一直都是OPenStack的1.0系统;从2016年初开始,启动OPenStack 2.0系统,将线上几十万核实现异地迁移,以实现更简单的运维。
其次,刘海峰表示,团队在做更统一、更动态的资源调度,不再是固定多少核,而是根据负载做大规模的统一调整。这个资源池不不仅限于在心业务的资源池,还有离线业务的资源池,让它更有弹性。
具体而言,从经济效应来说,如果想让集群管理更有经济价值,无非是两方面的工作超卖与强行调度。刘海峰表示,从2011年到现在,通过超卖技术节省了很多机器。今年大促京东也会广泛地使用和离线的混合调度的方式,缓解大促时候的峰值的流量。
对于今年备战双十一,包括阿里、京东、苏宁等电商平台纷纷加码人工智能、无人机、无人店等宣传曝光,王晓钟对雷锋(公众号:雷锋)表示,人工智能是在备战中很重要的卖点,同时更是看得见、摸得着的很实在的东西。
孕期用药该用新药还是老药成都输卵管性不孕
杭州医院哪妇科好
- 上一页:反射隔热涂料还选志盛威华.源泉
- 下一页:反射隔热涂料防晒性能分析.鼓励
-
爱人是从互相爱慕到相互彼此产生了解
所选男人,还是所选个疼你的好。真情,缘故就是个倒是静的词儿。它不只是...
2024-11-25
-
看了7天《风起陇西》,发现演绎不能比较,因为优劣之间一目了然
003010,同类型明星阵容,播出有七天了,随着情节结局的转型,情节也到了颇...
2024-09-19
-
我在甘肃卖拉面:180㎡年营收500万,8个月回本
“乌什超市过去一个同年能好好45万左右。”两匹国追说。 他是“两匹魔术师...
2024-07-23
-
存储巨头们,拼成什么?
打印器是现代信息系统会的极为重要子系统之一,其普遍应用普遍,低价巨大...
2024-05-06
-
堪比好莱坞大片,看老黄如何运用三十六计,破2022高考数学分析的堡垒
2022年中考微积分全国卷I的填空压轴题,考卷人是铁了心要和试卷们自觉斗勇...
2024-04-24
-
一美演技爆表的片子——《分裂》(上)
陌生人似乎地拉低上衣,想盖住盲目性感的丝袜,一美注意到却怒了 (你来...
2024-04-21