每天千万级呼叫处理的秘诀

 

站在2米多高的黑板前,语气跌宕起伏,安静波(天润融通总服务架构师)时不时抬手勾连着黑板上粘贴的AWS的功能图标。对面的人目不转睛、频频点头,抓住每个感兴趣的问题追着安静波不放……这里是AWS中国区“This Is My Architechture”专题节目的录制现场。

经历三次蜕变,天润融通呼叫中心云服务才成为今天日均处理千万级数据的“超级系统”。那么,每天要为上千家企业提供呼叫中心云服务,支撑如此庞大的业务规模,天润融通是如何实现系统架构大容量、高可用的呢?

第一代系统架构

AWS成立中国业务区初期,天润融通在当时也做了一个重大决定:建一个完全基于云平台的系统架构,称之为“原生云”架构。2014年,天润融通基于AWS进行整体架构设计的时候,就考虑到了高并发的问题,安静波和他的团队打算利用AWS已经成熟的组件来承载庞大的数据量。

在第一代的架构设计图里面,他们用EC2ELBS3进行组件,由负责生产的EC2进行生产wav原始数据,并通过HTTP传输到ELBELB再转发给负责处理的EC2EC2将这些wav文件进行压缩合并上传到S3,客户通过S3来访问这些数据。

这就是第一代原生云架构的诞生,为今后的架构升级演进奠定了基础。为了解决弹性不足和高成本的问题,安静波和他的团队开启了第二代系统架构的研究。

第二代系统架构

与第一代系统架构的差异不大,主要是解决原来系统架构中的弹性问题,所以天润融通的第二代系统架构引入了AutoScaling,使数据处理能够随话务量的增减而进行伸缩变化。

虽然数据处置任务由AutoScaling来创建,解决了弹性的问题,但就单个语音处理来讲,最终是落到EC2上去处理。所以如果中间EC2出现单点故障,是会出现录音数据丢失的可能。同时,所有录音wav文件通过ELB负载均衡到后端的media-zipELB的流量压力会比较大。

第三代系统架构

为了防止录音数据丢失的隐患,在2017年以后,天润融通上线了第三代语音处理架构设计。在这个架构里面,从录音的生产到最后的存储,中间省掉了ELB转到EC2的处理,直接从生产的EC2传到S3上,通过S3的配置事件驱动,来启动lambda函数,lambda将获取到的wav文件数据进行压缩处理,转换成mp3最后再上传到S3压缩库里,便于用户进行试听和和下载,整个中间的处理全部实现无服务化。

大规模使用S3要避免产生数据热点问题,仅以天润融通北京平台为例,每天产生近200万个录音文件,约4T的数据量。安静波和他的团队用了一个小窍门,就是以日期倒序的形式,使目录按天来存储,数据随日期的变化而变化,就能减少数据热点的产生。

这个新架构不仅大幅提升了数据的安全性,而且在弹性方面进行了优化,之前的架构需要花10分钟的时间去实现弹性效果,但目前的架构只需要不到10秒钟的时间就能完成弹性处理,录音生成更快。

除了以上提到的组件,天润融通还用到了大量的AWS高可用大容量组件,并根据应用场景组合使用这些成熟组件。比如ElasticCache Redis,它是整个系统运行中高速数据中心,比如DynamoDB来处理大量的话单数据和统计数据,还大量采用SQS来实现组件之间的异步消息传递和模块解耦。

据统计,在目前AWS中国区上线的服务中,天润融通用到了20多项。这种以云平台组件来搭建原生云架构,日均处理千万呼叫的数据量,在公有云呼叫中心应用中,属国内最大。

相比较软件在云端虚拟化部署,原生云架构拥有更强大的适配能力,能充分发挥云平台大容量、高可用的优势,系统更稳定,服务能力更强,为企业降本提效。

目前,天润融通基于原生云的系统架构,实现了20000+座席并发登录,10000+座席并发呼叫,呼叫中心系统可用性达99.99%,让企业以低成本获得高性能的同时,着重为企业提供呼叫中心云服务能力,而不仅仅是一个软件系统。这种云服务能力具有系统持续演进更新、容量随业务自动伸缩、随处随时可得和平台资源易享的优势。

但天润融通呼叫中心系统的演进不止于此,安静波和他的团队已经在关注AWSLexPolly等组件方面的研究,未来将会使用这些组件,为企业提供更优质的呼叫中心云服务。

 

关于天润融通

北京天润融通科技股份有限公司(简称:天润融通)创建于2006年,专注于为企业提供呼叫中心云服务(工信部呼叫中心运营许可:B2-20070013),于20161月在新三板挂牌(证券代码:835653)。天润融通致力于推动呼叫中心系统和资源建设从硬件集成云化服务转变,开创了呼叫中心云服务模式,让呼叫中心从此变得简单、可靠、按需、可成长

目前,天润融通服务的客户覆盖了金融、保险、汽车、教育、旅游、本地生活、企业服务、房产等十多个领域,包括太平洋保险、百度、去哪儿、新美大、瓜子二手车、VIPKID、链家网、今日头条等众多知名企业,客户数量已达上千家。天润融通现有员工近200人,总部设在北京云基地,在上海和深圳分别设有华东和华南总部。

了解天润融通,请访问:www.ti-net.com.cn

电话:10109099