特色技术

千万级并发技术

作者:admin 发布时间:2018-07-04 浏览量:

image.png

(1)千万级并发技术


一种通过特殊的架构设计,可以同时承载1000万个访问量,而服务器不崩溃,正常运转的IT技术。我们可以达到3万/S,市场主流为0.4万/S。


如何实现支持千万用户的长连?

image.png

◆ 1千万的并发连接数


◆ 100万个连接/秒--每个连接以这个速率持续约10秒


◆ 1千万个数据包/秒--据估计目前的服务器每秒处理50K的数据包,以后会更多。


◆ 数据包的可扩展性


◆ 多核的可扩展性


◆ 内存的可扩展性

image.png

首先要改变对系统的认识,不论线程还是进程,都不可能一个连接创建一个,相应的成本太大,多进程和多线程都有资源耗费比较大的问题,所以在高并发量的服务器端使用并不多。解决方案是一个线程或者进程处理多个连接,更具体的现在比较主流的是:协程模型和非阻塞/异步IO。

image.png

金策略公司采用的是协程技术,协程本质上是一种轻量级的线程,它的开销会比使用线程少很多。而且调度的开销非常小,一颗CPU调度的规模不下于每秒百万次,这使得我们能够创建大量的协程,从而可以很轻松地编写高并发程序,达到我们想要的目的。每条连接TCP协议栈会占约4k的内存开销,系统参数调整后,我们单机测试数据,最高也是可以达到单实例300w长连接。