
一个成熟的大型网站(如淘宝、天猫、腾讯等)的系统架构在设计开始时没有完整的高性能、高可用性、高伸缩性等特点。随着用户数量的增加,业务功能的扩展逐渐演变和完善。在这个过程中,开发模式、技术架构和设计理念也发生了很大的变化,甚至技术人员也从几个人发展到一个部门甚至一条产品线。
以下是介绍大型网站系统的演变过程,了解这些技术和手段。
1.最初的网站架构
服务器上部署了最初的架构、应用程序、数据库和文件
2.分离应用程序、数据和文件
随着业务的扩展,服务器不再满足性能需求,因此在独立服务器上部署应用程序、数据库和文件,并根据服务器的用途配置不同的硬件,以达到最佳的性能效果。
3.利用缓存提高网站性能
在硬件优化性能的同时,也通过软件进行性能优化。在大多数网站系统中,缓存技术将用于提高系统性能。缓存的使用主要来自热点数据的存在。大多数网站访问遵循28个原则(即80%的访问请求,最终落在20%的数据上),因此我们可以缓存热点数据,减少这些数据的访问路径,改善用户体验。
本地缓存和分布式缓存是实现缓存的常见方法。当然还有CDN、反向代理等,以后再说。顾名思义,本地缓存是将数据缓存到应用服务器本地,可以存储在内存或文件中,OSCache常用的本地缓存组件。本地缓存的特点是速度快,但由于本地空间有限,缓存数据量也有限。分布式缓存的特点是可以缓存大量数据,容易扩展。常用于门户网站,速度不如本地缓存快。常用的分布式缓存是Memcached、Redis。
4.利用集群提高应用服务器的性能
作为网站的入口,应用服务器将承担大量的请求,通常通过应用服务器集群共享请求数量。负载平衡服务器调度用户请求部署在应用服务器前并根据分发策略将请求分发到多个应用服务器节点。
常用的负载均衡技术硬件有F5.价格比较贵,有软件LVS、Nginx、HAProxy。LVS根据目标地址和端口地址和端口进行选择,Nginx和HAProxy七层负载均衡,内部服务器可根据报内部服务器,因此LVS优于分配路径Nginx和HAProxy,而且性能更高Nginx和HAProxy如果可以用于动静分离(根据要求报文的特点,选择静态资源服务器或应用服务器)。
5.数据库读写分离和分库分表
随着用户数量的增加,数据库成为最大的瓶颈。提高数据库性能的常用手段是读写分离和分库表。顾名思义,读写分离是将数据库分为读写库,通过主要功能实现数据同步。分库分表分为水平分割和垂直分割,水平分割分为特大数据库表,如用户表。垂直分割是根据不同的业务进行分割,如用户业务、商品业务相关表放置在不同的数据库中。
6、使用CDN反向代理提高网站性能
如果服务器部署在A城的机房,A城的用户访问速度更快,而B城的用户访问速度更慢,因为A城和B城属于互联网的不同发达地区,B城市用户需要通过互联路由器通过长路径访问A城服务器,返回路径相同,数据传输时间较长。
在这种情况下,经常使用CDN解决,CDN将数据内容缓存到运营商的机房,用户首先从最近的运营商获取数据,大大降低了网络访问的路径。CDN运营商有蓝汛、网宿。
反向代理部署在网站的机房。当用户要求到达时,首先访问反向代理服务器。反向代理服务器将缓存数据返回给用户。如果没有缓存数据,它将继续访问应用程序服务器,以降低获取数据的成本。反向代理有Squid、Nginx。
7.使用分布式文件系统
随着用户数量的增加,业务量越来越大,文件越来越多,单个文件服务器无法满足需求,需要分布式文件系统的支持。常用的分布式文件系统有GFS、HDFS、TFS。
8、使用NoSQL和搜索引擎
建议使用海量数据的查询和分析NoSQL数据库和搜索引擎可以实现更好的性能。并非所有的数据都应该放在关系数据中。NoSQL有MongoDB、HBase、Redis,搜索引擎有Lucene、Solr、Elasticsearch。
9.业务拆分应用服务器
随着业务的进一步扩张,应用程序变得非常臃肿。此时,应用程序需要分为新闻、网页、图片等业务。每个业务应用程序都负责相对独立的业务运营。业务通过信息或共享数据库实现。
10.建立分布式服务
此时,您会发现,每个业务应用程序都将使用一些基本的业务服务,如用户服务、订单服务、支付服务和安全服务,这些服务是支持每个业务应用程序的基本要素。提取这些服务,并使用分部服务框架构建分布式服务。阿里巴巴Dubbo是个不错的选择。
成熟的系统结构随着业务的扩展而逐渐完善,不是一蹴而就的;不同业务特点的系统会有自己的重点,比如淘宝,需要解决大量商品信息的搜索、下单和支付;比如腾讯需要解决数亿用户的实时信息传输;百度需要处理大量的搜索请求。
他们都有自己的业务特点,系统架构也不同。然而,我们也可以从这些不同的网站背景中找到共同的技术,这些技术和手段被广泛应用于大型网站系统的架构中。
希望以上内容对您有所帮助,如有疑问,欢迎咨询码刀科技!
码刀科技(www.lekshop.cn)是国内知名企业级电商平台提供商,为企业级商家提供最佳的电商平台搭建(多种模式电商平台搭建:B2B/B2B2C/B2C/O2O/新零售/跨境等)、平台管理系统开发及互联网采购解决方案服务, 联系客服了解更多.