All writings

P2P 文件分发、视频流和 CDN

客户-服务器与 P2P 文件分发,视频流、DASH 和 CDN

Computer NetworkingContent Distribution

P2P 文件分发

在传统的集中式分发之外,对等网络(P2P)提供了一种极具扩展性的文件分发方式。当需要从单一服务器向海量主机(对等方,Peer)分发一个大文件时,每个对等方在接收数据的同时,能够向其他对等方重新分发自己已经缓存的文件块,从而将客户端的闲置上行带宽转化为系统的分发能力,协同源服务器完成分发。

P2P 体系结构的扩展性

为了定量对比客户-服务器(C/S)体系与 P2P 体系的分发能力,可以建立一个简化的数学模型,考察将一个文件分发给一组固定的对等方集合所需的时间。

Pasted image 20231106155558.png

模型参数与符号定义:

  • usu_s:服务器接入链路的上载速率
  • uiu_i:第 ii 个对等方接入链路的上载速率
  • did_i:第 ii 个对等方接入链路的下载速率
  • FF:被分发的文件大小(比特)
  • NN:希望获取该文件副本的对等方数量
  • 分发时间(distribution time):所有 NN 个对等方都获取到完整文件副本所耗费的时间

模型假设: 假设网络核心具有充裕带宽,瓶颈仅存在于网络边缘的接入链路上;服务器与客户端均专用于该分发任务,其全部上传与下载接入带宽均可用于文件传输。

客户-服务器体系结构

在传统的客户-服务器模式下,对等方之间不共享任何数据,服务器必须向每个对等方单独传输一份文件副本:

  1. 服务器上载瓶颈:服务器累计必须发送 NFNF 比特。由于服务器的最大上载速率为 usu_s,仅服务器把数据全部推送到网络中就需要至少 NF/usNF / u_s 秒。
  2. 客户端下载瓶颈:令 dmin=min⁡{d1,d2,…,dN}d_{min} = \min\{d_1, d_2, \dots, d_N\} 表示所有对等方中的最低下载速率。即使服务器瞬时发出全部数据,下载最慢的对等方接收完整个文件也至少需要 F/dminF / d_{min} 秒。

综合上述两个独立下界,客户-服务器体系结构下的最小分发时间为:

Dcs≥max⁡{NFus,  Fdmin}D_{cs} \ge \max\left\{\frac{NF}{u_s}, \; \frac{F}{d_{min}}\right\}

当节点规模 NN 很大时,NF/usNF / u_s 占绝对主导地位。这意味着客户-服务器架构的分发时间随着对等方数量 NN 呈严格的线性增长。

P2P 体系结构

在 P2P 模式下,每个对等方不仅下载,还可以向上贡献带宽帮助分发数据:

  1. 服务器底线:服务器至少需要将其接入链路上的每个比特向外发送一次,因而分发时间至少为 F/usF / u_s。
  2. 节点下载底线:与 C/S 相同,下载速率最慢的节点依然至少需要 F/dminF / d_{min} 才能收完全部比特。
  3. 系统总体上载容量:整个系统的总上载能力为服务器上载速率与所有节点上载速率之和,即 utotal=us+∑i=1Nuiu_{total} = u_s + \sum_{i=1}^N u_i。系统总计需要向这 NN 个对等方交付 NFNF 比特,在理想状态下,完成总交付的最短时间为 NF/(us+∑i=1Nui)NF / (u_s + \sum_{i=1}^N u_i)。

综合三项约束,P2P 体系结构的最小分发时间满足:

Dp2p≥max⁡{Fus,  Fdmin,  NFus+∑i=1Nui}D_{p2p} \ge \max\left\{\frac{F}{u_s}, \; \frac{F}{d_{min}}, \; \frac{NF}{u_s + \sum_{i=1}^N u_i}\right\}

只要允许对等方一旦接收到一个块就能立即向外重分发,理论上就存在分发调度方案逼近这一理论下界。

假设所有对等方的上载速率相同为 uu,令单个节点上传整个文件的时间 F/u=1F/u = 1 小时,服务器上载速率 us=10uu_s = 10u,且 dmin≥usd_{min} \ge u_s:

Pasted image 20231106172311.png

从对比曲线可以看出:P2P 架构的最小分发时间不仅全程低于客户-服务器架构,而且随着对等方数量 NN 趋于无限大,最小分发时间有严格的上界(在该参数设定下恒小于 1 小时),表现出优异的自扩展性。

BitTorrent

BitTorrent 是一种广泛应用的 P2P 文件分发协议,其核心机制与术语包括:

  • 洪流(Torrent):参与某特定文件分发的所有对等方的集合。
  • 文件块(Chunk):洪流中的文件被切分成大小固定的块(通常为 256KB),对等方彼此按块下载。
  • 追踪器(Tracker):洪流的基础设施节点。对等方加入洪流时必须向追踪器注册,并周期性报告自己的存活与下载进度,追踪器以此维护参与节点的视图。
  • 疏通(Unchoked):对等方根据对方的上传速率动态评估,优先向为自己提供高速率传输的邻居发送数据,处于数据顺畅互传状态的对等方称为被疏通。

邻近对等方的维护: 新节点(例如 Alice)加入洪流时,追踪器会随机挑选集合中的一个子集(例如几十上百个节点)并将 IP 列表返回给 Alice。Alice 尝试与列表上的所有节点建立并发 TCP 连接,成功建立连接的节点集合即为她的“邻近对等方”。

最稀缺优先(Rarest First)策略: Alice 在决定接下来向邻居请求哪些块时,优先选择那些在所有邻居中副本数量最少(即最稀缺)的块。这一策略能迅速在群体中均衡稀有块的分发,降低某个块在群体中绝版的风险。

视频流和内容分发网

视频是一组按恒定帧率(如 24 或 30 fps)连续播放的图像序列。未经压缩的数字图像由像素矩阵构成,编码体积庞大;利用视频帧内与帧间的冗余特性进行压缩,可以在不同的比特率(码率)与画质之间进行权衡。对于流式视频应用而言,最关键的性能指标是端到端吞吐量——如果持续吞吐量低于视频的播放码率,播放器缓存耗尽就会导致卡顿与停滞时延。

为了在异构、动态的网络环境下平稳播放,现代网络视频普遍采用 DASH(Dynamic Adaptive Streaming over HTTP,基于 HTTP 的动态自适应流) 技术:

  1. 多码率分段编码:视频在服务端被预先压缩编码为若干不同码率的版本(对应不同画质),每个版本均切分成若干秒(如 2~10 秒)长度的独立视频段数据块。
  2. 告示文件(Manifest File):服务端提供一个媒体描述文件(如 MPD),列出各版本对应的 URL 及其码率、分辨率信息。
  3. 客户端自适应调度:播放器客户端首先获取告示文件,然后按需依次发起 HTTP GET 请求下载视频块。客户端持续监控当前可用带宽与缓存水位:带宽充裕时请求高码率分段,带宽恶化时主动降级请求低码率分段,从而在保障播放连续性的前提下尽可能提升画质。

内容分发网

Pasted image 20231108103623.png

若依靠单一的集中式大规模数据中心分发视频流,会面临几个根本性瓶颈:

  • 距离遥远与长途链路瓶颈:远距离用户与数据中心之间要经过多个跨域 ISP,端到端吞吐量易受途经瓶颈链路制约,极易引发播放停滞。
  • 骨干网带宽重复浪费:同一热门视频需要经过相同的骨干网链路反复传输给不同用户。
  • 单点故障风险:若该数据中心或其接入链路故障,整体服务将完全瘫痪。

为了化解这些问题,内容分发网(CDN, Content Distribution Network) 在全球各地的地理位置上部署分布式服务器集群,在节点缓存视频、网页、图片等热点内容的副本,并将用户的请求动态重定向至体验最优的就近 CDN 节点。

CDN 服务器安置原则主要有两种流派:

  • 深入(Enter Deep):将集群深度部署到全球大量本地接入 ISP 中,使服务器物理上极其贴近端用户。这种方式能最大化降低时延与提升吞吐量,但由于节点高度分散,运维与集群管理成本极高(Akamai 早期典型做法)。
  • 邀请做客(Bring Home):在少数关键网络枢纽(如大型 IXP 或靠近一级 ISP 的骨干节点)部署规模更大的集群,邀请 ISP 互联访问。这种模式管理开销相对更低,但端用户的平均时延与吞吐表现可能略逊于深度部署方案。

集群选择策略

集群选择策略(Cluster Selection Strategy)负责动态将用户请求导向最合适的 CDN 服务器集群或数据中心,主要有两种实现思路:

  1. 地理上最为邻近(Geographically Closest):
    • 依赖权威 DNS 根据请求发起方的 IP 地址查表判断地理位置,返回物理上最近的集群 IP。
    • 固有缺陷:权威 DNS 收到的是用户的本地递归 DNS(LDNS)的地址,若用户手工配置了公共 DNS 或远端 LDNS,解析出的就近节点将严重偏离用户的实际位置;此外,地理距离最近并不等同于网络路径(跳数、拥塞度)最优。
  2. 实时测量(Real-Time Measurement):
    • 由 CDN 节点向分布在各地的 LDNS 周期性发送探测分组(如 ICMP ping 或 SYN 握手),实时测量各集群到该网络的延迟与丢包表现,以此指导调度。
    • 局限性:许多运营商或公共 LDNS 会配置防火墙阻断此类主动探测报文。
[ CLICK TO MIX THE FIRST DRINK ]