第一财经网站直播平台的系统架构设计和实现
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第一财经网站直播平台的系统架构设计和实现
张琦1,高飞,仝渭民
(1.上海广播电视台技术运营中心技术部,上海200041;)
摘要: 本文详细介绍了基于CDN等流媒体技术的第一财经流媒体直播平台设计和实施方案。
文章首先介绍了平台设计开发的背景和意义;其次,详细介绍了各个子系统的功能和具体实现。
第一财经流媒体直播平台不但改变了原第一财经网站单向发布的模式,增强网站用户的互动性,而且能收集用户行为数据,对其进行行为分析。
为网站排名提升及收费信息、广告定向发布提供平台及数据支撑。
关键词:流媒体,直播,CDN;
中图法分类号:TP39文献标识码: A
Design and Implement of CBN Live Media Streaming System
(Zhang Qi1, Gao Fei, Tong Wei-Min)
(Information Technology Dept. of Technical Center, SMG, 200041, China)
Abstract: This paper introduces the platform design and implementation plan of China Business News (CBN) Live Streaming Media System based on Content Distribution Network (CDN) technology and so on. We introduce the background and significance of CBN Live Media Streaming system first, and then the design and implementation details of the system framework as well as its sub-systems. The new CBN Live Streaming Media Platform (LSMP) not only changed the old Unidirectional Releasing Model to improve user interaction, but also help for collecting and analyzing user behavior data on CBN website. The new CBN LSMP provides a comprehensive platform and data support for CBN to improve website ranking, billing, and advertising.
Key words: Media Streaming, Live, CDN;
1 引言
随着宽带网络的普及和计算机相关技术的发展,向日益增长的、海量的互联网用户提供有服务质量保障的流媒体服务成为可能。
对于目前以有线电视网络为传播的内容提供商而言,正在面临一个挑战——同时也是一个机遇:从目前的广播电视网络向互联网延伸。
第一财经(CBN)作为内容提供商,在将内容、服务向互联网延伸时,具有了得天独厚的优势,而将内容延伸到互联网后,由于互联网本身具有的优势、特点,使得在传统广播电视网络上发展起来相对困难的一些增值服务、特色功能更容易实现。
第一财经流媒体直播平台不但改变了原第一财经网站单向发布的模式,增强网站用户的互动性,而且通过收集用户行为数据,对其进行行为分析。
为网站排名提升及收费信息、广告定向发布提供平台及数据支撑;随着承载网络的升级,用户接入带宽的增加,网络视频逐渐成为主流应用,第一财经流媒体直播平台能为用户提供IPTV的体验,通过先进的流切片技术、后台存储和索引设计,可以提供理论上无限长的时移距离。
2结构设计
以技术推动用户体验,以服务阐释新媒体,实现任何时间、任何地点访问任意电视内容是第一财经流媒体直播平台的产品设计理念。
第一财经流媒体直播平台主要负责网上直播及节目收录,同时兼顾手机平台的直播。
系统使用H.264编码和FLV封装,用户可无插件地观看。
整个直播平台主要分为流媒体直播发布子系统和流媒体运营管理子系统;功能结构图如下:流媒体直播发布子系统主要完成流媒体视音频直播采集、流媒体视音频收录、流媒体发布、流媒体传输等功能;流媒体运营管理子系统主要实现第一财经流媒体直播平台的EPG采集和管理、VOD媒体资源管理、CDN监控管理和分发、后台流媒体服务等管理功能。
第一财经流媒体直播平台结构图详见图1。
图1 第一财经流媒体直播平台结构图
3 流媒体直播发布系统设计
3.1流媒体采集编码服务
实时流媒体采集编码服务是整个系统中非常重要的组件,其主要功能是采集音视频源信号,将其编码成多种码率的FLV 格式,并发送给直播引擎和集群存储服务器的录制端。
媒体采集编码服务系统架构详见图2。
采集压缩系统
图2 媒体采集编码服务系统架构图
实时流媒体采集编码服务系统包括信号采集、多路编码器和通讯服务三个主要模块:信号采集模块通过音、视频采集设备或数字信号进行多路实时采集,应用了优化的视音频帧interleave 算法,通过由视频源采集出音视频的同步性更高。
采集得到的中间格式以高清晰的MPEG2格式编码后传入实时流媒体编码器;实时流媒体编码器可对于每个视频源并发启动多路编码,接收到来自采集模块的MPEG2格式的原始视音频流后,按照用户需求将其编码成多个不同图像大小、码率、帧率的流,然后提供给通讯服务模块;通讯服务模块接受外部应用的请求后,将视音频数据拆分成网络传输包的形式分发给请求端。
如果网络发生阻塞,通讯服务模块可以根据实时性要求选择暂存或丢弃帧的策略,后者可以保证所发数据都是最新的。
3.2 流媒体转发服务
流媒体源信号所在地离用户往往有较长的距离,因此我们使用流媒体转发服务模块将流媒体数据从源信号发生地送达用户所在的流媒体边缘时移服务系统。
由于在数据长途传输的途中,网络情况异常复杂,因此流媒体转发服务模块采用实时QoS 策略,优先传输音频和视频关键帧;该模块支持从内网向外网服务器推送模式(Push )上传,可跨越NAT 障碍;支持VPN 或IP Tunnel 方式上传,保证在复杂现场条件下的数据发送。
3.3边缘时移流媒体服务
边缘时移流媒体服务模块是本系统的核心模块,由于它的存在,使得本系统能够给予用户崭新的电视观看体验——时移观看。
使得用户在传统的被动直播观看之外又多出了主动选择的机会,可以随时观看已经播出过的节目。
边缘时移流媒体服务模块部署在CDN 网络的边缘,能够快速响应用户的流媒体数据请求。
3.4边缘媒体分片缓存服务
边缘媒体分片缓存服务器模块是CDN 网络中的核心功能部件,其功能是由中心存储访问网关获取并缓存VoD 和时移的文件分片,并且根据边缘流媒体服务模块的请求进行数据分发。
由于本系统的数据分片传输协议是标准的HTTP/1.1协议,因此边缘媒体分片缓存服务模块具有良好的互操作特性和兼容性,可以方便的与各类业界成熟硬件产品进行集成,从而方便的实现负载均衡和性能扩展。
3.5条件访问控制服务
条件接收系统(CAS )作为第一财经流媒体直播平台的一个重要组成部分,可以在为版权拥有者提供大规模互联网流媒
体服务的基础上,实现有控制的流分发,支持多种策略并且可以根据具体应用场景扩展和定制授权方式。
CAS 的设计目标是在HTTP 流协议的基础上,以多种成熟、有效的安全机制和算法避免非授权的流媒体下载和复制。
3.6流媒体定位和负载均衡服务
边缘时移流媒体服务模块每5秒钟将自身状态信息汇报至CDN 监控统计中心,提供的数据主要有:当前连接数、当前下行带宽、当前直播服务器与信号源之间的延迟时间(毫秒精度),服务器最近一次更新状态时间(keep alive time )等。
流媒体播放器连接某个频道时,会先到流媒体定位和负载均衡服务模块根据请求的频道编号获取边缘流媒体服务节点列表,流媒体定位和负载均衡服务模块将根据用户来源、预设的负载均衡策略和当前的CDN 节点状态生成该节点列表,并且通过调整节点在该列表中的权值便可以实现负载均衡。
具体流媒体定位和负载均衡服务流程详见图3。
3.
图3 流媒体定位和负载均衡流程图
3.7流媒体录制存储服务器集群
流媒体录制存储服务器集群是第一财经网站直播系统中的数据存储模块。
结合目前的设计,每个频道每秒所产生的数据超过1Mbps ,数百个频道产生的数据量将更加可观,为此,设计了稳定可靠的的集群存储系统架构。
流媒体录制存储服务器的网络包接收端从视频采集服务器接收视频数据包,并将其交给录制器,录制器从视频流中抽取出索引,写入索引数据库,同时将视频数据按照固定大小文件分片的形式,写入共享存储集群,存储/索引访问网关负责当用户请求数据时利用索引信息找到相应文件块并发送数据。
3.8时移直播收录功能
时移直播收录系统可指定任意直播流的任意开始和结束时间进行信号的收录,与传统的定时计划录制系统相比具有操作简便,打点精确,无需再次转码,可靠性高的特点。
可以在直播完成之后的任意时间进行收录,具有时间上极大的灵活性。
4流媒体运营管理系统设计
4.1 CDN 监控、管理和分发子系统
CDN 的全称是Content Delivery Network ,即内容分发网络。
其目的是通过在现有的Internet 中增加一层新的网络架构,将服务器的内容发布到最接近用户的网络"边缘",使用户可以就近取得所需的内容,从而缓解Internet 网络拥挤的状况,缓解骨干网带宽的压力,缓解中心服务器的压力,提高用户访问网络服务的响应速度。
CDN 是一个策略性部署的整体系统,通常由中心存储,分布式缓存、定位和负载均衡、全局监控统计服务器和内容分发管理系统等几个部分组成。
本系统中的CDN 系统主要负责流媒体内容的分发和调度,由于流媒体的特殊性,本系统CDN 采用了先进的分片缓存和流缓存两种缓存方式。
分片缓存的分发方式采用与传统的文件块分发类似的技术,流媒体录制存储服务器和边缘媒体分片缓存相结合便可实现推送和按需缓存两种模式。
另一方面,由于视频分片在本存储系统中是按照频道、码率、时间等信息进行组织和管理的,因此可以方便的按照流媒体业务本身的特点,安排相应频道、相应日期、相应节目的分发策略。
流缓存是本系统独有的一项优化CDN 网络的技术,边缘时移流媒体服务器本身就可以实现内存/磁盘两级缓存策略,每个码流的磁盘缓存的时间可达7天以上。
这样,用户在进行时移操作时,近几天的数据并不需要访问文件分片数据,也就是只需要持续输入一个实时媒体流便可以实现几日以内的时移电视业务。
4.2EPG 采集和管理子系统
EPG 采集和管理系统分为EPG 采集系统、EPG 管理系统两个部分。
EPG 采集系统可以使用不同形式的外部接口采集数据,包括外部web service 、广电内部web service 、广电的EPG 数据库等。
EPG 采集系统的输出包括本系统自定义的EPG XML 和EPG 数据库,两者互相独立且可以相互转换。
通过EPG 数据库,EPG 信息可以有不同形式的外部呈现,包括在Flash Player 的EPG 显示。
同样,EPG 管理系统也通过EPG 数据库进行EPG 信息的人工编辑管理。
4.3VoD 媒体资源管理子系统
VoD 媒体资源管理平台是一个多功能集成的开放性综合业务平台,包括文件系统管理和元数据管理两个部分。
文件系统管理主要提供超大文件上传、分布式的存储集群、方便的增加删除修改等操作、操作日志和审计等功能。
元数据管理系统功能主要包括全文检索查询现有VoD 节目、对现有节目增加删除修改查询操作、可按照节目分类等条件查询现有VoD 节目等功能。
4.4后台流媒体服务管理
后台流媒体服务管理模块主要实现拓扑管理、配置管理、配置管理、性能管理、日志分析、故障报警系统、系统安全等功能。
后台流媒体服务管理具体架构详见图4。
每一台服务器都由一个本地的Agent 进程管理。
服务器管理中心通过基于TCP/IP 协议的私有加密协议与Agent 通讯,以达到配置服务器或采集服务器状态信息的目的。
图4 后台流媒体服务管理架构图
图5 CBN 流媒体直播页面
结束语
本流媒体直播平台主要实现了第一财经电视频道和广播频道的网上直播等功能,详见图5。
该功能改变了原第一财经网站单向发布的模式,增强了网站用户的互动性,而且能收集用户行为数据,对其进行行为分析。
为网站排名提升及收费信息、广告定向发布提供平台及数据支撑。
第一财经流媒体直播系统达到了较高的安全性要求。
本平台从上线至今收到了广泛的关注和好评,达到了第一财经网站的设计要求。
参考文献:
[1] 任立勇,王焘,段翰聪,周旭.基于P2P 和CDN 的流媒体直播系统的设计与实现.计算机科学,2009,36(7):88-91. [2] 杨戈, 廖建新, 朱晓民, 樊秀梅. 流媒体分发系统关键技术综述.电子学报,2009,37(01). [3]胡文彦. 基于应用层组播的高清流媒体直播系统的设计和实现.计算机应用与软件.2008,25(11). [4]谢琦,秦安亮.CDN 在IPTV 系统中的应用.微计算机信息,2007.23(30) [5]徐良基, 叶德建. 流媒体直播(时移)系统的设计. 中国图象图形学报,2006,11(11). [6]王薇薇, 李子木, 基于CDN 的流媒体分发技术研究综述.计算机工程与应用.2004.40(08).
---------------------------------
收稿日期:修返日期:基金项目:无;
作者简介:张琦(1976.9),女(汉),江苏无锡人,高级系统开发工程师,本科,主要研究方向为新媒体技术、项目管理、软件工程等(E-mail:qzhang@);高飞(1980.10),男,软件工程师,硕士,主要研究方向为软件工程、信息管理、数据库等;仝渭民,男,本科, 软件工程师,主要研究方向为软件工程、信息管理、数据库等;
联系人信息:
高飞
Frank Gao
上海东方传媒集团有限公司(上海广播电视台)技术运营中心
技术部技术发展科
-----------------------------------------------------------------------------
中国上海市威海路298号9楼200041
Tel: 62565899-5270
Mob: 136********
Email:gaofei@
身份证:320582************。