# 01 直播技术相关

## 一.原理

### 直播原理

将主播录制的音视频, 推送到服务器, 再由服务器分发给观众

### 直播环节

* 推流端: 采集 处理 编码 推流
* 服务端处理: 转码 录制 截图 审核
* 播放器: 拉流 解码 渲染
* 互动: 聊天室 礼物 赞

## 二.相关框架

### 采集端

* 数据采集
  * `AVFoundation`
* 美颜
  * `GPUImage`
* 音频压缩
  * `FFmpeg`
* 视频压缩
  * `X264`
* 推流
  * `libremp`

### 播放端

* 播放
  * `ijkplayer`
* 视频解码
  * `FFmepeg`
* 视频硬解码
  * `VideoToolBox`
* 音频硬解码
  * `AudioToolBox`

## 三.流媒体

* 流媒体开发
  * 网络层`Socket`负责传输
  * 协议层`RTMP`或`HLS`负责网络打包
  * 封装层`FLV`或`TS`负责编解码数据的封装
  * 编码层`h.264`和`acc`负责图像视频的压缩
* GOP
  * 画面组,一个GOP就是一组连续的画面,每个画面都是一帧,一个GOP就是很多帧的集合
* 码率
  * 图片压缩后每秒显示的数据量
  * 常常看见视频播放软件中的1024，720、高清、标清和流畅等，指的就是各种码率
* 帧率
  * 每秒帧数
  * 人眼16帧的话看起来就是连贯的了
* 压缩比
  * 压缩前的每秒数据量/码率
  * 同一视频源,压缩比越高画质越差
* 视频封装格式和视频压缩编码标准
  * 就好像项目工程和编程语言,`封装格式`就是一个项目的工程,`视频编码`方式就是编程语言,一个项目工程可以用不同语言开发

## 四.推流

### 数据传输框架

`librtmp`是用来传输`RTMP`协议格式的数据

### 数据传输协议

* `RTMP`是实时消息传输协议，`Adobe Systems`公司为`Flash播放器`和服务器之间音频、视频和数据传输开发的开放协议，因为是开放协议所以都可以使用了
* `RTMP`协议用于对象、视频、音频的传输。这个协议建立在`TCP协议`或者`轮询HTTP协议`之上。
* `RTMP`协议就像一个用来装数据包的容器，这些数据可以是`FLV`中的视音频数据。一个单一的连接可以通过不同的通道传输多路网络流，这些通道中的包都是按照固定大小的包传输的。`chunk`是消息包。

## 五.拉流

### 直播协议选择

* 即时性要求高或有互动需求可以采用`RTMP`/`RTSP`
* 有回放或跨平台需求的`HLS`

### 直播协议对比

#### HLS

* HLS是由Apple公司定义的用于实时流传输的协议，HLS基于HTTP协议实现，传输内容包括两部分，一是M3U8描述文件，二是TS媒体文件。可实现流媒体的直播和点播，主要应用在iOS系统。 HLS是以点播的技术方式来实现直播。
* HLS是自适应码率流播，客户端会根据网络状况自动选择不同码率的视频流，条件允许的情况下使用高码率，网络繁忙的时候使用低码率，并且自动在二者间随意切换。这对移动设备网络状况不稳定的情况下保障流畅播放非常有帮助。
* 实现方法是服务器端提供多码率视频流，并且在列表文件中注明，播放器根据播放进度和下载速度自动调整。
* HLS与RTMP对比：HLS主要是延时比较大，RTMP主要优势在于延时低。
* HLS协议的小切片方式会生成大量的文件，存储或处理这些文件会造成大量资源浪费。
* 相比使用RTSP协议的好处在于，一旦切分完成，之后的分发过程完全不需要额外使用任何专门软件，普通的网络服务器即可，大大降低了CDN边缘服务器的配置要求，可以使用任何现成的CDN，而一般服务器很少支持RTSP。

#### HTTP-FLV

* HTTP-FLV是基于HTTP协议流式的传输媒体内容。相对于RTMP，HTTP更简单和广为人知，内容延迟同样可以做到1\~3秒，打开速度更快，因为HTTP本身没有复杂的状态交互。所以从延迟角度来看，HTTP-FLV要优于RTMP。

#### RTSP

* RTSP：实时流传输协议，定义了一对多应用程序如何有效地通过IP网络传送多媒体数据。

#### RTP

* RTP：实时传输协议，RTP是建立在UDP协议上的，常与RTCP一起使用，其本身并没有提供按时发送机制或其它服务质量（QoS）保证，它依赖于低层服务去实现这一过程。
* RTCP：RTP的配套协议,主要功能是为RTP所提供的服务质量（QoS）提供反馈，收集相关媒体连接的统计信息，例如传输字节数，传输分组数，丢失分组数，单向和双向网络延迟等等。

## 六.解码

### 解封装

`demuxing（分离）`：从视频流、音频流，字幕流合成的文件(容器格式（FLV，TS）)中， 分解出视频、音频或字幕，各自进行解码。

### 音频编码框架

`fdk_aac`：音频编码解码框架，PCM音频数据和AAC音频数据互转

### 编码介绍

#### 硬解码

* 用`GPU`解码,减少`CPU`运算
  * 优点:播放流畅,低功耗,解码速度快,
  *   缺点:兼容不好

      **软解码**
* 用`CPU`解码
  * 优点:兼容好
  * 缺点:加大`CPU`负担,解码速度慢,耗电增加,没有硬解码流畅

## 七.播放

### `ijkplayer`

* B站开源的一个基于`FFmpeg`的开源`Android/iOS`视频播放器
  * API易于集成
  * 编译配置可裁剪，方便控制安装包大小
  * 支持硬件加速解码，更加省电
  * 简单易用，指定拉流URL，自动解码播放

## 参考

> [http://www.woshipm.com/pd/408632.html/comment-page-1](http://www.woshipm.com/pd/408632.html/comment-page-1)
