作为一个Android程序员，关于音视频开发，这些你确定这些你都懂了吗？

Posted 2021-06-11 bug樱樱

**前言：**音视频的知识纷繁复杂，自己学习非常困难，既需要非常扎实的基础知识，又需要有很多的工程经验；

而音视频从业者基本上有两个层面：一个层面是搞音视频算法，这类人非常少，需要有深的数学能力和算法背景，这类人一般都会选择去大公司，薪水百万是最low 的。

另一个层面是搞工程，这类人相对较多，他们有扎实的理论基础，很强的技术功底，对音频、视频都非常熟悉。这些人工资要比一般开发者高20%左右；随着5G时代的到来，音视频慢慢变成人们日常生活中的必须品。所以，现在有大量的公司开始寻找音视频人才，一个稍好点的音视频人才现在可能会有3-4家公司抢着要。因此，对音视频人才的需求也从小众变成了大众，这更多的是大家对未来市场的预期导致的结果。

可在目前的确没有比较系统的教程或者书籍，网上的博客文章也都是比较零散的，在此小编花费大量时间收集和整理，终于将音视频方面的知识点整理成了一个专题，今天借此文章分享给对音视频感兴趣的小伙伴。

我们先来看看一个方向性的学习指南：

1. 在 android 平台绘制一张图片，使用至少 3 种不同的 API，ImageView，SurfaceView，自定义 View
2. 在 Android 平台使用 AudioRecord 和 AudioTrack API 完成音频 PCM 数据的采集和播放，并实现读写音频 wav 文件
3. 在 Android 平台使用 Camera API 进行视频的采集，分别使用 SurfaceView、TextureView 来预览 Camera 数据，取到 NV21 的数据回调
4. 学习 Android 平台的 MediaExtractor 和 MediaMuxer API，知道如何解析和封装 mp4 文件
5. 学习 Android 平台 OpenGL ES API，了解 OpenGL 开发的基本流程，使用 OpenGL 绘制一个三角形
6. 学习 Android 平台 OpenGL ES API，学习纹理绘制，能够使用 OpenGL 显示一张图片
7. 学习 MediaCodec API，完成音频 AAC 硬编、硬解
8. 学习 MediaCodec API，完成视频 H.264 的硬编、硬解
9. 串联整个音视频录制流程，完成音视频的采集、编码、封包成 mp4 输出
10. 串联整个音视频播放流程，完成 mp4 的解析、音视频的解码、播放和渲染
11. 进一步学习 OpenGL，了解如何实现视频的剪裁、旋转、水印、滤镜，并学习 OpenGL 高级特性，如：VBO，VAO，FBO 等等
12. 学习 Android 图形图像架构，能够使用 GLSurfaceviw 绘制 Camera 预览画面
13. 深入研究音视频相关的网络协议，如 rtmp，hls，以及封包格式，如：flv，mp4
14. 深入学习一些音视频领域的开源项目，如 webrtc，ffmpeg，ijkplayer，librtmp 等等
15. 将 ffmpeg 库移植到 Android 平台，结合上面积累的经验，编写一款简易的音视频播放器
16. 将 x264 库移植到 Android 平台，结合上面积累的经验，完成视频数据 H264 软编功能
17. 将 librtmp 库移植到 Android 平台，结合上面积累的经验，完成 Android RTMP 推流功能
18. 上面积累的经验，做一款短视频 APP，完成如：断点拍摄、添加水印、本地转码、视频剪辑、视频拼接、MV 特效等功能

相信我，如果你认真把所有任务都完成了，你一定会成为音视频人才招聘市场的香饽饽～～如何才能更好地学好以上知识呢？下面正是要给大家分享小编花费86天整理的关于音视频开发入门到进阶，已整理成PDF文档：有需要完整版的可以点此处免费获取。

一，初级入门篇：

一 绘制图片

1. ImageView 绘制图片

2. SurfaceView 绘制图片

3. 自定义 View 绘制图片

二、AudioRecord API详解

三、使用 AudioRecord 实现录音，并生成wav

• 创建一个AudioRecord对象
• 初始化一个buffer
• 开始录音
• 创建一个数据流，一边从AudioRecord中读取声音数据到初始化的buffer，一边将buffer中数据导入数据流。
• 关闭数据流
• 停止录音

四、用 AudioTrack 播放PCM音频

1.AudioTrack 基本使用

• MODE_STATIC模式
• MODE_STREAM模式

2.AudioTrack 详解

• 音频流的类型
• Buffer分配和Frame的概念
• AudioTrack构造过程

3. AudioTrack 与 MediaPlayer 的对比

• 区别
• 联系
• SoundPool

五、使用 Camera API 采集视频数据

1.预览 Camera 数据

2.取到 NV21 的数据回调

六、使用 MediaExtractor 和 MediaMuxer API 解析和封装 mp4 文件

1.MediaExtractor API介绍

2.MediaMuxer API介绍

3.使用情境

七. MediaCodec API 详解

1.MediaCodec 介绍

2.MediaCodec API 说明

3.MediaCodec 流控

• 流控基本概念
• Android 硬编码流控
• Android 流控策略选择

由于文章篇幅受限，剩余内容过多，文中插图有限，下文只能截图目录展示：

二，中级进阶篇：

• Android OpenGL ES 开发（一）: OpenGL ES 介绍
• Android OpenGL ES 开发（二）: OpenGL ES 环境搭建
• Android OpenGL ES 开发（三）: OpenGL ES 定义形状
• Android OpenGL ES 开发（四）: OpenGL ES 绘制形状
• Android OpenGL ES 开发（五）: OpenGL ES 使用投影和相机视图
• Android OpenGL ES 开发（六）: OpenGL ES 添加运动效果
• Android OpenGL ES 开发（七）: OpenGL ES 响应触摸事件
• Android OpenGL ES 开发（八）: OpenGL ES 着色器语言GLSL
• Android OpenGL ES 开发（九）: OpenGL ES 纹理贴图
• Android OpenGL ES 开发（十）: 通过GLES20与着色器交互
• 使用 OpenGL 显示一张图片
• GLSurfaceviw 绘制 Camera 预览画面及实现拍照
• 使用OpenGL ES 完成视频的录制，并实现视频水印效果

高级探究篇：

• 深入学习音视频编码，如H.264，AAC，研究使用开源编解码库，如x.264，JM 等
• 深入研究音视频相关的网络协议，如 rtmp，hls，以及封包格式，如：flv，mp4
• 深入学习一些音视频领域的开源项目，如 webrtc，ffmpeg，ijkplayer，librtmp 等等
• 将 ffmpeg 库移植到 Android 平台，结合上面积累的经验，编写一款简易的音视频播放器
• 将 x264 库移植到 Android 平台，结合上面积累的经验，完成视频数据 H264 软编功能
• 将 librtmp 库移植到 Android 平台，结合上面积累的经验，完成 Android RTMP 推流功能

音视频编解码技术

• 音视频编解码技术（一）：MPEG-4/H.264 AVC 编解码标准
• 音视频编解码技术（二）：AAC 音频编码技术

流媒体协议

• 流媒体协议（一）：HLS 协议
• 流媒体协议（二）：RTMP协议

多媒体文件格式

• 多媒体文件格式（一）：MP4 格式
• 多媒体文件格式（二）：FLV 格式
• 多媒体文件格式（三）：M3U8 格式
• 多媒体文件格式（四）：TS 格式
• 多媒体文件格式（五）：PCM / WAV 格式

FFmpeg 学习记录

• FFmpeg命令行工具学习(一)：查看媒体文件头信息工具ffprobe

• FFmpeg命令行工具学习(二)：播放媒体文件的工具ffplay

• FFmpeg命令行工具学习(三)：媒体文件转换工具ffmpeg

• FFmpeg命令行工具学习(四)：FFmpeg 采集设备

• FFmpeg命令行工具学习(五)：FFmpeg 调整音视频播放速度

• FFmpeg 学习(一)：FFmpeg 简介

• FFmpeg 学习(二)：Mac下安装FFmpeg

• FFmpeg 学习(三)：将 FFmpeg 移植到 Android平台

• FFmpeg 学习(四)：FFmpeg API 介绍与通用 API 分析

• FFmpeg 学习(五)：FFmpeg 编解码 API 分析

• FFmpeg 学习(六)：FFmpeg 核心模块 libavformat 与 libavcodec 分析

• FFmpeg 结构体学习(一)： AVFormatContext 分析

• FFmpeg 结构体学习(二)： AVStream 分析

• FFmpeg 结构体学习(三)： AVPacket 分析

• FFmpeg 结构体学习(四)： AVFrame 分析

• FFmpeg 结构体学习(五)： AVCodec 分析

• FFmpeg 结构体学习(六)： AVCodecContext 分析

• FFmpeg 结构体学习(七)： AVIOContext 分析

• FFmpeg 结构体学习(八)：FFMPEG中重要结构体之间的关系

**总结：**以上就是关于音视频的资料，所有资料都是免费分享给大家的，也省去了对音视频感兴趣的小伙伴们四处找资料的时间。

音视频开发的前景，相信大家从相关的招聘网站上就可以看到，不管是流媒体开发还是音视频处理开发，都是大量招人的，并且由于入门门槛相对较高，学习周期长，薪资也是居高不下。

另外：小编还收集整理一些音视频相关配套视频，相信能使大家学习起来更加快速有效：

文中所有资料都是免费分享给大家的，直达免费领取方式。

Android架构师之路很漫长， 一起共勉吧！学习之路犹如逆水行舟，不进则退，如果你松懈了， 那么你就退步了，而在Android开发工作中没有一门吃香独特的技术，想拿高薪也只能是望尘莫及的。做个勤奋向上的人，加紧学习，抓住中心，宁精勿杂，宁专勿多。

祝各位前程似锦，offer不断！！！