Android音乐播放器-使用FFmpeg及OpenSLES

Posted zuguorui

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Android音乐播放器-使用FFmpeg及OpenSLES相关的知识,希望对你有一定的参考价值。

文章目录

在之前的文章《FFmpeg解码音频代码》中,已经实现了使用FFmpeg解码音频为PCM。这次我们利用FFmpeg以及OpenSLES来实现一个简单的音乐播放器。

一、准备工作

在开始之前,我们需要使用之前文章中编译的android版本的FFmpeg库,如果不清楚如何编译,请查看我的文章《最新版FFmpeg移植Android:编译so库(基于NDK r20和FFmpeg-4.1.0)》。同时也可以上我的github上直接下载已经编译好的库使用。需要注意的是,由于是debug使用,因此我并没有对FFmpeg进行剪裁,因此库的体积较大。
接下来,需要知道如何将第三方so库集成在Android工程中。同样,相关知识点在之前的博客《Android NDK开发: 通过C/C++调用第三方so库》中实践过。
最后一步,就是了解基本的OpenSLES的使用方法。由于我们实现的只是最简单的播放功能,因此只要能实现基本的播放功能即可。

工程放在github上:FFmpegAudioPlayer,本篇博客只讲一些需要注意的地方。

二、目标

该音乐播放器应该实现以下几个基本目标:

  1. 解码并播放主流格式:mp3、aac、wav等
  2. 支持seek功能
  3. 能实时显示播放进度及状态
  4. 对于内嵌专辑图片的音乐文件,能够显示图片。
  5. 播放暂停
  6. 获取音频时长

三、整体架构

架构如下:

  • IAudioDataProvider是向player提供解码好的PCM数据的接口。
  • AudioFileDecoder2是具体的解码类,它实现了IAudioDataProvider接口,向player提供解码好的数据。
  • AudioFilePlayer是控制类,控制比如播放暂停、进度通知等。
  • Commons是存放一些诸如采样率等常量的类。
  • AACUtil是针对aac编码的文件获取时长的类。FFmpeg无法准确获取aac编码音频的duration。
  • JavaStateListener是native向Java层通知状态变更的监听类。
  • native-lib是面向java的jni接口封装。

四、OpenSLES

OpenSLES是一个功能非常强大的音频框架,Android对它也有支持,并且由于是在native端,性能更好,可操控性也更强。
要在Android中使用OpenSLES,必须在make文件中指定链接OpenSLES库。OpenSLES和Android的log库一样,都是Android内置的,因此我们只要指定链接它就好,无需为它单独编译库。

target_link_libraries( # Specifies the target library.
        native-lib
        android
        # 链接OpenSLES库
        OpenSLES
        # Links the target library to the log library
        # included in the NDK.
        $log-lib
        z
        # 链接FFmpeg及相关依赖库
        # $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libcharset.so
        # $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libiconv.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libfdk-aac.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libmp3lame.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libx264.x.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libavformat.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libavfilter.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libavcodec.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libavutil.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libswresample.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libswscale.so
        $CMAKE_SOURCE_DIR/jniLibs/$ANDROID_ABI/libpostproc.so
)

既然已经写出了,就顺道一起讲一下第三方so库的一种更简单的集成方式。在之前的博客中,我们需要使用两个函数:建立库、设定库文件位置。其实最简单的方式就是直接在target_link_libraries中直接指定库的位置即可。注意的是,由于我只编译了armv7和arm64的FFmpeg库,因此一定要在build.gradle中限制ABI。

		externalNativeBuild 
            cmake 
                arguments '-DANDROID_PLATFORM=26'
                cppFlags '-std=c++11'
            
        
        ndk 
            abiFilters 'armeabi-v7a', 'arm64-v8a'
        

接着,我们需要指定OpenSLES音频源的格式。通常我们都使用如下规格

  • pcm格式
  • 双声道
  • 44.1kHz采样率
  • 帧格式为int16,小尾端

因此设置格式时如下:

SLDataFormat_PCM pcmFormat = SL_DATAFORMAT_PCM, 2, SL_SAMPLINGRATE_44_1, SL_PCMSAMPLEFORMAT_FIXED_16, SL_PCMSAMPLEFORMAT_FIXED_16, SL_SPEAKER_FRONT_LEFT | SL_SPEAKER_FRONT_RIGHT, SL_BYTEORDER_LITTLEENDIAN;

然后是注册回调函数:

result = (*playerBufferQueue)->RegisterCallback(playerBufferQueue, audio_callback, this);

回调函数如下:

void audio_callback(SLAndroidSimpleBufferQueueItf bq, void *context)

    SLAudioPlayer *player = (SLAudioPlayer *)context;
    player->processAudio();

它调用了SLAudioPlayer的

void SLAudioPlayer::processAudio() 

    if(spareDataProvider != NULL)
    
        dataProvider = spareDataProvider;
        spareDataProvider = NULL;
    
    if(removeAudioDataProviderFlag)
    
        removeAudioDataProviderFlag = false;
        dataProvider = NULL;
    
    if(dataProvider != NULL)
    

        int num_samples = 0;
        memset(buffer, 0, MAX_SAMPLE_COUNT * 2 * sizeof(int16_t));
        dataProvider->getAudioData(buffer, &num_samples);
        (*playerBufferQueue)->Enqueue(playerBufferQueue, buffer, num_samples * 2 * sizeof(int16_t));
    

dataProvider是用来提供已解码的PCM数据的。注意num_samples作为参数传递给dataProvider->getAudioData()时,代表当前的buffer最大帧数容量是多少,dataProvider要根据此容量向buffer中写入数据。当函数结束时,此时num_samplesdataProvider->getAudioData()修改为此次获取的有效帧数。

使用OpenSLES时,如果使用buffer,一定要在初始化完成之后,手动Enqueue一下,这样OpenSLES才会开始主动向回调函数请求数据。

//主动Enqueue一次buffer,OpenSLES才会主动向我们请求数据
(*playerBufferQueue)->Enqueue(playerBufferQueue, buffer, MAX_SAMPLE_COUNT * 2 * sizeof(int16_t));

五、解码

解码和之前的《FFmpeg解码音频代码》是一致的,不同的是,这次我们将解码放在一个单独的线程中,然后使用一个有限大的buffer来存储解码的PCM数据。当buffer满时会阻塞解码线程,避免占用过多内存。

另外注意的点是一定要对buffer读写做多线程保护。

比较麻烦的是AAC音频,FFmpeg无法准确的到AAC音频的duration,因此单独写了一个工具AACUtil来获取AAC音频的长度。

FFmpeg解码的时候,内部会有信息打印出来,因此需要给FFmpeg提供一个打印log的回调:

//log回调
static void log_callback(void *ctx, int level, const char *fmt, va_list args)

    if(level == AV_LOG_ERROR)
    
        __android_log_print(ANDROID_LOG_DEBUG, "FFmpeg", fmt, args);
    else
        __android_log_print(ANDROID_LOG_ERROR, "FFmpeg", fmt, args);
    

通过下面这句向FFmpeg设置回调:

av_log_set_callback(log_callback);

由于FFmpeg打印的log速度快量又大,很可能导致AndroidStudio缓冲区满而无法正常显示,因此在不需要的时候注释掉上面那句。

六、状态通知

状态通知我是通过native调用java方法这一形式实现的。有所不同的是,这一次java方法都不是在主线程被调用的,这样就会面临JNIEnv失效的问题。因此在调用这些方法时,首先要对JNIEnv进行attach操作,让它attach到当前被调用的线程,然后才能调用Java方法。

void JavaStateListener::progressChanged(int64_t currentProgress, bool isPlayFinished) 
    LOGD("JavaStateListener: progressChanged, position = %ld", currentProgress);
    if(vm == NULL || listener == NULL || progressChangedMethod == NULL)
    
        return;
    

    JNIEnv *env;
    bool needDetach = false;
    if(vm->GetEnv((void **)&env, JNI_VERSION_1_6) == JNI_EDETACHED)
    
        needDetach = true;
        if(vm->AttachCurrentThread(&env, 0) != 0)
        
            LOGE("Error to attach env when progressChanged");
            return;
        
    
    env->CallVoidMethod(listener, progressChangedMethod, currentProgress, isPlayFinished);
    if(needDetach)
    
        vm->DetachCurrentThread();
    

监听器初始化时,要先解析java类找到对应的method。

JavaStateListener::JavaStateListener(JNIEnv *env, jobject listener) 
//    this->env = env;
    env->GetJavaVM(&vm);
    this->listener = env->NewGlobalRef(listener);
//    jclass cls = env->FindClass("com/zu/ffmpegaudioplayer/MainActivity");
    jclass cls = env->GetObjectClass(listener);
    this->infoGetMethod = env->GetMethodID(cls, "onInfoGet", "(JI)V");
    this->progressChangedMethod = env->GetMethodID(cls, "onProgressChanged", "(JZ)V");
    this->playStateChangedMethod = env->GetMethodID(cls, "onPlayStateChanged", "(Z)V");

对应的,java的监听器接口要有如下三个方法对应起来:

fun onInfoGet(duration: Long, picBufferLen: Int)
fun onProgressChanged(progress: Long, isPlayFinished: Boolean)
fun onPlayStateChanged(isPlay: Boolean)

对于播放进度的把控,由于工程较小,所以也没有特别地区分功能,因此这个任务落在了decoder身上。当然,player也可以。FFmpeg解码出的帧带的pts就是当前帧的播放时间戳。至于在什么时候进行通知,肯定是在player向decoder要数据的时候,表示player接下来就要播放这帧音频了,所以我们把这帧音频的时间戳通知给java层作为播放进度。

if(node->pts != AV_NOPTS_VALUE)
    
        currentPosition = (int64_t)(node->pts * av_q2d(audiostream->time_base) * 1000);
//    LOGD("Current time in seconds is %ld ms", currentPosition);

        if(progressChangedCallback != NULL)
        
            if(fileDecodeState == DECODING_FINISHED && bufferSize == 0)
            

                progressChangedCallback(currentPosition, true);
            
            else if(abs(currentPosition - oldPosition) >= progressUpdateInterval)
            
                progressChangedCallback(currentPosition, false);
                oldPosition = currentPosition;
            


        
    

对于FFmpeg里的时间单位,一般都是用time_base表示,它的单位是秒。AVFrame的pts则表示“显示时间戳”,它的单位是time_base,表示有pts个time_base秒。而time_base以一个结构体ACVRational,这个结构体表示一个分数,把分子和分母分开存储了,所以先用av_q2d将其转化为一个double,与pts相乘后就表示当前以秒为单位表示的时间戳。然后再乘1000,转化为毫秒ms。

至此,这个音乐播放器的关键部分已经讲完了,大家可以去我的github下载项目。

以上是关于Android音乐播放器-使用FFmpeg及OpenSLES的主要内容,如果未能解决你的问题,请参考以下文章

Android使用FFmpeg播放视频(二):音频播放

Android 音视频深入 十四 FFmpeg与OpenSL ES 播放mp3音乐,能暂停(附源码

基于FFmpeg的简单Android视频播放器

基于FFmpeg的简单Android视频播放器

Android开发本地及网络Mp3音乐播放器(十八)新下载歌曲加载准备SdcardSearchToList

将 ffmpeg 输出直接流式传输到调度程序