内容简介:对整个视频的解析,以及压入MediaCodeC输入队列都是通用步骤。配置MediaCodeC解码器,将解码输出格式设置为使用OpenGL渲染的话,MediaCodeC要配置一个输出Surface。使用YUV方式的话,则不需要配置
- MediaCodeC搭配MediaExtractor将视频完整解码
- 视频帧存储为JPEG文件
- 使用两种方式达成
- 硬编码输出数据二次封装为YuvImage,并直接输出为JPEG格式文件
- 硬编码搭配Surface,用OpenGL封装为RGBA数据格式,再利用Bitmap压缩为图片文件
- 二者皆可以调整图片输出质量
参考
- YUV的处理方式,强推大家观看这篇文章高效率得到YUV格式帧,绝对整的明明白白
- OpenGL的处理方式,当然是最出名的BigFlake,硬编码相关的示例代码很是详细
解码效率分析
- 参考对象为一段约为13.8s,H.264编码,FPS为24,72*1280的MPEG-4的视频文件。鸭鸭戏水视频
- 此视频的视频帧数为332
- 略好点的设备解码时间稍短一点。但两种解码方式的效率对比下来,
OpenGl渲染
耗费的时间比YUV转JPEG
多。- 另:差一点的设备上,这个差值会被提高,约为一倍多。较好的设备,则小于一倍。
实现过程
对整个视频的解析,以及压入MediaCodeC输入队列都是通用步骤。
mediaExtractor.setDataSource(dataSource) // 查看是否含有视频轨 val trackIndex = mediaExtractor.selectVideoTrack() if (trackIndex < 0) { throw RuntimeException("this data source not video") } mediaExtractor.selectTrack(trackIndex) fun MediaExtractor.selectVideoTrack(): Int { val numTracks = trackCount for (i in 0 until numTracks) { val format = getTrackFormat(i) val mime = format.getString(MediaFormat.KEY_MIME) if (mime.startsWith("video/")) { return i } } return -1 } 复制代码
配置MediaCodeC解码器,将解码输出格式设置为 COLOR_FormatYUV420Flexible ,这种模式几乎所有设备都会支持。
使用OpenGL渲染的话,MediaCodeC要配置一个输出Surface。使用YUV方式的话,则不需要配置
outputSurface = if (isSurface) OutputSurface(mediaFormat.width, mediaFormat.height) else null // 指定帧格式COLOR_FormatYUV420Flexible,几乎所有的解码器都支持 if (decoder.codecInfo.getCapabilitiesForType(mediaFormat.mime).isSupportColorFormat(defDecoderColorFormat)) { mediaFormat.setInteger(MediaFormat.KEY_COLOR_FORMAT, defDecoderColorFormat) decoder.configure(mediaFormat, outputSurface?.surface, null, 0) } else { throw RuntimeException("this mobile not support YUV 420 Color Format") } val startTime = System.currentTimeMillis() Log.d(TAG, "start decode frames") isStart = true val bufferInfo = MediaCodec.BufferInfo() // 是否输入完毕 var inputEnd = false // 是否输出完毕 var outputEnd = false decoder.start() var outputFrameCount = 0 while (!outputEnd && isStart) { if (!inputEnd) { val inputBufferId = decoder.dequeueInputBuffer(DEF_TIME_OUT) if (inputBufferId >= 0) { // 获得一个可写的输入缓存对象 val inputBuffer = decoder.getInputBuffer(inputBufferId) // 使用MediaExtractor读取数据 val sampleSize = videoAnalyze.mediaExtractor.readSampleData(inputBuffer, 0) if (sampleSize < 0) { // 2019/2/8-19:15 没有数据 decoder.queueInputBuffer(inputBufferId, 0, 0, 0L, MediaCodec.BUFFER_FLAG_END_OF_STREAM) inputEnd = true } else { // 将数据压入到输入队列 val presentationTimeUs = videoAnalyze.mediaExtractor.sampleTime decoder.queueInputBuffer(inputBufferId, 0, sampleSize, presentationTimeUs, 0) videoAnalyze.mediaExtractor.advance() } } } 复制代码
可以大致画一个流程图如下:
YUV
通过以上通用的步骤后,接下来就是对MediaCodeC的输出数据作YUV处理了。步骤如下:
1.使用MediaCodeC的 getOutputImage (int index)
函数,得到一个只读的Image对象,其包含原始视频帧信息。
By:当MediaCodeC配置了输出Surface时,此值返回null
2.将Image得到的数据封装到YuvImage中,再使用YuvImage的 compressToJpeg
方法压缩为JPEG文件
YuvImage的封装,官方文档有这样一段描述: Currently only ImageFormat.NV21 and ImageFormat.YUY2 are supported
。 YuvImage只支持 NV21 或者 YUY2 格式,所以还可能需要对Image的原始数据作进一步处理,将其转换为 NV21 的Byte数组
读取Image信息并封装为Byte数组
此次演示的机型,反馈的Image格式如下:
getFormat = 35 getCropRect().width()=720 getCropRect().height()=1280
35代表 ImageFormat.YUV_420_888格式
。Image的 getPlanes
会返回一个数组,其中0代表Y,1代表U,2代表V。由于是420格式,那么四个Y值共享一对UV分量,比例为4:1。
代码如下,参考 YUV_420_888编码Image转换为I420和NV21格式byte数组 ,不过我这里只保留了NV21格式的转换
fun Image.getDataByte(): ByteArray { val format = format if (!isSupportFormat()) { throw RuntimeException("image can not support format is $format") } // 指定了图片的有效区域,只有这个Rect内的像素才是有效的 val rect = cropRect val width = rect.width() val height = rect.height() val planes = planes val data = ByteArray(width * height * ImageFormat.getBitsPerPixel(format) / 8) val rowData = ByteArray(planes[0].rowStride) var channelOffset = 0 var outputStride = 1 for (i in 0 until planes.size) { when (i) { 0 -> { channelOffset = 0 outputStride = 1 } 1 -> { channelOffset = width * height + 1 outputStride = 2 } 2 -> { channelOffset = width * height outputStride = 2 } } // 此时得到的ByteBuffer的position指向末端 val buffer = planes[i].buffer // 行跨距 val rowStride = planes[i].rowStride // 行内颜色值间隔,真实间隔值为此值减一 val pixelStride = planes[i].pixelStride val TAG = "getDataByte" Log.d(TAG, "planes index is $i") Log.d(TAG, "pixelStride $pixelStride") Log.d(TAG, "rowStride $rowStride") Log.d(TAG, "width $width") Log.d(TAG, "height $height") Log.d(TAG, "buffer size " + buffer.remaining()) val shift = if (i == 0) 0 else 1 val w = width.shr(shift) val h = height.shr(shift) buffer.position(rowStride * (rect.top.shr(shift)) + pixelStride + (rect.left.shr(shift))) for (row in 0 until h) { var length: Int if (pixelStride == 1 && outputStride == 1) { length = w // 2019/2/11-23:05 buffer有时候遗留的长度,小于length就会报错 buffer.getNoException(data, channelOffset, length) channelOffset += length } else { length = (w - 1) * pixelStride + 1 buffer.getNoException(rowData, 0, length) for (col in 0 until w) { data[channelOffset] = rowData[col * pixelStride] channelOffset += outputStride } } if (row < h - 1) { buffer.position(buffer.position() + rowStride - length) } } } return data } 复制代码
最后封装YuvImage并压缩为文件
val rect = image.cropRect val yuvImage = YuvImage(image.getDataByte(), ImageFormat.NV21, rect.width(), rect.height(), null) yuvImage.compressToJpeg(rect, 100, fileOutputStream) fileOutputStream.close() 复制代码
MediaCodeC配置输出Surface,使用OpenGL渲染
OpenGL的环境搭建和渲染代码不再赘述,只是强调几个点:
releaseOutputBuffer
获得可用的RGBA数据,使用Bitmap压缩为指定格式文件
fun saveFrame(fileName: String) { pixelBuf.rewind() GLES20.glReadPixels(0, 0, width, height, GLES20.GL_RGBA, GLES20.GL_UNSIGNED_BYTE, pixelBuf) var bos: BufferedOutputStream? = null try { bos = BufferedOutputStream(FileOutputStream(fileName)) val bmp = Bitmap.createBitmap(width, height, Bitmap.Config.ARGB_8888) pixelBuf.rewind() bmp.copyPixelsFromBuffer(pixelBuf) bmp.compress(Bitmap.CompressFormat.JPEG, 100, bos) bmp.recycle() } finally { bos?.close() } } 复制代码
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网
猜你喜欢:- MediaCodeC解码视频指定帧,迅捷、精确
- iOS利用FFmpeg实现视频硬解码
- iOS利用VideoToolbox实现视频硬解码
- 机器学习在视频编解码中的探索
- iOS解码关于视频中带B帧排序问题
- Android 音视频开发打怪升级之音视频硬解码篇(一):音视频基础知识
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
网络多人游戏架构与编程
格雷泽 (Joshua Glazer)、马达夫 (Sanjay Madhav) / 王晓慧、张国鑫 / 人民邮电出版社 / 2017-10-1 / CNY 109.00
本书是一本深入探讨关于网络多人游戏编程的图书。 全书分为13章,从网络游戏的基本概念、互联网、伯克利套接字、对象序列化、对象复制、网络拓扑和游戏案例、延迟、抖动和可靠性、改进的延迟处理、可扩展性、安全性、真实世界的引擎、玩家服务、云托管专用服务器等方面深入介绍了网络多人游戏开发的知识,既全面又详尽地剖析了众多核心概念。 本书的多数示例基于C++编写,适合对C++有一定了解的读者阅读。本......一起来看看 《网络多人游戏架构与编程》 这本书的介绍吧!