基于长短时记忆网络的H.266编码帧内预测优化算法

来源期刊：北方工业大学学报2020年第2期

论文作者：付青瑫 卯福启

文章页码：52 - 125

关键词：LSTM网络;帧内预测;深度学习;H.266/VVC标准;

摘    要：在H.266标准帧内预测的角度模式中,编码器根据邻近参考像素使用多抽头帧内插值滤波器生成预测块,预测残差偏大,降低了编码效率.论文提出一种针对水平和垂直模式的优化算法,利用长短时记忆网络表达相邻像素间的空域相关性,对预测残差进行二次预测,补偿标准线性预测过程,提高预测精度.实验结果表明,相比于原始的参考模型VTM2.0,结合长短时记忆网络的帧内预测算法可以使BD-rate降低0.34%,提高了编码效率.