高斯源下率失真分类函数的通用表达

360影视 日韩动漫 2025-09-09 11:50 1

摘要:研究高斯信源下率失真分类函数及其通用表达问题。针对传统率失真理论的局限,提出融合分类约束与感知需求的码率-失真-感知-分类模型。推导标量高斯信源下率失真分类函数闭式解,证明最优分类约束对应的最大失真是最小失真的两倍,并提出单一编码器满足多约束时无码率惩罚的通用

07

【语义通信与语义信息论

基础理论与关键技术】专题

高斯源下率失真分类函数的通用表达

(上海交通大学,上海 200240)

【摘 要】研究高斯信源下率失真分类函数及其通用表达问题。针对传统率失真理论的局限,提出融合分类约束与感知需求的码率-失真-感知-分类模型。推导标量高斯信源下率失真分类函数闭式解,证明最优分类约束对应的最大失真是最小失真的两倍,并提出单一编码器满足多约束时无码率惩罚的通用框架。结果表明码率、失真与分类性能存在根本性权衡,为机器通信的语义压缩提供理论支撑.

【关键词】率失真分类函数;高斯信源;码率-失真-分类权衡;通用表示;信息理论

doi:10.3969/j.issn.1006-1010.20250603-0001

中图分类号:TN911.21 文献标志码:A

文章编号:1006-1010(2025)07-0055-06

引用格式:唐浩文,施雨轩,吴泳澎. 高斯源下率失真分类函数的通用表达[J]. 移动通信, 2025,49(7): 55-60.

TANG Haowen, SHI Yuxuan, WU Yongpeng. Universal Representation of Rate-Distortion Classification Function for Gaussian Sources[J]. Mobile Communications, 2025,49(7): 55-60.

0 引言

(1)研究背景

在现代数字化环境中,有损压缩技术普遍应用于通信以及图像、视频和音频的存储。传统有损压缩理论源于香农的开创性工作——率失真理论,该理论探讨了数据表示比特率与从压缩数据重构原始数据时失真之间的基本折中关系,即率失真函数。率失真理论以降低失真为目标,传统方法中一般采用基于接收数据与原始数据符号相似度的指标来衡量失真,比如最小均方误差准则(MMSE, Minimum Mean Square Error)、峰值信噪比准则(PSNR, Peak Signal To Noise Ratio)以及结构相似性指数(SSIM, Structural Similarity Index)等。然而,在码率固定的情况下,单纯最小化客观失真不一定能使解码信号的感知质量良好。实际上,提升感知质量有时可能需要以增加客观失真为代价[1-2]。文献[3]和[4]严谨地证实了在通信系统中存在码率-失真-感知三重权衡现象,并首次提出了率失真感知函数(RDP, Rate-Distortion-Perception)的概念。在文献[4]中,创新性地采用数据的分布概率距离作为感知质量的数学表征手段,由于不同的概率分布距离衡量方式会导致感知测度表征的差异,所以不同感知测度是否会引起率失真感知函数的变化成为了一个值得深入探究的问题。随着物联网技术的蓬勃发展,通信需求不再局限于人与人以及人与机器之间,机器与机器之间的通信需求也在不断增加。在机器与机器的通信场景中,分类任务是其基础且关键的组成部分,因此,在语义通信的发展进程中,对于分类任务的需求也日益凸显[5]。

(2)相关工作

率失真定理作为现代通信领域的理论基石,自问世以来便吸引了众多学者投身于相关研究,尤其在传统的以字符传输为基础的通信模式遭遇发展瓶颈,而语义通信逐渐崭露头角之后[6-8]。生成对抗网络(GANs, Generative Adversarial Network )的出现显著推动了感知压缩领域的发展。在理论研究层面,文献[9]针对高斯信源下的率失真感知函数进行了深入分析,并成功证明了在高斯信源条件下存在编码“通用表示”;文献[10]探讨了共有随机性与私有随机性对率失真感知函数的影响,同时对确定性编解码与随机性编解码的极限进行了研究;文献[11]则对单字母表征与渐进表征下率失真感知函数之间的联系与区别进行了剖析;文献[12]将分类任务纳入考虑范围,讨论了率失真感知函数与率失真分类函数(RDC, Rate-Distortion-Classification)之间的内在联系;文献[13]提出了一种适用于一般信源条件下的RDP函数计算方法。在率失真感知函数与人工智能结合的应用研究方面,也取得了诸多显著成果。基于GAN的模型能够生成视觉上逼真的重建图像,这促使人们使用训练好的判别器作为感知质量评估器[14]。理论上,这一点得到了GAN目标与统计散度量之间对应关系的支持[15]。在此基础上,一些研究将基于GAN的正则化方法整合到压缩自编码器框架中[16],即使在极低比特率下也能实现高感知质量[17]。另外文献[18]针对图像传输构建了一种全新的通信架构;文献[19]则针对文本传输提出了一种创新性的传输方式。

(3)本文主要工作

本文针对高斯信源下面向分类任务的率失真理论展开研究,构建了融合分类约束的码率-失真-感知-分类模型,以刻画机器通信中的语义需求。通过信息理论框架,推导了标量高斯信源下码率-失真-分类(RDC, Rate-Distortion-Classification)函数的闭式表达式,揭示了码率、失真与分类性能之间的数学权衡关系,并证明在均方误差准则下,最优分类约束对应的最大失真为最小失真的两倍。进一步提出信息通用率失真分类函数,严格论证了高斯信源下单一编码器可自适应满足多组约束对,且无额外码率惩罚,为高效编码设计提供了理论依据。

1 码率-失真-感知-分类表达模型定义

2 标量高斯源下RDC函数

3 码率-失真-分类函数的边界

4 码率-失真-分类函数的通用表达

5 结束语

本文从信息理论出发,系统研究了高斯信源下面向分类任务的率失真函数问题。通过引入分类约束条件,建立了码率-失真-感知-分类综合模型,扩展了传统率失真理论的适用范围。针对标量高斯信源,推导了RDC与RPC函数的闭式解,明确了码率、失真与分类性能之间的内在权衡关系。边界分析表明,最优分类约束下最大失真是最小失真的两倍,为实际系统中平衡分类精度与重建质量提供了理论依据。进一步提出的通用编码框架表明,高斯信源下单一编码器可自适应满足多约束对,且无额外码率损失,显著提升了编码效率。本研究为语义通信与机器间交互的压缩算法设计奠定了理论基础。未来工作可拓展至多维高斯信源与非高斯场景,并探索基于深度学习的RDC函数近似方法。

[1] Agustsson E, Tschannen M, Mentzer F, et al. Generative adversarial networks for extreme learned image compression[C]/Proceedings of the IEEE International Conference on Computer Vision. 2019: 221-231.

[2] Alemi A, Poole B, Fischer I, et al. Fixing a broken elbo[C]//International Conference on Machine Learning. 2018: 159-168.

[3] Blau Y, Michaeli T. Rethinking Lossy Compression: The Rate-Distortion-Perception Tradeoff[EB/OL]. (2019-01)[2025-06-03]. arXiv:1901.07821.

[4] Blau Y, Michaeli T. The Perception-Distortion Tradeoff[EB/OL]. (2017)[2025-06-03]. arXiv:1711.05917.

[5] Liu D, Zhang H, Xiong Z.On the Classification-Distortion-Perception Tradeoff[J].Advances in Neural Information Processing Systems, 2019,32.

[6] Yang W, Du H, Liew Z, et al. Semantic Communications for Future Internet: Fundamentals, Applications, and Challenges[J]. IEEE Communications Surveys & Tutorials, 2022, 25: 213-250

[7] Qin Z, Tao X, Lu J, et al. Semantic Communications: Principles and Challenges[EB/OL]. (2022)[2025-06-03]. arXiv:2201.01389.

[8] Dai J, Zhang P, Niu K, et al. Communication Beyond Transmitting Bits: Semantics-Guided Source and Channel Coding[J]. IEEE Wireless Communications, 2023,30(4): 170-177.

[9] Zhang G, Qian J, Chen J, et al. Universal Rate-Distortion-Perception Representations for Lossy Compression[Z]. 2021.

[10] Chen J, et al. On the Rate-Distortion-Perception Function[J]. IEEE Journal on Selected Areas in Information Theory, 2022,3(4): 664-673.

[11] Salehkalaibar S, et al. Rate-Distortion-Perception Tradeoff Based on the Conditional-Distribution Perception Measure[J]. IEEE Transactions on Information Theory, 2024,70(12): 8432-8454.

[12] Wang Y, et al. Lossy Compression with Data, Perception, and Classification Constraints[Z]. 2024.

[13] Li D, Huang J, Huang C, et al. Fundamental Limitation of Semantic Communications: Neural Estimation for Rate-Distortion[J]. Journal of Communications and Information Networks, 2023,8(4): 303-318.

[14] Larsen A B L, Snderby S K, Larochelle H, et al. Autoencoding beyond pixels using a learned similarity metric[C]//International Conference on Machine Learning. 2016: 1558-1566.

[15] Arjovsky M, Chintala S, Léon Bottou. Wasserstein generative adversarial networks[C]//International Conference on Machine Learning. 2017: 214-223.

[16] Agustsson E, Tschannen M, Mentzer F, et al. Generative adversarial networks for extreme learned image compression[C]//Proceedings of the IEEE International Conference on Computer Vision. 2019: 221-231.

[17] Mentzer F, Toderici G, Tschannen M, et al. High-fidelity generative image compression[C]//Advances in Neural Information Processing Systems. 2020: 33.

[18] Peng C, Wang R, Xiao Y. Rateless Stochastic Coding for Delay-constrained Semantic Communication[Z]. 2024.

[19] Xie H, Qin Z, Li G Y, et al. Deep Learning Enabled Semantic Communication Systems[J]. IEEE Transactions on Signal Processing, 2021,69: 2663-2675.

[20] Cover and T, Thomas J. Elements of Information Theory[M]. Wiley, 2012. ★

★原文刊发于《移动通信》2025年第7期★

作者简介

唐浩文:上海交通大学电子信息与电气工程学院电子系在读本科生,主要研究方向为信息论和语义通信。

施雨轩:博士毕业于上海交通大学网络空间与工程学院,鹏城国家实验室助理研究员,研究方向包括信息论、语义通信和大型语言模型。

吴泳澎:上海交通大学教授、IEEE Senior Member,IEEE ICC、Globecom、VTC等国际著名会议技术委员会主席及委员;研究方向为空时无线通信理论与关键技术;主持国家自然科学基金、国家重点研发子课题,负责中兴通讯、国家电网等的多个科研项目;获国家自然基金委优秀青年基金、IEEE通信学会亚太区杰出青年研究学者奖、季寒冰青年教师奖、中国科协“青年托举人才计划”和2014德国洪堡学者等荣誉,博士论文《多用户MIMO传输理论方法》获首届中国通信学会“全国信息通信领域优秀博士学位论文”,并获多个学术会议最佳论文奖;发表论文100余篇。

★往期推荐

【6G卫星互联网】2025年第6期专题论文汇总(19篇)

《移动通信》用论文解读通信

《移动通信》杂志由中国电子科技集团公司主管,中国电子科技集团公司第七研究所主办,是中国期刊方阵“双效期刊”、工业和信息化部精品电子期刊、中国科技论文统计源刊、中国通信学会《信息通信领域高质量科技期刊分级目录》入选期刊、中国电子学会《电子技术、通信技术领域高质量科技期刊分级目录》入选期刊、中国应用型核心期刊、日本JST收录期刊。国内连续出版物号:CN44-1301/TN,国际连续出版物号:ISSN1006-1010,邮发代号:46-181。

来源:移动通信编辑部

相关推荐