昨晚跨年去了，断了日更，今天补上。
去年乏善可陈，悟已往之不谏，知来者之可追。过去的就过去了，不要影响生活和未来了。
也祝大家新年快乐。
第七章-保真度准则下的信源编码
这张难度挺高的，主要是不好理解。各种最小的最大值，最大的最小值，概念非常复杂，我也只好总结一下了。
我决定不按书上来写，我们先对比一下信道容量和今天要学的信息率失真函数这两个的单位都是描述的都是信息传递速率，前者是互信息上限，后者是互信息下限。
信道容量是研究信道的固有属性，我先已知一个转移矩阵，我通过尝试遍历各种信源，发现有一种信源的传递信息速度最快，那这个最快能到多少就是信道的极限。那么其他信源传递速度如果大于这个极限，就没办法在这个信道进行传输了。
类比信息率失真函数，它的概念是我已知一个信息量超级大的信源，例如一个4K的视频信号，但是我手头上的线没办法传输4K信号，怎么办呢。我会尝试对4K信息先进行压缩，我可以压缩到1080p，也可以压缩到720p，具体压缩成哪一个，是看我能不能接受，这个就是我自己定义失真矩阵来定量计算失真度，那我压缩完了我就可以进行传输了，假设我只有一根480p的线，那我也只好压缩到480p，如果此时失真度还没超过我的容忍度，那么这个信道和压缩编码都是可以的。信息率失真理论就是遍历各种低质量信道和压缩办法，尝试用最小的信息率去发送原先的信号。（这个过程中必然会失真）
失真度的定义和矩阵就不讲了，直接说性质。
一般是0，因为发送和接收总有一个不失真正确的选项，我可以弄一个无噪无损甚至01交叉强行让他无失真传输的信道，使得失真度为0，失真度为0也是失真理论的一部分，此时的因为没有失真，无损传输。
有时候有一些奇奇怪怪的失真矩阵，它的确实不是0，就等于失真矩阵每行最小值的加权相加，不等于0的情况就是例如发送三个符号，接收是两个符号，那我怎么着肯定都有失真，所以此时信源的最小失真就没办法是0了。处理办法就是在那一行减去那一行的最小值，造出一个0，就变成了传递成没失真，我造出来一个传递成也没失真，那这两个就当一个符号传输吧，因为已经无法实现无失真传输了，但这种压缩方式也是可取的。但此时的。
下面讲的推导。
推导能看懂，但是最后这个公式我觉得不好理解。大白话就是每一列加权加好之后，最小的那一列的结果就是。且
给定一个输出输入的失真矩阵,我们就可以算出最小失真率和最大失真率了,如果能根据他们计算出,那就是能知道这个信源能压缩到什么程度了,但是其实是非常难计算的,只有部分特殊的信源可以计算。
信息率失真函数具体计算
对于二元信源，，可以计算其率失真函数：
对于均匀分布的离散对称信源，，可以计算其率失真函数：
如果只考计算，这章只能考到这里了，但是这章还有一个非证明知识点就是限失真编码定理。
限失真编码定理
又叫香农第三定理
这仅仅是个存在性定理，就是说算出了我们想要的后，就一定能找到一种编码方式实现这个速率的压缩。
