linux办公网
信息论随笔（三）交互信息量
创始人
2024-01-31 19:32:09
0次

之前讨论了一个事件的自信息量，但是实际情况下往往有多个事件发生，而且这些事件之间相互是有联系的。比如知道一个人踢足球，那么这个人很有可能会看世界杯。也就是说，我们可以通过一个事件获得另外一个事件的信息，或者说，消除另外一个事件的不确定性。（信息量是用来衡量不确定性的。）那么，如何在数学上表示这种情况呢？

考虑事件A和事件B，它们发生的概率分别是P(a)和P(b)。如何计算事件A可以从事件B中获得多少信息量？

事件B发生前，事件A的信息量（不确定性）I_1：log(\frac 1 {P(a)})

事件B发生后，事件A的概率是在事件B发生条件下的概率：P(a|b)，事件A的信息量（不确定性）I_2为log(\frac 1 {P(a|b)})

那么事件A从事件B中获得的信息量即I_1-I_2。事件A的不确定性被事件B消除了一部分，所以信息量减少了。

I(A;B)=log(\frac 1 {P(a)}) - log(\frac 1 {P(a|b)})=log(\frac {P(a|b)} {P(a)})

由于P(a|b) = \frac {P(ab)}{P(b)}，代入上式可得I(A;B)=log(\frac {P(ab)} {P(a)P(b)})=log(\frac {P(b|a)}{P(b)})，该式子等于事件B从事件A中获得的信息量。

上式表明了事件A从事件B中获得的信息量与事件B从事件A中获得的信息量是相同的，交互信息量是对称的。

对上个式子进行变形，还可以得到I(A;B)=log(\frac {P(ab)} {P(a)P(b)})=log(\frac {1}{P(a)})+log(\frac {1}{P(b)})-log(\frac {1}{P(ab)})

这个式子可以从系统的整体来看，系统的信息量的变化等于事件A的自信息量加上事件B的自信息量减去事件A和事件B同时发生的信息量。

所以交互信息量有3种算法：I(A;B) = H(A)-H(A|B)=H(B)-H(B|A)=H(A)+H(B)-H(AB)

其中H代表信息熵。（单个事件发生时信息熵就是这个事件的自信息量）

上一篇：PCL库常用算法

下一篇：避开大坑：win10-CPU版(64位)环境下安装Anaconoda和tensorflow，亲测成功

相关内容

热门资讯

前端-session、jwt 目录：   （1）session （2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作： 我们首先创建了一个文件并在这个文件里面添加了...
关于测试，我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语，但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组，我们想大量频繁的去访问L到R这个区间的和，...
nodejs：本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本，node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构：jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路，走一条最大的...
常用的DOS命令 常用的DOS命令 DOS（Disk Operating System，磁...
＜C++＞ 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数，cons...