用Python，实现平均互信息I(X；Y)的计算

Wyecho

已于 2023-04-10 20:41:00 修改

阅读量754

点赞数 2

CC 4.0 BY-SA版权

分类专栏： python-信息论文章标签： python numpy

于 2023-04-06 16:57:40 首次发布

本文链接：https://blog.csdn.net/Wyecho/article/details/129993752

输入X的概率分布、以及Y在X条件下的条件分布，计算平均互信息 I(X;Y)

$I\left ( X;Y\right )=\sum_{i =1}^{r}\sum_{j=1}^{s}P(a_{i}b_{j}) log\frac{p\left ( a_{i} |b_{j}\right )}{P\left ( a_{i} \right )}$

import numpy as np

px = eval(input("请输入X的概率分布p(x)：[p1,p2,...]"))
py_x = eval(input("请输入条件概率分布p(y|x)：[P1,P2,...]"))
SUM = 0

# 计算联合概率密度pxy
func = lambda x,y:x*y
result = map(func,p,pyx)
pxy=list(result)

pxy2 = [pxy[i:i+len(px)] for i in range(0,len(pxy),len(px))]#将列表按x个数拆分
py = np.sum(pxy2, axis=0)#对子列表转置后求和
px_y = pxy/py
 
if sum(px) != 1 :
    print("概率分布错误")
fo

最低0.47元/天解锁文章