利用熵值法确定指标权重---原理及Python实现

背景

在进行一些综合评估类项目时，需要给一些指标确定一个合理的权重，用来计算综合得分，这种综合评估类项目在实际的业务中有很多应用，比如：学生奖学金评定方法、广告效果综合评估、电视节目满意度综合评估、用户满意度综合评估等。计算权重的方法比较多，下面主要介绍利用熵值法来确定权重。

一些名词解释

• 个案 一个个案，一条记录，也就是一个样本，在矩阵里面就是一行数据，不同地方叫法不一样
• 属性 属性就是样本所拥有的特性，也就是特征，在矩阵里面就是一列数据

熵值法概念

熵值法原理： 熵的概念源于热力学，是对系统状态不确定性的一种度量。在信息论中，信息是系统有序程度的一种度量。而熵是系统无序程度的一种度量，两者绝对值相等，但符号相反。根据此性质，可以利用评价中各方案的固有信息，通过熵值法得到各个指标的信息熵，信息熵越小，信息的无序度越低，其信息的效用值越大，指标的权重越大。

熵是不确定性的度量，如果用 $P_{i}$ 表示第 $i$ 个信息的不确定度（也就是出现的概率），则整个信息（设有 $n$ 个）的不确定度量如下所示： $$S=-K\sum_{i=1}^{n}P_{i}lnP_{i}$$ 这就是熵，其中 $K$ 为正常数，当各个信息发生的概率相等时，即 $$P_{i}=\frac{1}{n}$$， $S$取值最大，此时熵最大，也就是信息无序度最大，各个信息都发生可能性一样

熵值法步骤

• 1. 可利用信息熵的概念确定权重，假设多属性决策矩阵如下： $$M=\begin{matrix} A_{1} \ A_{2} \ \vdots \ A_{n} \end{matrix} \left[\begin{matrix} x_{11} & x_{12} & \cdots & x_{1m}\ x_{21} & x_{22} & \cdots & x_{2m}\ \vdots & \vdots & \ddots & \vdots \ x_{n1} & x_{n2} & \cdots & x_{nm} \end{matrix}\right] $$

则用 $$P_{ij}=\frac{x_{ij}}{\sum_{i=1}^{ n}x_{ij}}$$ 表示第$j$个属性下第$i$个方案$A_{i}$的贡献度

• 2. 可以用$E_j$来表示所有方案对属性$X_j$的总贡献度： $$E_j=-K\sum_{i=1}^{n}P_{ij}lnP_{ij}$$ 其中，常数$K=\frac{1}{ln(n)}$，这样，就能保证$0=<E_j<=1$，即$E_j$最大1。 由式中可以看出，当某个属性各个方案（样本）的贡献度趋于一致时，$E_j$趋于1。
     

那么各个方案（样本）的贡献度全相等时，就应该不考虑该属性在决策中的作用，也就是该属性的权重应该为0

• 3. 这样可以看出属性的权重系数大小由各方案差异大小来决定，为此可定义$d_j$为第$j$属性的各方案贡献度的一致性程度 $$d_j=1-E_j$$
• 4. 进行归一化后，各属性权重如下： $$W_j=\frac{d_j}{\sum_{j=1}^{m}d_j}$$当$d_j=0$时，第$j$属性可以剔除，其权重等于0
• 5. 如果决策者事先已有一些经验的主观估计权重$\lambda_j$，则可借助上述的$W_j$来对$\lambda_j$进行修正 $$W_{j}^{*}=\frac{\lambda_j W_j}{\sum_{j=1}^{m}\lambda_j W_j}$$

熵值法最大的特点是直接利用决策矩阵所给出的信息计算权重，而没有引入决策者的主观判断，完全是依靠数据来决定

案例

购买汽车的一个决策矩阵，给出了四个方案供我们进行选择，每个方案中均有相同的六个属性，我们需要利用熵值法求出各属性的权重

计算步骤

• 1. 求第$j$个属性下第$i$个方案$A_i$的贡献度，公式为: $$P_{ij}=\frac{x_{ij}}{\sum_{i=1}^{ n}x_{ij}}$$在excel中的话，先求出各列的和，然后用每行的数值比上列和，形成新的矩阵

$P$矩阵：

• 2. 求出所有方案对属性$X_j$的贡献总量，公式为: $$E_j=-K\sum_{i=1}^{n}P_{ij}lnP_{ij}$$ 在excel操作中，将刚才生成的矩阵每个元素变成每个元素与该元素自然对数的乘积
     

只列出油耗计算过程，其他属性同理

求出常数$k$，$k$为$1/ln(方案数)$，本例中有4个方案，所以求得$k$为$1/ln(4)$，再求$k$与新矩阵每一列和的乘积，这样获得的 6 个积为所有方案对属性$x_j$的贡献度

至此所有的$E_j$就求出来了

• 3. $d_j$为第$j$属性下各方案贡献度的一致性程度，公式为：

$$d_j=1-E_j$$利用上面求得的$E_j$，可以得到$d_j$

• 4. 利用下面公式进行归一化后，即可求得各属性的权重： $$W_j=\frac{d_j}{\sum_{j=1}^{m}d_j}$$

经过计算后各属性的权重为：

所以在购买汽车时，据所提供信息，利用熵值法计算得出的权重为油耗占 14%，功率占 7%，费用占 49%，安全性占 16%，维护性占 4%，操作性占 10%。故我们在进行购买决策时，更多是考虑车型的价格和安全性等重要因素，这是从权重角度考虑的。

利用Python实现熵值法：

代码如下：

import pandas as pd
import numpy as np
import math
from numpy import array

# 定义熵值法函数  熵值法计算变量的权重
def cal_weight(df):
    #求k
    rows = df.index.size  # 行
    cols = df.columns.size  # 列
    k = 1.0 / math.log(rows)

    # 矩阵计算、信息熵
    x = array(df)
    lnf = [[None] * cols for i in range(rows)]
    lnf = array(lnf)
    for i in range(0, rows):
        for j in range(0, cols):
            if x[i][j] == 0:
                lnfij = 0.0
            else:
                p = x[i][j] / np.sum(x, axis=0)[j]
                lnfij = math.log(p) * p * (-k)
            lnf[i][j] = lnfij
    lnf = pd.DataFrame(lnf)
    E = lnf

    # 计算一致性程度
    d = 1 - E.sum(axis=0)

    # 计算各指标的权重
    w = [[None] * 1 for i in range(cols)]
    for j in range(0, cols):
        wj = d[j] / sum(d)
        w[j] = wj

    w = pd.DataFrame(w)
    w.index = df.columns
    w.columns = ['权重']
    
    return w

以上是自己实践中遇到的一些点，分享出来供大家参考学习，欢迎关注本简书号