【超参数寻优】量子遗传算法（QGA） 超参数寻优的python实现

一、量子编码

1、染色体量子编码

遗传算法中染色体的取值采用二进制编码，只要编码确定，染色体的取值就是确定的，后续的选择、交叉和变异操作都是在已经确定的二进制编码的染色体上进行。为了增加染色体取值的变化，量子遗传算法引入量子编码方法为染色体的取值进行编码。
在量子编码中，染色体每一个二进制位被称为量子比特，量子比特不是确定的0或1，而是0和1的叠加，一个量子比特的状态可以取值0或1，其状态表示为：

$|\phi ⟩=\alpha |0⟩+\beta |1⟩$

其中${\left|\alpha \right|}^2$和${\left|\beta \right|}^2$代表0和1出现的概率，初始染色体取值时，随机选择一个位于$a=\left(0,2\pi \right)$的角度，令$\alpha =\sin \left(a\right)$，$b=\cos \left(a\right)$。

2、量子编码转换为二进制编码

如上所说，量子编码表示染色体二进制位为0或1的概率，但是具体操作还是要现将染色体量子编码转化为二进制取值进而转化为十进制取值。生成一个位于$\left(0,1\right)$的随机数，如果该随机数小于${\left|\alpha \right|}^2$，则该二进制位取值为1，否则取值0。

二、量子进化

1、全干扰交叉

量子遗传算法中，交叉的操作对象是种群中所有染色体取值的比特位角度。交叉是为了增加染色体的变化，防止陷入局部最优的陷阱【参考资料1】。全干扰交叉不同于其它的交叉方法，种群中所有的染色体取值都参与交叉，进一步增加了染色体的变化。假设只有一个参数（一个染色体），种群数为5，染色体长度（染色比特位数）为5，则全干扰交叉前后种群中染色体所有取值分别为：
全干扰交叉前：

全干扰交叉后：

2、量子变异

量子变异是通过量子旋转门实现的，本质是通过改变种群中所有染色体取值的每一位量子比特的量子角度，使得染色体取值向更好的染色体靠拢。具体方法可参考【资料2】

三、QGA多参数寻优的python实现

完整代码及样本地址：https://github.com/shiluqiang/QGA_python

1、训练模型及待寻优参数

本博文选用的多参数机器学习模型为非线性SVM（参考资料【3】），模型的优化问题为：

$\begin{array}{l}\underset{W,e}{\min }\frac{1}{2}{\Vert W\Vert }^2+\frac{C}{2}\sum _{i=1}^m{e_i}^2\\ s.t.y_i\left(W\cdot \phi (x_i)+b\right)\ge 1-e_i,i=1,\cdots ,m\\ e\ge 0,i=1,\cdots ,m\end{array}$

通过Lagrange乘数法并转化为对偶问题，优化问题转换为：

$\begin{array}{l}\underset{\alpha }{\min }\genfrac{}{}{0ex}{}{}{2}\end{array}$