【人工智能算法】受大自然启发的算法之交叉和突变

本文要点：

演化算法；
拼接交叉；
重复基因；
改组突变；
扰动突变。

演化算法有许多，并且大多数算法都利用演化算子，例如适应度函数、选择、精英、交叉和突变。根据你选择的演化算法，这些演化算子的实现会有所不同。

遗传算法（Genetic Algorithm，GA）；
遗传编程（Genetic Programming，GP）；
基于人的遗传算法（Human Based Genetic Algorithm，HBGA）；
粒子群优化（Particle Swarm Optimization，PSO）；
蚁群优化（Ant Colony Optimization，ACO）。

这些算法具有许多共性：每个算法都是基于种群的，它们都处理潜在解的种群，必须计分。也就是说，在这些算法中一定会有计分函数。
一些算法使用竞争种群，如遗传编程、遗传算法和基于人的遗传算法使用竞争种群。因此，它们将利用精英、交叉和突变。配置设置决定你使用这些算法的程度。此外，种群规模通常是固定的。常用的是:
种群规模：1 000；
精英计数：3；(我们将始终把前3个个体复制到下一代)
交叉百分比：80%；(80%是来自两个选定亲本的参数的组合)
突变百分比：20%。(20%是只有一个亲本的副本，带有少量随机的参数变化)

解编码

大多数演化算法要求潜在解是定长数组，每个解必须具有与其他解相同的数组长度。尽管看起来限制很大，但遗传算法遵循该准则。使用演化算法最具挑战性的方面之一，是将解表示为固定长度的数组。
确定数组中的数据性质至关重要，比如是数值还是分类类型。
如果要使用可变长结构作为解，那么就必须设计自己的交叉和突变算子。

交叉

在演化算法中，交叉允许有性繁殖。
大多数演化算法都允许任何个体与其他任何个体进行交叉，因为你所演化的解没有性别。换言之，交叉中不存在父本和母本。因此，不必选择雄性和雌性进行交叉。
尽管大多数交叉实现都有两个亲本对象，但这种设置并不是严格的要求。在David Snell（2013）的文章Genetic Algorithms—Useful, Fun and Easy中，我第一次看到使用两个以上亲本的算法。

拼接交叉

数值的解数组和分类值的解数组都使用拼接交叉。它的工作方式是取两个亲本并生两个孩子 [1]。根据两个剪切点拆分亲本对象，这个拆分为每个亲本对象生成3个子数组，随后将它们拼接在一起以生成两个孩子。每个孩子从一个亲本那里得到一个子数组，从另一个亲本那里得到两个子数组。

sub slice_crossover(parent1,parent2,cut_length):offspring1 = alloc(len(parent1))offspring2 = alloc(len(parent1))cutpoint1 = int(random_uniform(len(parent1)-cut_length))cutpoint2 = cutpoint1+cut_lengthfor i from 0 to len(parent1)-1:if (i>=cutpoint1) and (i<cutpoint2):offspring1[i] = parent2[i]offspring2[i] = parent1[i]for i from 0 to len(parent1)-1:if (i<cutpoint1) or (i>=cutpoint2):offspring1[i]=parent1[i]offspring2[i]=parent2[i]return [offspring1,offspring2]

无重复拼接交叉

执行交叉操作时不允许在孩子中有任何重复数据，这可能很重要。但是，这个考虑不适用于改组突变算子。因为改组突变算子用于单个亲本，所以该算子不会引入任何原来不存在的重复。

sub find_unused(source,used):for x in source:used[x] = 1return xreturn -1
sub slice_crossover_nr(parent1,parent2,cut_length):offspring1 = alloc(len(parent1))offspring2 = alloc(len(parent1))used1 = {}used2 = {}cutpoint1 = int(random_uniform(len(parent1)-cut_length))cutpoint2 = cutpoint1+cut_lengthfor i from 0 to len(parent1)-1:if(i>=cutpoint1) and (i<cutpoint2):offspring1[i] = parent2[i]offspring2[i] = parent1[i]used[offspring1[i]]=1used[offspring2[i]]=1for i from 0 to len(parent1)-1:if(i<cutpoint1) or (i>=cutpoint2):offspring1[i] = find_unused(parent1,used1)offspring2[i] = find_unused(parent2,used2)return [offspring1,offspring2]

其他突变和交叉策略

对于具有不同长度的解数组，突变往往是较容易的操作。由于突变是无性的，因此你不必担心如何管理两个不同长度的解。要实现突变，你只需要设计突变算子，使其可以处理可变长度的数组。
在处理不同的解数组长度时，交叉变得更加复杂。在大小为10的数组与大小为10 000的另一种解之间进行交叉时，要产生可行的后代数组可能非常困难。生物学也有这个问题，例如，在鲸和浮游生物之间繁殖可能的后代也是困难的。
NEAT、HyperNEAT和HyperNEAT ES都是可变长度模型的示例，它们仍然可以执行交叉操作。NEAT变体使用物种形成来完成交叉。此外，它们采用一个创新表来允许在不同长度的解数组的公共部分之间进行映射。遗传编程利用树来编码解，最终，剪切和嫁接树的一些部分，使交叉得以完成。

突变

在演化算法中，突变是无性繁殖，也就是说，突变是仅基于一个亲本的特征来创造一个孩子的方式。
突变使潜在解可以在下一代中产生一个稍微优化的孩子。由于潜在解可能已经是最优的，所以它只能从亲本那里得到一点优化。这些对孩子的改变都是突变，它们通常是随机的。这不同于自然界，即现有生物发生突变的地方。对于演化的生物，突变只是繁殖的一种形式。
交叉和突变都是演化算法的重要组成部分。交叉重组了最优解的特征，但是，交叉不能带来新的特征。突变是将全新特征引入潜在解的过程。交叉和突变一起使用，可以发现新特征，然后将其制作成新的解。

改组突变

改组突变既可用于分类值的解数组，也可用于数值的解数组。尽管改组突变具有足够的灵活性，可以用于任何一种求解数组类型，但很少用于数值的解数组，因为改组突变只是改变解数组的顺序，而不会更改数组中的实际值。

sub shuffle_mutate(parent,flips):offspring = clone(parent)for i from 1 to flips:index1 = int(random_uniform(0,len(parent)-1))index2 = -1while index2 ==-1 or index1 == index2: index2 = int(random_uniform(0,len(parent)-1))temp = offspring[index]offspring[index1]=offspring[index2]offspring[index2]=temp
return offspring

我们只需选择两个元素并将它们互换即可。但是，我们必须确保两个索引不相同。如果我们不执行这种检查，则孩子常常会是亲本的精确复制。因为复制不是突变的目的，所以应避免交换相同的索引。

扰动突变

扰动突变是通过随机增加或减少数组中的每个数值来实现的。扰动突变与数值的解数组能很好地兼容，但与分类值的解数组完全不兼容。
比如【1.0,2.0,3.0,4.0】可能会变成【1.0421,2.0213,3.2231,4.0923】为每个数字添加了随机数量的噪声，因为来自亲本的基本序列仍然很明显。每个数字以相对较小的随机量增加或减少.

sub perturb_mutate(parent,perturb_amount):child = clone(parent)for i from 0 to len(parent)-1:value = parent[i]delta = value*random_uniform(-perturb_amount,perturb_amount)child[i] = child[i]_deltareturn child

首先，将亲本复制到孩子。然后，将孩子中的每个元素突变一个量，即用当前值乘以一个随机百分比，该百分比在−perturb_amount～perturb_amount的范围。确保考虑到数组的当前值，以免应用不成比例的值，如太大或太小。
扰动突变有许多不同的实现。其他一些变化包括：

扰动使用一个范围作为训练设置，该范围等于带有标准差的正态分布；
提供扰动每个元素的概率，而不是扰动每个元素；
随机选择一个数组元素并仅扰动该元素。

为什么需要精英

精英是一种配置设置，用于指定应将种群中多少个获得最佳分数的成员直接传递给下一代。精英可防止最佳分数倒退。

尽管世代#100进行了所有有性和无性的生殖，但没有任何一个孩子的得分能超过个体#2的得分。新的种群最高得分是74分。如果从一开始就将个体#2复制到下一代，那么可以防止这种不良的结果，精英就是进行这种复制的动作。