视学算法报道  

编辑：LRS

【新智元导读】程序员的死对头就是各种bug！最近微软在NeurIPS 2021上带来了一个好消息，研究人员设计了一个类似GAN的网络，通过选择器和检测器来互相写和改bug，而且还不需要标注数据！

常言道，「一杯茶，一包烟，一个bug改一天」。

写代码是软件工程师们每天的工作，但当你辛辛苦苦写了一大堆代码，却发现无法运行的时候，内心一定是崩溃的。

找bug不仅费时费力，最关键的是还经常找不着，并且有时候改了一个bug又会引入更多bug，子子孙孙无穷尽也。

简直就是找bug找到吐血。

随着AI技术的发展，各大公司开发的代码助手如GitHub Copilot等也能帮你少写一些有bug的代码。

但这还远远不够！

深度学习要是能帮我把代码里的bug也给修了，我上班只负责摸鱼，岂不是美滋滋！

微软在NeurIPS 2021上还真发了一篇这样的论文，其中提出了一个新的深度学习模型BugLab，并通过自监督的学习方法，可以在不借助任何标注数据的情况下检测和修复代码中的bug，堪称程序员的救世主！

https://arxiv.org/pdf/2105.12787.pdf

修bug难在哪？

所谓的bug，就是代码的实际运行和自己的预期不符。

该运行的没运行，该输出a，结果却输出个b，这种代码故意找茬的行为都属于bug。

所以想要找到并修复代码中的bug，不仅需要对代码的结构进行推理，还需要理解软件开发者在代码注释、变量名称等方面留下的模糊的自然语言提示。

例如一段程序的意图是，如果名字的长度超过了22个字符，那就只截取前22个。但原始代码中错误地把大于号写成了小于号，导致条件判断错误，程序运行结果和预期不符。

这种小错误在写代码的过程也是太常见了，稍不注意就会把条件弄反。

还有一种bug就是使用了错误的变量，例如下面的例子里面write和read弄错了，就会导致条件判断失败，这种bug的修复只有在理解了变量名的意义后才能修复，传统的修复手段对此是无能为力。

这种错误看起来很简单，但往往盯着看代码的时候却很难发现，属于一改改一天的那种。

并且每个程序员有自己的编程风格，比如不同的命名、缩进、判断以及重构的方式，想让代码来给自己找bug，一个字，难！

对于微软来说，好在有GitHub代码库可以用来训练模型。但问题来了，GitHub上带bug的代码有那么多吗？有bug谁还commit啊？就算能找到代码，也没人来标注数据啊！

微软提出的BugLab使用了两个相互竞争的模型，通过玩躲猫猫（hide and seek）游戏来学习，主要的灵感来源就是生成对抗网络（GAN）。

由于有大量的代码实际上都是没有bug的，所以需要设计一个bug selector来决定是否修改正确的代码来引入一个bug，以及以何种方式引入bug（例如把减号改为加号等）。当选择器确定了bug的类别后，就通过编辑源代码的方式引入bug。

另一个用来对抗的是bug detector，用来判断一段代码是否存在bug，如果存在的话，它需要定位并修复这个bug。

选择器和检测器都能够在没有标记数据的情况下共同训练，也就是说整个训练过程都是以自监督的方式进行，并成功在数百万个代码片段上训练。

selector负责写bug，并把它藏（hide）起来，而detector负责找bug，并修复，整个过程就像躲猫猫一样。

随着训练的进行，selector写bug越来越熟练，而detector也能够应对更复杂的bug。

整个过程与GAN的训练大体相似，但目的却大不相同。GAN的目的是获得一个更好的生成器来修改图片，但BugLab的目的是找到一个更好的检测器（GAN中的判别器）。

并且整个训练也可以看作是一个teacher-student模型，选择器教会检测器如何定位并修复bug。

为开源社区修bug！

虽然从理论上来说，使用这种hide and seek的方式可以训练更复杂的selector来生成更多样的bug，从而detector的修bug能力也会更强。

但以目前的AI发展水平来说，还无法教会selector写更难的bug。

所以研究人员表示，我们需要集中精力关注那些更经常犯的错误，包括不正确的比较符，或者不正确的布尔运算符，错误的变量名引用等等其他一些简单的bug。并且为了简单起见，实验中只针对python代码进行研究训练。

虽然这些解释听起来都像是借口。

为了衡量模型的性能，研究人员从Python包索引中手动注释了一个小型bug数据集，和其他替代方案（例如随机插入bug的selector）相比，使用hide and seek方法训练的模型性能最多可以提高30%

并且实验表明大约26%的bug都可以被发现并自动修复。在检测器发现的bug中，有19个在现实生活中的开源GitHub代码中都属于是未知的bug。

但模型也会对正确的代码报告存在bug，所以这个模型在离实际部署上线还有一段距离。

如果更深入地研究selector和detector模型的话，就会引出那个老生常谈的问题：深度学习模型到底有没有，又怎么样去「理解」一段代码的作用？

过去的研究表明，将代码表示为一个token序列就能够产生次优的（suboptimal）效果。

但如果想要利用代码中的结构，例如语法、数据、控制流等等，就需要将代码中的语法节点、表达式、标识符、符号等等都表示为一个图上的节点，并用边来表示节点间的关系。

有了图以后就可以使用神经网络来训练detector和selector了。研究人员使用图神经网络（GNN）和relational transformer都进行了实验，结果发现GNN总体上优于relational transformer。

如何让AI帮助人类来写代码和改bug一直都是人工智能研究中的一项基础任务，任务过程中AI模型需要理解人类对程序代码、变量名称和注释提供的上下文线索来理解代码的意图。

虽然BugLab离真正解放程序员改bug还很遥远，但距离我们消灭bug总算又向前走了一步！

参考资料：

https://www.microsoft.com/en-us/research/blog/finding-and-fixing-bugs-with-deep-learning/

点个在看 paper不断！