AI开年翻车事件：训练神经网络出bug结果把整个库删了

1月18日消息，Yelp 网站授权 AI 删除App 中的 bug，结果 AI 将整个库都给删了。

Yelp 是美国著名商户点评网站，相当于是美国版“”大众点评”，创立于 2004 年，囊括各地餐馆、购物中心、酒店、旅游等领域的商户，用户可以在 Yelp 网站中给商户打分，提交评论，交流购物体验等。?

近日， Yelp 在 App 上的一则更新说明：我们要向那些在本周使用 App 时遇到问题的用户们道歉。我们训练了一个神经网络来消除 App 中的 bug，没想到它把所有的东西都消除了。我们现在只好进行数据恢复。目前暂时达成 100 % 没有 bug 的状态……

从过去两个月 App 的更新说明来看，Yelp 基本上可以说将消除 bug 当成自己的首要任务，Yelp 的程序员们几乎每天都沉浸在消除bug乐趣中。

目前，Yelp 尚未公布详细的网络训练和删库细节。据悉，即便 Yelp 程序员们想复盘删库事件的原由，神经网络的黑箱性质也将导致该行为没法很好地落实。

Yelp 的删库事件告诉我们自动 debug 有风险，但不代表 debug 工具不存在，最具代表性的是 Facebook 的 SapFix。

SapFix 是一款于2018年9月份发布的代码调试工具，配合 Facebook 的自动化漏洞发现工具 Sapienz，可以针对 bug 生成修复补丁。

据了解，SapFix 会先给每个 bug 生成多个潜在补丁，然后从 3 个方面对补丁质量进行评定(是否存在编译的错误、程序是否还会崩溃、补丁是否引入新的冲突)，在评定结束后，SapFix 会在修复版本上进行测试，结果出来后第一时间发给人工评审员进行审批。一旦获得人工反馈，SapFix 将会执行那些经批准的补丁，并清除其他未被批准的补丁。

此外，在面对较复杂的问题时，SapFix 会从过往的修复模板集去寻找生成补丁的借鉴参考。即使没能找著合适的修复模板，它也会尝试基于突变进行修复——简单来说，就是对导致崩溃的语句的抽象语法树(AST)执行小型代码修复，调整补丁，直到找著可行的解决方案。

该工具被 Facebook 视作 AI 技术的里程碑，下一步计划让 SapFix 实现自动制止代码崩溃机制，以及让软件的反应变得更敏捷。

本文编辑：杨婷