AI 的应用前景似乎在不断延伸，从现在的人脸识别、智能音箱、语音翻译等，到人心惶惶的未来军事化应用、杀人武器研发——AI 离我们的生活并不远。但是开发者们有没有想过，如果 AI 失控了会怎么样？本文的作者就被“疯魔”了的机器强制解雇了，但是从始至终却没有人能够阻止它。

Ibrahim Diallo 发表了一篇博客，描述了自己认真地工作却被“强大”的机器系统强制解雇的真实经历，并表示，事情发生的从始至终都没有人能够阻止它。Diallo 在文中描述，自己在某天上班时，发现门卡失效，当他找到主管时，又意外发现了自己已经被解雇的邮件，却不知道是谁发的：

Diallo 随后来到工作岗位，发现自己的 Jira（项目与事务跟踪工具）账号被禁用，当他找经理重新启用账号时，系统却不允许经理进行重新启用的操作。Diallo 回到办公桌前，发现系统提示他重启电脑，但他知道重启后会导致数据丢失，因此并未进行此操作，可 Windows 电脑后却自动重启了，导致几十万条记录丢失，Web 界面也不响应了。

随后 Diallo 用他 CentOS 的机器黑进他的服务器去重启，调试，重启所有访问，然后重新处理所有数据。

后来问题终于得到解决，谈到整件事情的起因时，Diallo 解释道：

我的合同期限是三年，而我仅工作了八个月。原来在我被解雇之前，公司被一家更大的公司收购，而我正是在收购的过程中加入的。当时由于经理的疏忽，没有给我的合同续约，导致合同中止。

而按照我们的系统设定，一旦员工合同中止的工作单发出后，系统就会接管一切。所有中止合同所需的工作单会自动发出，每个都会触发其他的工作单。于是就有了我的门卡失效，Windows 账号和 Jira 账号被禁用事情的发生，等等。

而这整个过程持续了好几天，期间却没有任何方法能人为中止。我只能以新员工的方式被重新雇佣，意味着我得重新填写各种文件，设置银行卡账号，等联邦快递给我发送新的门卡。

作者在文中将整个过程称为：一个简单的自动化错误/功能导致的雪崩。自动化也许给我们的生活和办公带来许多便利，但当机器犯错误时，人必须能够干预。如若不能，可能就会出现上面作者描述的情况，甚至会导致更加严重的问题。网友评论 评论 1：

这正是《好男当自强》中的一幕。在剧中，Ted 想在公司系统里把他拼错的姓氏改正，结果一不小心把自己删掉了。终他不得不自己面试自己，因为系统自动为他的离职贴出了招聘广告。我认为剧中可怕的地方，也是这篇文章中真实发生的故事，是人的因素——人类把系统当作权威而盲从的行为。

我估计还有其他人类盲从技术的例子，比如跟着 GPS 的指示开到湖里等等。而且，当社会越来越依赖于这些系统时，我们就可能失去人类仲裁时代的灵活性。人类盲从权威的倾向，在冷漠的机器拥有权威的时代显得尤为可怕。

曾经的讽刺，现在却无比真实。

评论 2：

之前我也遇到过类似的事情。有1天上班时发现门卡不能用了，只能申请了一张访客通行证并且打电话让同事接我上楼，因为安保系统里我被禁止了。上了楼发现我打不开门，也用不了电脑。可怕的是，我的合同还有效，三个月之后才会到期。我跟老板说了声然后就回家了。几天后他们重新给我设置了安全账号，尽管我直到一两天之后才能用电脑。

这些天我只能帮同事做点什么。拿到账号之后我得去申请几十个权限，就在那时我发现有个工作单是要求回收我的电脑的。我赶紧找了负责回收电脑的人及时阻止了他。总共浪费了约两个星期的时间。

究竟是什么造成的？显然有人在SAP里把我的合同期限输错了。在合同终止之前肯定有过警告，但由于其他系统里我的合同是正确的，那些人就直接无视了。幸好这些天包括我在家的那些天，我都拿到了报酬，但三个月之后，我还是得处理一些乱七八糟的问题，估计都是这次事故造成的。

蓝鸥科技西安中心是一家致力于技术研发、技术咨询、技术服务、职业教育、创业孵化及项目投资的集团化公司。教育部产学合作协同育人项目承办企业，蓝鸥长期精研西安Java培训、西安大数据培训、西安VR/AR/Unity3D游戏开发培训、西安HTML5前端开发培训、西安Web安全攻防和西安UI设计培训等技术，是目前国内仅有的一家集苹果AATC、Unity、Oracle“三大官方授权于一身”的移动互联网培训企业。选择蓝鸥，不止高薪更是高起点！