编译／庄闵棻

被称为「人工智慧教父」的Geoffrey Hinton对人工智慧（AI）的危险提出警告，并希望政府和企业仔细考虑如何安全地推进该技术。自从今年早些时候Hinton从Google退休後，他就不断出面提出有关AI的警告。Hinton还表示，他对自己过去的某些作为感到後悔，但他也表示，就算他不做，别人也会做，只是很难防止坏蛋利用AI做坏事。

AI就像一个黑盒子一样

据外媒报导，Hinton认为，我们正在进入一个有史以来第一次，世界上有比人类更聪明的东西的时代，而了解AI的想法将与解读人类的思想一样困难。他说：「一旦事情变得非常复杂，我们实际上就不知道科技在演算过程中发生了什麽，就像我们不知道别人大脑里发生了什麽一样」。他相信，AI的快速发展将以我们不完全了解的方式改变社会，而且并非所有的影响都是好的。他指出AI将如何促进医疗保健，但同时也为致命的自主武器创造机会。 他说：「我发现这种前景比机器人接管的前景更直接，也更可怕。」

更多新闻：周休3.5日不是梦！摩根大通执行长：靠AI实现

处理AI不能出错

如果人类失去对AI的控制，那就会很可怕。Hinton说，我们正在进入一个充满不确定性的时期，而且正在处理以前从未做过的事情。通常，当人们第一次处理一些完全新颖的东西时，通常会出错。但在AI上，我们不能出错。在先前的采访中，Hinton就曾指出，AI惊人的进步速度，远远超出了他和其他人的预期。他说：「有些人相信这种东西实际上可以变得比人更聪明，但大多数人认为这是不可能的，我也认为是。我原本以为那是30到50年甚至更长时间的事，但现在我不再这麽认为。」

Hinton呼吁政府采取行动

Hinton还警告说，AI有一天有可能取代人类。他说：「我并不是说这一定会发生。而如果我们能够阻止他们想要这样做，那就太好了。但目前还不清楚当这件事真的发生了，我们是否可以阻止」。Hinton呼吁政府采取行动，因为「现在是时候进行实验，以更深入了解AI，并透过法律确保其道德使用」。

参考资料：ndtv