人工智能有危险？“人工愚蠢”才害死人！

去年10月，特斯拉CEO伊隆·马斯克（Elon Musk）曾表示，人工智能是“对人类生存最大的威胁”，而开发能思考的机器就像是“召唤恶魔”。去年12月，著名物理学家史蒂芬·霍金（Stephen Hawking）指出，“全面的人工智能将意味着人类这一种族的灭亡”。今年，微软创始人比尔·盖茨（Bill Gates）也表示，他“对超级智能感到担忧”，而这样的超级智能只需几十年就会诞生。

不过，即使认为人类将由于“杀人机器人”而面临威胁，这样的问题也不太可能来自人工智能，而更有可能是由于“人工愚蠢”。人工智能和人工愚蠢之间的差异反映了我们看待计算机的方式。

关于人工智能，大部分人担心的一点在于，计算机会认为人类是错误的产物并杀死人类。对人类来说，这无疑非常糟糕，但对计算机来说可能是明智的决定。

但业内专家表示，真正令人担忧的是，计算机程序会在无缘由的情况下，迅速而过度地完成某项单一工作。例如，一个生产回形针的机器可能会失控，导致在一夜之间生产出大量无用的回形针。

换句话说，这里发生了非常愚蠢的错误，而错误影响范围很大。在关于人工智能导致世界末日的报道中，你可能会看到“终结者”机器人的说法，但实际上这仍停留在想象之中。

麻省理工学院物理学教授、未来生命研究所主席马克斯·泰格马克（Max Tegmark）表示：“你真正应该担心的是，一台计算机在某个非常狭隘的领域变得非常强大。”

今年6月底，德国一名工人遭到工厂生产线机器人的意外伤害而身亡。当时，泰格马克表示：“这表明，机器非常愚蠢，将人体当做了一块金属材料。”

未来生命研究所近期获得了马斯克的1000万美元资助，以探索如何避免自动化程序带来危害。不过包括马斯克、霍金和盖茨在内，许多人似乎都没有注意到真正的潜在威胁。

目前来看，没有任何证据表明，机器人工智能能产生意识，并出现杀死自己创造者的想法。