加拿大诺贝尔奖得主警告：人工智能再发展可能淘汰人类

被称为“人工智能教父”的多伦多大学教授、诺贝尔奖获得者Geoffrey Hinton警告说，如果不对如何控制人工智能进行深入研究，人工智能技术可能会不断发展并“让我们人类变得无关紧要”。

本月初，多伦多大学的英加双重国籍教授Geoffrey Hinton与普林斯顿大学的John Hopfield共同获得诺贝尔物理学奖，表彰他们在机器学习和人工神经网络领域的开创性工作。

Hinton在接受Global News的采访时指出，尽管人工智能（AI）可以带来许多好处，但其快速发展也可能带来存在性的问题。他最担心的是长远的危险，因为人们往往认为这些问题是科幻小说中的情节。他说：“最严重的长期危险是，一旦这些人工智能变得比我们人类更聪明，它们就会掌控一切并使我们人类变得无关紧要。这是非常令人担忧的，目前没有人知道如何确切地防止这种情况发生，因此我们现在需要进行大量研究。”

诺贝尔委员会成员表示，Hinton和Hopfield因利用物理“设计出可充当联想记忆并在大型数据集中寻找模式的人工神经网络”而获得该奖项。

Hinton的获奖工作是利用物理学原理设计出能够作为联想记忆并在大数据中发现模式的人工神经网络。Hinton的研究发现已被应用于面部识别和语言翻译等领域。

Hinton还提到，他离开谷歌是为了能够更加公开地讨论人工智能的潜在危险。他特别强调，医疗保健是一个可以从人工智能中获得巨大帮助的关键领域​。

他说，即使对于那些引领人工智能发展的人来说，未来十年技术的发展方向也是无法预测的。

“我认为你无法看清十年后的情况，事情发展得太快了，就像雾中迷雾，你可以清楚地看到一定距离，然后墙倒了，之后你就什么也看不见了。”

他表示，回顾过去十年就会发现人工智能技术发展的速度有多快。

Hinton解释说，过去十年人工智能和技术的快速发展超出了所有人的预期，并以ChatGPT或谷歌的Gemini等大型语言模型作为例子。

他说，尽管这项技术仍然存在一些缺陷和不准确性问题，但它通常可以写出完整且引人注目的句子，这是该行业10年前无法预测的。

Hinton说：“这些大型语言模型及其正确处理自然语言的能力比我们10年前预测的要好得多。”

“没人想到我们会拥有能够回答你提出的任何问题的语言模型，而且在各个方面都不是那么优秀——这太神奇了。十年前，人们会非常自信地预测我们做不到这一点。”

• https://globalnews.ca/news/10811125/artificial-intelligence-threat-geoffrey-hinton/