AI教父" Geoffrey Hinton因担忧AI技术风险辞去谷歌职位

2023年5月05日 09:54

Geoffrey Hinton 从谷歌辞职

Geoffrey Hinton，一位著名的人工智能研究者和“人工智能之父”之一，已从谷歌辞职，并对人工智能技术的持续发展潜在的风险发出警告。Hinton在给纽约时报的声明中证实了他从谷歌的辞职。目前尚不清楚他与谷歌首席执行官Sundar Pichai的具体讨论细节。

Hinton因其在神经网络方面的开创性工作获得了“计算机界的诺贝尔奖”——图灵奖。作为“三位人工智能教父”之一，Hinton与其他两位合作伙伴共同获得了2018年图灵奖，以表彰他们对当前人工智能繁荣所做的基础性贡献。

然而，现在的Hinton对自己投入一生的研究感到遗憾。根据纽约时报的采访，Hinton现在终于可以讨论人工智能技术背后的风险了。在谷歌工作十多年的Hinton表示，“我总是用这样的借口安慰自己：即使我不做，其他人也会这样做。但目前我真的不知道如何防止坏人利用人工智能来作恶。”

虚假信息的传播只是Hinton目前想强调的风险之一。从长远来看，他担心人工智能会彻底消除所有需要大量记忆的工作，并随着它逐渐编写和运行构成自身代码，人工智能最终可能取代人类。

在接受BBC采访时，Hinton甚至提到人工智能聊天机器人已经构成了“相当可怕”的威胁。他告诉BBC：“据我所知，目前的信息技术还不如我们聪明，但我相信它们很快就会超越人类。”

此外，Hinton博士承认他离开谷歌也有年龄方面的考虑，他告诉BBC：“我已经75岁了，是时候退休了。”

总的来说，Hinton的辞职和对人工智能技术潜在风险的警告引发了广泛关注，因为他是人工智能领域的重要人物，并且他的看法和观点对该领域的未来具有重要影响。

Geoffrey Hinton：GPT-4 等模型

已拥有超越人类知识储备的能力

Hinton 博士是人工智能领域的开创者，他的研究为当今的 AI 系统，如 ChatGPT，铺平了发展道路。

神经网络是 AI 领域中一种与人脑相似的处理和学习信息的系统。正是神经网络让 AI 能像人类一样从经验中学习，这是深度学习的概念。

Hinton 博士和他的两名学生创办的公司被谷歌收购，Hinton 博士也因此加入了谷歌。他们开发了一套神经网络，在分析数千张照片后，它成功学会了识别狗、猫、花等物体。这项工作最终促进了 ChatGPT 和谷歌 Bard 的诞生。

Hinton 博士说，聊天机器人很快就会超过人类能容纳的信息水平。他表示，现在的 GPT-4 等模型已经拥有远超人类的知识储备，虽然在推理方面还不够好，但 AI 已经具有简单的推理能力，并预计情况将很快改善。

Hinton 博士在一篇《纽约时报》文章中提到了那些想用 AI 做坏事的人，他在采访中进一步解释说，这是最糟糕的情况。

对于 Hinton 博士的看法，专家们给予了不同的评价。一些人认为，AI 的快速发展构成了一种巨大的威胁，需要立即采取行动。而另一些人则认为，AI 对人类有着重要的贡献，可以用来解决一些严重的问题。

无论如何，人们都同意 AI 需要得到妥善的监管，以防出现不良后果。AI 的发展速度非常快，因此必须在它安全与控制方面紧急投入更多资源。

AI 是一个令人兴奋和激励的领域，但同时也需要小心防范。如果我们能够在保护人类利益的同时，实现 AI 的潜在潜力，那么未来的前景就非常光明。

Geoffrey Hinton 反驳 AI 开发暂停呼声

许多专家对 AI 的发展速度和方向表示担忧，其中包括 2018 年图灵奖获得者 Yoshua Bengio。3 月份，AI 领域数十人共同签名，呼吁暂停比当前版本更先进的 AI 模型开发，以让出时间实施更严密的安全控制。

但 Hinton 博士告诉 BBC，在短期内，他认为 AI 带来的好处仍然多于风险，因此不必暂停 AI 模型的开发。他指出，目前 AI 已引发国际军备竞赛，因此暂停开发将面临困难。

Hinton 博士强调，他只是科学专家，不是政策专家，政府有责任确保 AI 的开发考虑到如何防止滥用。

“谷歌对 AI 的负责任态度”

Hinton 博士在 Twitter 上对他在纽约时报的采访进行了澄清，他表示离开谷歌并不是因为对公司不满，而是为了讨论 AI 的风险。Hinton 博士强调，他不想批评谷歌，这家科技巨头已经“非常负责任”。

谷歌首席科学家 Jeff Dean 通过一份声明表示，谷歌仍将继续采取负责任的态度对待 AI，不断学习和研究新出现的风险，同时大胆创新。

尽管目前 ChatGPT 主要是一个文本聊天机器人，但它背后蕴含的潜力是巨大的。AI 技术正在以惊人的速度发展，令其创造者们也感到惊讶。谷歌 CEO Sundar Pichai 甚至承认，他也无法完全理解他们的 AI 聊天机器人 Bard 的全部潜力。

因此，我们正处在一段充满未知的旅程中，但重要的是要始终保持负责任的态度。

人工智能（AI）的快速发展令人惊讶。例如，通用人工智能（AGI）已经可以通过训练完成各类任务。尽管目前的 ChatGPT 主要是通过查询向用户提供文本答案，但它同时也隐藏着无穷的可能性。

2012 年，Hinton 博士创建了开创性的图像分析神经网络，从那以后，AI 世界已经发生了巨大的变化。就连谷歌的 CEO Sundar Pichai 也表示，他也无法完全理解公司的 AI 聊天机器人 Bard 所能做到的事情。这说明，我们正在一个快速发展的领域前进，它可能有一天能够独立建造轨道。

免责声明:AI教父" Geoffrey Hinton因担忧AI技术风险辞去谷歌职位文章转发自互联网，版权归其所有。
文章内容不代表本站立场和任何投资暗示。加密货币市场极其波动，风险很高，可能不适合所有投资者。在投资加密货币之前，请确保自己充分了解市场和投资的风险，并考虑自己的财务状况和风险承受能力。此外，请遵循您所在国家的法律法规，以及遵守交易所和钱包提供商的规定。对于任何因使用加密货币所造成的投资损失或其他损失，本站不承担任何责任。

AI教父" Geoffrey Hinton因担忧AI技术风险辞去谷歌职位

元宇宙最新

元宇宙热门