“AI 教父”Geoffrey Hinton 高调离开 Google,因对人工智能抱有伦理顾虑

来源:网络
时间:2023-05-02 09:55:13

“AI 教父”Geoffrey Hinton 高调离开 Google,因对人工智能抱有伦理顾虑(图1)

素有“AI 教父”之称的 Geoffrey Hinton 日前在接受纽约时报采访时高调透露,他已在上个月辞去了 Google 副总裁和工程 fellow 的职务,目的是为了能不受制约地警告人们警惕 AI 的潜在风险。Geoffrey Hinton 担心 Google 会为了和 ChatGPTBing 等服务竞争,而放松对公开发布 AI 的约束,而这也许会引发一系列的伦理问题。

 

在短期内,Hinton 认为生成性 AI 或将引发不实信息的狂潮,而在未来人工智能不仅会消灭“繁重的工作”,许多职业的从业者都可能被其取而代之。更长远来看,Hinton 对完全自主武器诞生的可能性以及 AI 模型从训练数据中习得奇怪行为的趋势都感到担忧。随着这些问题中有许多都只存在于理论层面,但 Hinton 觉得若没有及时准备好相关法规和有效的控制措施,那这种升级将变得无法遏止。

 

Hinton AI 的立场是从去年开始转变,当时 GoogleOpenAI 等公司都已经开始开发在 Hinton 认知中优于人类智能的 AI 系统。他认为 AI 在过去五年里发展神速,而未来五年可能发生的事情将是“非常可怕”的。不过在发给主站的声明中,Google 首席科学家 Jeff Dean 强调他们仍将致力于采取“负责人的方法”,并对“新出现的风险”保持警惕。

 

Hinton 在职业生涯中研究的重点领域便是对 AI 至关重要的神经网络,他最为人所熟知的成就是在 2012 年开发出了一套能透过图像训练辨识物体的神经网络方案。Google 2013 年收购了 Hinton DNNresearch 初创公司,生成式 AI 能发展到如今的程度,Hinton 当年发明背后所用到的技术也是起到了一定的推动作用的。

 

实际上,除了 Hinton 以外,业界有不少专家都曾提议放慢 AI 的发展节奏。以 Elon MuskSteve Wozniak 为首的多名科技领袖、AI 从业者在三月末时便签署了公开信,呼吁人工智能实验室和相关企业在至少六个月内不要训练超过 GPT-4 的技术。作为行业最杰出的人物之一,Hinton 的表态也是有着相当份量的吧。


相关攻略