集微网消息，据美国《纽约时报》网站5月1日报道：人工智能之父离开谷歌并警告未来的风险

(资料图片仅供参考)

被视为人工智能(AI)之父的杰弗里·欣顿周一宣布离开谷歌。欣顿博士和他在加拿大多伦多大学的两名研究生在2012年创造了一项技术，该技术成为人工智能系统的奠基石，而人工智能现在被科技大企业视为未来的关键。

对毕生工作感到有些后悔

欣顿周一正式加入到人工智能批评者的行列。批评者们认为，那些积极开发基于人工智能的产品的企业是在加速走向危险。

欣顿说，他已辞去谷歌的工作，并对自己一生致力于人工智能开发感到有些后悔，欣顿已为谷歌效力长达十年。

欣顿从人工智能奠基人到末日预言者的转变，标志着科技产业的一个关键时刻，该行业正处于几十年来最重要的转折点。业界领袖认为，人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美，并可能给从制药到教育等一系列领域带来突破。

但许多业内人士担心，这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快，它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为，人工智能可能对人类构成威胁。

欣顿说：“很难找到防止坏人用它做坏事的方法。”

在旧金山初创企业开放人工智能研究中心(OpenAI)今年3月发布新版ChatGPT之后，1000多名技术领袖和研究人员签署公开信，呼吁在6个月内暂停开发人工智能新系统。

几天后，有40年历史的人工智能促进会的19名现任和前任领导人发表公开信，警告人工智能存在风险。

人工智能“变得越来越危险”

1972年，作为英国爱丁堡大学的一名研究生，欣顿接受了所谓人工神经网的概念，即通过分析数据学习技能的系统，并以研发该系统作为主要工作。

20世纪80年代，欣顿在卡内基-梅隆大学计算机系担任教授，但后来离开该大学前往加拿大，因为他不想接受五角大楼的经费资助。当时，美国的大部分人工智能研究都是由国防部资助的。但欣顿强烈反对在战场上使用人工智能，即他所说的“机器士兵”。

2012年，欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网，它可以通过分析数千张照片建立自己识别物体的能力，比如认识花、狗和汽车。

谷歌斥资4400万美元收购了由欣顿博十及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术包括聊天机器人ChatGPT和谷歌的巴德(Bard)。苏茨克韦尔后来成为OpenAI的首席科学家。

大约同一时间，谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年，谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为，这些系统在某些方面仍然不如人脑，但在其他方面已经超过了人类智力。

他认为，随着企业逐渐升级人工智能系统，它们将变得越来越危险。

杀人机器人或会变为现实

现在，微软用聊天机器人加强了必应搜索引擎，谷歌也想采用同样的技术。欣顿说，科技巨头们已经陷入一场可能无法停止的竞争。他眼下最担心的是，互联网上将充斥着各种虚假照片、虚假视频和文字普通人“再也无法知道什么是真的了。”

他还担心人工智能会颠覆就业市场。目前，ChatGPT这样的聊天机器人还是人类的助手，但它们已经可以胜任一些死记硬背的工作。欣顿说：“这不仅会夺走工作机会，它会夺走更多。”

欣顿担心，新版本的人工智能会对人类构成威胁，因为它们往往会通过分析海量数据学会令人意想不到的本领。他说这会带来问题因为技术人员和公司不仅允许人工智能系统自己生成代码，而且还允许它们自行运行代码。他担心，有朝一日这会使杀人机器人变为现实。

他说：“过去，有人认为这种东西会变得比人更聪明，我认为这样想为时过早，成为现实至少还需要30到50年甚至更长时间。显然我现在不这么认为了。”

欣顿博士认为，谷歌和微软等公司之间的竞争将升级为一场全球竞赛，除非有某种形式的全球监管，否则竞赛不会停止。

但他说，监管不太可能，因为与核武器不同，目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说：“我认为，不应再升级该技术，直到人们确定是否能控制住人工智能。”

标签：