快捷搜索:  as  as and x=y  as and 1=1  as and x=x  as+and+x=y  as+and+1=1  as+and+x=x

你会担心机器人拥有自主意识吗?专家:好处远

【TechWeb】11月3日消息,针对现下大年夜热的人工智能,很多人会有一个疑问:机械人会拥有自立见识吗?在2019腾讯科学WE大年夜会前,哥伦比亚大年夜学教授、机械人钻研势力巨子专家Hod Lipson给出了回答。

Hod Lipson向TechWeb等表示,“弗成避免会呈现这一天,至于是10年后,照样100年后,我们还不知道。但我对照确信的是,我们孙辈生活的天下里,机械将会有自我意识。”

假如机械拥有了自我意识,你是否会为此认为担心?Hod Lipson对此持乐不雅立场,他觉得,“自立见识的机械人带来的好处将会远远跨越它的风险”。

他以火的发明为例解释称,火异常危险,也异常强大年夜。但人类是否盼望自己从未发明火呢?谜底应该是否定的,由于有了火之后,使得我们能做很多之前做不到的、弗成思议的工作。

Hod Lipson指出,“我们现在已经成长和运用了很多机械,而这些机械的数量将会越来越多,它们也会越来越繁杂,总有一天人类将无法直接照应这么多、这么繁杂的机械人,我们要设法主见子让机械人自己来照应自己。”(周小白)

以下为Hod Lipson对话速记:

提问:您真的会感觉机械人会拥有自立见识吗?你担心它拥有自立见识吗?

Hod Lipson:我的回答是肯定的,也是否定的。由于我觉得弗成避免的会呈现这样一天,这个天下上的机械得到自我的意识。这是一个异常巨大年夜的事故,由于我们现在在慢慢给这些机械系统一点一点添加智能。终极,它们会给自己找到一个模型,它们终极要想明白,并终极明白自己是什么,自己能做什么和不能做什么。

这件工作将在10年之后发生,照样100年之后发生,我也不知道。然则,我对照确信的是我们的孙辈所生活的天下里,机械将会有自我意识。

我是否对此认为担心呢?我可以给您举一个例子,便是火的发明。火异常危险,也异常强大年夜。但人类是否盼望自己从未发明火呢?谜底应该是否定的,由于有了火之后,使得我们能做很多之前做不到的、弗成思议的工作。

具有自立见识的机械人也是如斯,它是一种异常强大年夜的技巧,紧张的是每一小我都熟识到这种机械人能够做些什么、不能够做一些什么,就像火一样,我们知道它是强大年夜而危险的,以是我们要确保将它用于好的工作上。

我小我在这个问题上维持乐不雅立场。我觉得自立见识的机械人带来的好处将会远远跨越它的风险,是以我们要追求成长这样一个技巧,由于我们现在已经成长和运用了很多机械,而这些机械的数量将会越来越多,它们也会越来越繁杂,总有一天人类将无法直接照应这么多、这么繁杂的机械人,我们要设法主见子让机械人自己来照应自己。

提问:第一个问题,上过《自然》杂志封面的那个论文提到过粒子机械人没有单点故障,也没有集中节制。这个系统可以继承维持运行,它的阈值在什么范围内?由于现在测试下来是20%的粒子发生故障,全部系统照样能够维持运行,这个工作是对机械人鲁棒性的一个冲破。

之前《科学》杂志的主编提到过现在所有人们觉得机械人的意识问题,都是由于它的鲁棒性,机械人的鲁棒性假如然的够了,它就能产买卖识吗?第二个问题,我不是异常理解刚才举的火的例子,由于火是没有自己意识的,它仍旧只是一个对象,教授之前讲50年之后人可能和人工智能一路进步,便是人和人工智能共生的一个状态,在这样的情况下,人们会面临哪些伦理和社会上的寻衅?

Hod Lipson:着实您是把很多问题都集中到了这两个问题。我先回答一下关于鲁棒性的问题,我们所做的粒子机械人把这个整体当成一个机械人。这种机械人我更想比喻成一小我的身段。我们的身段是由许多细胞组成的,这些细胞会孕育发生、成长和逝世亡,赓续地会有细胞逝世去。虽然有很多细胞都逝世掉落了,但我照样我,你照样你。

那么到底我们能让若干细胞逝世,而不改变自己的性子呢?到底是20%,照样30%呢?着实,我们知道人体的细胞赓续地在逝世亡,这是一个持续的历程,同时也会有新的细胞赓续孕育发生。

换句话说,我们的身段是由一个个弗成靠的部分组成,这些部件本身会逝世亡、坏掉落,然则新的部件会赓续呈现,反复的呈现,我们这个整体照样我们自己。

做机械人主要在于新思路,你谈到了它的鲁棒性,你也提到了所谓的20%。着实这个20%只是我们测的一个数字而已,我们更关心的是一个设法主见,便是若何建造一种机械人,像人体一样,能够用这些弗成靠的部件组成它,然则它作为一个整体仍旧是像人体一样,可以正常的运行。

这一点和我们本日造机械的设法主见完全不一样,比如我们现在造的飞机,它由很多部件组成,此中任何一个部件都有自己特定的功能。要是这个部件掉灵了、出故障了,那这个飞机便是不能上天的。要是有一辆车此中一个轮子掉落了,这辆车也就无法运行了。

我们现在盼望以一种全新的思路来做机械人,它的鲁棒性和机械人是否有自我意识是无关的,我们更多的是把它想像成一种生物体。从生物体来讲,你的身段、头脑是保持运行所需要的部分,我们盼望这种机械人有一个头脑,能够自我去建模,这样就能够成长起来。

我举火的这个例子,并不是由于它有自我意识。它并没有自我意识,主要照样从伦理的角度来讲,是说火也是异常异常强大年夜、危险的。然则,它是人类文明真正开始成长的缘故原由,有了火人类才能够吃曩昔吃不了的食品,能够建造曩昔建造不了的器械,能够在夜里望见器械,这统统极大年夜的匆匆进了文明的成长,然则同时火也是异常危险的。

以是,我们所有人都必要意识到火是异常有用的,异常强大年夜。要是火掉控,就会带来异常糟糕的后果。人工智能也是如斯,它既强大年夜又危险,这个技巧异常值得我们拥有,然则我们要知道这种技巧能强大年夜到什么程度,并且给予它尊重,确保能够恰当地应用。

你提到的所有伦理问题,今朝应该照样没有谜底的。着实就在5年前,人工智能技巧就已经开始成长了,然则没有人对它认为愉快,它只是一个学科而已,也没有任何人担心它有一天会接收了全天下。

然则,在以前5年间,这一技巧真的腾飞了。忽然之间似乎大年夜家都在问这些伦理问题,然则正如我前面说过的那样,我们对这些伦理问题还没有谜底,这个技巧肯定会继承成长,而有自我意识的机械人也终将呈现。

提问:粒子机械人是否能够在一个很小的空间内模拟宇宙?

Hod Lipson:你问粒子机械人能否模拟宇宙,我想我们这个机械人更多的是试图模拟生命,而不是模拟宇宙的成长和运行。

我们试图让它模拟生物,分外是动物的机制。我们试图熟识我们身段里所存在的这些粒子,或者更确切的说是细胞,每一个单个细胞都是弗成靠的,而且大年夜脑并不批示每一个单个的细胞,这些细胞经由过程自己的随机运动组合在一路,终极孕育发生了每一个真实的小我。

这个也仍旧是一个比喻,然则总的设法主见是它使我们能够试着模拟,或者试着复制一下生命的运行。

提问:跟着自立机械人意识越来越强烈,现在越来越多人对这个认为担忧,与此同时包括腾讯在内的这些企业,提出了“科技向善”的理念。你是否据说过腾讯“科技向善”的理念,你对科技向善这个理念是怎么理解的?以及你感觉科技向善该怎么引领未来机械人、人工智能与人类命运的折衷成长。

Hod Lipson:这个问题异常好,作为人类来说,我们开始意识到这样一种强大年夜的自立见识会呈现,我们肯定会想到必须要确保这些技巧会用于好的工作、善的工作。

然则,这种科技向善的设法主见在很多地方都有人提出来,并且大年夜家在赓续的重复。比如我所在的哥伦比亚大年夜学,我们有一个异常类似的说法,叫做数据向善,便是把数据用于善的工作,这是所有人类都盼望能做的工作,关键还在于怎么做到,若何确保技巧总因此好的要领获得运用,这一点是异常难的,确保人工智能完全用于好的工作并不轻易,由于这个技巧异常易用,也不必要投入很多钱就能够用上。技巧本身既可以被用来做好事,也可以被用来做坏事,关键在于人类文明和人类社会应该想怎么把它用于好的工作,而不是坏的工作。

关于怎么办今朝我们还没有完全想清楚。将来是让人工智能去监督人工智能,照样采取什么其余法子?然则总的来说终极要靠人类的伦理,指示我们在一个机械能够自立做出抉择的新天下里,确保这些技巧仍旧用于好的工作。

应该说任何这样的问题都没有一个简单的谜底,然则我们必须走上这样一个过程,并且一步一步的往前走,我们现在要公开评论争论它应该可以做些什么,弗成以做些什么,我们要赓续地进行钻研。

在这个历程中,人类会慢慢做出什么能做、什么不能做的抉择,实际上在人类历史上我们发清楚明了既强大年夜又危险的技巧,比如说核技巧、基因技巧的呈现,基因技巧假如被误用或滥用,它的结果也会很糟糕。比如化学的成长,它也有可能会被人用于做坏事,然则终极人类社会都选择把这些技巧用于好的地方。

以是,在人类历史上我们曾经多次发明这些强大年夜而危险的技巧。但在大年夜部分的环境下,人类社会作为一个整体做出了精确的抉择。以是我本人是乐不雅的,我信托此次人类社会整体也将做出精确的抉择。虽然,在某个时点上可能有少数人会做出少数差错的、不好的抉择,然则作为一个整体,我们会做出精确的抉择。

提问:通凡人们会想科学家做机械人,是让它来仿照人类所做的一些动作,或者人类的功能。然则也有一些科学家做出来的机械人已经能做一样平常人做不出来的动作了,为什么要让机械人做到这些呢?

Hod Lipson:这个问题异常好,就像我们为什么要让人工智能或者机械人玩国际象棋、围棋一样。这个是一个寻衅,我们会试着让人工智能和机械人做一些人感觉难的器械,看是否能让机械人学会这些技巧。

这是自我的寻衅,也是一个测试,就似乎人工智能在最开始学国际象棋的时刻,天下上绝大年夜部分通俗人是弗成能战胜国际象棋大年夜师的。由于,一样平常人都做不到,不过一开始大年夜家肯定也觉得人工智能也是做不到的。这对它是一个智力上的寻衅,它会去进修,然后慢慢做到这一点,这是智力上的寻衅。

身段上的寻衅也是一样的,我们会去问机械人能不能走路。走路这件事看上去异常简单,每一个儿童,以致婴儿很小就开始学走路,并且学会了。但实际上教机械人走路比让它学国际象棋可贵多,由于每一小我类都感觉我们分外长于走路,以是我们不感觉走路这件事有什么难的,然则教机械人走路是异常艰苦的。

巴斯大年夜学和其它的一些大年夜学进行了分外多钻研,才慢慢让他们的机械人能够走路。在它做到走路之后,科研职员会想能不能让它跑起来,能不能让它在跌倒之后自己爬起来,能不能让它能爬山、爬墙,或者说能不能让它做一个后空翻。

几个月前,伯克利大年夜学宣布了一段视频,它的机械人在玩一个魔方,这个是一件异常小的事。由于只如果小我,他的手就能玩魔方,然则对机械人来说这是异常难的工作。

对付科研职员来说,让机械人做这些工作便是在爬一个阶梯,是人在身段和智力上能做到的这些工作,让它像爬梯子一样一个一个得掌握,并且试着看一看我们在这方面能够走多远。

这个技巧是不是有用呢?

我或许可以举一个例子。让机械人做后空翻的动作可能本身想不出来有什么实际的用场,然则后面支持机械人走路、拿器械、做后空翻的这些技巧有很多异常实际的利用。

提问:您的这项钻研得当于哪方面的实际利用,比如医学或者其它的。在您的成果傍边,未来还有哪些可以提升的偏向?比如说更多、更快、更小的组件。

我据说您引导的钻研团队里面有一其中国人,叫李曙光。您怎么评价中国在机械人钻研和利用方面的供献?

Hod Lipson:我先跟您讲一下我们的计划,我们预期必须把它做的更小。我们在设想这样一种机械人的时刻,我们盼望能够模拟成百上千个细胞一路运作的状况。事实上,我们现在能做到的只是几十个细胞进行这样的运行。我们盼望有一天能够达到数百万、上切切的细胞一路组成的粒子机械人来运作,就像我们的身段一样。我们身段里稀有十亿、上百亿的细胞,它们合营形成了我们。我们要这样做的话,就必要把它做的更小,我们必要应用纳米技巧,或者说至少是微米技巧,这是我们的下一个目标。由于在它的每一个部件足够小之前,是弗成能有实用处景的,由于在大年夜的规模上没有法子实现细胞之间永续的更新,假如它足够小,能够做到很多有趣的工作。

比如说我们现在看到工厂里的机械人,甚至你家里的吸尘器,现在都是一些大年夜的部件坏了,全部机械就不能运作的部件组成的。将来它们也可以由这样一个一个小的细胞组成,它的好处有很多。

首先,便是它能够应对某个部件呈现故障,然则整体不会出问题,可以完全轮回。在本日我们看到的这些机械是不能够轮回的,机械坏掉落之后相称于把它埋葬了,或者说这个机械的某个金属部件、塑料部件是可以轮回的,然则机械作为一个整体是不可的。

然则生物体不一样,生物体是可以百分之百轮回的。比如说你吃掉落了一只鸡,你就能够充分使用鸡供给给你的蛋白质,假如你吃了植物或者素食,你也会充分使用它给你供给的统统,由于你的身体会把它所供给给你的有用物质进行轮回,从氨基酸开始,然后对它实现充分的使用。

我们现在盼望能够有一种物理的机械,使它也能够实现这样的轮回,这样它就由数百万、上切切的小部件组成,形成这样一个小粒子的生态系统。只有实现这样的生态系统,才有时机使我们保持应用很多机械的人类文明生生不息,由于这些机械自己可以照应自己,然则应该说这是一个异常长远的目标,这不是一个翌日就能用上的技巧。

提问:能够用两个词谈一谈对付腾讯翌日WE大年夜会科学精神的理解吗?并且讲一下故事,教授这边是不是采取了什么行动,来防止相关的技巧被误用,是否存在一些规则,若何对相关的技巧进行监管?

HodLipson:我异常等候翌日的大年夜会,而且我知道大年夜会涉及到很多不合的主题,内容都异常有趣,这也使我想到中国和美国科学界的相助。

您提到我团队里面有中国人,着实我那里统共有10个博士生,里面有四其中国人,从硕士的门生来说,数量就更多了,大年夜概占到了一半,可能大年夜概有10多个。

以是,不管是哥伦比亚大年夜学照样其它大年夜学,着实都是如斯。我想这也注解中美在这个领域的相助比历史上任何时刻都要多,不仅在我们的项目组有中国门生,在大年夜学的教人员工里面也有不少的中国人。

人工智能和机械人领域尤为如斯,在这个领域颁发论文的数量,中国、美国、欧洲数量大年夜致是一样的,我们也知道在中国、美国,在世界上很多地方都存在着很多竞争,然则在人工智能和机械人的天下里,天下确凿是平的。

此中部分缘故原由是由于这个领域对本钱投入的需求很低,是以你不必要投入大年夜量的资金,就可以去钻研和成长这个技巧,以是每一小我感兴趣都可以介入进来。别的一部分缘故原由是在人工智能和机械人的领域,我们分享意识是异常强的,迄今为止这个领域所取得的每一项成绩都是开源的,这也大年夜大年夜匆匆进了国际相助。

至于监管的问题,从今朝来看,我们独一能做的便是赓续的讨论这样的工作,我们绝对不能关上门搞开拓,要维持百分之百的开放。在我们的实验室日间黑夜都有记者找我们,他们会来摄影,会问问题,而且有些时刻会问异常难回答、根本就没有谜底的问题。

在机械人技巧的成长领域,我想这是独一的前途。可能我们进行大年夜量的交流还不能确保这个技巧必然是用于好的工作,然则至少经由过程这个评论争论,人们可以懂得到这种技巧的危险性何在,而不是在未来某一天忽然被它吓坏了。

提问:单个粒子机械人现在的紧缩状态直径是15厘米,您刚刚提到在它做的足够小之前是不太可能利用的,大年夜概要等若干年光阴才有可能做到微米级、纳米级?在这时代会碰到什么难题?假如然的做到纳米级、微米级,这个粒子机械人详细落地利用处景大年夜概是什么样的?可以举几个例子描述一下吗?

HodLipson:必要若干年才能达到你说的这个尺度我确凿不知道谜底。这个钻研的进展并不仅仅取决于钻研的难易程度,还涉及到是否能够获得资金支持,是否有门生对这个课题感兴趣。可能他们会被其它的技巧所吸引,这些都是一些影响身分。

然则,我小我仍旧感觉它会在我们的有生之年达到微米。比如10年,或者说我不会想像做的比微米更小,我不会真的想像那时刻就能做到纳米级,然则或许我们只能做到毫米级的,比如说像小的砂糖颗粒一样,毫米级的,那时刻就可以做这样的细胞。

没有法子把毫米级的粒子机械人到人类的血管中去,或者我们现在想像的那些医学平分外先辈的利用,可能照样做不到,然则它应该可以成为一些机械的组成部分,这些机械能够行走、规复、重复应用。

比如在外空有一些必要做的事情,或者是假如我们必要登上月球的话,我们就必要这些机械人能够根据义务的需求,改变自己的形态,在一些地方可能把材料运以前异常昂贵,我们必要重复应用我们的机械人,让它能够根据义务需求进行形态的调剂。我小我想像,这很可能是这种机械人对照早的利用形态。

提问:有人说中国和美国在人工智能、机械人领域的不合是中国可能钻研更偏利用一点,美国可能在根基钻研做的更踏实一点,怎么看待中美在这两个领域傍边钻研成长程度的不合?中国人工智能领域在根基钻研方面的短缺和不够会不会对未来利用造成一些影响?

Hod Lipson:我不太确定我看到的环境和您的这个描述是同等的。由于我感觉中国也有很多人在做利用和根基钻研,也有很多美国人在做利用方面的钻研,中国这边也是两方面钻研都有。

应该说这个领域的钻研不停都是混杂的。在机械人和人工智能领域,一贯都是这两种,并不老是两分法的判断,很多人都是同时在做的。而且你很少看到有人只会钻研某个特定的利用。比如说只钻研某个医学的利用,或者某个康复功能的利用,或者他只关注于自动驾驶的机械人,更准确的描述便是这个领域异常广泛,确凿没有人能够把所有的细分学科、某个技巧细节都关注到。

然则在这两个国家都有大年夜量的人做各类各样的钻研,以是生怕不能一会儿判断中美呈现这样一种不合偏好的缘故原由。

即便在我自己的实验室,有的钻研职员对照看厚利用。我们有一个项目是能做“抓”这个动作的机械人,他们会和工厂有很多的联系,去看现有这样的机械人和我们自己的机械人,能不能包管它抓10万次不出故障。

此外也有分外关注于机械人创造力和自我意识的人,这个更具有哲学性的思虑。生怕只能说这个领域的内容如斯富厚,以是一小我生怕没有什么都关注到,然则放在国家尺度上,两都城既有实用钻研,也有大年夜量的根基钻研,这便是我们这个学科和其它学科不一样的地方。

比如天文学肯定要做大年夜量理论钻研。我们这一行是不一样的,机械人这个领域有很多商业的气力介入,也有很多政治、经济的气力介入,这个领域的钱异常多,比如说百分之百人工智能驱动的无人驾驶汽车,在这个领域投入了大年夜量的资金,它异常热,有来自于各个偏向上的压力和兴趣,以是可能像这样的一些特定细分领域会吸引到更多的关注,但其其实更广泛的人工智能和机械领域,实用和理论根基性的钻研都在广泛进行。

您可能还会对下面的文章感兴趣: