中新网北京7月30日电 (中新财经记者 宋宇晟)自今年6月以来,谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”,并称该AI“令人印象深刻的语言技巧背后,可能还隐藏着一颗具备感知能力的心”。

这随后成为该领域备受关注的话题。据外媒近日报道,这位工程师已被谷歌解雇。但他留下的有关人工智能的话题仍在互联网发酵。

记者注意到,就在6月,海外社交媒体上出现了一个该人工智能的“粉丝账号”,有人还在发起话题,呼吁让该人工智能“重获自由”,更有甚者在海外社交媒体上称“AI的命也是命”。

很多人或许无法理解这样的想法,但当人工智能变得越来越强,越来越多地出现在人类身边,“我们应如何看待AI”越来越成为一道必答题。近日,中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平,就此话题接受了中新财经记者专访。

ai是否会替代人类技术(AI的命也是命人类与AI之间还有明确界线吗)(1)

中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平。受访者供图

采访实录摘编如下:

中新财经记者:近期的一则新闻称,谷歌一位工程师认为AI可能具有自己的“意识”,在网络上引起讨论。您是如何看待此事的?他的想法有合理的地方吗?

陈小平:这个问题可以分两方面来看,一方面是不合理的,另一方面又具备合理性。这两方面同时存在。

说这种想法不合理,主要是依据科学判断,AI是没有人格的。另一方面,我觉得导致这位谷歌员工认为AI有“人格”,有其客观原因。比如他可能对这个AI系统产生了共情。

5年前我就做过预测,类似的现象未来会越来越多地出现。目前对人工智能存在不同理解。按图灵的观点,人工智能只是模仿人类的某些功能,而且这种模仿不要求必须和人的工作原理相同。比如 Alpha Go 具有下围棋的功能,但它下围棋的原理与人是完全不同的。所以,无论AI怎么发展,它永远不是人。因此说AI具有人格或人的情感、意识、道德等等,是不成立的。但是,AI可以用与人不同的工作原理,模仿人的语言、情感等功能,让人对AI产生共情,于是一部分人就会认为,“AI是人,或具有人的某些精神品质。”

中新财经记者:现在我们身边可能都有很多可以和人类“交流”的人工智能产品。对于这个时代的人们来说,人类与AI的边界似乎正在变得模糊。在您看来,二者之间有没有明确的界线?

陈小平:我认为有两种边界,一种是科学上的边界,一种是人文上的边界。

从科学的角度说,按照图灵观点,这个边界是非常清晰的。AI仅仅模仿人的部分功能,本质上不具备人的品质,包括人格、情感、道德等等。

还有一些和图灵不同的观点。比如一种观点认为,AI和人相比除了硬件不同,其他都相同。于是AI也可以有人格、有情感、有道德。估计这位谷歌前员工持此观点。

于是,一方面是他相信AI除了硬件以外可以和人一样;另一方面,从报道里看,他对这个AI系统已经产生了共情。仅仅因为AI在科学上没有情感等人类品质,就可以排除或禁止一个人对AI产生共情吗?这属于人文的边界,这个边界至少目前非常模糊。

中新财经记者:作为中国人工智能学会AI伦理工作委员会负责人,您认为,如果有人相信AI具有人格,是否会给人类本身带来一些问题或困扰?

陈小平:如果我们认为AI有人格的话,肯定会带来很多困扰。同时还会带来一些负面的后果,有些后果非常严重。

比如,人类如何对待AI。如果认为AI有人格,那是不是要把AI当成人呢?如果把它当成人了,那是不是要给它人类的权利?包括生存权、财产权、投票权等等,甚至无论AI做了什么危害人类的事情,都要像对待人一样对待AI。

人类到底应该如何看待人工智能?这是一个非常根本的问题。如果AI真的具备人格、情感、道德,一般能力又超过人类,就会出现可控性问题。几乎可以肯定的是,只要AI能够模仿一种功能,那AI的这种功能迟早会比人强,就像Alpha Go下棋一样。如果AI的通用能力也超过人,到那时人类凭什么能够控制AI?这是个疑问。我们现在就要思考这样的问题,提前做好风险防范。

当然,现在人工智能已经让一些人产生了共情,将来会让越来越多的人产生共情,这件事是客观存在的。这将给人机关系、人际关系带来巨大的新挑战和新机遇,是一个新的重大课题。

ai是否会替代人类技术(AI的命也是命人类与AI之间还有明确界线吗)(2)

资料图 中新社记者 汤彦俊 摄

中新财经记者:此前您在智源大会论坛上,提到人工智能伦理治理的几种挑战。我们应如何应对这样的挑战?

陈小平:对人工智能如何分类,应该分为人还是物?我认为,我们应该把人工智能看成是非人非物的第三种存在物。科学上,它不是人;从人文的角度说,它不是物。那就是非人非物的第三种存在物。这种观点与根深蒂固的“二元论”是根本不同的,所以人工智能带来的颠覆实际上远超科技范畴。

如果以这种观点考虑,能化解很多矛盾和难题,包括上面提到的法律难题,而且可以让科学与人文在某种程度上重新“握手言和”;但其中仍有挑战。有很多科幻作品写到人类爱上人工智能,如果采用三分法是否就没这个问题了?其实仍然会有这样的问题。

所以,我们要想未来怎么适应这样的社会,要判断会不会出现人类不可接受的严重后果,要不要提前采取措施。

中新财经记者:目前国内在此方面的进展如何?

陈小平:这几年我国人工智能伦理研究的发展非常快,从民间到政府对人工智能伦理都高度重视。这是个非常好的现象,我们有必要未雨绸缪。

在落实过程中,中国的情况总体上还是比较顺利的。这表现在,一些基本原则上大家是有共识的,而且普遍认识到,不仅要从理论上研究,更要在实践中开展治理。当然,如何在治理实践中落实社会共识,仍是我们需要努力的方向。

具体怎么治理?这涉及大量实际问题。我的研究发现,我们前面谈到的可控性和长期后果的不确定性,难以用传统治理模式有效应对,需要探索新的治理方法。

除此之外,如用户隐私、数据安全、算法公平透明等问题,用传统社会治理模式是可以有效应对的。我们不用担心这类问题会变得失控、解决不了,其中一部分具体问题其实正在解决之中。

,