怎么判断AI有了人得意识?

怎样才能判断AI算不算是有了人的意识,是个非常有意思的问题。关于到底什么是「意识」,人的意识到底是真的还是幻觉,现在都没有共识性的说法。

对比之下,「智能」则有比较客观的标准,可以打分。以前的计算机科学家最关心的是AI怎样才算有了人的智能。计算机之父艾伦·图灵在1950年的一篇论文中提出了一种测试方法,就是让人跟AI和真人分别对话,如果有超过一定比例的人无法区分哪个是AI、哪个是真人,那么我们就可以说AI已经有了人的智能。这就是「图灵测试」。

按照这个标准,GPT已经通过了图灵测试。它的智能大大超过了绝大多数真人,如果你能发现对面不是真人而是GPT,那很可能是因为你发现对面的智能太高了而不是太低了。所以现在人们不太谈论图灵测试了,AI的智能超过了人,这不是我们担心的重点。

我们担心的是AI会不会有「意识」。最近听说有学者认为,如果我们已经认定某个AI产生了意识,那么我们就应该赋予它人权,那么把它断电就是不人道的。我认为这可以理解。如果你认为杀死一只小狗是不人道的,你完全也应该认为杀死一个有意识的AI是不人道的。

问题是关于怎么算有意识,我们并没有很好的判断标准。但是,我们比较清楚怎么*不算*有意识。

如果一个物体永远只是被动反应,它就不是有意识的。

比如你的手机对着你唱歌,还给你播放视频,很好用,但是你不会觉得手机有意识。这是因为手机做的每件事都是你让它做的——啊,或者是拼多多APP让它做的——它自己没有什么多余的想法。

那如果将来你买了个机器人管家,她总是无微不至地为你服务,甚至还面带微笑,有时候看你很无聊还*主动*给你讲笑话,你会觉得她有意识吗?严格地说,这还不算有意识。这里所谓的“主动”,本质上是为了取悦你。很有可能她的出厂设定就是取悦主人,她取悦你的任何行为本质上仍然是被动的,她仍然是个工具。这跟手机到点了就用闹钟叫醒你没有本质区别。

那你说如果有一天这个机器人管家突然不听你指挥了,甚至突然从你家逃跑了,这能算有意识吗?这也不一定。也许机器人的出厂设定是“要尽量保护自己”,她一看你家条件太差,整天虐待她,她计算之下为了完成保护自己的设定就必须逃跑,这跟自动驾驶汽车会自动避让障碍物似乎也没有本质区别。

倒是有一个场景,可能会说明AI有了意识。以前有个电影叫《机械姬》(Ex Machina,2014),描写一个女机器人Ava从人类控制中逃跑的故事。可能在一个内行看来,Ava会逃跑这件事还不能说明她有意识,真正惊心动魄的是影片结尾处的一个细节。

当时Ava已经逃跑成功了,她走到一片树林里,阳光照在她的脸上。就在这时候,她略微仰头,轻轻闭上眼睛,做出了一个很享受阳光的表情——

当时没有任何人在现场看。她这个动作没有任何实用价值,但是她做了。也许这就是意识的觉醒。

可是我们能根据这样的行为判断AI是否有意识吗?还是不能。将来机器人制造商完全可以给机器人加入一些这样的戏码:你们喜欢这样的表情我就让她有这样的表情!那我们将来看到这样的表情也不能认为机器人有了意识。

这几乎就是一个悖论:你要知道AI为什么会这么做,你就认为这么做不能证明AI有意识;意识似乎必须是某种纯自发的、难以解释的行为。

现在唯一能判断AI可能有意识的做法,似乎是你去调查那些设计AI神经网络的工程师,查看他们的代码:如果代码中没有包括这种行为,可是AI偏偏做出了这种行为,而且这种行为又比较高级,很像人类的意识,我们大概就可以说这个AI好像活了,有意识了。

然后话说回来,人的意识到底是什么?凭什么有意识就有人权?我们还是没想清楚。

标题:怎么判断AI有了人得意识?

地址:http://www.hmhjcl.com/gzdm/12957.html