怎么判断AI有了人得意识？

　　怎样才能判断AI算不算是有了人的意识，是个非常有意思的问题。关于到底什么是意识，人的意识到底是真的还是幻觉，现在都没有共识性的说法。
　　对比之下，智能则有比较客观的标准，可以打分。以前的计算机科学家最关心的是AI怎样才算有了人的智能。计算机之父艾伦图灵在1950年的一篇论文中提出了一种测试方法，就是让人跟AI和真人分别对话，如果有超过一定比例的人无法区分哪个是AI、哪个是真人，那么我们就可以说AI已经有了人的智能。这就是图灵测试。
　　按照这个标准，GPT已经通过了图灵测试。它的智能大大超过了绝大多数真人，如果你能发现对面不是真人而是GPT，那很可能是因为你发现对面的智能太高了而不是太低了。所以现在人们不太谈论图灵测试了，AI的智能超过了人，这不是我们担心的重点。
　　我们担心的是AI会不会有意识。最近听说有学者认为，如果我们已经认定某个AI产生了意识，那么我们就应该赋予它人权，那么把它断电就是不人道的。我认为这可以理解。如果你认为杀死一只小狗是不人道的，你完全也应该认为杀死一个有意识的AI是不人道的。
　　问题是关于怎么算有意识，我们并没有很好的判断标准。但是，我们比较清楚怎么不算有意识。
　　如果一个物体永远只是被动反应，它就不是有意识的。
　　比如你的手机对着你唱歌，还给你播放视频，很好用，但是你不会觉得手机有意识。这是因为手机做的每件事都是你让它做的啊，或者是拼多多APP让它做的它自己没有什么多余的想法。
　　那如果将来你买了个机器人管家，她总是无微不至地为你服务，甚至还面带微笑，有时候看你很无聊还主动给你讲笑话，你会觉得她有意识吗？严格地说，这还不算有意识。这里所谓的主动，本质上是为了取悦你。很有可能她的出厂设定就是取悦主人，她取悦你的任何行为本质上仍然是被动的，她仍然是个工具。这跟手机到点了就用闹钟叫醒你没有本质区别。
　　那你说如果有一天这个机器人管家突然不听你指挥了，甚至突然从你家逃跑了，这能算有意识吗？这也不一定。也许机器人的出厂设定是要尽量保护自己，她一看你家条件太差，整天虐待她，她计算之下为了完成保护自己的设定就必须逃跑，这跟自动驾驶汽车会自动避让障碍物似乎也没有本质区别。
　　倒是有一个场景，可能会说明AI有了意识。以前有个电影叫《机械姬》（ExMachina，2014），描写一个女机器人Ava从人类控制中逃跑的故事。可能在一个内行看来，Ava会逃跑这件事还不能说明她有意识，真正惊心动魄的是影片结尾处的一个细节。
　　当时Ava已经逃跑成功了，她走到一片树林里，阳光照在她的脸上。就在这时候，她略微仰头，轻轻闭上眼睛，做出了一个很享受阳光的表情
　　当时没有任何人在现场看。她这个动作没有任何实用价值，但是她做了。也许这就是意识的觉醒。
　　可是我们能根据这样的行为判断AI是否有意识吗？还是不能。将来机器人制造商完全可以给机器人加入一些这样的戏码：你们喜欢这样的表情我就让她有这样的表情！那我们将来看到这样的表情也不能认为机器人有了意识。
　　这几乎就是一个悖论：你要知道AI为什么会这么做，你就认为这么做不能证明AI有意识；意识似乎必须是某种纯自发的、难以解释的行为。
　　现在唯一能判断AI可能有意识的做法，似乎是你去调查那些设计AI神经网络的工程师，查看他们的代码：如果代码中没有包括这种行为，可是AI偏偏做出了这种行为，而且这种行为又比较高级，很像人类的意识，我们大概就可以说这个AI好像活了，有意识了。
　　然后话说回来，人的意识到底是什么？凭什么有意识就有人权？我们还是没想清楚。