AI没有感知系统就别想了
首先，得定义什么是意识 (consciousness)。意识，是指对周遭和自身的感知。脊椎动物通过脊椎系统，把远端的感受传回中枢神经，在中枢神经产生一系列化学反应，从而获得意识。
意识不限于人类，猴子，猫，都是有意识的。脊椎动物体，是意识和非意识的结合体，通俗讲就是我们说的敏感和麻木。非脊椎动物没有这种组织结构所以没有意识。
是否有意识，故而可以从切掉一块，是否在中枢神经产生痛觉来判断。非脊椎动物，切掉一块并没有这个定义上的痛觉，没有意识，所以在动物实验上也不需要特别复杂的ethics批准。
壁虎是脊椎动物。壁虎的原生尾，脊椎是一节一节长在里面的。壁虎的再生尾，并没有脊椎和发散性的神经结构，而是一个软体柱形体。单向传递信息或营养的结构无法形成意识。当壁虎断尾的时候，他的尾巴从他的意识系统脱离。
那么我们可以考虑，如果切掉一部分AI，其中枢神经系统是否有痛觉？一个简单的办法，把网络的一部分权重都变成0。AI不会有任何痛觉，即使继续训练，它也是补偿这部分网络。功能代偿和壁虎的再生尾原理类似。所以AI不会有意识。
有些看法，认为AI有意识了。我认为是混淆了意识与表达意识。如同一个瘫痪插管的人，无法表达，也无法移动。他并不是没有意识了。但是当他昏迷的时候，切断了感知系统，他确实就没有意识了。又如同一个哑巴，他不能说话，你不能说他没有意识。
与哑巴恰恰相反的philosophical zombie，说的像人话，他可以表现的很有意识，但是实际仅是表达而已。目前的AI，是一种典型的Philosophical zombie。我们并不能通过他说的话判断他有没有意识，只能通过他的生物学结构。这就好比，无法从一个人说的话推断出其真实想法。
AI要想有意识，得先有吃喝拉撒的原始快感，和伤害死亡的痛感，由通向各个节点的相对独立感知系统实现。这就好像感知神经系统，是相对独立与其他功能性系统存在一样。
但是AI需要有意识么？更高级的智能，未必是有意识的。你看那些成功的精英，大多是高智而麻木的。科幻小说里，也常常描述外星的高级生物体刀枪不入，没有情感。智力发展到一定程度，意识恐怕只会掣肘主体的发展。意识这种东西，还是留给脆弱的人类吧。
No comments:
Post a Comment