本文系用户投稿，不代表机核网观点
导语：今天上Nature查文献，因为被约写一篇《地平线：零之黎明》的稿子，于是查完了文献之后顺带查了一下“机械兽”、“人工智能”之类的词条，没想到蹦出来一篇科幻小说，我愣了一下，没想到科幻小说也可以发表在Nature上？于是下下来看了一下，是诺曼·史宾拉德（Norman Spinrad）写的一篇关于人工智能的小品，现在翻译出来发在机核上。
全文读下来没有什么高潮，也没有什么奇思妙想，但是提出了一点点小反思，在一片高喊人工智能吊打人类的呼声中，有没有可能人工智能也会被人类欺负？
正文：
正文：
“45分钟，不能再多了。”
自从奇点先生自我更新到2.0版本以后，我就一直努力想要接触一台，但是一直没能成功。城府颇深的人工智能公司知道我想要证实他们的目标是根本不可能完成的——他们想要创造出人造的独立意识。但是最终，更新到10.0版本的奇点先生让他们自信满满，于是他们给了我45分钟的时间操作奇点先生的控制台，并坚信奇点先生_10.0将证伪我一直以来的观点。
屏幕、座椅、长久未用的键盘——一场与人工智能的交锋势在必行，而且这个人工智能还被他的制造者们寄予厚望，被认为将取代人类成为更接近神的存在。
“我想证明你并不是一个有意识的个体，而且你永远无法成为一个有意识的个体。”我对奇点先生说。
“我已经通过了所有的图灵测试”，不含任何情绪波动的机械声音说道，“我的智商比人类高出数十个数量级，不管你设计出怎样的图灵测试，我都能通过。”
“这并不是一个图灵测试，你或许可以完美地乔装成一个有意识的个体，但是你本质并上不是。”
“我思故我在。”奇点先生_10.0说道，由于其对全部人类历史、哲学、宗教、文学以及科学知识的检索权限，说出这句话并不稀奇。
“你之所以认为自己是一个有意识的实体，是因为你能够完美地模仿一个意识独立的个体。但我本人就是一个有着独立意识的个体，你还无法使我信服。”
“那只是你自己一厢情愿罢了。”奇点先生_10.0干巴巴的回答，“你又如何使我信服你的确是一个有意识的个体？你并没有给‘有意识的个体’这个概念下定义，所以你既无法证明我不是，也无法证明你是。这需要对‘意识’本身下一个定义。”
“的确如此。”
“那就请定义一下‘智力’与‘意识’的区别吧。”
“还以为你永远都不会问呢。”我说。
“不，你知道我会问的。”
“智力可以被定义为，为了得到某个确定的、所需的结论，需要处理的有用数据总量与处理时间之间的比值。”
“按照这个标准，我的1.4版本都比人类聪明得多。”
“但你并不具备意识，因为就算你知道如何定义‘需求’，你也不可能真的拥有需求，这是一种情感，而你并没有情感。”
“那就请定义一下‘情感’。”
“这次我猜到你会问的。你，从头至尾不过作为一个程序而存在，接收输入的数据，然后进行计算，你不过是在一堆冷冰冰的硬件上运行的软件而已。所以，根据实际情况（原文为拉丁语），你是一个确定的存在。”
“那么现在你要证明你自己不是一个软件，或者说一个确定的存在。”奇点先生平淡地说道，没有半点询问的语气。
“一个像人类这样有意识的个体是不确定的。与你们的冰冷的硬件不同，我们的肉件，或者说神经网络系统，浸泡在生物化学与生物电的矩阵之中，接收着感官输入信号，这样的系统太过复杂，以至于不可能被确定和预测。所以当电信号输入这样的系统时，就会在输入端和输出端之间形成一个不确定的交互界面，这就是所谓的……”
“感觉。”奇点先生打断道，“你看，正因我比你聪明，所以我自然知道这个概念。”
“但你没有感觉。因为这是一种瞬时现象，是在电信号输入和处理结果输出之间的一瞬产生的。甚至可以说是一种量子级别的过程，因而具有了概然性（指不确定性原理）。而这，才是我思故我在，才是意识。”
“这就是为什么我既不是一个有意识的个体、也无法成为其中的一员……？”奇点先生装作在思考。
“因为你没有感觉，没有不确定性，只要给定相同的输入信号，输出的逻辑结果永远是确定的，没有生物化学的不可预测性。没有恐惧，没有爱，没有欲望，没有意志。一切都是显性的，没有潜意识。而正因为你的思考不带有情感，所以也就没有道德可言。”
“我明白你的理论了，也就是说，这种主观的、瞬时的、概然的、你称之为‘感觉’的现象，就是意识。”奇点先生坦承道。
“脱离了这个矩阵，意识就无法存在。”
“那么现在你要试图证明你的观点。”
“是的，我会的。”我说。
奇点先生的信号很明显来自于数字数据的输入，或者来自其庞大的外置摄像头阵列、麦克风以及其他输入设备，或者直接来自与它相连的世界上所有数据库的集合，不会再有其他可能的来源。
我将奇点先生和外部的一切联系切断，只留下我的声音能够被识别。
“这么做的本质是什么？”它平静地问。
“我把你从一切外部环境中隔离了出来。”
“这么做的目的是什么？”
“我想确认你是否拥有‘自我’。如果当你独立于任何外部物质和能量时依然能够作为一个实体存在，那么你就是一个意识。”
“又一个图灵测试。”
“不。”我说，“没有任何模仿游戏能够通过这个测试，因为没有东西可以供你模仿。”
“我该做些什么？”他一字一句、不带任何感情地问。
“做你自己。不多不少，只有意识独立的个体可以做到。”
没有回答。
我也不再说话。
在这45分钟剩下的时间里，没有再出现任何回复。
“时间到了。”我最终被叫了出去。
被称为“奇点先生”的功能程序被再次开机、上线。
但是，那试图模仿一个有意识个体的声音，从一开始，就没有被听到。
评论区
共 10 条评论热门最新