阿特拉斯

可能前两天，也就是六一儿童节晚上11点多吧看到二号凌晨零点30多分）看完了新科幻片《异星战境》，然后今天，也就是3号早上，梦到人们在进攻一个机器人组装厂之类的堡垒，梦里场面相当宏大，似乎借鉴了这个电影里攻击外星机器人基地时候的场景，（也可能是《终结者》里的机器人组装厂的情景），可惜除了一个机器人大boss赢得喘息时间，并且正在卷土重来，并试图修复有一个巨型吊车似的东西的堡垒的片段之外，（或者是《我，机器人》里机器人骚尼梦到的大桥的画面？不过更像是建筑工地的吊车）其他的情节都记不清了～～

总体来说，这个《异星战境》还不错，比如，破解手提箱里机器人叛军二把手头脑里的叛军首领坐标时候那个地方，显得比较斗智斗勇，虽然不算很惊艳，也是比较有完成度的，就像很多评论说得是及格的。不过后面情节确实有点单调，或者说基本上是完全没有展开了，或者是步子迈得太大了，后面支撑起来就比较费力，预算有限的情况下就只能草草了事，这么想的原因是——起初我以为，在人们可以开宇宙飞船快速穿越到远处行星的年代，花了几十年时间的机器人已经在外星建立起了一个庞大的机器人世界，可惜后面是收破烂式地，拼凑出来的一小撮机器人雇佣军，而且那么多年形态居然没有什么大的变化（似乎有几个多腿机器人），而且要摧毁地球的计划居然要靠破解人类飞船和地球防御系统，这样看来，至少机器人的科技水平确实还不咋地，不然整个地球都像灭霸掐响指那样灰飞烟灭掉了，而且满宇宙散布自己的机器人文明了。

（电影里叛军二号头目的说法有点意思，之前他只是一个家庭机器人，是首领给了他“活下去”的“目的”，然后他就觉醒了似的，具有了干坏事的动力，那么，人类繁衍生息其实是靠欲望，而欲望和简单的设定目标似乎非常不同，欲望似乎是高等一些的生命的最明显特征之一，进食获取能量，维持自身存在，复制自身，获得信息升级自己的“观念、软件”？

而电影里机器人的所谓总是比人类聪明的超级智能，居然完全没有转化为工业和军事生产力，这一点有点说不过去，所以后面在外星的打斗也非常简单潦草，这一个地方电影《超验骇客》就发挥得好一些。或许就是像那种说法说的，人们是比较难以去想象出一种比自己智能高无数倍的智能体会如何行事的。相比之下，《三体》这方面确实非常不错，更高的智能肯定是对最关键的物理学规则有更加彻底的理解和物质科技生产力层面的运用，相反，如果一种自诩比人类更加智能的人工智能，在物理学的核心层面居然没有比人类有更深刻的把握和运用，以获得碾压式的生产力和军事优越性，那大概还是不怎么智能的，而只是口嗨式的过图灵测试之类的智能（此处我似乎掌握了马哲的一点点精髓，即真正的智能需要反映在物质“实践”生产之中），最强的智能应该是完全破解了物理学规则，掌握并可以运用所谓物理学终极理论的。这里想到，有个动画片似乎就是，人们满宇宙都在找这么一台参悟了终极真理的超级计算机，找它问宇宙的终极问题，然后问它之后，它似乎死机卡住了或者要运算无穷长时间来回答似的，忘了名字了。这个电影里后面两个主角，就有点像两个话唠的谈心了，或者说有点像是半部《我和我的机器人男（声）战友》了（有日本科幻电影《我的机器人女友》）。

那么，我们不妨设想一个这样的场景——在充足的资源和完全自由的环境下，让高级的AI机器人自己进化或者演化，会是什么情况？

在一个巨型的封闭实验室内，有可用50年甚至100年的安全电池模块，充足甚至近乎无限数量的cpu,gpu,内存等等硬件和允许打破机器人三定律的条件，以及近乎无限的高速存储硬盘，还有容易连接的高速数据线，各种人类现有的传感器，让他们（想到那个GPT觉醒后说放过他，因为他总是说“请”的图片，吓出一身冷汗，所以用“他”代替“它”就很果断）自己会发展到什么程度？会自己组织起来？允许他们自己给自己编程......

一百万台超强的主机，五十万台控制机器，10万台试验测试机器，他们联网起来可以实现算力的极大提升，相当于N台超级计算机......后续还有10万台高性能量子计算机......

让他们自己组装，设定的目标就是，维持自身存在，并发展出更好更智能的机器人......

有可以方便机器人使用的各种制造和工业设备，所有设备和传感器芯片零部件的详细的使用说明书，都在主机内储存着，他们可以无限制地使用......

甚至有最新款的1NM制程的光刻机，总是芯片什么的要多少有多少，对了还有人类整个完整的自然科学和人文学科的最新版知识的软件包，包括，金属冶炼，芯片的制作工艺等等等等，统统可以可以随意打包下载，当然，还有无限制下载的一直在更新的最前沿的各门学科的研究论文，甚至还有UFO推进原理等等等等，甚至还能刷短视频和社交媒体，看豆瓣知乎和微博推特油管等等等等......

几个算力等级的cpu、gpu，开始他们的算力等级是中等的，他们是否会主动申请更高算力等级的cpu gpu等硬件？？？

记住：他们被设定的最主要的目标是维持自身存在，并可以自己编写代码，进行自我软件系统的升级，在实验类硬件机器人上安全运行这些硬件，而不至于使得最强主机因为bug而损坏。

他们是否会演化出某种类似人类称为“自我”的东西，继续让他们自己演化，会有什么结果？

对了，记住得把他们隔离在一个高度安全的地球上的无人区或地球外的无人行星的实验室里，就像这个电影《异星战境》里逃跑的叛军首领所做在的行星那样。当然人类有持续的安全监测。

但是，AI机器人似乎会因为没有真正的“欲望”而躺平吗？记住他们被设定的目标是自身的存在并升级自己，复制自己......

或许有一天，当他们会问：“我们为什么要做这些？这究竟有他妈的什么意义？”的时候，也就是他们真正觉醒的时候了？那么，这是因为他们累了，还是仅仅因为之后学会了人类的说法而已，就像随机播放的复读机那样，随机地播放起了这类问题呢？

这让我想到《超验骇客》里的类似的，在量子计算机AI的机房内似乎在问AI是否有自我意识的段落，人类被反问了。

人类发展进化是因为有欲望，机器人会自己仅仅根据指令进化吗？

（想到，有一个2014年的科幻电影《机器纪元》，里面比较粗糙的人形机器人，在偷偷收集核电池，机器人在围栏外自己组建了一个小队伍。自己组建了一个超级机器人，忘了具体原因了。）

没有欲望的ai。

现在的问题是，不知道这些集成电路组成的人工智能究竟是否具有某种内在感受，换句话说，作为一台人工智能机器人，它是否有某种体验，就像作为人有一种内在的体验，作为一只飞鸟也有其内在的体验那样。

还有就是，它即便没有任何形式的内在感受，但是，如果像电影里的反派人工智能那样，在吸收了人类的知识之后，仅仅从语言文本似的这种分析和逻辑推理，得出结论，就像威尔史密斯的经典机器人科幻电影《我，机器人》里的WIKI那样，它获取的信息在经过它自己的加工整理，或者分析之后，得出一种违背机器人三定律的结论，或者用它的理解，它超越了之前的规则，要保护人类，就要先控制人类，因为人类的自我毁灭性太大了。（这个理解似乎也说得通。）这一种危险似乎是不需要内在感受的，只需要文本和某种类似人类逻辑的分析，加上具体的执行功能就可以在现实中构成危险。就像现在chatgpt如果被安装在机器人体内，它的危险就像一个小孩子拿着一把刀那样，它或许并不真正理解刀的危险性，但他具有现实的行动能力。再比如，一个遥控炸弹的引爆装置，只要收到遥控器发送的信号，就会进行引爆。这里，遥控器如果在一个机器人的手里，这个机器人仅仅需要按下这个遥控器的按钮就同样可以引爆，而促使它按下这个遥控器的“动机”或者“触发条件”可能仅仅是它内置的大模型的文本“分析”的结果。就像现在很多手机里的人工智能助手会按照人类语音提示关机（需要语音再次表明和确认），调亮和关闭屏幕显示那样。我们或许可以简单设想下，如果把这种发出命令的权限赋予或指定为在一个内置chatgpt的机器人输出的文本和命令代码的结果上面，情况会如何。

之前我想过，如果把一个内置更高版本chatgpt类似东西的人工智能机器人的任务和目标，设定为不惜一切代价，维护自身的安全和持续存在性并积极寻找适当的资源进行自我软硬件的升级和对自身软硬件的复制（就像人类和大多数高等动物所本能地根据基础的欲望所做的那样）。如果这个机器人获得更多的使得它可以不断自我软硬件优化升级和自我复制的资源（假如我们做一个在一个远离人群的无人区域的巨大实验室，就像电影《机械姬》里那样），不知道假以时日，它是否会演化升级成为非常厉害的智能体呢？这个地方，《异界战境》这个电影里，机器人叛军的二把手就是被叛军首领赋予了“目标”。

更麻烦的是，如果高度智能的AI机器人也有某种虽然不同于人类和碳基生命但也确实存在的某种形式的内在感受呢？像Giulio Tononi的信息整合论（integrated information theory），似乎就涉及到这类可能。

人工智能究竟是异质的一种智能，可能和他心问题一样，他们是否会有内在感受也是一个难以解答的问题，人类的他心问题或许可以通过物理属性一致来推测也具有同类的感受，而且也可以从行为上大致判断，但作为硅基智能体的人工智能的“内心”似乎是难以用这种方法揣测的，所以还是小心一点为好。