思维工程
上QQ阅读APP看书,第一时间看更新

四、思维工程的极限

对意识流的反思是思维工程的起点,同时我们也明确了进行思维工程设计的方法论。那么在确定了方法论,确定了技术路径之后,我们就能讨论沿着这个技术路径能够走到的极限。

如果我们的设计总是能创造出我们所反思到的智能活动的表象,那么即使我们设计的表象片段和片段间的逻辑与造物在人类身上的设计不一致,我们也是无法识别的。也就是说反思同时作为创造和评价的手段时,严格按照反思所创造的是无法被这样的反思所否定的。所以当我们讨论完美智能——那类可以在外部感知器和行为器完备的前提下无法被识别出是真人还是AI的智能体,我们知道“完美”是就表象而言的,而表象的信息皆是可反思的。因此,如果我们充分遵照我们可以达到的反思的极限去造它,它就是“完美”的。