人工智能（AI）的问题在于，定义“A”相对容易，但“I”却难以捉摸。我们不知道我们的智力是什么，也搞不清我们的意识体验是如何产生的，因此我们很难知道我们如何创造出一种人工意识，或者即使创造出来了，要真正认识它也是很棘手的。算法可以通过对人类之间的大量交流进行抽样来编织看似合理的对话，但它们对这些交流的理解并不比风箱和黄铜小号的穿孔卡片更多。老的图灵测试现在看起来很糟糕。机器学习程序可能会很好地伪造人类的语言，但却无法识别出站在绿草地上的雪豹，因为图像中没有雪。
真正的人工智能和谷歌、亚马逊强大的机器学习工具之间的区别，赫克托·莱韦斯克（Hector Levesque）在《常识、图灵测试和对真实人工智能的探索》中进行了阐述。作为多伦多大学计算机科学系的一名荣誉教授，莱韦斯克在深入研究“温诺格拉德模式”的复杂性之前，勇敢地通过约翰·塞尔的《中国房间》论点和常识来解决我们的问题。这本书把一切都弄清楚了。
玛丽安娜·沃尔夫（Maryanne Wolf）的《普鲁斯特和乌贼》以一种温和的方式探讨了人类生存的一个基本问题。该作从阅读的视角来看待人类的认知，并对现代数字生活提出了挑战。
小说也喜欢思考作为人类的意义。奥克塔维亚·巴特勒（Octavia Butler）的《破晓》并没有直接提及人工智能，而是追寻我们的身份概念和传统性别的简单二元性。这对于机器学习的现实来说尤其重要，因为到目前为止，我们的努力已经被潜意识的偏见所撕裂。据称，预测犯罪的系统实际上可能与人类的种族主义相呼应。2015 年，谷歌的早期人脸识别软件便将两名非裔美国人识别为大猩猩。
当你认为人工智能没有理由用人类的方式思考时，巴特勒（Butler）令人不安的《生物模糊》就更有意义了。它像是一个虹吸管——一个个体的集合，每一个都是独一无二的，但有着整体的功能——事实上，它可能是由生物部件而不是硅材料制成的。米格尔·尼科莱利斯（Miguel Nicolelis）开发了一种机器人外骨骼，让瘫痪的朱利亚诺·平托（Juliano Pinto）在 2014 年巴西世界杯上进行象征性的开球。自从 2011 年出版《超越界限》以来，他的作品包括将两只老鼠的大脑连接在一起，这样就可以利用储存在另一个老鼠大脑中的信息来运行一个迷宫。如果 AI 在内置于机器之前出现生物中，那么尼科利斯可能就在附近的某个地方。
我们可能不理解有意识的智能，但是，无论是生物智能还是数字智能，它肯定是信息的一种功能安排。理解 AI 的另一种方式是试图理解我们与信息的关系，这种结构似乎越来越成为从无穷小的东西到浩瀚宇宙的基础：它是什么，以及它在宇宙中的位置。詹姆斯·格莱克（James Gleick）宏伟的《信息》（The Information）跨越了几个世纪、大陆、空间和时间。它无疑是一个完美的地方，开始回答一个令人困惑的问题，那就是作为一种思维的东西意味着什么。
【数字叙事 原作：Nick Harkaway；编译：Lighting】
