艾萨克·阿西莫夫著名的“机器人三定律”,如今在对人工智能研究的背景下,所唤起的兴趣常常不在叙事上。但对我来说,他的“机器人伦理学”是小说的一部分。

阿西莫夫的机器人三定律是:

1、机器人不得伤害人类,或者因为不作为,使人类受到伤害。

2、机器人必须服从人类的命令,除非这样的命令与第一定律相抵触。

3、机器人必须保护自己的存在,只要这种保护不与第一或第二定律相抵触。

在1950年出版的短篇小说集《我,机器人》(I Robo)中,阿西莫夫的伦理戒律在某种程度上是机械的、还原的、天真的人文主义。就像许多其他形式的道义论(即规范的道德理论)一样,它们是一种优雅的道德体系,最终将会失败,因为在某些时候,通过愚蠢、恶意或纯粹的好奇心,人类会犯错。

然而阿西莫夫并不是一个道德哲学家,因此,将他的法律解释为一个独立的道德建议,对他的故事的想象力和创造性潜能是一种损害。取而代之的应是阿西莫夫的一种姿态,即小说中的道德规范,甚至其隐含的主张,即伦理思考,最好是由故事来服务,而不是戒律或诫命。

因此,我想说的是,故事讲述者使用AI的最具创意和最适宜的方式是讲述AI的更好故事,同时想象AI更好的存在方式。

反思这种双重“更好”的本质将是这种故事的关键。通过激发想象力、叙事、隐喻、寓言和讽刺,故事讲述者或许可以面对目前来自硅谷的人工智能的热酷和炒作,吹出一些急需的凉爽空气。

提出这一建议的目的并不是要接受一种技术恐惧的立场,也不是为了促进回归到过去的叙事形式:独立、封闭和单一的媒介。它更倾向于鼓励讲故事的人使用他们的技术设备,以揭示当前人工智能话语背后的盲点。作为一项技术活动,讲故事可以引导对“tekhn”这个词的希腊起源的认识。它指的是计算机、数据库和神经网络等技术的集合,更重要的是,它也可以指向生产或创造的过程。

“智能”本身在人工智能领域便是一个盲点,该领域的基本概念要么被认为是理所当然的,要么未被追问而随意塑造,然后根据研究的方向重新调整。在摆脱了看似不可能的开发人工智能的愿望之后,研究人员最近将AI定位为一种复杂的模式识别代理。

AI是威廉·吉布森在其2003年的小说《模式识别》(Pattern Recognition)中创造的角色。广告顾问凯西·波拉德拥有一种近乎超人的能力,可以在营销数据流中建立联系并找到意义。在使用强力计算的过程中,AI确实有能力实现能够让人高兴、惊讶甚至震惊的目标:从亚马逊的推荐算法到手机的自动完成功能,人脸识别,甚至是在围棋等复杂棋盘游戏中获胜的能力。由于“智能”定义的模糊性和相对狭窄性,这些成就导致了一些相当大胆的主张。最大胆的预测是对即将到来的奇点时代的预言,在这个时代,人类将与算法融合,以实现无实体的(并希望不朽的)智能——尽管,正如最近的Netflix剧集《副本》(Altered Carbon)显示的,永恒的救赎可能只对那些非常富有的人开放。

最新的人工智能研究激发了关于人类未来的爆炸性叙事,而机器人是人类的另一个神话,一个聪明的伴侣,可以随时随地变成敌人——例如《太空奥德赛》的 HAL 9000 或《黑镜》第四季的凶手机器狗。因此,大众的想象力再次被拯救叙事和关于“他们”接管“我们”的恐怖故事所俘获:替代我们的工作,征服我们的栖息地,并最终杀死我们所有人。

然而,这样的故事,无论是在友好的还是恐怖的伪装下,都是以一个相当简单的人类模式为前提的,它是一种自我封闭的非技术的模式,是与tekhn无休止的战斗。然而,人类一直都是技术性的,从某种意义上说,我们是从技术和我们的关系中一路走来的,从用作工具和武器的燧石直到基因和文化算法。

我们不应该把人类与机器相提并论,难道我们不应该把人类活动的不同形式看作是某种程度上的人工智能吗?如果不是“他们”接管,而是我们自己去做,那会怎么样?它会以任何方式改变这个故事呢?它是否需要一些更好的问题?

承认人与技术的亲缘关系,并不是说所有形式的人工智能都是温良的,或者说它们可能没有不可预见的后果。它更倾向于质疑由占主导地位的人工智能叙事所引发的一些主张,以及他们的知识和经济支持者。这一认识将重新定位人类与科技的斗争这一看似永恒的话题包含着一种政治道德禁令。需要回答的问题涉及到当前人工智能算法的启用和禁用所可能带来的不同的生活模式:

·谁的心智(和身体)是今天的人工智能?

·谁和什么样的AI让生活变得更好?

·谁和什么是无法看到的?

·它有什么盲点?

讲故事的人可以通过歪曲当前关于人工智能的主张和承诺,以及他们的天堂和世界末日的暗语,通过对不同流派和不同媒体的主导叙事进行重述,来帮助我们探索这些问题的答案。因为,正如堂娜·哈拉维(Donna Haraway)在《面对麻烦》(Staying with the Trouble)中所强调的那样,“重要的是关于知识的知识,关于故事的故事。”因此,讲故事可能是通向负责任的AI的第一步。

作者:Joanna Zylinska
译者:Lijhting

作者简介:Joanna Zylinska是伦敦大学金史密斯分校新媒体与传播学教授,著有七本关于科技、伦理和艺术的书。她还是一位摄影艺术家。