随着我们创造出越来越智能的机器,我们不得不重构自工业时代开始以来我们所持有的信念。由于机器不可思议的复杂性,数据将变得更快、更分层。一旦这种复杂性超过了我们理解的范畴,我们与工具关系的新篇章就开始了。

我们在技术上所做的很多事情都是根植于工具——锤子、蹄铁和无线电。工具本身已经发生了变化,但是我们用来与之交互的心理模型却相对稳定。工具已经变得更快、更强、更无线。

钻机是更强的锤子,火车是更快的汽车,而手机是固定电话的无线版本。这一切都随着电子数字集成电路和计算机(ENIAC)的引入而改变。ENIAC 是世上第一个通用计算机器。

技术进化

ENIAC 于 1946 年在宾夕法尼亚大学安装,是第一台能够完成多项任务的机器。因此,负责操作它的人也必须转换心智模式。

只要我们用一种整洁的、线性的、可认知的方式来使用单一维度计算,这就很好了——这正是模型视图控制器(MVC)的含义。MVC 是一种服务器架构,是在 20 世纪 70 年代由艾伦·凯、Trygve Reenskaug 和阿黛尔戈德堡在施乐帕洛阿尔托研究所发明的。他们使用 Dynabook 和 Smalltalk 发明了这项技术。

MVC 是基于一个固定的数据库、一个专有的接口点以及连接这两者的控制器集合。问题是,数据只能一次朝一个方向移动。无论您是发送推文、获取查询,还是阅读一篇文章,数据都是单向的:要么是用户的方向,要么是数据库的方向,两者不能同时进行。

对技术的态度转变

随着工具、更好的传感器和嵌套数据技术(深度学习、反向传播、神经网络等)的分类越来越多,我们能够以新的、令人兴奋的方式利用统计计算。但有一个重要的警告——我们不能完全理解正在发生的事情。这正是为什么偏见在算法中如此重要的原因。我们可以推理出偏见的来源,但我们不能马上修正它。

算法的长尾特性使它们从根本上不同于流水线。我们不能随意改变立场,修正我们的模型,或者改进数据源。一旦我们做出了改变,我们就需要耐心,让它在下游扩散到一个模型中。

这种复杂性,加上新的技术能力,正在给人类带来有趣的偏见或信念。特别地,工具的认识论(特定于观察者的)观点,通常与它们的本体(客观)属性分离。很有趣的是,科技领域的一些创新者远离日常使用的工具,用一种心理叙事,把工具放在当前的轨迹的上方或下方。

技术宗教与技术恐惧症

技术宗教认为所有的技术都是好的。然而,这样思考会限制你对技术改进和有意义的设计进行公开讨论的能力。这一趋势的真实例子是将算法拟人化,它带来了 AI 助理的虚假承诺,并期待人工智能(AGI)的统治。

技术恐惧症是一种与之对立的观点,它认为我们所不了解的任何事物(以及具有潜在力量的事物)将会毁灭我们。在这一点上,我们忘记了所有的数据技术——机器学习、深度学习以及目前被称为人工智能的所有东西——只不过是工具而已。它们只是在快速计算机上运行的数据库,数据点比以前更多。

最近,埃隆·马斯克和马克·扎克伯格进行了一场持续的交流。我们已经讨论了技术宗教和技术恐惧症之间的区别。扎克伯格是技术宗教的典范。他是一位成功的创始人,在互联网上有很大的贡献。在硅谷,他一个为文化定位的人——为其创造技术,并等待人类的追随。

马斯克对技术的看法略显复杂,因为他似乎在对立的观点之间摇摆不定(这一模式本身就会导致二元论)。马斯克最近常被引用的话是“人工智能是人类文明的存在风险”。虽然这是一个有效的观点,但他并没有提出一个合理的论据。大脑和机器差异的原因是广泛而多样的。

技术应该何为

有趣的是,这两个阵营的交集更多的表现在是在他们对 AGI 的看法上。在技术宗教欢迎大脑作为计算机问题的地方,技术恐惧症者则恐惧被支配。这种分类似法乎是非建设性的。考虑一下这些思想家所携带的固有的心理偏见或性格特征,如果你相信一种算法是智能的,那么你就会有一种有趣的想法来反映你自己的心理偏见。

Ben Goertzel 是人工智能协会的主席,他指出,咖啡测试是对 AGI 的一个良好定义。走进一个普通的美国家庭,制作咖啡,包括识别咖啡机,识别按钮的作用,在柜子里找到咖啡等等。

“对于几乎所有成年人来说,这类事情都很容易完成,但对于计算机来说,这是一项极其困难的任务。创建 AGI 比创建 ANI 要困难得多。根据大多数人的估计,我们还需要超过 20 年的时间来发展这样的人工智能能力,”马尔科姆·弗兰克,保罗·罗瑞克和本·普林在他们的书《当机器什么都能做的时候该怎么办》中写道。

与此同时,我想知道我们能做些什么来更好地理解我们的工具,并编写新的可用性思维模型。毕竟,技术节制是将这些技术带到我们客户手中的唯一途径。我不需要一个机器人,让我泡咖啡,编程网站,并为我做饭——我需要的工具应能更接近我的思维方式。我需要一种能够理解我不断变化的心智的工具,而不是试图去模仿它。

在没有认知信念的情况下运作,我们的工具、智能只会使我们的商业受到损害。只有清醒的观点和有说服力的叙述才能让我们理解并利用实例化的独特性,使之成为有用的知识和用户需求。

作者:Nitzan Hermon
译者:lighting

作者简介:Nitzan Hermon 是 VV6 的负责人,VV6 是一家通信和技术咨询公司。