人工智能最有可能性的优势之一似乎是它预测消费者未来偏好的能力。通过对过去交易或搜索历史的数据收集,AI 为每个人开发详细的数字个人资料,以便在特定情况下估算个人未来偏好。这对用户来说似乎是个噩梦。亚马逊等领先企业已经开始使用动态定价模型,这一事实进一步加剧了人们对机器学习算法收集个人数据的担忧。机器学习算法的目的是预测消费者购买特定商品的意愿。不用说,企业的这种能力意味着能够在正确的时间说服个人购买。由于动态价格模型的应用,不同的用户将看到不同的价格。人们有理由担心,使用大数据集来操纵用户以增加企业的利润,会损害消费者的权益。

认为用户偏好可以通过技术来预测,忽视了信息与知识之间的差异。信息是可以搜索和收集的,但并不是所有的信息都是客观存在的。虽然数据作为信息的一个子集——包括对个人可见的特定行为或选择的特定观察——但通常情况下,由于个人对可用信息的解释,这些选择会受到主观数据的影响。尽管机器学习算法可能擅长于根据客观数据进行预测,但无论算法有多先进,主观知识都无法反映在算法上。知识是语境性的,它是在特定的环境和时间内对信息的主观解释的基础上发展起来的。

考虑到知识的这种语境性质,人工智能提供的预测必将受到限制。事实上,著名经济学家哈耶克几十年前就看到了这一点,当时他对模式预测和观点预测进行了区分。前者指的是系统内的一般趋势,后者指的是系统内某个特定个体或组件的下一步行动。这种潜在的差异看起来是技术上的差异,但实际上是认知上的差异。正如拉沃伊在《国家经济规划》(1986)中提到的,由于知识的分散形式,它不可能由社会内的单个人具体化,然而,为了利用知识进行经济决策,这种提取是必要的。

个人与市场的每一次互动都需要对自己喜欢的价格水平或个人选择进行自我发现。在这个互动过程中,每一个时刻都提供了各种各样的外部和内部因素,导致最终决定的有机出现。理想情况下,决策者应该记住模式预测不能提供关于个体偏好的有机进化过程的太多信息,因此它们不应该被视为未来行为的保证。因此,人工智能应该被视为一种技术,它可以通过数据收集和数据解释的方式帮助降低模式预测的成本,而不是对人做出特定的点预测。

在人工智能对个人决策形成的影响方面,对其潜力做出重大断言,意味着在使用这些服务时低估了个人行动的价值。不管收集了多少数据,也不管使用的人工智能技术有多复杂,个人偏好都不是可以提前预测的,因为随着时间的推移,由于环境中与其他人或因素之间的交互作用,个人选择模式会不断发展。

个人做出选择的能力不仅能让一个人获得力量,还能让人感到真实。人类并不是头脑中带有固定价格标签的机器人。人类根据环境条件不断地更新他们的选择。著名经济学家布坎南也证实了这一事实,他曾提到,除非个人参与到相互交换的过程中,否则他们也无法确定自己的选择会是什么。换句话说,个人的选择是不断被塑造的,可以被看作是一个移动的目标,这使得人工智能不可能提前预测。

平台使用收集的个人数据并不一定意味着对消费者权益的侵蚀。无论是高估人工智能的预测能力,还是低估市场中人的创业能力,都可能降低人工智能对个人的好处。应该做的是为个人和企业提供空间,以便他们能够协作确定个性化服务和隐私问题之间如何权衡。

【数字叙事 原作:Ayse Kok;编译:黎雾】