机器学习有时会让我们吃惊和发笑

“只要它发脾气,我们手上就会有一个聪明的三岁小孩。”

0

生命和人工智能科学家维多利亚·克拉科夫纳(Victoria Krakovna)编制了一份清单,描述了几年来机器学习发生的一些令人吃惊和发笑的意外情况。其中一个例子发生在俄罗斯方块游戏中,一个机器人被要求“不输”,于是程序便无限期暂停游戏以避免失败。有一个“遗传算法”本应该将电路配置成振荡器,结果却制作了一个收音机来接收来自相邻计算机的信号。在另一项测试中,一个机器人用手臂击打桌子来移动一个物体。

运用对抗生成网络进行写作是非常诱人的,但有一项模拟却令人吃惊地描写了一种“懒惰的食人族”。它是这么写的:“在生存需要能量但生育不需要能量的情况下,一个物种进化出了一种久坐不动的生活方式,这种生活方式主要是通过交配来产生新的孩子,这些孩子可以被吃掉(或者作为配偶来产生更多可食用的孩子)。”这样的“奇想”让人毛骨悚然又很好笑。

事例虽然不多,但这份清单(目前还在增加中)却是对机器如何“思考”的迷人探索。显而易见,这些有趣的非预期行为都是生成了一种字面上适应指定目标的解决方案,而未能根据人类设计者的意图解决问题。克拉科夫纳指出,这些情况一般发生在目标指定不当的情况下。“只要它发脾气,我们手上就会有一个聪明的三岁小孩。”她说。

【数字叙事 Lighting】