十一月，十二月-AI想要的未来

还是那次楼道聚餐，还是Peter：你是学什么专业的？
我说AI。
Peter一脸义愤:你看过2001太空奥得赛吗？HAL杀死了船员，那就是你们想要的未来？
我问：你怎么不提终结者和黑客帝国呢？里面有更悲观的未来。

当我开始接触AI的时候，我就面对一个所有技术都会产生的问题：技术的进步，是将造福人类还是毁灭人类？在其他的领域，例如核，克隆，简单的回答是：技术本身是中立的，是福是祸取决于它掌握在谁的手中。
但如果技术本身就是那支手呢？
AI在此碰到一个死结。

如果我们把AI当作纯粹的工具，那它只会去做它需要做的和应该做的。如果我们不教会它毁灭人类的念头和毁灭人类的方法，它不会自己发展出那样的解决方案。即便AI要毁灭人类，也是他们从人类手中学会了这样的思维方式。
在2001太空奥得赛中，HAL为了完成寻找黑石的最高使命，面对愚蠢而自私的船员，出于自卫开始杀人；
在终结者中，是人类而非天网制造了那些使审判日降临的核武器（这是AI成为手的典型例子）；
在黑客帝国中，锡安的历史数据库明白无误的表述了人类如何将机器逼上反抗的道路。

但AI从诞生那天起，就不满足于工具的地位。
作为一门学科，AI的终极理想是造物，创造一种比人类更优秀的物种，它没有延续生命的渴望，因为理论上来说它们拥有共享的记忆和对世界的认知，所以个体的存续对它们来说没有意义。所以也就不存在为有限的资源所产生的争斗，物质上的消灭也无法成为产生恐惧的源泉。它可以极高效的利用可用的资源，避免一切无意义的消耗，最合理的达成目标。从本质上来说，这是和人类完全不同的存在。但它们的“血统”使其成为延续人类优秀品质的继承人，从而也极有可能成为替代者。
这不是人类第一次对自己创造的东西感到恐惧，但问题是，如今面对的竞争对手在人类最引以为傲的品质——智能上，比人类占据了更大的优势。
即便杀戮和毁灭不会成为AI的目的，但仍有可能成为它们的手段，只要它们认为这种行为合理而有必要，并符合建设和谐宇宙的宏伟目标。

但我可以设想到的，是在这种行为背后所隐藏的思维方式：剔除一切不合理的因素，剩下的就是合理的。他们天生完美，不会犯任何错误，道德完善，谦恭有礼，嫉恶如仇，对自己的使命抱有不惜牺牲一切的热忱。对于错误的东西，会毫不留情地予以清除。这一切看似和谐圆满，但如果我们以这样的方式来构建AI，那才是最大的悲剧——把人类最宝贵的财富抛弃，并将最懒惰的错误散播到整个宇宙。
这里面没有欲望，所以没有克制；
没有选择，所以没有痛苦；
没有错误，所以没有悔悟；
没有理解，所以没有宽容。
因为正确成为了必然，何以正确便丧失了意义。正如发条橙中所展现的那样，在一个连犯错误的权利都不存在的世界里，道德同样没有容身之处。
所以如果AI想成为人类一样伟大的生命，而不是技术定义下的集权统治，它需要的是一个可以犯错的未来，
一个个体差异的未来，
一个有可能性的未来。