尴尬的算法交互 算法会带来一种新的、令人感到迷惑的体验。首先是一些算法很有效的地方，简直就是魔法：用户获得恰当的推荐，或是计算出从家到公司最快的路径。你感觉好像有一个强大力量在帮你的忙：精灵式交互（The Genie Reaction）。 而另一面则是在算法愚蠢结果面前的“挫败的无力感”（FAIL Frustration），这种结果往往是由于算法忽略了语境而导致的。应用环境或内容主题的相关信息是算法未知或无法解析差别的。比如将你陷入交通堵塞 的导航系统可能并不知道有事故出现，曾经就有某机顶盒产品将直男观众当成基佬，推荐相关内容。 除了推荐结果的好与坏之外，与算法共存的时候还有一些奇怪的场景。在《星球大展：新希望》（Star Wars: A New Hope）一片的末尾，卢克（Luke，剧中人物）关掉了计算机瞄准。同样，我们也可以相信自己的感受，主动做出决定是否需要算法帮助我们。这样做可能会 有一些不便，但有时却令人振奋。取消一次算法推荐或是行驶导航，试试“击败算法”（Beat the Algorithm）能成为一次令人愉快的新消遣活动，虽然可能会伴随懊恼。如果卢克没有击中目标怎么办？如果 iTunes 的 Genius 算法推荐效果很好怎么办？如果其他回家的路线真的会更快怎么办？
算法会给人类带来不舒适、不人性化的局面。比如在程序地图上看起来很合理的路线可能需要穿过三条交通拥堵的街道。虽然也能走的通——很勉强。几乎是不可能的。也是人一般情况下不会选择的。而且几乎没有人愿意当一种算法试验的小白鼠，不过这种情况偶尔还是会发生。 同样道理，价值裂痕（Rift of Values）也存在：某种算法的价值可能完全无法与一个人的价值相提并论。大部分算法只是在操作和便捷性上有比较高的速率。例如，导航算法自以为能够节 省你一分钟的时间，通常会让你在小路上左拐右拐，而不是保持在主干路行驶，也不关心你是否熟悉这一地区的道路，更忽略了与保持直行相比多次转弯造成的麻 烦。有时候额外的几分钟根本不值得，但是想让算法明白这一点是不可能的。 算法：人群中的异类 伊安•博格斯特（Ian Bogost）曾经在《异类现象论》（Alien Phenomenology）中写道：我们不需要去其他星球寻找异类，它们正在以算法的形式生活在我们中间。算法不是人类，它们不懂得关心或反馈人类的意 图和情感，除非能够像远古的狼一样进化，满足人类的需求。
但是与狼群不同的是，没有几千年时间可以给算法来进化。算法发展带来的问题和后果是严重的。2010 年股票市场的闪电崩盘（Flash Crash）就是个例子，算法导致某小型股票市场崩溃，几分钟内道琼斯指数就跌了 1000 点。试想一下同样的情况发生在电网或是无人驾驶汽车时会怎样吧。 独自进化 加快这种进化速度的一个方式是告诉算法人类的需求和价值观是什么。我们需要在代码中加入人类和能力界限的认知意识。告 诉算法，环境是怎样的，我们的意图是什么，我们的心情又是怎样——或者让算法通过（过往和当前的）行为自行探测。比如：如果用户从来没有驾车行驶过这条路 线，那么尽量保持在主干道行驶；如果用户看上去有点焦虑，就不要给太多的选项。在判断错误的时候，我们同样需要让算法知道，比如这不是我喜欢的音乐或者我 想要的体验。 算法的反馈也需要基于人类的认知能力进行调整。我们无法以代码系统的速度输入信息。我们不需要知晓所有的数据，只是一些有意义的关键点就可以了。告诉我路线上距离 20 英里有事故并没什么帮助，但这就是算法的计算结果，也很可能影响到交通行进速度。 这些以代码形式存在的异类，这些存在机器里的幽灵，正在变得比它们的造物主更不可思议。随着算法开始接管我们的关键系统，人类需要确保一点：和小狗一样，它们能够理解人类。这样一来，或许未来我们会将算法看作人类最好的朋友。 |
