用我们生活中的算法建立信任

导读 在我们日益数字化的生活中,算法无处不在。他们为我们提供新的音乐和朋友。他们推荐书籍和衣服。他们传递有关世界的信息。他们有一天帮助我

在我们日益数字化的生活中,算法无处不在。他们为我们提供新的音乐和朋友。他们推荐书籍和衣服。他们传递有关世界的信息。他们有一天帮助我们找到浪漫的伴侣,第二天帮助我们高效通勤,第三天帮助我们诊断癌症。

然而,大多数人对算法表现出厌恶。他们不完全相信计算机程序提出的建议。当被问到时,他们更喜欢人工预测而不是算法提出的预测。

“但鉴于算法的日益普及,我们学会信任和欣赏它们似乎很重要,”耶鲁大学商学院副教授TalyReich说。“有没有一种干预措施可以帮助减少这种厌恶情绪?”

Reich和两位同事,HECMontreal的AlexKaju和多伦多大学的SamMaglio进行的新研究发现,清楚地展示算法从过去的错误中学习的能力会增加人们对算法的信任。它还使人们更喜欢算法做出的预测而不是人类做出的预测。

为了得出这个结果,Reich借鉴了她关于错误价值的基础工作。在之前的一系列论文中,Reich已经确定了在正确的背景下犯错是如何创造收益的;犯错误的人比不犯错误的人更有见识和可信度。

将这种洞察力应用于预测模型,Reich和她的同事研究了框架算法是否能够从错误中学习,从而增强了对算法建议的信任。

在几个实验之一中,参与者被问及受过训练的心理学家或算法是否更擅长评估某人的性格。在一种情况下,没有提供进一步的信息。

在另一种情况下,心理学家和算法的相同表现数据明确表明随着时间的推移有所改善。在头三个月里,每个人的正确率为60%,错误率为40%;六个月后,他们在70%的时间里都是正确的;在第一年,正确率上升到80%。

由于缺乏关于学习能力的信息,参与者在75%的情况下选择了心理学家而不是算法。但是当展示算法如何随着时间的推移而改进时,他们选择它的概率为66%——比人类更频繁。

参与者克服了任何潜在的算法厌恶,而是通过以高于人类的比率选择它来表达Reich和她的同事所说的“算法欣赏”,甚至“算法投资”。这些结果适用于几个不同的案例,从选择最好的艺术品到寻找匹配的浪漫伴侣。在每种情况下,当算法表现出随着时间的推移学习时,它比人类对手更容易受到信任。

当然,Reich认识到公司通常不能或不想披露有关其算法准确性的具体细节。他们可能不会将结果分解为百分比并与消费者分享。“但重要的是,这是一篇混合论文,我们在关注理论的同时也关注实际意义,”她说。“鉴于现实世界的限制,我们想知道是否有更微妙的方法来消除这种人工智能无法学习的观念。”

研究人员探讨了预测软件描述方式的微小变化是否会对选择产生影响。在一项研究中,参与者被问及他们是否想依靠自己来判断一件艺术品的质量,或者他们是否想依靠技术来为他们做这件事。

该技术被描述为“算法”或“机器学习算法”。当给出“算法”的选择时,大多数人会选择自己。当提供“机器学习算法”时,大多数人选择了技术。简单地提供一个暗示算法学习能力的名字就足以克服信任的缺乏。

对Reich而言,这为以某种方式依赖预测算法的公司提供了清晰而实用的启示。公司需要意识到消费者在很大程度上不信任算法的推荐。但在某种程度上,这种不信任很容易克服:对算法学习能力的简单语义点头将与其服务的消费者建立更大的信任。