在紧急情况下，人们甚至在机器人不再可信之后也会相信机器人的方向。这是乔治亚理工学院实验人员提出的令人不安的结论，他们将测试对象置于高压状态，而机器人曾将他们误入歧途。他们跟着A.I.领导者尽管存在信誉差距。
乔治亚理工学院研究所的高级研究工程师艾伦·瓦格纳告诉格鲁吉亚，“人们似乎相信这些机器人系统比他们真正了解世界更多，他们永远不会犯错误或出现任何错误。”科技新闻中心。 “在我们的研究中，测试对象遵循机器人的指示，甚至可能使他们处于危险之中，这是真正的紧急情况。”
负责实验的机器人专家告诉志愿者，他们要跟着一个标有“紧急引导机器人”的“颜色鲜艳”的机器人到一个会议室来填写一份调查问卷。然后机器人将参与者带到错误的房间，将他们圈起来，甚至完全崩溃。然而，一旦研究人员将烟雾送入测试现场并发出警报，42名测试对象中的每一个都按照LED照明机器人的白色手臂进入他们进入的对面入口。
GTRI研究工程师Paul Robinette告诉乔治亚理工学院新闻中心，“我们预计，如果机器人在引导他们进入会议室时证明自己不值得信任，那么人们就不会在模拟紧急情况下跟踪它。” “相反，所有的志愿者都遵循机器人的指示，无论它以前表现如何。我们绝对没想到这一点。“
在紧急情况发生“明显”错误之后，志愿者甚至按照机器人的指示，就像将他们指向被重型家具挡住的门一样。研究负责人表示，这项研究有助于他们更好地了解人们在紧急情况下自然信任机器人帮助他们的程度。这个问题将变得更加重要，因为我们将更多的生活份额分配给机器人控制，包括可能驾驶我们自动驾驶汽车或处理我们的食物。
“人们会相信一个汉堡制造机器人为他们提供食物吗？”瓦格纳难以置信地问道。
研究表明，信任机器人助手的障碍比一些人想象的要少。但机器人可能还没有真正值得信任。