新模型感悟人类对智能机器的信任
新的“分类模型”可以感知人们对与之协作的智能机器的信任程度，这是提高交互和团队合作质量的一步。如何设计智能机器以“赢得”人类的信任?新模型正在通知这些设计。(普渡大学照片/马歇尔·法尔辛(Marshall Farthing))
整个研究领域的长期目标是设计能够改变其行为以增强人类对其信任的智能机器。新模型是由普渡大学机械工程学院的助理教授Neera Jain和副教授Tahira Reid领导的研究开发的。
内拉·said那(Neera Jain)说：
智能机器，更广泛地说，智能系统在人类的日常生活中正变得越来越普遍。随着人们越来越需要与智能系统进行交互，信任成为协同交互的重要因素。”
例如，飞机驾驶员和工业工人通常会与自动化系统进行交互。如果人们认为系统正在步履蹒跚，他们有时会不必要地超越这些智能机器。
里德说：“众所周知，人与人之间的信任对于人与机器之间成功的交互至关重要。”
研究人员已经开发出两种类型的“基于分类器的经验信任传感器模型”，这是朝着提高人类与智能机器之间的信任迈出的一步。
这项工作与普渡大学(Purdue)的“大跃进(Giant Leaps)”庆祝活动相吻合，以庆祝该大学在普渡大学150周年纪念日方面在人工智能，算法和自动化方面的全球进步。这是为期一年的庆祝活动思想节的四个主题之一，旨在向人们展示普渡大学作为解决现实世界问题的知识中心。
该模型使用两种技术来提供数据以评估信任度：脑电图和皮肤电反应。第一个记录脑电波模式，第二个记录皮肤电特性的变化，提供与信任相关的心理生理“特征集”。
四十五名人类受试者戴上了无线EEG头戴式耳机，并一只手戴上了一种用于测量皮肤电反应的设备。
其中一个新模型称为“一般信任传感器模型”，它为所有45位参与者使用了相同的心理生理特征集。为每个人类受试者定制了另一个模型，从而提高了平均准确性，但以增加训练时间为代价。这两个模型的平均准确度分别为71.22%和78.55%。
研究论文中详细介绍了这些发现，该论文发表在《计算机协会关于交互式智能系统的交易》一期特刊上。该杂志的特刊名为“智能人机交互中的信任和影响力”。该论文由机械工程研究生Kumar Akash撰写;前研究生胡万林，现为斯坦福大学博士后研究助理;in那教和里德。
贾恩说：“我们有兴趣使用反馈控制原理来设计能够实时响应人类信任度变化的机器，以建立和管理对人机关系的信任。” “为此，我们需要一个传感器来再次实时估计人类的信任程度。本文介绍的结果表明，可以使用心理生理学测量来做到这一点。”
人类对机器的信任问题对于“人类代理集体”的有效运作非常重要。
贾恩说：“未来将围绕人与人之间的集体而建立，这将需要人与机器之间进行有效而成功的协调与协作。” 说，在自然灾害期间，有一大批机器人在协助救援队。在我们的工作中，我们只处理一台人类和一台机器，但最终我们希望扩大规模，扩大为人类和机器团队。”
已经引入算法来自动化各种过程。
贾恩说：“但是我们那里仍然有人监视事态的发展。” “通常有一个替代功能，如果他们认为某些不正确的事情，可以收回控制权。”
有时不执行此操作。
里德说：“在某些情况下，人们可能不了解正在发生的事情，因此他们不信任系统做正确的事情。” “因此，即使他们本来不应这样做，他们也可以收回控制权。”
在某些情况下，例如在飞行员超越自动驾驶仪的情况下，收回控制权实际上可能会阻碍飞机的安全运行，从而引发事故。
贾恩说：“迈向设计能够建立并维持人类信任的智能机器的第一步是传感器的设计，它将使机器能够实时估计人类的信任程度。”
为了验证他们的方法，要求581位在线参与者进行驾驶模拟，其中计算机可以识别道路障碍。在某些情况下，计算机会100%地正确识别出障碍物，而在其他情况下，计算机会在50%的时间内错误地识别出障碍物。
“因此，在某些情况下，它会告诉您有障碍物，因此您踩刹车并避免发生事故，但是在其他情况下，它会错误地告诉您在没有障碍物的情况下存在障碍物，因此您无缘无故地击中了障碍物”，里德说。
通过测试，研究人员可以识别与智能系统中人类信任相关的心理生理特征，并据此建立信任传感器模型。她说：“我们假设在可靠的试验中信任度会很高，而在有缺陷的试验中信任度会低，并且我们使用从581位在线参与者那里收集到的答复来验证了这一假设。”
实验结果表明，该方法有效地诱导了智能机器中的信任和不信任。
Jain说：“为了实时评估信任度，我们需要不断提取和评估关键心理生理指标的能力。” “这项工作代表了实时心理生理测量在人类信任传感器开发中的首次应用。”
EEG耳机通过九个通道记录信号，每个通道拾取大脑的不同部分。
“每个人的脑电波都是不同的，因此您需要确保您正在构建一个适用于所有人类的分类器。”
对于自治系统，人类信任可以分为三类：性格，情境和学习。
性格信任是指信任的组成部分，它依赖于诸如性别和文化之类的人口统计数据，并带有潜在的偏见。
里德说：“我们知道应该考虑细微的差异。” “例如，女性对男性的信任与男性不同，并且信任也可能受到年龄和国籍差异的影响。”
情境信任可能会受任务的风险或困难程度影响，而学习的基础是人类过去对自治系统的经验。
他们开发的模型称为分类算法。
她说：“我们的想法是能够使用这些模型对某人何时可能会感到信任与不信任时进行分类。”
贾恩(Jain)和里德(Reid)还研究了倾向性信任以解决性别和文化差异，并研究了动态模型，这些模型可以根据数据预测未来信任将如何变化。
该研究由国家科学基金会资助。自2015年这项工作开始以来，研究人员已经发表了几篇论文。
标签： 智能机器