挑战的自主权
图片由杰里米Unsplash主教
作者:阿曼达·安德烈
自主性是一个广泛而复杂的话题,重叠与人工智能,无人系统,和人类域,每个域需要利用系统工程的概念理解和使用新技术和系统。从这个主题的多重挑战,凯莉Rebhuhn博士高级自动智能系统工程师确定了三个主要挑战更多的自主权,为人类和机器人。
在Non-Lab条件下操作
这一挑战尤其适用于自治运动。机器人和物理系统的测试是在仔细监控条件下进行的,在工程师了解机器人和它的环境。Rebhuhn的一个项目涉及到机器人穿越一个区域没有全球定位系统,这使得它找出棘手的是,地形是一个合法的地方去,以及如何实现它的目标区域限制传感器。
“在实验室里,你这个无所不知的宇宙观,“Rebhuhn解释道。“如果你把一个机器人实验室之外,很多时候事情是完全不同的照明,地形,并经常有很多的人在外面,所以你没有必要控制您的环境的方方面面。”
测试non-lab条件可能是危险的,甚至是致命的。2018年3月,自主车辆由超级撞死了一位49岁的妇女享有的事件,被认为是第一个死于测试自主车辆。一些批评人士认为,尽管自主车辆可能是安全的,未来是一个“法律雷区”,问题仍然是“进步的代价。”
这就是矛盾所在。真实世界测试发现差距是必不可少的在我们的测试环境控制。然而,风险管理对机器人技术的持续发展是至关重要的。许多测试错误经常谓词在人类的假设一个自治系统功能如何。因此,它是一个开放的问题工程师,设计师,和公司:我们如何对自治管理观念和信仰在我们的人工智能系统和机器?
人机交互方面的自主权
正如前面提到的,以前的博文,自主提出问题关于道德和人类的期望一个机器人的能力为人类服务。Rebhuhn看到双方这一问题:“试图让机器人有更好地理解人类想要的是什么,但也让人类了解机器人正在决定。”
例如,作为自治系统不断的在学习和适应,他们的行为会改变随着时间的推移,这可能导致意外在操作。的国防科学委员会的夏季研究自治提供了几种方法来应对这一挑战,包括:
- 为操作员提供一个系统的培训历史
- 排练任务与人类和机器的团队
- 设计系统与“自我意识”(能力评估其内部系统健康状况和外部环境和上下文),它可以根据需要提供机器或人类
人类和机器之间的信任和可信度方面起到至关重要的作用。有多重和复杂的维度与信任,如能力、可靠性、常识和non-deception。诚信系统来自定义一组的信任属性和观察在操作系统的行为。建立诚信是最好的完成在设计系统时它仍然需要测试和评估操作和在田里。
让机器人与其他机器人合作
涉及Rebhuhn的另一个项目成群——大的无人机(UAV)的相互作用。我们的目标是让他们在一起作为一个整体移动,确保他们有路径不相互冲突,同时确保操作员不需要进行微观管理整个集团的机器。
自组织是一个困难的问题。机器人没有社交直觉配合时,人类使用人群的其他人类。”机器人本质上是利己的,”Rebhuhn说,“多智能体系统研究越来越大量的涌现行为出现利他,但实际上是机器人优化一个目标函数,专门针对似乎与他人合作。”
群机器人真正的灵感来源于成群在自然界:蚂蚁的殖民地,成群的小鸟,和学校的鱼。每个机器人是一种优化有限信息和群体的涌现行为似乎合作实现其目标。用这种方法可以执行的任务是相当diverse-multiagent技术应用从搜救到空中交通管制。为她的博士研究,Rebhuhn使用一组改善紧急自动交通流智能代理。
这些只是几个巨大的挑战,复杂,跨学科的自治空间。斜方承担这些挑战和更专注于某些领域如人机合作,高保障机器学习和集成和采用的自主权。
阿曼达·安德烈是一个计算社会科学家在认知科学和人工智能。她专注于社交媒体分析,设计创新的空间,在酷主题写文章。
参见:
数据科学从业人员
©2018斜方manbetx客户端首页公司。保留所有权利。批准的公开发布。无限的分布。18 - 1338号
解决问题的一个更安全的世界。manbetx客户端首页主教法冠公司是一个非盈利性组织,设有研发中心由联邦政府。了解更多主教法冠。