后果和Tradeoffs-Dependability在人工智能和自主权
照片由:https://unsplash.com/photos/UnPhQSAVbdk
作者:阿曼达·安德烈
临床诊断支持。贷款批准。预测警务和假释。
这些都是例子重要的系统的,也就是说它们系统立即对人们长期、有效的后果。当人工智能(AI)被添加到混合,帮助政府在这些系统决定医学,抵押贷款,或者自由,更好的是可靠的。
可靠的人工智能是指适应能力从高保障系统工程相应的人工智能,特别是机器学习系统,有效缓解担忧公平、操作风险,技术债务,信誉等等。
换句话说:我们如何知道我们可以依赖于人工智能帮助我们制造或理解一个主要的,改变生活的决定?
“我们实现的一个主要方式高保证或高可靠性是通过费力或耗时的过程,”解释了查克•豪厄尔的首席科学家可靠的人工智能。“例如,在航空电子设备,你通过美国航空管理局(联邦航空管理局)认证过程。但是人工智能工程往往是快速、迭代、探索性。你怎么嫁给了一个深思熟虑的,深思熟虑的认证过程吗?”
权衡
豪厄尔指出,有很多工作在探索敏捷保障和如何获得高信心更快,仍然必须做出的妥协可以出众或无聊的社会环境的人工智能演示。并且经常在人工智能研究中,“一切都是权衡,每个人的时间压力下,你必须使它运行到月底,“豪厄尔说。“如果你做的一个概念验证原型,你就会拥有一个炫目的演示可以给人们一个星期,但是当你花很多时间做一个真正全面的风险分析或提出一个测试计划,看不出什么,这是一个可怕的演示。”
炫目的演示可以导致技术债务出现“额外的开发工作的概念,当代码很容易实现在短期内使用而不是应用最佳的整体解决方案。“当涉及到机器学习和人工智能和当前强调快,迭代开发和演示,这些技术尤其容易受到技术债务。虽然一些债务可以是一件好事,允许更大的灵活性,太多会严重降低系统的信心和可靠性,从而给用户真实的后果。
AI的可靠性也是随着时间的推移,抚养的公平观念和偏见在系统的输出。最近的例子包括无意识的偏见工作招聘工具支持男人在女人和聊天机器人重复亵渎和种族主义问题,只有曝光时间的流逝后的工具操作在现实世界中。问题是通常反映了内在的数据输入系统。
“比如,我训练系统,它的工作原理,但我部署它,和它看到的数据变化随着时间的推移,“豪厄尔言论。“但说系统学习和改变其行为,或敌人使用的系统有不同的策略。它是部署后我怎么有信心吗?”
延迟满足
提高可靠性的方法之一对人工智能AI系统调整预期生命周期。虽然快,迭代过程可以提供显著的结果,还有一个需要折叠保证和测试的生命周期需要一个意义知道回报会推迟出现,而不是提前。
“你必须愿意说,‘我现在知道这并不是令人满意的,因为它不会在一个演示明天降温,“但你现在把它放在的地方,你会很高兴你做演示的时候一年从现在。保证过程的复杂性和需要权衡保证与其他功能需要延迟满足,“豪厄尔指出。“套用报价(从计算机科学家c·a·r·霍尔):简单是价格的可靠性和富人发现最难付出代价的。”
意味着高可靠性和信心在一个系统中,用户和工程师应该愿意放手的很多特性,可能是小或特定的测试数据和选择而不是一个系统的调优和经过良好测试的功能,看到庞大而多样化的数据集。这需要时间、专长和patience-well人生值得当重大后果是岌岌可危。
阿曼达·安德烈是一个计算社会科学家在认知科学和人工智能。她专注于社交媒体分析,设计创新的空间,在酷主题写文章。
©2019斜方manbetx客户端首页公司。保留所有权利。批准的公开发布。无限的分布。(案例# 19 - 0465)
横切为导向的团队致力于解决问题的一个更安全的世界。了解更多关于斜方。
参见: