<<返回上一页

在AI的大脑内窥视将帮助我们相信其决策

发布时间:2017-11-04 06:32:30来源:未知点击:

Weegee(Arthur Fellig)/国际摄影中心/ Getty By Matt Reynolds Oi,AI - 您认为您在看什么理解为什么机器学习算法可以被欺骗,看到不存在的东西随着无人驾驶汽车等事物的出现而变得越来越重要现在我们可以通过一个测试来瞥见机器的内心,这个测试可以显示AI正在查看的图像的哪些部分人工智能不像人类那样做出决策例如,即使是最好的图像识别算法也可以被用于在仅仅是白噪声的图像中看到知更鸟或猎豹这是一个大问题,罗德岛普罗维登斯布朗大学的克里斯格林说他说,如果我们不明白为什么这些系统犯了愚蠢的错误,我们应该三思而后行,就像无人驾驶汽车这样的生活一样信任他们因此,格里姆和他的同事创建了一个系统,该系统分析AI以显示图像的哪个部分,当它决定图像描绘的是什么时类似地,对于文档排序算法,系统突出显示算法用于确定特定文档应属于哪个类别的单词 Google研究员Dumitru Erhan表示,能够查看AI并了解它的学习方式非常有用他说,Grimm的工具为人类提供了一种方便的方法,可以根据正确的理由仔细检查算法是否能找到正确的答案为了创建他的注意力映射工具,格里姆在他想要测试的那个周围包裹了第二个AI这个“包装器AI”用白噪声替换了图像的一部分,看看这是否与原始软件的决定有所不同如果替换部分图像改变了决策,那么图像的该区域可能是决策的重要区域这同样适用于单词如果更改文档中的单词使AI以不同方式对文档进行分类,则表明该单词是AI决策的关键 Grimm在一个经过人工智能训练的AI上测试了他的技术,将图像分为10个类别中的一个,包括飞机,鸟类,鹿和马他的系统映射了AI在进行分类时所看到的位置结果表明AI已经教会自己将对象分解为不同的元素,然后在图像中搜索每个元素以确认其决定例如,在查看马的图像时,格林的分析显示人工智能首先密切注意腿部,然后在图像中搜索它认为头部的位置 - 预期马可能面向不同的方向 AI对包含鹿的图像采取了类似的方法,但在这些情况下,它专门搜索了鹿角 AI几乎完全忽略了它决定不包含有助于分类的信息的图像部分格林兄弟和他的同事们还分析了一个训练有素的人工智能玩电子游戏Pong他们发现它几乎忽略了所有的屏幕,而是密切注意了桨叶移动的两个窄柱人工智能很少关注某些区域,这些区域将球拍从预期位置移开,误以为它是在看球而不是球拍 Grimm认为他的工具可以帮助人们弄清楚AI如何做出决定例如,它可以用于查看在肺部扫描中检测癌细胞的算法,确保它们不会通过查看图像的错误位来意外地得出正确的答案 “你可以看出它是否没有注意到正确的事情,”他说但首先格林希望用他的工具帮助AI学习通过告知AI何时没有引起注意,它将让AI培训师将他们的软件引导到相关的信息位参考:arXiv,arxiv.org/abs/1706.00536有关这些主题的更多信息: