新闻
您现在的位置:首页 > 新闻 > Google的AI解释了图像分类器如何做出决定
  • 从0到1,这些新锐品牌在抖音做对了什么?

    从0到1,这些新锐品牌在抖音做对了什么?

    发布时间:2021/06/22

    如今的食品饮料行业,新机会往往由新的玩家率先挖掘,他们中的佼佼者将成为行业中极具竞争力的年轻选手,我们称之为新锐品牌。 在漫天的战报中,我们很容易就能找到一个数据猛增的新锐品牌,但挖掘新锐品牌背后的...

  • Gislaved熊牌轮胎正式进入中国市场

    Gislaved熊牌轮胎正式进入中国市场

    发布时间:2021/04/24

    德国马牌轮胎亚太区产品总监Tolga MUTLU介绍Gislaved熊牌新品轮胎 大陆马牌轮胎(中国)有限公司宣布,拥有百年辉煌历史的轮胎品牌 — Gislaved熊牌轮胎正式进入中国市场,进一步夯实德国马牌在华“多品牌”战...

  • 麦当劳中国推出金菠萝雪芭

    麦当劳中国推出金菠萝雪芭

    发布时间:2021/04/23

    麦当劳中国推出首个雪芭类产品 麦当劳中国与国际知名水果品牌都乐首次合作,推出全新夏日新品 — 金菠萝雪芭,为夏日冰品市场增添了一个创新的美味轻食选择。 金菠萝雪芭是麦当劳中国的首个雪芭类产品,使用...

Google的AI解释了图像分类器如何做出决定

发布时间:2019/10/15 新闻 浏览次数:652

 
人们通常认为,随着AI系统的复杂性增加,它的解释性必然会越来越差。但是研究人员已经开始用Facebook的Captum之类的库挑战这一概念,该库解释了神经网络使用深度学习框架PyTorch以及IBM的AI Explainability 360工具包和Microsoft的InterpretML做出的决策。为了使AI的决策更加透明,来自Google和Stanford的团队最近探索了一种机器学习模型-基于概念的自动解释(ACE)-可自动提取“具有人类意义的”视觉概念,以告知模型的预测。
正如研究人员在详细说明其工作的论文中解释的那样,大多数机器学习解释方法都会更改各个特征(例如像素,超像素,词向量)以近似每个特征对目标模型的重要性。这是一种不完善的方法,因为即使输入的最小变化也很容易受到影响。
相比之下,ACE在提取概念并确定每个概念的重要性之前,将训练有素的分类器和班级中的一组图像作为输入来识别更高级别的概念。具体地说,ACE将具有多种分辨率的图像进行分割,以捕获纹理,对象部分和对象的多个级别,然后再将相似的片段分组为同一概念的示例并返回最重要的概念。
为了测试ACE的鲁棒性,该团队利用了在流行的ImageNet数据集上训练的Google Inception-V3图像分类器模型,并从数据集中的1,000个类别中选择了100个类别的子集来应用ACE。他们注意到标记为重要的概念倾向于遵循人类的直觉,例如,执法徽标对于侦察警车比地面上的沥青更为重要。但是,情况并非总是如此。在一个不太明显的例子中,预测篮球图像的最重要概念是球员的球衣而不是篮球。当谈到轮播的分类时,游乐设施的灯光比座位和杆子的摇摆感更大。
研究人员承认,ACE绝不是完美的-它难以有效地提取异常复杂或困难的概念。但是他们相信,它提供的对模型的学习关联的见解可能会促进更安全地使用机器学习。
“我们通过人类实验验证了意义和一致性,并进一步验证了它们确实携带了显着信号进行预测。 [我们的]方法…自动将输入功能分组为高级概念;这些有意义的概念作为连贯的示例出现,对于正确预测图像中存在的图像非常重要。”研究人员写道。 “发现的概念揭示了该模型已获悉的潜在令人惊讶的关联的见解。”

姓 名:
邮箱
留 言: