Google删除了图像识别中的性别标签，以减少偏见

 
通过从人物照片中删除“男人”和“女人”等标签，Google将不再在其图像识别AI中按性别识别人物。相反，根据Business Insider看到的公司电子邮件，现在每个人都将被归类为“人”。
所做的更改将引入到Google Cloud的Vision API中，开发人员可以使用该API向图像添加标签，然后将其分类为预定义的类别。
Google在给开发人员的电子邮件中，指出了发生这种变化的两个原因：不可能通过外貌来推断某人的性别，而尝试这样做可能会使不公正的偏见长期存在。
记者Sriram Sharma分享了该电子邮件的屏幕截图：
收到Google的电子邮件，说2020年2月19日之后，Cloud Vision API将不会返回性别标签，例如“男人”和“女人”。
Google补充说，删除与Google人工智能原则第二条相符的标签：避免造成或加强不公平的偏见。
图像识别系统具有这样做的独特趋势。
在一项研究中，研究人员发现，在有偏向的烹饪相关图像数据集上训练的算法使女性出现烹饪的可能性增加了33%，而预测女性烹饪的可能性则增加了68%-即使图像是一个秃头的男人在厨房里。图像识别系统还经常将跨性别和非二元性的人性别歧视
并非所有人都会同意Google决定从图片中删除性别标签的决定。 Business Insider指出，一名开发人员指责Google将政治正确性放在产品质量之上。
但是此举将至少减少AI偏差的一个领域。
正如语言学家兼程序员Angus B. Grieve-Smith在Twitter上所解释的那样：“每当您对人进行自动分类时，无论是他们的性别，还是他们的性取向，您都需要首先确定要使用的类别-随之而来的是很多假设。”