Meta开源FACET工具,用于评估AI模型中的种族和性别偏见

2023-09-02 09:21  |  来源:IT之家  |  编辑:李陈默  |  阅读量:10048  |  

,Meta 公司为了缓解当前很多计算机视觉模型对女性、有色人种存在系统性偏见问题,近日推出了名为 FACET 的全新 AI 工具,用于识别计算机视觉系统中的种族和性别偏见。

FACET 工具在经过训练之后可以回答复杂问题,例如识别出对象为男性之后,可以进一步识别出滑板运动员,以及浅色、深色皮肤。

Meta 以 FACET 来评测该公司所开发的 DINOv2 模型与 SEERv2 模型,以及 OpenAI 的 OpenCLIP 模型,整体而言,OpenCLIP 在性别上的表现优于其它模型,而 DINOv 则在年龄与肤色上有较佳的判断力。

FACET 的开源将有助于研究人员执行类似的标竿测试,以理解自己的模型中所存在的偏见,亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。IT之家在此附上 Meta 新闻稿地址,感兴趣的用户可以深入阅读。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

上一篇: 央行、金融监管总局:加大对受灾情影响较大的重点区域各类信贷投放力度    下一篇:返回列表
  • 图文
  • 最新