facebook公民敦促强制性算法偏差检测

当谈到Facebook在民权问题上的进展时，一项独立评论发现，该公司为检测算法偏见而做出的努力非常危险，使用户容易受到操纵。

根据今天早些时候发布的审计报告，Facebook发现算法偏差的努力主要仍在只有少数团队进行的试点项目中。该报告的作者，民权律师劳拉·墨菲(Laura Murphy)和梅根·卡塞斯(Megan Cacace)指出，该公司越来越依赖人工智能来完成诸如预测用户可能点击哪些广告并清除有害内容等任务。

报告称，但是这些工具，以及Facebook在AI团队多元化等领域所做的其他尝试性努力，都必须走得更远，更快。尽管该小组在为期两年的审查中对Facebook进行了独特的观察，但任何采用AI的公司都将很好地研究算法偏差问题。

报告称：“Facebook已有责任确保对数十亿人产生重要影响的算法和机器学习模型不会产生不公平或不利的后果。”“审计师认为，Facebook需要更加迫切地解决这些问题。”

该报告发布之际，Facebook面临历史性的广告抵制。“停止仇恨为营利”活动得到396个广告商的支持，他们停止了在平台上的支出，要求Facebook采取更大胆的步骤来反对种族主义，厌女症和虚假信息。

本周早些时候，Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)会见了民权组织，但坚称他的公司不会回应财务压力，令与会者感到失望。

首席运营官谢丽尔·桑德伯格(Sheryl Sandberg)在博客中称自己是“第一家接受此类审核的社交媒体公司”，以此来得分。她还对两年前完成报告的时间点了点头。她的文章“在争取民权方面取得进步，但还有很长的路要走”，强调了Facebook的观点，即它正在与好战斗争。

桑德伯格写道：“没有针对这些问题的快速解决方案，也不应该有。”“这次审核是对我们如何在公司的各个层面上加强和促进民权的深入分析，但这只是旅程的开始，而不是终点。越来越清楚的是，我们还有很长的路要走。尽管我们的缺点很难被专家揭露，但这无疑对我们公司来说是一个非常重要的过程。我们将敦促行业内及其他行业的公司也这样做。”

尽管注意到了Facebook的许多内部努力，但作者们并没有那么高兴。

作者写道：“经过多年的接触，民权界的许多人感到沮丧，沮丧和愤怒，他们恳求公司在促进平等和反对歧视的同时做更多的事情，同时还维护言论自由，”作者写道。

该报告剖析了Facebook在公民权利问责制，选举，普查，内容审核，多样性和广告方面的工作。但是，它也特别关注算法偏差问题。

报告称：“人工智能通常被认为是客观，科学和准确的，但在许多情况下却并非如此。”“算法是由不可避免地具有偏见和假设的人们创建的，这些偏见可以通过决定哪些数据很重要或算法的结构，以及通过信任反映过去实践，现有或历史不平等，假设的数据而注入算法中。或刻板印象。算法还会驱使并加剧不必要的不利差距……随着算法在我们社会中越来越普遍，确保算法的公正性，公正性和非歧视性，并且不仅仅是放大先前存在的刻板印象或差距，变得越来越重要。”

作者强调了由“伦理学家，社会和政治科学家，政策专家，AI研究人员和工程师组成的团队领导的Facebook负责任AI(RAI)努力，他们致力于了解与在Facebook产品中部署AI相关的公平性和包容性问题。”

RAI工作的一部分涉及开发可在公司范围内使用的工具和资源，以确保AI公平。迄今为止，该组织已开发出“在Facebook上实现公平和融入AI的四管齐下的方法”。

创建准则和工具以限制意外偏见。

制定公平的咨询程序。

参与有关AI偏见的外部讨论。

使AI团队多样化。

作为第一个支柱的一部分，Facebook创建了“公平流”工具来通过检测基础数据的意外问题并发现有缺陷的预测来评估算法。但是“公平流”仍处于试验阶段，具有访问权限的团队纯粹是自愿使用它的。去年下半年，Facebook还启动了公平咨询试点项目，以使发现产品偏差问题的团队能够在内部与具有更多专业知识的团队联系，以提供反馈和建议。在作者敬重这些步骤的同时，他们还敦促Facebook在整个公司范围内扩展此类程序，并强制使用它们。

报告说：“审核员坚信，旨在促进发现问题并帮助解决公平问题的流程和指导必须是强制性的(而非自愿的)，并且是整个公司范围内的。”“也就是说，应该要求所有团队构建模型都遵循全面的最佳实践指导，并且应该定期测试现有算法和机器学习模型。这既包括构建模型的指导，也包括测试模型的系统。”

该公司还成立了AI工作组，负责领导改善员工多样性的计划。Facebook现在正在佐治亚理工学院资助一项深度学习课程，以增加代表性不足的求职者的渠道。它还正在与其他几所大学进行讨论，以扩展该计划。并利用非营利组织，研究和倡导团体扩大其招聘人数。

但再次，审查发现这些举措的范围太有限，并呼吁扩大招聘力度，并在整个公司范围内加强培训和教育。

报告称：“尽管审计师认为，有一个专门致力于AI公平和偏见问题的团队对Facebook很重要，但确保公平和不歧视也应成为所有团队的责任，”报告说。“为此，审计师建议，对于所有在Facebook上构建算法和机器学习模型的团队以及Facebook初始入职流程的一部分，都必须对培训进行侧重于理解和缓解AI偏见和歧视来源的培训。”

相关推荐: Brickell IP律所代理德国摇滚乐队Blind Guardian发案，TRO尚未被批准

图片来源：图虫创意 案件参数 品牌原告：BH PUBLISHING AND MERCHANDISING GBR 起诉类型：商标侵权 起诉日期：8.24（22-cv-61572） 代理律所：THE BRICKELL IP GROUP, PLLC 品牌介绍 盲卫乐…