Facebook组建新的内部团队,致力于解决算法种族偏见问题

据外媒报道,据知情人士透露,Facebook正在组建新的内部团队,专门研究其主要同名社交网络和Instagram上是否存在种族偏见问题,特别是研究其使用人工智能训练的算法是否会对黑人、西班牙裔和其他代表性不足的少数群体产生不利影响。

这代表着Facebook的政策发生改变,之前该公司不愿探索其产品如何影响不同少数族裔群体的做法。

知情人士表示,Facebook正在组建的团队被称为包容性产品团队,它将就种族问题与黑人用户和专家委员会进行磋商。该公司表示,新的团队还将咨询其他产品团队,并可能设计旨在支持该平台少数族裔用户的功能。Instagram新成立的公平和包容团队将负责调查美国黑人、西班牙裔和其他少数族裔用户受到该公司算法的影响,并将其与对白人用户的影响进行对比。

Facebook发言人称,该团队的任务是“确保我们在产品开发过程中所做的每一件事都是公平公正的。我们将继续与Facebook的Responsible AI团队密切合作,确保我们关注我们各自平台上的潜在偏见问题。”

Instagram产品负责人维沙尔·沙阿(Vishal Shah)表示:“种族正义运动对我们公司来说是个非常重要的问题。我们的制度和政策中的任何偏见,都有悖于为每个人提供表达自我的平台的初衷。我们始终在努力创造更公平的体验,并将继续这一进程,从建立Instagram的公平团队到Facebook的包容性产品委员会。”

上个月,Instagram首席执行官亚当·莫塞里(Adam Mosseri)承诺,将彻底改革公司试图解决黑人和其他代表不足群体在该平台上面临的问题方式。莫塞里写道:“我们首先要承认存在代表性不足的群体,比如黑人社区,以及他们在使用Instagram时面临的经历和挑战。我们做了大量工作,以更好地了解我们平台对不同群体的影响,这帮助我们取得了今天的成就。但我认为,在某些关键领域还有更多工作要做,这些领域符合我们更广泛的公司承诺。”莫塞里特别指出,骚扰、账户验证、分发和算法偏见是他认为Instagram需要改进的领域,以更好地服务于黑人用户。

Facebook此举正值广告商持续抵制这家社交媒体巨头如何监管其平台,以及员工因其处理种族问题的方式而进行抗议之际。对于科技公司和政府来说,如何检测和纠正算法偏差都是个大问题,因为研究发现,从量刑指导方针到企业招聘,软件如何推动决策都存在歧视问题。

潜在的算法偏见问题在Facebook内部也始终存在争议。据知情人士透露,去年,该公司高管禁止员工在未经所谓M-Team许可的情况下研究与其平台相关的不同种族影响。M-Team是个高级高管团体,其中包括首席执行官马克·扎克伯格(Mark Zuckerberg)和首席运营官谢丽尔·桑德伯格(Sheryl Sandberg)。

据多名知情人士称,大约在那个时候,随着Instagram为暂停或删除账户设定新的门槛,一项内部分析发现,根据拟议的改革,活动表明自己是黑人的用户被禁用账户的可能性比其他用户高出50%。知情人士说,Instagram高管调整了参数以减少潜在影响,但禁止对这些阈值进行进一步研究。

Facebook没有明确收集用户的种族数据。这项分析使用了被称为“多元文化亲和力”的词汇,在这种情况下是指非裔美国人种族亲和力集群。基于人们在平台上参与的内容,公司可以针对这些亲和力群体投放广告,但有些限制。Instagram发言人斯蒂芬妮·奥特韦(Stephanie Otway)说,内部分析存在缺陷,因为该公司现有的数据没有准确反映种族构成。

Facebook在一份声明中表示,该公司始终担心使用“多元文化亲和力”作为种族替代词汇是不可靠的,并要求与种族相关的研究获得高层批准,以确保这项研究是负责任的。作为研究少数族裔用户体验的新团队的一部分,Facebook正在与外部专家和民权团体讨论如何可靠和一致地研究种族问题。奥特韦:“现在还为时过早,我们计划在接下来的几个月里分享更多关于这项工作的细节。”

本月公布的一项由Facebook委托进行的民权审计报告称赞该公司承认风险的态度,并就这个问题与外部专家进行了接触。报告没有评估该公司现有算法中的任何潜在偏见,并指出审计师没有获得内部研究和模型的访问权限。

Facebook此举的背景是,自5月25日黑人乔治·弗洛伊德(George Floyd)在警察暴力执法过程中遇害以来,全球正在就种族问题展开辩论。弗洛伊德之死在世界范围内引发了针对种族歧视的抗议活动,几乎涉及社会的方方面面,包括科技行业。

Facebook在应对种族偏见方面有着坎坷的历史。该公司被发现始终允许广告商在联邦监管的市场(如住房和就业)内投放广告时排除某些少数群体。Facebook经常使用技术细节来回避这些担忧,比如不是根据种族而是所谓的“多元文化亲和力”对用户进行分类,或者自行选择符合大多数黑人、西班牙裔或其他少数族裔在该平台上统计特征的身份群体。只有在媒体进行了重点报道后,Facebook才最终禁用了针对住房、就业和信贷广告的广告定向选项,作为与民权组织达成的法律和解的一部分。

Facebook过去曾因处理种族问题而受到批评。学术研究发现,Facebook的算法和广告拍卖系统不成比例地将黑人用户排除在某些住房或招聘广告之外,即使广告商没有寻求歧视。美国住房和城市发展部去年指责Facebook允许房地产公司根据种族、宗教和其他因素瞄准潜在客户,这属于非法歧视。这起诉讼正在审理中,Facebook表示正在与该机构合作,以解决其担忧。

近几个月来,Facebook面临越来越大的内部和外部压力,要求其正视其对少数族裔社区的影响,以及最高领导层缺乏种族多样性的问题。一个主要的引爆点出现在5月下旬,当时扎克伯格和其他高管拒绝删除唐纳德·特朗普(Donald Trump)总统称抗议者为暴徒的帖子,并警告说:“当抢劫开始时,枪击就开始了。”

许多内部人士和民权领袖认为这篇帖子有煽动暴力之嫌,违反了Facebook的政策。但Facebook高管拒绝将其删除,科技新闻网站获得的员工会议记录显示,扎克伯格后来告诉员工,特朗普的这句话“不应该被解读为义务警员支持者自己伸张正义的行为”。Facebook对特朗普帖子的处理罕见地引发了员工的公开反对,其中有些人在竞争对手社交媒体网站Twitter上表达了他们的担忧。其他人选择在6月1日上演“虚拟罢工”。

然后到了6月下旬,包括全国有色人种协进会(NAACP)和反诽谤联盟(Anti-Defamation League)在内的民权活动家开始组织名为#StopHateForProfit的活动,呼吁广告商7月份参加Facebook广告抵制活动。本月,几家主要广告商已经停止或削减了在Facebook上的支出,包括联合利华、星巴克、福特汽车以及Verizon等,还有很多小营销者。据报道,Facebook头号金主迪士尼公司也削减了其广告支出。

Facebook宣布承诺在五年内将领导层中的黑人和少数族裔比例提高30%,该公司还计划到2023年将其黑人和西班牙裔员工人数增加一倍。Facebook 2020年的多样性报告显示,近4%美国员工和3.4%公司领导人是黑人。亚裔占Facebook员工总数的44.4%,占领导层的25.4%,而拉美裔占领导层的4.3%,占员工总数的6.3%。【责任编辑/李小可】

来源:外媒

IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。

相关文章
Facebook组建新的内部团队,致力于解决算法种族偏见问题
Facebook遭广告商集体抵制 扎克伯格资产骤减72亿美元
扎克伯格:Facebook将禁止在其广告中发表仇恨言论
3人怒辞,5500人抗议,特朗普加速Facebook离心

精彩评论