首页 / 生活 / 正文

由于科技公司缺乏变化 Access现在退出了AI合作伙伴关系

放大字体  缩小字体 来源:小编 2022-09-24 00:02  浏览次数:19

国际数字和人权组织Access Now已辞职,以抗议AI伙伴关系(PAI),理由是与该组织有关的企业缺乏有意义的变革,而且他们未能巩固民间社会组织的职务。PAI由大型科技公司和苹果,亚马逊,Facebook,谷歌,IBM和微软等公司巨头组成的财团于2016年9月成立。PAI已经发展到包括100多个成员组织,其中一半以上是非营利性,公民或人权类组织,例如数据与社会和人权观察组织。

Access Now在周二发表的一封信中说:“我们已经从与同行的对话中学到了东西,而PAI为我们提供了一个机会,可以在一个新的论坛上为有关人工智能的更大讨论做出贡献。”“但是,我们发现,民间社会在PAI中扮演的角色越来越小。我们加入了PAI,希望它对民间社会来说是一个有益的论坛,可以对公司行为产生影响,并建立基于证据的政策和最佳实践,以确保使用AI系统造福于人类和社会。尽管我们支持利益相关者之间的对话,但我们并未发现PAI会影响或改变成员公司的态度,也不会鼓励成员公司系统地回应或咨询民间社会。”

大约一年前加入PAI的Access Now表示,对于提议的禁止面部识别和其他可用于大规模监视的生物识别技术的禁令缺乏支持也感到沮丧。今年早些时候,AI合作伙伴关系为决策者和公众提供了有关面部识别的教育资源,但是PAI在是否应使用该技术方面没有立场。Access Now领导人在信中得出的结论是,PAI不太可能改变其立场并支持禁止面部识别。

信中写道:“从公共卫生危机到全球范围内对种族正义的估计,今年的事件仅强调了以有意义的方式应对这些技术风险的紧迫性。”“随着世界各地越来越多的政府当局对面部识别等技术实行全面禁令,我们希望继续将精力集中在最有影响力的方面,以实现我们的优先事项。”

近年来,在民主国家和威权国家中,政府对监视技术的使用都在上升。自由之家今天发布的2020年互联网自由报告发现,由于政府在COVID-19的掩护下增加了监视力度,世界许多地方的互联网自由同比下降。

在美国公民自由联盟(ACLU),大赦国际和电子前沿基金会(EFF) - PAI的所有成员-已经导致或在各大城市,州立法机构,并支持面部识别禁令美国国会。相反,亚马逊(Amazon)和微软(Microsoft)等PAI成员是世界上一些最知名的面部识别供应商。在6月美国历史上最大规模的抗议活动中,亚马逊和微软宣布暂停向美国警察销售面部识别产品。下届民选国会的改革工作可能会列入议程,以解决面部识别引起的隐私,种族偏见和言论自由问题。

成立两年多以来,PAI开始处理特定的政策和AI伦理问题,例如主张政府为AI研究人员创建特殊签证。PAI还反对在审前风险评估中使用算法。其中包括今年早些时候监狱局使用的算法,该算法决定应尽早释放哪些囚犯,以减少大流行期间的拥挤情况。PAI公开其成员的姓名,但很少透露哪些特定成员对PAI员工制定的政策立场文件做出了贡献。

作为对Access Now辞职信的回应,PAI执行董事Terah Lyons告诉VentureBeat,PAI与科技公司密切合作以调整其行为,希望这项工作能在明年实现。她指出,参与多方利益相关者的流程并试图在不同声音之间达成共识是不容错过的挑战。

她说:“对我们来说,这绝对是一次学习之旅。”“这还需要很多时间才能完成,以有意义的方式推动行业实践。而且由于我们作为一个年轻的非营利组织刚刚开展了两年的计划工作,因此我预计在这方面仍然需要花费一些时间来真正有意义地推动工作。但我认为,好消息是,我们已经奠定了许多重要基础,并且我们已经开始看到有证据表明,这些红利以及我们公司成员由于参与而做出的一些增量选择。”

里昂提到的增量变化的例子包括Facebook和Microsoft等公司参与PAI监督的Deepfake检测挑战。她还指出了PAI在公平性,问责制和透明性方面的工作中的具体例子,尽管她拒绝透露参与的特定公司或组织的名称。

她说:“我们与他们就该问题进行的许多工作都是特别针对的,我认为这确实影响了他们思考和内部解决与这些问题相关的挑战的方式,”

里昂说,PAI选择不对面部识别采取立场,因为这家非营利组织会逐案评估每个主题,以确定在哪些方面可以产生最大影响。

“不一定在每个问题上我们都将处于最有利的立场。但是,我们确实会尽力确保我们提供某种服务和价值,以确保在公共或私人场所展开的辩论能充分了解和基于证据,并且她说:“我们正在装备并授权我们所有组织就这些棘手问题彼此直接对话。”

在其他AI伦理和政策问题中,Lyons表示,PAI尚未进行任何研究或成立指导委员会来解决AI在科技公司权力集中中的作用。上周,众议院反托拉斯小组委员会结束了为期16个月的调查,并发表了一份冗长的报告,结论是亚马逊,苹果,Facebook和Google是垄断企业。报告指出,由大技术公司合并的权力威胁着竞争市场和民主。报告还得出结论,大型科技公司依靠人工智能以及对人工智能和新兴领域初创公司的收购来增强其竞争优势。

PAI制定了共同的繁荣计划,着眼于更平等地分配力量和财富,因此科技巨头的统治地位不会继续不受限制地扩大。共享繁荣小组包括许多著名的AI伦理研究人员,上个月在博客文章中对此进行了详细介绍。

打赏
声明:本站信息均由用户注册后自行发布,本站不承担任何法律责任。如有侵权请告知立立即做删除处理。
违法不良信息举报邮箱:2697381891
河南青年报 版权所有 赣ICP备2022005201号
互联网举报中心