政府AI合同遭抗议,微软终低头:号召全面限制人脸识别软件

日期:2023-02-25 13:09:37 / 人气:165

在一篇关于人脸辨认的潜在用处和滥用的博客文章中,微软总裁 Bradford L. Smith 将该技术与遭到片面监管的药品和汽车等商品停止了比拟,并敦促美国国会展开研讨并监视人脸辨认技术的运用。此前,众多学者与开发者们签署了一份地下信,其中要求科技企业中止向政府和执法机构提供人脸辨认技术,中止目前的数据剖析和 AI 效劳合同,并思索制定品德原则,制止要挟隐私、公民和人权的技术的武器化与军事化,树立通明和有问责机制的制度,以确保上述原则的实行。地下信链接:https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/微软总裁 Brad Smith 的博客:https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/近期微软因一份触及人脸辨认软件的政府合同而遭到普遍鞭挞,微软企业表示,它将愈加慎重地思索这方面的合同,并敦促立法者标准此类人工智能技术的运用,以避免滥用。作爲人脸辨认软件次要制造商之一,微软表示它将采取措施降低这些零碎发生偏向的能够性;制定新的公共准绳来管理技术;并会更慎重地出售其在该范畴的软件和专业知识。微软指出,虽然技术行业需求对其商品担任,但是政府也要采取举动。微软总裁兼首席法务官 Brad Smith 周五在其博客中写道:「政府管理技术运用的独一无效办法是它自动采取举动。而且假如人们担忧一项技术在全社会被普遍运用,那麼标准该项技术普遍使用的独一措施应由政府出面。实践上,我们以为这就是如今所需求的——一项首先由民主、共和两党代表和专家委员会通报的政府建议,旨在标准人脸辨认技术的正确运用。」微软、谷歌、亚马逊等企业因向美国政府和外地警方出售 AI 软件,尤其是人脸辨认软件而遭到官方自在集团及这些企业外部雇员的鞭挞。关于科技企业来说,这种要求对本人商品停止更严峻监管的行爲并不罕见,但是 Smith 与微软人工智能及微软研讨事业部担任人沈向洋往年早些时分就写了一篇文章,称 AI 的开展需求新的法律来标准。Smith 写道,「虽然我们知道如今很多人要求科技企业来做这些,我们也明白认识到本人需求履责,但我们以为,这缺乏以替代大众及其代表的决策。」人脸辨认零碎通常具有严重的缺陷,尤其是难以辨认和区分肤色较深的人。微软研讨者 Timnit Gebru 和 MIT 媒体实验室 Joy Buolamwini 二月宣布的一篇论文标明人脸辨认零碎对肤色较深的女性的分类误差高达 35%。微软的研讨机构努力于修正研讨者在其人脸辨认软件中发现的成绩。随着技术的迅速开展,微软倡导顺应云计算和人工智能等新兴范畴的新法律。微软就隐私成绩与美国政府展开抗争,称美国政府在云计算方面运用了老旧的通讯法,微软支持折中的法案,用于间接处理云时代的数据隐私成绩和搜索成绩。微软应对民众抗议的方式与亚马逊略有不同。在六月回应抗议声的一篇博客中,亚马逊的 AI 担任人 Matt Wood 写道,「新技术才能不断都存在风险,当前也会如此。每个选择运用技术的组织必需采取担任任的举动,否则就得面临法律惩罚和大众谴责的风险。AWS 会仔细看待本人的责任。但我们以为,不能由于某些技术将来能够被人滥用就制止这些技术的开展,这样是不对的。」翻开凤凰旧事,检查更多高清图片Brad Smith,微软总裁兼首席法务官。Smith 写道,政府标准应该思索的成绩是警察运用人脸辨认软件能否需求人类监视和控制,批发商能否必需张贴显眼的标识(假如他们在公共区域运用了此类软件)。其它需求思索的范围包括能否要求公司在搜集团体图像之前先征求用户赞同,以及以为本人被人脸辨认零碎错误辨认的人享有哪些法律权益。纽约大学法学教授 Barry Friedman 称,执法机关运用人脸辨认技术却完善标准,这惹起了人们对种族差别和隐私成绩的担忧。他同时也担任 The Policing Project,该方案努力于爲执法设定标准和原则。最高法院规则警察在没有答应证或合理理由的状况下不得临时获取手机数据,相似的限制也应该使用到警察对人脸辨认技术的运用上,Barry Friedman 称。「该技术正在飞快地追逐我们,」Friedman 说道,「假如我们不走到前头,一切将覆水难收。」微软在上个月曾因民众抗议 AI 技术被用于在墨西哥边境别离合法出境者及其子女后,长久地在网站上删除了其与美国移民和海关执法局签署合同的文章。但随后,相关博客又被恢复。虽然微软随后声称企业与移民局签署的合同次要触及在云端处置旧电子邮件和员工协作零碎,但其博文明白提到了运用人脸辨认工具的能够性。随后,数百名微软员工签署了一份请愿书,要求企业中止向政府出售相关效劳。针对合法移民的 AI 项目甚至影响到了微软刚刚收买的 GitHub,6 月中旬起,数百名开源社区奉献者在网上签署了一份地下信,异样要求微软解除与政府部门的 AI 合同,并召唤抵抗 GitHub(参阅:弃坑 GitHub:微软「反合法移民」政府 AI 项目引发开源社区抵抗)。人脸辨认是目前 AI 范畴里使用最普遍的技术之一,但在推行的进程中也惹起了越来越多的争议。往年 4 月,团体隐私维护组织向美国联邦贸易委员会提起诉讼,称 Facebook 在未取得用户适当答应的状况下开启了新的人脸辨认效劳。Facebook 否认了这些集团的指控。而往年 5 月,亚马逊由于将 Rekognition AI 效劳出售给外地警方而惹起争议,美国公民自在联盟正要求该企业中止允许政府运用这项技术。值得一提的是,在欧盟,有关人工智能进犯隐私的一些成绩曾经失掉了处理。一项严厉的新数据维护法已制止企业在未取得用户特定赞同的状况下搜集人脸辨认所需的生物特征数据。参考内容:https://www.bloomberg.com/news/articles/2018-07-13/microsoft-calls-for-ai-face-recognition-software-regulationhttps://www.nytimes.com/2018/07/13/technology/microsoft-facial-recognition.html由AWS主办、机器之心协办的人工智能峰会约请人工智能专家共同讨论人工智能产业落地现状和技术最新停顿。点击“阅读原文”参与报名。

作者:盛煌娱乐




现在致电 5243865 OR 查看更多联系方式 →

COPYRIGHT 盛煌娱乐 版权所有