mg游戏-mg游戏大厅

mg游戏-mg游戏大厅

跳到内容

人脸识别伦理:关键问题与解决方案

2022年1月25日

人脸识别伦理

面部识别被认为是令人着迷的技术奇迹之一. 

这是正确的,因为它可以从照片、视频或实时识别人脸. 图像识别系统 从它的诞生到被执法部门采用,再到在消费者设备上的广泛使用,在准确性方面有很大的进步吗, 速度, 和算法.

鉴于围绕面部识别的伦理问题存在诸多争议, 例如身份欺诈和隐私侵犯的担忧,隐私的批评者和倡导者, mg游戏大厅遇到了一个价值百万美元的问题:面部识别是否需要进行道德评估,以使其更公平、更有影响力? 

使用面部识别技术有哪些伦理问题?

近年来,批评人士质疑面部识别系统的准确性和在身份欺诈中的作用. 执法机构在几起案件中错误地将无辜的人牵连到暴乱中. 另外, 对许多人来说,身份管理和存储仍然存在问题, 困扰世界各地的隐私倡导者. 看起来很复杂,不是吗?

人脸识别伦理学杂志

来源: 美国医学协会伦理学杂志

前六项伦理问题与 面部识别 系统包括种族偏见和错误信息, 执法中的种族歧视, 隐私, 缺乏知情同意和透明度, 质量监测, 数据泄露, 低效的法律支持. 让mg游戏大厅详细研究一下它们.

1. 由于测试不准确而导致的种族偏见

种族偏见仍然是人脸识别系统的关键问题之一. 尽管面部识别算法可以保证 分类精度90%以上,这些结果并不普遍.

最近,挑战面部识别伦理道德的令人担忧的事态发展一次又一次地出现. 超过 一半的美国成年人美国有近1.17亿人在执法部门的面部识别网络上拥有照片. 然而, 令人不安的是,面部识别系统检测到的错误在深色皮肤的面孔上更常见, 但在匹配浅肤色的面孔时,错误会更少.

2020年7月, 美国国家标准与技术研究所(NIST)进行了独立评估以确认这些结果. 据报道,面部识别技术用于 189种算法显示出种族偏见 对待有色人种的女性. NIST还得出结论,即使是研究过的最好的面部识别算法,在近50%的情况下也无法正确识别戴口罩的人.

2. 执法中的种族歧视

在最近的一次披露中,美国联邦政府发布了一份 确认歧视问题的报告 在它的面部识别算法中. 它的系统通常对中年白人男性的面孔有效,但对有色人种的面孔效果不佳, 老年人, 女性, 和孩子. 这些种族偏见, 容易出错的算法会造成严重破坏, 包括非法逮捕, 漫长的囚禁, 甚至是致命的警察暴力.

35%

在识别有色人种女性时,会出现面部识别错误,而白人男性只有1%.

来源: G2

美国国会警察(United States Capitol Police)等执法机构依靠人脸照片数据库,使用面部识别算法来识别个人. 这就导致了一个前馈循环, 种族主义的警察策略会导致不成比例的无辜逮捕.

总的来说,人脸识别数据并不完善. 这可能会导致对未犯罪的惩罚. 例如, 镜头角度或外观的微小变化, 比如新发型, 会导致错误.

3. 数据隐私

隐私是公众普遍关心的问题之一, 这主要是因为信息的存储和管理缺乏透明度. 面部识别侵犯了公民的固有权利,即被政府持续监控,并在未经同意的情况下保留自己的图像. 

2020年,欧盟委员会 被禁的面部识别技术 在公共空间长达五年的时间来改变他们的法律框架,包括隐私和道德虐待的指导方针.

关于面部识别的隐私问题涉及到不安全的数据存储做法,可能会暴露面部识别数据和其他潜在的安全威胁. 大多数组织继续在本地服务器上存放他们的面部数据, 导致网络安全存在漏洞,缺乏IT安全专业人员来保障网络安全. 

人脸识别技术可以确保数据在云端的最大安全. 然而, 数据完整性 只能通过适当的加密来保证吗. 部署IT网络安全人员对于正确的数据存储至关重要,同时提供消费者控制,以提高问责性和防止恶意流量.

往好的方面想, 配备面部识别技术的消费品争议较小, 给定禁用或不使用该特性的选项. 然而,由于隐私受到侵蚀,消费品公司仍然是禁令的受害者. 但他们继续提供面部科技产品,将其作为一种先进的安全功能进行营销. 

决定走法律途径是开放的设备,允许受害者为侵犯隐私寻求经济赔偿. 例如,社交媒体巨头脸书就解决了一个 6.5亿美元的集体诉讼 在伊利诺伊州,他收集了无法公开用于面部识别的照片.

然而, 对于使用面部识别技术进行监控的执法机构来说,隐私仍然是一个问题, 扫描, 在公民不知情的情况下追踪他们,以确保公共安全. 这引发了许多抗议活动,要求制定更严格的监管规定,让公民在参与、存储和治理方面拥有更多控制权.

4. 缺乏知情同意和透明度

隐私是任何形式的问题 数据挖掘尤其是在网上,大多数收集到的信息都是匿名的. 人脸识别算法在大型图像数据集上测试和训练时效果更好, 在不同的光照条件和角度下,理想的多次拍摄.

图片的最大来源是在线网站, 特别是公开的Flickr图片, 在版权许可下上传,允许自由重用,有时是非法的社交媒体平台. 

位于华盛顿的微软研究院的科学家们收集了世界上最大的数据集, MSCeleb5, 包含近1000万张100张的图片,000人, 包括音乐家, 记者, 和学者, 从网上搜集的.

In 2019, 柏林艺术家亚当·哈维(Adam Harvey)的网站MegaPixels标记了这些和其他数据集. 还有一个技术专家和程序员, 朱尔斯拉普拉斯, 他表示,大多数上传者都公开分享了他们的照片. 但它们被滥用于评估和改进商业监测产品. 

5. 质量监测

与无处不在的摄像头和数据分析一起使用, 面部识别会导致大规模监控,这可能会损害公民的自由和隐私权. 而面部识别技术通过追踪罪犯帮助政府执法, 它还损害了普通和无辜民众的基本隐私权.

最近,欧盟委员会收到一封公开信 51组织 呼吁全面禁止所有用于大规模监控的面部识别工具. 另一方面,超过4.3万欧洲公民签署了一项 收回你的脸请愿书 呼吁在欧盟禁止大规模生物识别监视活动.

由于人工智能(AI)不受控制地操纵和威胁人类,最近的一系列事件对人脸识别技术的伦理道德提出了挑战, 政府机构, 和集体民主.

人工智能与机器学习 颠覆性技术能够利用安全的面部识别技术吗. 重要的是,在它们被滥用于身份盗窃和欺诈之前,划出红线.

6. 数据泄露和无效的法律支持

数据泄露 是否会引起公众及政府对私隐的严重关注. 

而安全漏洞是公民的主要担忧, 这项技术的发展导致了 网络安全 越来越多的使用 基于云计算的存储. 增加了一层安全措施,比如加密, 存储在云上的数据可以防止恶意使用.

在拉斯维加斯安全研究人员组织的年度黑帽黑客大会上, 黑客破解了苹果的FaceID 用户身份验证只需120秒.

这类事件增加了存储数据对黑客的脆弱性, 最终会增加严重犯罪中面部识别被盗的可能性. 面部盗窃案受害者可追诉的法律选择相对较少.

欧盟通用数据保护条例(GDPR)没有给研究人员在未经同意的情况下收集人们的面部照片用于生物识别研究的法律依据. 美国有不同的法律规定在未经个人同意的情况下使用个人的生物特征信息.

如何在道德上使用面部识别工具

人脸识别用户可以采用以下原则 美国公民自由联盟(ACLU) 为确保合乎道德地使用这项技术:

  • 集合: 各机构应知悉, 在将其生物特征数据纳入面部识别数据库之前,需要征得公民的书面同意.
  • 用法: 用户应该避免使用面部识别系统来确定个人的肤色, 比赛, 宗教, 国家的起源, 性别, 年龄, 或残疾.
  • 披露: 面部识别系统的结果不应该在不知情的情况下被交易或分享, 资料当事人的书面同意.
  • 访问: 公民应有知情权, 编辑, 并删除他们的面部信息, 以及对数据所做的任何更改的记录.
  • 滥用: 拥有与个人身份相关的公开记录的组织应采取积极措施和适当控制,以防止它们被滥用,从而建立一个面部指纹数据库. 一些措施包括限制对敏感数据库的自动访问,以及在合同中要求合作伙伴遵守道德使用准则.
  • 安全: 组织应该有专门的安全专业人员来主持, 管理, 和安全的面部识别信息.
  • 问责制: 最终用户必须维护包括信息收集在内的审计跟踪, 使用, 以及披露详细信息、日期和时间戳以及请求信息的用户的详细信息.
  • 政府访问: 组织可以根据1974年的数据保护法案或在收到合理理由的授权后授予政府访问机密信息的权限.
  • 透明度: 组织必须为数据的遵从性和使用定义政策,同时提供必要的技术措施来验证责任.

人脸识别技术的道德使用例子

面部识别技术是大多数科技公司的核心,这些公司关注客户安全,同时保护他们的系统免受潜在的安全威胁. 让mg游戏大厅来看看三个这样的公司在道德上使用面部识别的例子.

IBM

根据美国联邦政府的规定,科技巨头IBM对其面部识别技术的销售实施了全面限制. 此外,IBM提出 具体建议 要求美国商务部在某些情况下对人脸识别系统的出口施加更严格的限制. 

它还推动了精准监管, 对可能造成重大社会危害的最终用途和用户施加更严格限制的举措. 它还提出了面部识别技术寻找匹配的六项改变,包括:

  • 限制使用“一对多”匹配最终用途的面部识别技术进行大规模监控, 种族歧视, 以及其他可能侵犯人权的敏感领域
  • 通过控制高分辨率相机和用于收集和分析数据库数据的算法的输出,限制“一对多”系统的输出
  • 限制部分外国政府采购用于集成人脸识别系统的大规模云计算组件.
  • 限制对可用于训练一对多人脸识别系统的在线图像数据库的访问
  • 更新商务部打击犯罪组织的最新人权记录,并对支持“一对多”匹配系统的面部识别技术的出口实施最严格的控制
  • 最后, 通过《mg游戏大厅》(Wassenaar Accords)等机制,限制专制政权从美国境外购买受控制技术的能力

微软

微软已经确立了几个原则来解决面部识别系统的道德问题. 它已经发布了培训mg游戏大厅和新材料,以帮助其客户更加意识到这种技术的道德使用. 

除了与客户密切合作, 微软正在努力提高这项技术的能力,以识别不同年龄和肤色的人脸. 微软的面部识别技术最近被NIST评估, 哪个网站的算法被评为最准确或接近最准确 127次测试结果准确. 

微软正在推动新的法律,以解决透明度和第三方测试和比较问题. 鼓励透明度, 微软建议科技公司提供文档和面部识别服务,以描述这项技术的能力和局限性. 

报告还强调,有必要通过立法聘请第三方供应商,独立测试商业面部识别服务提供商,并公布他们的结果,以解决与偏见和歧视有关的问题.

亚马逊

2020年,亚马逊实施了一项 年的禁令 关于执法部门使用其面部识别技术“亚马逊Rekognition”. 另外, 亚马逊已经验证了它在公共安全和执法场景中的使用,以缩小潜在的匹配范围. 

亚马逊还申请了一项专利,研究额外的认证层,以确保最大限度的安全性. 其中包括要求用户执行微笑等动作, 闪烁的, 或者歪着头.

面部识别是侵入性的吗?

人脸识别技术的主要问题和失败源于技术的缺乏先进性, 数据集的多样性, 效率低下的系统处理. 然而,采用一些道德原则可以避免它的侵入性. 

消除面部识别中的公正性,通过修复执法应用程序中的故障,防止或减少偏见, 提供人工智能内部工作方式的透明度, 加强利益相关者的责任, 在同意和事先通知的情况下进行监测, 制定更严格的法律以避免侵犯人权. 

人脸识别技术在现实世界的各种应用中有着无限的潜力. 然而,解决这项技术的伦理问题是至关重要的,以使它成为人类的福利.

发生安全事故时该怎么办? 处理和管理它 事件响应 为了减少损失,节省时间和金钱.

图像识别软件
识别图片快

使用图像识别软件理解、还原和重构图像或视频.

图像识别软件
识别图片快

使用图像识别软件理解、还原和重构图像或视频.

永远不要错过一个帖子.

订阅mg游戏大厅的网站,让你时刻掌握科技脉搏.

提交此表格,即表示您同意接受G2的营销沟通.