ldsports乐动

人工智能的种族和性别偏见问题

在计算机芯片的轮廓中叠加正义的尺度的绘画。
以人权为基础的方法在监管人工智能技术方面至关重要。通过上面的形象。

通过Karine GenteletUniversitéduquébecen outaouais(UQO)Sarit K. Mizrahi.L 'Université d 'Ottawa /渥太华大学

过去几年发生的事件揭示了一些问题侵犯人权与增加人工智能(AI)的进展

用来规范在线语音的算法有言论审查从宗教内容到性的多样性.人工智能系统被用来监控非法活动轨道和目标人权维护者.当他们被用来时,算法已经歧视了黑人检测癌症或者评估被指控犯罪的人们的飞行风险.列表继续。

当研究人员在研究人工智能和社会正义之间的交集时,我们一直在研究解决人工智能不平等的解决方案。我们的结论是,它们还有很多不足之处。

道德和价值观

一些公司自愿收养道德框架这些措施很难实施,而且收效甚微。原因有两方面。首先,伦理是建立在价值之上的,而不是权利之上的,伦理价值倾向于各不相同.其次,这些框架无法执行,这使得人们很难让公司对任何违规行为负责。

甚至是强制性的框架——比如加拿大的框架算法影响评估工具- 仅作为支持最佳实践的指导方针。最终,自我监管方法不仅仅是推迟制定和实施监管人工智能使用的法律

正如欧盟的例子所示人工智能调节该法案于2021年5月提出,即便是制定此类法律的尝试也存在缺陷。该法案评估了与人工智能的各种使用相关的风险范围,然后根据这些技术所提出的威胁,对其承担相应的义务。

然而,非营利数字权利组织Access Now指出,这种方法在保护人权方面走得不够远.它允许公司采用AI技术,只要其运营风险较低。

仅仅因为业务风险最小并不意味着人权风险是不存在的。在其核心,这种方法是在不平等中的锚定。它源于一种认为基本自由的态度可以是可替代的态度。

所以问题仍然存在:为什么法律允许这样的人权行为?虽然许多国家拥有保护公民个人自由的章程,但这些权利仅受政府侵犯的保护.开发AI系统的公司并无义务尊重我们的基本自由。尽管技术在从根本上改变了我们权利的自然和质量的方式,但这一事实仍然仍然存在。

人工智能违规

我们当前的现实剥夺了我们行使职权,以维护我们使用人工智能系统所侵犯的权利。因此,“人权法服务的司法层面取得中和“否则违规行为并不一定导致受害者的赔偿,也不一定是对未来违规行为的保证,除非法律要求。

但即使是立足于人权的法律,也往往会导致类似的结果。考虑到欧盟一般数据保护条例,允许用户控制其个人数据和义务公司尊重这些权利。虽然在网络空间中迈向更急性数据保护的重要一步,但该法没有其理想。原因是双重的。

第一的,解决方案青睐不要总是允许使用者具体地调动他们的人权。其次,他们没有授权用户了解保护个人信息的价值隐私权远远不仅仅是有些东西要隐藏。

人工智能:文件夹标记在杂乱的桌子上的GDPR合规性。
欧洲联盟的一般数据保护监管建议用户控制自己的个人数据。通过上面的形象。

解决人工智能的偏见

这些方法都试图在公民的主观利益和企业的主观利益之间进行调解。他们试图保护人权,同时确保所采用的法律不妨碍技术进步。但这种平衡之举往往只会带来虚幻的保护,而没有为公民的基本自由提供切实的保障。

为了实现这一点,所采取的解决办法必须适应个人的需要和利益,而不是对这些参数可能是什么进行假设。任何解决方案也必须包括公民参与

立法方法只旨在规范技术的负面副作用,而不是解决他们的思想和社会偏见。但在事实不够之后,通过技术触发的侵犯人权行为。技术解决方案必须主要基于原则社会公正和人类尊严,而不是技术风险.在制定这些方案时必须着眼于人权,以确保适当的保护。

一个方法获得牵引力被称为“设计中的人权在这里,“公司不允许滥用或剥削作为其商业模式的一部分。”相反,他们“承诺默认遵守尊重人权的工具,技术和服务.”

这种方法旨在鼓励人工智能开发者在开发的每个阶段都明确考虑人权问题。它确保了在社会中部署的算法将纠正而不是加剧社会不平等。它采取了必要的步骤,让我们能够塑造AI,而不是反过来。

Karine Gentelet,TitulairedeLa主席Abeona-ens-Elecia en incoricalificielle et司法社会,Universitéduquébecen outaouais(UQO)Sarit K. Mizrahi.法学博士候选人,L 'Université d 'Ottawa /渥太华大学

本文已重新发布对话在创造性的公共许可下。阅读原文

底线:在过去几年里,人工智能(AI)的应用已经被证明包含了歧视性做法。这就需要有意义的基于权利的法规,以确保人工智能不会加剧不平等。

对话

发布
2021年10月1日
ldsports乐动

喜欢你读到的东西吗?
订阅并接收到收件箱的日常新闻。

您的电子邮件地址将只用于EarthSky的内容。乐动国际注册隐私政策
谢谢!您的提交已收到!
哦!提交表单时出了问题。

更多的从

乐动国际注册地球声音

查看全部