纽约市限制AI招聘工具，实施细则仍待明确

纽约市一项限制招聘流程中使用AI工具的法律将于明年年初生效。该法律被视为保护求职者免受算法偏见的先行者，但迄今为止，雇主或供应商如何合规仍鲜为人知，这引发了人们对法律是否是解决招聘算法偏见的正确路径的担忧。

该法律包含两项主要要求：雇主在使用任何自动化决策工具进行招聘或晋升前，必须对其进行审计；并且在使用前至少10个工作日通知求职者或员工。首次违规罚款500美元，每次额外违规罚款1500美元。

尽管伊利诺伊州自2020年起已对视频面试中的AI分析进行监管，但纽约市的法律是全国首个适用于整个招聘流程的法律。

该法律旨在回应美国平等就业机会委员会和美国司法部的关切，即招聘过程中对AI工具的“盲目依赖”可能导致企业违反《美国残疾人法案》。

“纽约市正在全面审视自动化决策系统如何改变招聘实践，”纽约大学计算机科学教授、该市自动化决策系统工作组成员Julia Stoyanovich博士告诉HR Dive。“这关乎我们确保人们平等获得经济机会的背景。如果他们找不到工作，却不知道原因，那该怎么办？”

超越“模型群体”

AI招聘工具旨在支持HR团队在整个招聘过程中的工作，从在招聘网站发布广告，到筛选求职者简历，再到确定合适的薪酬方案。目标当然是帮助企业找到具有合适背景和技能的人。

不幸的是，这一过程的每一步都可能产生偏见，尤其是当雇主的潜在候选人“模型群体”与现有员工名册进行对比时。值得注意的是，亚马逊曾不得不废弃一个招聘工具——该工具基于十年间提交的简历进行训练——因为算法自我学习后，会惩罚包含“女性”一词的简历。

“你试图识别一个你预测会成功的人。你用过去作为现在的预演，”Fisher & Phillips律师事务所合伙人David J. Walton说。“当你回顾并使用数据时，如果模型群体主要是白人、男性和40岁以下，那么算法自然会寻找这些特征。如何重新设计模型群体，使输出不带偏见？”

用于评估面试或测试中候选人的AI工具也可能带来问题。在视频面试中测量语音模式可能会筛掉有言语障碍的候选人，而跟踪键盘输入可能会排除患有关节炎或其他限制灵活性的候选人。

“许多残疾工人在这些工具的评估方式下会处于不利地位，”民主与技术中心工人隐私高级政策顾问Matt Scherer说。“很多工具通过对人做出假设来运作。”

Walton表示，这些工具类似于消防员候选人常接受的“引体向上测试”：“它表面上不歧视，但可能对ADA定义下的受保护类别产生不同影响。”

还有一类AI工具旨在帮助识别具有合适个性的候选人。Stoyanovich表示，这些工具也有问题，她最近发布了对两种常用工具的审计。问题既有技术性的——工具对同一份简历以纯文本和PDF格式提交时产生不同分数——也有哲学性的。

“什么是‘团队合作者’？”她说。“AI不是魔法。如果你不告诉它要找什么，不用科学方法验证，那么预测就比随机猜测好不了多少。”

立法还是加强监管？

纽约市的法律是州和联邦层面更大趋势的一部分。今年早些时候提出的联邦《美国数据隐私和保护法案》中包含了类似条款，而《算法问责法案》将要求对包括就业在内的各种用例的自动化决策系统进行“影响评估”。此外，加利福尼亚州正计划将AI招聘工具的使用纳入该州反歧视法的责任范围。

然而，有人担心立法不是解决AI招聘问题的正确方式。“纽约市的法律没有施加任何新内容，”Scherer说。“披露要求意义不大，审计要求只是联邦法律已有要求的狭窄子集。”

鉴于纽约市官员在法律于2023年1月1日生效前发布的指导有限，技术审计是什么样或应如何完成仍不清楚。Walton表示，雇主可能需要与具有数据和业务分析专业知识的人合作。

在更高层面上，Stoyanovich表示，AI招聘工具将受益于基于标准的审计流程。她说，标准应公开讨论，认证应由独立机构进行——无论是非营利组织、政府机构还是其他不从中获利的实体。

鉴于这些需求，Scherer表示他认为监管行动优于立法。那些致力于加强此类工具监管的人面临的挑战是让政策制定者推动对话。

“工具已经存在，而政策没有跟上技术变革的步伐，”Scherer说。“我们正在努力确保政策制定者意识到，需要对工具进行真正的审计要求，并且当工具导致歧视时，需要有意义的披露和问责。我们还有很长的路要走。”