为什么很多人对纽约《人工智能招聘法》感到生气？
上周，一项关于人工智能和招聘的法律在纽约市生效，绝大多数人都对此感到愤怒。这是美国首批人工智能法律之一，因此它的实施方式将为人工智能政策和辩论如何在其他城市开展提供前车之鉴。人工智能招聘条例是欧洲《人工智能法案》的一部分，美国其他州也在考虑与纽约州类似的法案。
在招聘中使用人工智能，因其自动化和强化现有种族和性别偏见的方式而受到批评。评估候选人面部表情和语言的人工智能系统已被证明会优先考虑白人、男性和身体健全的候选人。
这是个值得注意的问题，因为许多公司在招聘过程中至少使用过一次人工智能。美国平等就业机会委员会主席夏洛特·布罗斯（Charlotte Burrows）在 2023 年 1 月份的一次会议上表示，多达 80% 的公司使用某些自动化工具来做出招聘决策。
纽约市 7 月 5 号生效的《自动化招聘决策工具法》（Automated Employment Decision Tool）规定，在招聘中使用人工智能的雇主必须如实告知候选人他们正在这样做。他们还必须每年接受独立审计，以证明他们的系统没有种族主义或性别歧视。应聘者将能够要求潜在雇主提供有关该技术收集和分析哪些数据的信息。违规行为将被处以最高 1500 美元的罚款。
（来源：STEPHANIE ARNETT/MITTR | GETTY）
该法律的支持者表示，对于监管人工智能和减轻其使用带来的一些危害和风险而言，这是一个好的开始，即使它并不完美。它要求公司更好地了解他们使用的算法，以及这项技术是否不公平地歧视女性或有色人种。
从美国人工智能监管政策的角度来看，这也是一个相当罕见的成功案例，我们可能会看到更多相关的地方法规。听起来很有希望，对吧？
但这项法律遭到了巨大的争议。公共利益团体和民权倡导者表示，该法案的可执行性和广泛性都不够，而必须遵守该法案的企业则辩称，该法案不切实际，会带来沉重的负担。
民主与技术中心（Center for Democracy & Technology）、监控技术监督项目（S.T.O.P.，Surveillance Technology Oversight Project）等组织认为，该法律“包容性不足”，有可能遗漏招聘中许多自动化系统的使用，包括使用人工智能筛选数千名候选人的系统。
更重要的是，由于相关审计行业目前还不成熟，独立审计究竟会得到什么结果还不清楚。BSA——一个有影响力的科技贸易组织，其成员包括 Adobe、微软和 IBM——于 2023 年 1 月向纽约市政府提交了批评该法律的评论，认为第三方审计是“不可行的”。
S.T.O.P.执行董事阿尔伯特·福克斯·卡恩（Albert Fox Cahn）表示：“关键问题是，审计师将以何种方式获取公司信息，以及他们真正能够在何种程度上质询公司的运营方式。这就像我们有财务审计师，但却没有一套被广泛接纳的会计原则，更不用说税法和审计规则了。”
卡恩认为，这项法律可能会让人们对人工智能和招聘流程产生虚假的安全感。他说：“这是一个遮羞布，仅用来证明保护措施是存在的，而在实践中，我不认为任何一家公司会因为这被纳入法律而被追究责任。”
重要的是，强制审计必须评估人工智能系统的输出是否对特定人群持有偏见，这会用到一种被称为“影响比”的指标来确定该技术的“选择率”是否因不同群体而异。
审计不必试图确定算法是如何做出决定的，法律也绕过了深度学习等复杂形式的机器学习的“可解释性”挑战。正如你所想象的，这些遗漏之处成为了人工智能专家争论的热点。
在美国，在等待联邦立法的过程中，我们可能会看到更多此类人工智能监管的地方法律，这些法律大多针对该技术的一个特定应用。正是在这些地方法律的斗争中，我们才能理解未来几十年人工智能工具、安全机制和执法将被如何定义。新泽西州和加利福尼亚州已经在考虑类似的法律。
支持：Ren