Нью-Йорк принял закон, требующий "аудита предвзятости" технологий найма искусственного интеллекта

Перевод статьи New York City passed a bill requiring 'bias audits' of AI hiring tech

Читайте в тему 

• Amazon отказались от секретного инструмента рекрутинга c ИИ из-за предвзятости против женщин
• 5 способов уменьшить бессознательную предвзятость при приеме на работу

Нью-Йорк принял закон, требующий аудита технологий "необъективного" найма искусственного интеллекта

В случае подписания закона от поставщиков автоматизированных средств принятия решений о приеме на работу потребуется, чтобы эти системы ежегодно оценивались аудиторской службой и предоставлялись результаты компаниям, использующим эти системы.

Через год после его введения в начале этой недели городской совет Нью-Йорка принял закон, требующий от компаний, которые продают технологии искусственного интеллекта для приема на работу, проведения аудиторских проверок, оценивающих потенциал этих продуктов для дискриминации кандидатов на работу. Законопроект, требующий аудита, был принят подавляющим большинством голосов - 38 голосов против 4.

Законопроект направлен на пресечение использования инструментов, которые делают возможной уже незаконную дискриминацию при приеме на работу в Нью-Йорке. В случае подписания закона от поставщиков автоматизированных средств принятия решений о приеме на работу потребуется, чтобы эти системы ежегодно оценивались аудиторской службой и предоставлялись результаты компаниям, использующим эти системы.

Искусственный интеллект для набора персонала может включать программное обеспечение, которое использует машинное обучение для анализа резюме и помогает принимать решения о найме, системы, которые пытаются расшифровать настроения кандидата на работу, или даже технологии, включающие игры, чтобы улавливать тонкие подсказки о достоинстве кого-то нанять. Законопроект Нью-Йорка пытается охватить весь спектр ИИ, охватив все, от старых деревьев решений до более сложных систем, работающих через нейронные сети.

Законодательство призывает компании, использующие автоматизированные инструменты принятия решений для найма, не только сообщать кандидатам на вакансию, когда они используются, но и сообщать им, какую информацию использовала технология для оценки их пригодности для работы.

Законопроект, однако, не содержит подробностей о том, что составляет аудит предвзятости, кроме как определить его как «беспристрастную оценку», включающую тестирование. И у него уже есть критики, которые говорят, что он был поспешно принят и не затрагивает дискриминацию, связанную с инвалидностью или возрастом.

В случае подписания закон вступит в силу с января 2023 года. Нарушители могут быть привлечены к гражданской ответственности.

Еще одна вещь, о которой не говорится в счете -  насколько хорошо работают технологии автоматического найма для удаления фальшивых соискателей. Это могло пригодиться в случае с этим шутником.