Перевод статьи Is AI preventing bias in recruitment — or creating it? нашего проекта переводы статей по hr-аналитике на английском.
Игры для кандидатов, чтобы завершить тестирование их навыков, проводимые сервисом Pymetrics | Фото с сайта Pymetrics.com
Лю Чен, 22 года, прошёл месяц после окончания своего второго года обучения в Бостонском Университете, когда она подала заявку в Unilever на стажировку по исследованиям и разработкам. После того как Чен отправила свою заявку, она была приглашена сервисом Pymetrics, рекрутинговой компанией, которая использует искусственный интеллект, чтобы пройти онлайн-тест.
На первый взгляд, это было похоже на множество игр.
У Чен ушло 30 минут на кликание по кружкам, на лопание воздушных шаров и размещение блоков над другими блоками.
Затем она увидела свой результат, который предлагал ей реализоваться в «операционной работе, в розничном банкинге, в частных инвестициях или в венчурном бизнесе». Чен та, кто посвятила годы курсу обучения по диетологии и была волнтером в предстоматольгическом сообществе Бостнского Университета, была озадачена. «Я даже не знала, что это означает», - сказала Чен.
Лю Чен, сейчас в университете Пенсильвании по программе стоматологической медицины | Фото любезно предоставлено Лю Чен.
Прежде чем Чен смогла посмотреть на эти карьерные направления, она получила письмо от Unilever. Компания отклонила ее кандидатуру и поставила ограничение на прохождение каких-либо еще игр от Pymetrics, таким образом прекратив ее возможности подачи заявок на исследовательские или связанные с наукой позиции в Unilever.
«Unilever отклонили меня, даже не посмотрев на мой предыдущий опыт», - сказала Чен.
Сейчас Чен кандидат на получение докторской степени по стоматологии в Пенсельванском Университете. Её голос становится хриплым от гордости: «Я привязана к науке и исследованиям, вот чего я хотела».
***
Санни Мор, 22 года, через месяц после окончания Сиракузского университета она подала заявку на стажерскую программу на два новостных канала. Мор провела три дня в своей комнате в общежитии, записывая видео ответы на общие вопросы из интервью, проводимые платформой HireVue, рекрутинговой компанией задействующей искусственный интеллект.
Наводящие вопросы наподобие «Расскажите нам о своих сильных и слабых сторонах» и «Какие ваши долгосрочные карьерные планы?» высвечивались на экране Мор.
Мор сказала это было больше испытание по соединению с компьютером, чем работодателя с человеком. «Найдя персональный подход или проявив чувство юмора, могут соединить тебя с интервьюером» , - говорит Мор. «В самом деле тяжело воспроизвести человеческий контакт».
Искусственный интеллект в рекрутинге исключает предвзятость или создаёт её?
Такой инструмент как искусственный интеллект (как инструмент) является частью каждого аспекта процесса подбора персонала. Хотя эти инструменты экономят время и деньги работодателей, кроме того, они могут усиливать субъективность в процессе подбора персонала.
Игры для кандидатов, чтобы завершить тестирование их навыков, проводимые сервисом Pymetrics | Фото с сайта Pymetrics.com
Лю Чен, 22 года, прошёл месяц после окончания своего второго года обучения в Бостонском Университете, когда она подала заявку в Unilever на стажировку по исследованиям и разработкам. После того как Чен отправила свою заявку, она была приглашена сервисом Pymetrics, рекрутинговой компанией, которая использует искусственный интеллект, чтобы пройти онлайн-тест.
На первый взгляд, это было похоже на множество игр.
У Чен ушло 30 минут на кликание по кружкам, на лопание воздушных шаров и размещение блоков над другими блоками.
Затем она увидела свой результат, который предлагал ей реализоваться в «операционной работе, в розничном банкинге, в частных инвестициях или в венчурном бизнесе». Чен та, кто посвятила годы курсу обучения по диетологии и была волнтером в предстоматольгическом сообществе Бостнского Университета, была озадачена. «Я даже не знала, что это означает», - сказала Чен.
Лю Чен, сейчас в университете Пенсильвании по программе стоматологической медицины | Фото любезно предоставлено Лю Чен.
Прежде чем Чен смогла посмотреть на эти карьерные направления, она получила письмо от Unilever. Компания отклонила ее кандидатуру и поставила ограничение на прохождение каких-либо еще игр от Pymetrics, таким образом прекратив ее возможности подачи заявок на исследовательские или связанные с наукой позиции в Unilever.
«Unilever отклонили меня, даже не посмотрев на мой предыдущий опыт», - сказала Чен.
Сейчас Чен кандидат на получение докторской степени по стоматологии в Пенсельванском Университете. Её голос становится хриплым от гордости: «Я привязана к науке и исследованиям, вот чего я хотела».
***
Санни Мор, 22 года, через месяц после окончания Сиракузского университета она подала заявку на стажерскую программу на два новостных канала. Мор провела три дня в своей комнате в общежитии, записывая видео ответы на общие вопросы из интервью, проводимые платформой HireVue, рекрутинговой компанией задействующей искусственный интеллект.
Наводящие вопросы наподобие «Расскажите нам о своих сильных и слабых сторонах» и «Какие ваши долгосрочные карьерные планы?» высвечивались на экране Мор.
Мор сказала это было больше испытание по соединению с компьютером, чем работодателя с человеком. «Найдя персональный подход или проявив чувство юмора, могут соединить тебя с интервьюером» , - говорит Мор. «В самом деле тяжело воспроизвести человеческий контакт».
Санни Мор в Нью-Йорке | Фото любезно предоставлено Саннией Мор
Мор не могла собрать информацию о культуре сетей или структуре компании c помощью этой процедуры. «Я их интервьюировала тоже», - сказала Мор.
На финальном интервью с одной из компаний, было понятно, что рекрутёр не смотрел её HireVue видео.
Мор были предложены стажировки в обеих компаниях, но в конечном итоге она выбрала одну, а не другую «потому что они прислали мне оффер первые».
***
Зои Шевальер, 21 год, через два месяца после окончания колледжа Уильямс, она подала заявку на летнюю стажерскую программу в NBC (Американская национальная компания теле- и радио- вещания). Зои надела свой лучший образ в стиле бизнес-кэжуал, и села в конференц-зал для завершения видео с ответами на вопроса для NBC. Процедура проводилась сервисом ConveyIQ, который является собственностью рекрутинговой компанией с искусственным интеллектом Entelo.
Вопросы наподобие «Почему вы хотите работать здесь?» и «Расскажите мне о вашем предыдущем месте работы» были общими и не адаптированы ни под стажировку, ни под NBC, ни под ее собственный опыт, - вспоминает Зои.
«Ты можешь переделать свои видео ответы один раз, так что я переделывала их каждый раз» - говорит Шевальер, смеющаяся, как только она вспоминает как это действовало на нервы. «Это было нелегко смотреть себя на экране. Ты автоматически чувствуешь. что ты не сделаешь работу хорошо».
Вот что видит кандидат, проходя собеседование в компании, использующей HireVue | Фото с сайта HireVue.com
После завершения, говорит Зои, она чувствовала беспомощность при следующем шаге «ощущение, как будто ты вкладываешь записку и отправляешь ее в бутылке по морю».
«Я никогда ничего не слышала в ответ от NBC», - она говорит. «Кто знает, возможно я до сих пор участвую в рассмотрении?».
Шевальер выпускница Колумбийского Университета Высшей школы журналистики этого мая.
***
Чен, Мор, и Шевальер только лишь трое из тысяч кандидатов, кто проходил через процедуру отбора с помощью искусственного интеллекта. Искусственный интеллект сейчас становиться превалирующим на каждом этапе отбора: идентификация, общение, запись и анализ интервью кандидата, резюме и заявки. Эти компании обещают работодателям уменьшение стоимости и субъективности традиционного процесса подбора персонала. Но есть признаки, что искусственный интеллект может усугубить предвзятость.
Рекрутинг уже изобилует рисками дискриминации. Согласно отчёту Harvard Business Review за 2019 год, традиционные методы могут «привести к бессознательной предвзятости против женщин, меньшинств и престарелых работников». Устаревшие техники, такие как интервью сглазу на глаз, отсев по резюме, могут быть «плохими предсказателями производительности кандидата и сильно затрагивать ряд предубеждений об этнической принадлежности, имени и поле», - объясняет Михаил Косинский, доцент кафедры организационного поведения Стенфордской высшей школы бизнеса.
Но работодатели наших дней часто имеют дело с потоком резюме на одну позицию. На Linkedin и других поисковых платформах по среднестатистическим данным 250 соискателей на одну должность. Ввиду этого зачастую процесс не может обработан вручную, согласно данным отчёта Harvard Business Review за 2019 год, рекрутёры могу просмотреть только 10-20% от всего объёма заявок. Вот здесь искусственный интеллект становится крайне необходимым.
Согласно недавнему исследованию Корнельского университета, интерес к использованию искусственного интеллекта для смягчения предвзятости растет. Большинство работодателей прогнозируют, что значительная часть рекрутингового процесса будет автоматизирована в течении 10 лет.
«Мы десятилетиями боролись с дискриминацией в сфере занятости», - говорит Карл Маискоф в своём интервью, юрисконсультант Комиссии по равным возможностям при трудоустройстве. «Всегда есть новый способ «дивный новый мир» или «волшебная пуля», пытающийся улучшить это».
Тенденция рекрутинговых компании с искусственным интеллектом заключается в использовании смеси ассесмент метода, включающей вопросы в краткой форме, видео интервью и игры.
Вопросы в краткой форме, как те, что использует сервис Entelo, будут побуждать кандидата отвечать на вопросы, чтобы протестировать личность, ситуационное суждение или способность распознать паттерны. Эти запросы включают вопросы на подобии таких как «Расскажите мне о случае, когда вы меняли своё мнение о чём-либо?» и «Приведите пример, чтобы вы хотели сделать иначе в прошлом?»
Одна из игр, чтобы протестировать навыки кандидата, проводимая сервисом Pymetrics |
Фото с сайта Pymetrics.com
В видео интервью кандидаты записывают ответы, которые могут быть перезаписаны несколько раз в зависимости от предпочтений работодателя. Вопросы отображаются в текстовом виде на экране.
Ответы соискателей анализируются по ключевым слова, фразам, интонации, языкe лица и тела.
Автоматизация может сэкономить время работодателя и соискателей. Когда Uniliver внедрила HireVue и Pymetrics в 2007 году, время затраченное на найм кандидатов снизилось с 4 месяцев до 4 недель. Согласно отчёту Business Insider, совмещение процессов сработало лучше, так как принятие офферов соискателями повысилось на 19 %, согласно отчёту Business Insider.
В 2017 году, заявки в Unilever удвоились в первые 90 дней с 15 000 до 30 000 заявителей. Это позволило Unilever нанять их «наиболее разнообразных категории на сегодняшний день» с увеличением не белых соискателей.
Социально-экономический статус или географическое расположение кандидата могут замедлять доступ к образованию, которое может ограничивать карьерные возможности. Инструменты искусственного интеллекта в рекрутинге, путем тестирования навыков, а не образования, могут снизить эти препятствия, объясняет Косинский.
«Мы хотим открывать скрытые человеческие навыки и помогать сопоставлять их с возможностями», - говорит Гай Халфтек, учредитель KnackApp, рекрутинговой компании с искусственным интеллектом на основе игр. «Самое захватывающее это то, что речь не о твоём происхождении и не о том кого ты знаешь».
Не каждый так уверен в преимуществах искусственного интеллекта.
«Мы живём в эпоху технологического шовинизма», говорит Ивана Бартолетти, со-учредитель Woman Leading в искусственном интеллекте, мозговой центр для женщин лидеров в искусственном интеллекте. «Мы автоматически думаем, чем больше технологий, тем лучше».
В соответствии с отчётом Reuters, Амазон недавно забраковал механизм рекрутинга с машинным обучением после понимания, что машина оценивала женщин соискателей более сурово, чем мужчин.
Даже при попытке обработать такие деликатные данные как гендерная принадлежность или национальность, рекрутинговые компании с искусственным интеллектом могут потерпеть неудачу.
Кейси Розенгрен, со-учредитель группы рекрутинговых предприятий Digital Knack, вспоминает рекрутинговые компании с искусственным интеллектом использующие заданные ключевые слова такие как «Африканец-Американец» и «женщина» чтобы «получить разноплановое множество людей». Она говорит, что выделение ключевых слов не будет достаточным долгосрочным решением, чтобы искать и нанимать разнообразных кандидатов.
Другие клиенты, такие как рекрутинговая компания с искусственным интеллектом Good&Co Teamscope, строят модель «идеального кандидата» вокруг одного или двух действующих сотрудников. Но, экстраполяция от небольшой выборки и попытка применить ее к тысячам кандидатов могут иметь дискриминационный характер, согласно исследованию Унивеситета Корнелл.
Кроме того, предварительно построенные модели строятся на основных характеристиках, таких как «твердость характера» и «трудовая этика – и не берётся в расчёт уникальность задачи или потребности работодателя в рекрутинге.
«То, как мы говорим, проявляем эмоции, выражаем факты - всё сообщено культурно», - говорит Дживан Хадсон, ведущий студент курсов технологического права и государственной политики при юридическом факультете Вашингтонского университета». Если кандидат говорит по-английски в качестве второго языка, инструмент искусственного интеллекта может отметить его как неидеального кандидата, потому что он не совпадает с характеристиками модели.
Кроме того, компании с искусственным интеллектом могут быть не прозрачными.
«Тайный подсчёт физических лиц угрожает правам, которые мы защищали», - говорит Кристин Бэннан, консультант по защите прав потребителей в Центре информации электронной конфиденциальности, некоммерческом исследовательском центре, специализирующийся на вопросах конфиденциальности. Она и её коллеги зарегистрировали жалобу в Федеральную Торговую комиссию прошлой осенью, утверждая, что HireVue использует дискриминирующие практики. «Это может отнимать действительные возможности у людей, не имея возможности знать основания принятия решения или обжаловать его», - сказала она.
Вид работодателя при анализировании кандидатов на должность, проводимое сервисом Entelo | Entelo.com
Хадсон отмечает, что многие инструменты искусственного интеллекта не только отклоняют кандидата на одну должность, но – как например Pymetrics и KnackApp – отказывают кандидату в комплексном трудоустройстве. Компании с искусственным интеллектом рискуют размножить и усилить эту предвзятость. «У вас есть инструмент, который автоматизирует дискриминацию при трудоустройстве в огромных масштабах», - он говорит.
Розенген сказала, что некоторые рекрутинговые компании с искусственным интеллектом помечены Linkedin как «не предпочтительный партнёр», если компания пытается перепродавать, злоупотреблять или дискриминировать кандидатов основанных на данных LinkedIn. «Но потом они восстанавливаются», - она отмечает.
В конце концов, компании должны расспрашивать алгоритмы, которые используются для отбора кандидатов.
«Люди всегда говорят, что эти компании используют алгоритмы «чёрный ящик» и тогда никаким способом не получить записи о том, что случилось с вашими результатами», говорит Mиаскоф, «но мы должны быть в состоянии сделать это».
Комментариев нет:
Отправить комментарий