В заключительном выпуске нашей серии AI at Work партнер Гай Бреннер и старший адвокат Джонатана Смолет решают критическую проблему: несоответствия между тем, как разработаны инструменты искусственного интеллекта (или AI) и как они фактически используются на практике. Многие разработчики ИИ подчеркивают свои тщательные усилия по устранению предвзятости, заверяя работодателей, что их инструменты являются справедливыми и объективными, но система, предназначенная для предвзятости, может по-прежнему приносить предвзятые результаты, если используется неправильно. Настройтесь, когда мы исследуем реальные примеры этих рисков и то, что работодатели могут сделать, чтобы они ответственно использовали ИИ.
Парень Бреннер: Добро пожаловать в Проскауэром краткое изложение: горячие темы в области труда и трудового законодательства. Я Гай Бреннер, партнер в группе по трудоустройству и консультированию Proskauer, базирующейся в Вашингтоне, округ Колумбия, ко мне присоединился мой коллега, Джонатан Струмление, специальный адвокат по трудоустройству в практической группе, базирующейся в Лос -Анджелесе. Это окончательный выпуск нашей первоначальной серии из нескольких частей, в котором подробно описывается то, что работодатели должны знать об использовании искусственного интеллекта или ИИ, когда речь идет о решениях о трудоустройстве, таких как найм и продвижение по службе. Джонатан, спасибо, что присоединились ко мне сегодня.
Джонатан Медрейк: Это здорово быть здесь, парень.
Парень Бреннер: Так что, если наши слушатели не слышали более ранние выступления серии, мы рекомендуем вам вернуться и послушать их. В первой части мы рассказываем о том, что, как мы надеемся, является полезным фон о том, что такое ИИ, и о решениях, которые он предлагает работодателям. Во второй части мы говорим о проблемах с данными обучения и о том, как это может привести к предвзятым или иным образом проблемным выводам с инструментами искусственного интеллекта. В третьей части мы обсудили так называемые проблемы черного ящика. Другими словами, проблемы, которые возникают из -за того, что может быть трудно понять внутреннюю работу многих передовых систем ИИ. Сегодняшний эпизод посвящена несоответствиям между дизайном инструмента ИИ и тем, как инструмент используется на практике. Джонатан, для опыта, разработчики ИИ, как правило, прилагают много усилий для устранения предвзятости от своих продуктов, не так ли?
Джонатан Медрейк: Да, это верно. И это основной торговый момент для многих из этих разработчиков. Работодатели, очевидно, заинтересованы в обеспечении того, чтобы они развернули инструмент, который не будет создавать предвзятость непреднамеренно. И поэтому, если вы пойдете практически на любом из веб -сайтов этих разработчиков, вы можете найти заявления или даже полные страницы о усилиях и длине, которые они проходят, чтобы гарантировать, что они выпускают продукты, которые не содержат предвзятости. И это должно обеспечить некоторую меру комфорта для работодателей. Это явно то, что разработчики конкурируют. Но даже если продукт действительно свободен от предвзятости, он все равно может дать предвзятые результаты, если он будет развернут таким образом, что разработчик не собирался сделать этот бетон. Я хочу пройти несколько примеров. Итак, во -первых, предположим, что работодатель инструктирует свой резюме сканер для выявления кандидатов, которые находятся более чем на определенном расстоянии от рабочего места. Возможно, в той теории, что эти люди с меньшей вероятностью будут серьезными кандидатами на эту должность. И если вы помните, в первой части этой серии, менеджеры по найму перегружены приложениями в наши дни. Учитывая возможность отправлять резюме в масштабе на таких платформах, как LinkedIn или действительно. Парень, вы видите какие -либо проблемы с этими конкретными критериями проверки?
Парень Бреннер: Ну, Джонатан, я вижу его привлекательность. И я также могу увидеть, как я могу сделать что -то подобное, о котором менеджеры по найму могли думать в прошлом, когда в противном случае это было бы невозможно. Вы знаете, просто в силу скорости и эффективности и способности ИИ делать что -то в течение секунды. И это звучит непредвзято и объективно, и это является рациональной основой для попыток отказаться от многочисленных резюме, с которыми работодатели завалены всякий раз, когда они пытаются занять позицию. Но дело в том, что многие из мест, в которых мы живем, сильно разделены расой и этнической принадлежностью. Таким образом, в зависимости от того, где находится рабочее место, этот вид подхода может непропорционально выявить законных кандидатов на определенные расы, даже если это не может быть намерением.
Джонатан Медрейк: Верно. И хотя это то, что вы могли бы сделать вручную, менеджер по найму может просто решить выбросить все резюме определенного почтового индекса. Делать это с помощью технологий увеличивает риск. Итак, опять же, менеджер по найму, выполняющий это вручную, мог бы начать замечать шаблон в какой -то момент и понять, что этот критерий проверки создает непредотверждающий пул. Разница с использованием программного обеспечения для выполнения такого рода вещей заключается в том, что это может быть сделано в масштабе очень быстро, и только показывает вам вывод. Итак, тот же самый менеджер по найму, делающий это с технологиями, может показать в основном расовые меньшинства и понятия не имеет, что это было даже так. Все в порядке. Следующее гипотетическое. Что, если работодатель использует инструмент, который пытается проверить фон кандидата путем перекрестных ссылок на социальные сети, а затем повышает кандидаты, чьи фон поддаются проверке таким образом? Есть ли проблемы с этим?
Парень Бреннер: Что ж, тот, который приходит на ум, я имею в виду, что я не думаю, что это противоречивое предложение, что, вообще говоря, молодые кандидаты более активны в социальных сетях, чем пожилые кандидаты. И я думаю, что это усугубляется в зависимости от того, о какой платформе мы говорим.
Джонатан Медрейк: Итак, у нас есть данные об этом. Так что это не стереотип. На самом деле это на Pew Research, выпустили данные, подтверждающие то, что, я думаю, все мы подозреваем.
Парень Бреннер: Верно. И поэтому нетрудно представить себе предприимчивого адвоката истца, утверждая, что такой инструмент проверки может оказать разнородное влияние на пожилых кандидатов. Я также был бы обеспокоен, если оценка учитывает другую информацию о страницах социальных сетей, которая может быть использована в качестве прокси для дискриминационных решений.
Джонатан Медрейк: Хорошо, еще один гипотетический. Предположим, что работодатель, пытающийся заполнить позиции для колл -центра, использует тест, который пытается предсказать, будет ли заявитель искусным в обращении с отвлечениями в типичных условиях труда. И предположить, что этот колл -центр, который включает в себя много фоновых значений. Так что это явно механизм проверки, который тестирует что -то связанное с работой. Работодатель хочет посмотреть, как этот человек будет работать в условиях, которые мы ожидаем, его поместят, когда мы на самом деле поместим его в работу. Есть ли какие -либо проблемы с таким тестом?
Парень Бреннер: Что ж, во -первых, как и любой другой тест, вы бы хотели знать, оказывает ли сам тест какое -либо разнородное влияние на любую конкретную группу, вы бы хотели, чтобы он был подтвержден. Но я также хочу знать, подумали ли компания, будут ли некоторые заявители иметь право на разумное жилье. Например, вы можете представить, что кто -то, кто плохо работает, плохо выступает в этом типе симуляции, но все в порядке, если им предоставили наушники с шумоподавлением.
Джонатан Медрейк: Конечно. И это то, о чем EEOC выпустил руководство. Многие из этих типов моделирования навыков рабочих мест предназначены для проверки способности кандидата выполнять задачи, предполагая типичные условия труда, как это делал работодатель в этом примере. Но EEOC ясно дал понять, что многие сотрудники с ограниченными возможностями не работают в нетипичных условиях труда, потому что они работают с разумными жильями. Таким образом, по этой причине, не полагаясь на тест, не рассматривая влияние на людей с ограниченными возможностями и потенциально проблематично разрешать тест.
Парень Бреннер: Что ж, спасибо, Джонатан, и тем, кто слушал, спасибо, что присоединились к нам в кратком изложении Проскауэра. Мы надеемся, что вы нашли эту серию информативной. И пожалуйста, обратите внимание, что в целом требуется события, мы будем записывать новые подкасты, чтобы помочь вам оставаться на вершине этой захватывающей и постоянно меняющейся области закона и технологий.
