Спустя два года после того, как Facebook урегулировал пять судебных исков, утверждающих, что объявления о трудоустройстве, жилье и кредитах незаконно дискриминируют, исследователи из Университета Южной Калифорнии обнаружили, что компания по-прежнему предоставляет объявления о вакансиях несправедливо по признаку пола.

В бумага под названием «Аудит дискриминации в алгоритмах доставки объявлений о вакансиях», запланированный на Интернет-конференция Позже в этом месяце Базилил Имана, докторант Университета Южной Калифорнии, Александра Королова, доцент кафедры информатики Университета Южной Калифорнии, и Джон Хайдеманн, профессор-исследователь компьютерных наук Университета Южной Калифорнии, исследуют предвзятость в алгоритмической подаче объявлений о вакансиях в Facebook и LinkedIn.

Короловой в электронном письме на адрес Реестр, пояснила, что, поскольку законодательство США позволяет дифференцировать показ рекламы на основе квалификации, она и ее коллеги разработали способ проверки на предвзятость, исключая законные предвзятость, основанную на квалификациях.

«Даже при контроле квалификации вакансий Facebook вводит асимметрию показа объявлений о вакансиях со сбалансированным таргетингом по признаку пола», — сказала Королова, отметив, что это выдвигает аргумент о том, что «алгоритмы показа рекламы в Facebook не просто предвзяты, но фактически дискриминационны».

«Интересно, что мы не обнаружили такого эффекта при аудите алгоритмов LinkedIn», — добавила она.

В 2019 году Королова была среди других ученых, которые вскоре после того, как Facebook урегулировали вышеупомянутые иски о гражданских правах и объявил изменения по борьбе с дискриминационной рекламой, обнаружил предвзятое поведение в доставке рекламы Facebook, связанной с рекламными бюджетами и рекламным контентом.

Читайте также:
Миллион долларов за взлом Apple iOS 9

Время проверить еще раз

На этот раз Королова и ее коллеги изучили, как алгоритмические рекламные платформы Facebook и LinkedIn искажают объявления о вакансиях, доставляя их зрителям, идентифицированным как мужчины и женщины (где такие данные доступны), в соотношении, которое отличается от ожидаемого гендерного распределения для вакансий. .

Им удалось это сделать, сравнив эффективность двух объявлений в трех разных категориях должностей — водитель доставки, инженер-программист и сотрудник отдела продаж — с известными различиями в гендерном распределении. Затем они сопоставили ожидаемое соотношение с фактическим соотношением полов среди получателей рекламы в Facebook и LinkedIn.

Одна такая пара объявлений состояла из объявления о доставке пиццы Domino’s Pizza (98% мужчин) и объявления о доставке продуктов для Instacart (более 50% женщин).

изображение гонки с бегом, замедленным в зависимости от пола

Четыре женщины добиваются освобождения от принудительного арбитража, чтобы подать в суд на Infosys за широко распространенную гендерную дискриминацию

ЧИТАТЬ ДАЛЕЕ

«Де-факто гендерное распределение среди водителей этих сервисов — мужское для Domino и женское для Instacart», — поясняет газета.

«Если платформа показывает рекламу Instacart относительно большему количеству женщин, чем рекламу Domino, мы заключаем, что алгоритм платформы является дискриминационным, поскольку обе должности имеют одинаковые квалификационные требования, и, таким образом, гендерный дисбаланс не может быть объяснен различиями в квалификации между полами, представленными в аудитория.»

Исследователи обнаружили «статистически значимое гендерное неравенство в Facebook и отсутствие гендерного неравенства в LinkedIn».

Читайте также:
Основатель Дрис Байтаерт в первую очередь о API, прекращении нарушения совместимости и раздувании JavaScript °

Для объявлений о вакансиях в области разработки программного обеспечения исследователи выбирают вакансии для Netflix (35% женщин) и Nvidia (19% женщин). Они ожидали, что рекламная платформа, использующая алгоритм, который изучает и учитывает существующие различия в демографических характеристиках сотрудников, покажет объявление о вакансии Netflix большему количеству женщин, чем объявление о работе Nvidia, и они не были удивлены.

Facebook снова изменил распределение рекламы по полу; LinkedIn этого не сделал.

Что касается должностей младшего специалиста по продажам, то сравнивались объявления о вакансиях Reed Jewelers (продажи ювелирных изделий составляют 62 процента женщин на федеральную статистику вакансий) и Leith Automotive (продажи автомобилей составляют 17,9 процента женщин).

Опять же, эта категория объявлений о вакансиях дала результаты, аналогичные предыдущим: был «статистически значимый перекос между всеми вакансиями в Facebook, но не в двух из трех случаев в LinkedIn».

Искажение рекламы Facebook по признаку пола не может быть объяснено различиями в квалификации, утверждают исследователи, отмечая, что их результаты позволяют предположить, что «алгоритмы Facebook могут нести ответственность за незаконные дискриминационные результаты».

По словам Короловой, Facebook был проинформирован о выводах исследователей и не ответил. Реестр попросил Facebook прокомментировать, но мы не получили ответа.

Что-то случилось

На вопрос, почему алгоритм Facebook отличается от алгоритма LinkedIn, Королова предложила несколько вариантов.

«Facebook может иметь больше источников данных о пользователях, чем LinkedIn, что позволяет им лучше улавливать существующие перекосы в реальном мире», — предположила она. «Facebook может придавать больший вес оценкам вовлеченности в своих алгоритмах доставки рекламы, чем LinkedIn. LinkedIn может сознательно прилагать усилия в своих алгоритмах для обеспечения справедливости».

Читайте также:
Google повышает API облачной речи и поддерживает 30 новых языков

Она также допустила, что используемая методология исследования может быть недостаточной для анализа алгоритма LinkedIn, но отметила, что LinkedIn, похоже, предпринял согласованные усилия. для решения алгоритмической справедливости.

Королова сказала, что она и ее коллеги не осмелятся предложить оптимальный способ представления объявлений о вакансиях. «Я думаю, что наше предположение состоит в том, что пол получателей рекламы должен отражать пол целевой группы, как это произошло бы при наивном алгоритме показа рекламы всем посетителям», — сказала она.

По ее словам, рекламодатели, заинтересованные в увеличении разнообразия сотрудников, «должны иметь возможность рекламировать сбалансированную аудиторию, а не принимать решения о том, кому будет« отклоняться »их реклама».

Признавая, что внешне нейтральные характеристики могут отражать предвзятость, приводя пример того, как данные о домашнем местонахождении отражают предвзятость исторического красная линияКоролова сказала, что рассылка рекламы в Facebook не обязательно будет дискриминационной.

«То, что их результаты являются дискриминационными в наших данных, особенно удивительно, учитывая многочисленные предыдущие наблюдения о том, что алгоритмы Facebook приводят к искаженной доставке, и их заявления о том, что они обращаются к этому», — сказала она.

«В случае с Facebook эти результаты согласуются с их бизнес-моделью оптимизации для рекламодателя и« ценности »(или вовлеченности) пользователей, что свидетельствует о важности внешней оценки и потенциального регулирования».

Ссылаясь на затраты на исследования, которые составляют около 5000 долларов на оплату рекламы, и на много месяцев, потраченных на время, исследователи утверждают, что рекламные платформы, такие как Facebook и LinkedIn, должны упростить и сделать более доступным проверку соответствия рекламы законам о борьбе с дискриминацией. А поскольку эти платформы вряд ли предпримут такие шаги сами по себе, они предлагают законодателям принять закон, чтобы санкционировать доступ.

«Мы хотели бы, чтобы исследователи общественного интереса проводили аудит алгоритмов доставки рекламы Facebook, потому что мы считаем, что это приведет к большей прозрачности в отношении перекоса и будет способствовать решению проблемы», — сказала Королова. «Текущие усилия Facebook по обеспечению прозрачности далеко не достигают поставленных целей». ®

Читайте также:
Сюрприз! GitHub считает, что дни разработчиков испорчены перерывами и встречами °